（取自Anyscale臉書粉專）
根據《 IT 之家》 9 月 19 日報導，AI 軟體公司 Anyscale 日前宣布將 NVIDIA AI 引入 Ray 開源和 Anyscale 平台中。
NVIDIA AI 還將在 Anyscale Endpoints 中運行，該服務可幫助應用程式開發人員使用流行的開源模型（如 Code Llama、Falcon、Llama 2、SDXL 等）嵌入 LLMs 到其應用程式中。
據悉，NVIDIA Triton Interence Server 軟體支援在 GPU、CPU 和其他處理器上跨雲端、數據中心、邊緣和嵌入式設備進行推理。
當與 Ray 集成時，開發人員可以提高來自各種框架的 AI 模型（包括 TensorRT、TensorFlow、PyTorch、ONNX、OpenVINO 等）的效率。
Anyscale 執行長兼聯合創辦人 Robert Nishihara 在一份聲明中表示：「我們與 NVIDIA 的合作將為 Anyscale 的產品組合帶來更多性能和效率，以便開發人員隨處創建具有前所未有速度和效率的 LLMs 和生成 AI 應用程式。」
本文為巴比特授權刊登，原文標題為「英偉達與 Anyscale 合作，提高大型語言模型和生成式 AI 應用的開發效率」