根據 Meta 官方消息,Meta 已發表全新開源大型語言模型 Llama 3.2。其中包括適用於邊緣和行動裝置的中小型視覺 LLM(11B 和 90B)以及輕量級純文字模型(1B 和 3B),包含預訓練和指令微調版本。
Llama 3.2 的 1B 和 3B 模型支援 128K 字元的上下文長度,在邊緣本地運行的裝置應用場景(如摘要、指令追蹤和改寫任務)中處於同類產品的領先地位。高通和聯發科硬體在第一天就使用了這些型號,並針對 Arm 處理器進行了最佳化。
Meta 將分享首批官方 Llama Stack 發行版,這將簡化開發人員在不同環境中使用 Llama 模型的方式,實現檢索增強生成(RAG)和工具支援型應用程式的一鍵式部署,並整合安全性。
本文為品玩授權刊登,原文標題為「Meta 發佈 AI 模型 Llama 3.2 ,可在手機端運行」