更優化!Meta 為行動終端推出緊湊型 AI 模型 MobileLLM
品玩/張詠晴編譯
2024-07-09 16:45

(示意圖/圖片取自unsplash)

根據Techtimes 報導,Meta AI推出被稱為 MobileLLM 的緊湊型AI模型,儘管參數較少,但它與其他人工智慧模型一樣有效,使其在運算能力較弱的智慧手機上也能發揮作用。

MobileLLM 的研究團隊來自 Meta Reality Labs、PyTorch 和 Meta AI study的研究人員,他們專注於優化參數少於十億的模型。MobileLLM 強調模型深度而非廣度、整合嵌入共享和分組查詢關注,以及採用革命性的即時分塊權重共享方法。

這些設計決策,使得 MobileLLM 在典型的基準工作負載上,比之前的同類模型高出 2.7% 到 4.3%。

本文為品玩授權刊登,原文標題為「Meta 為移動設備推出緊湊型 AI 模型 MobileLLM