(示意圖/取自pixabay)
根據《 theregister 》報導,Google近日發表了第五代訂製張量處理器晶片 TPU v5e,該晶片可用於大模型訓練和推理。
Google表示,與2021年發表的TPU v4相比,該晶片的每美元訓練性能提高了一倍,大型語言模型和生成式人工智慧模型的每美元推理性能提高了2.5倍。
新的 TPU 將有八種不同的虛擬機配置,單片內的 TPU 晶片從一個到 250 多個不等。
TPU 是Google用於加速機器學習的訂製晶片,Cloud TPU 服務基於該公司自己的 TensorFlow 機器學習框架,以及包括 Jax 和 PyTorch 在內的其他框架。
本文為巴比特授權刊登,原文標題為「谷歌推出第五代 AI 芯片 TPU v5e,用於大模型訓練和推理」
