AMD發表新款人工智慧晶片MI325X,與NVIDIA展開競爭
品玩 / 何渝婷編譯
2024-10-11 09:25

在今天凌晨的發表會上,AMD 正式發表全新MI325X 人工智慧晶片,將會在今年第四季開始量產。

MI325X採用與MI300X相同的基本設計和架構,MI325X 採用 CDNA 3 GPU 架構,可視為中期升級版,可提供 256 GB HBM3e 內存,採用 16-Hi 堆疊,內存頻寬高達 6 TB/s,FP8 性能為 2.6 PFLOPs,FP16 性能為 1.3 PFLOPs,所有這些都封裝在一個擁有 1530 億個電晶體的晶片中。

AMD 聲稱 Instinct MI325X AI GPU 加速器在 Mixtral 8x7B 中比NVIDIA H200 快 40%,在 Mistral 7B 中比NVIDIA H200 快 30%,在 Meta Llama 3.1 70B LLM 中比NVIDIA H200 快 20%。

在 Llama 3.1 405B 中,8 倍速 MI325X 平台的性能比 H200 HGX AI 平台快 40%,在 70B 推斷測試中快 20%。

在人工智慧訓練方面,MI325X 的性能將與 H200 平台相近或高出 10%。

本文為品玩授權刊登,原文標題為「AMD 發佈新款人工智能芯片MI325X,與英偉達轉開競爭