NVIDIA AI晶片H200開始發貨，性能大幅提升

（取自NVIDIA臉書粉專）

根據《 ytech 》報導，NVIDIA宣布 H200 GPU 正式發布並發貨，這是人工智慧產業的一項重大進展。

這款新一代硬體在人工智慧任務中，特別是在生成型人工智慧工作負載中，實現了關鍵的三倍性能提升。

通過在新推出的Hopper架構圖形處理器上實施先進的推理解決方案TensorRT-LLM，NVIDIA展示了其高效處理GPT-J等複雜大型語言模型（LLM）的能力，而且速度和精度都非常出色。

H200 GPU最近在MLPerf基準測試中首次亮相，以每秒生成高達31,000個令牌的速度展示了非凡的吞吐量。

這些 GPU 不僅在原始性能方面表現出色，而且還採用了創新的熱管理解決方案，為性能提升做出了貢獻。