AI 推理競賽正在升溫

AIGC動態歡迎閱讀

原標題：AI 推理競賽正在升溫
關鍵字：芯片,模型,性能,類別,任務
文章來源：AI前線
內容字數：0字

內容摘要：

作者丨 Dina Genkina
譯者丨明知山
策劃丨褚杏娟
雖然英偉達的 GPU 在 AI 訓練領域的主導地位仍然難以撼動，但似乎有跡象表明，在 AI 推理方面，競爭對手正在迎頭趕上這家科技巨頭，尤其是在能效方面。然而，英偉達新推出的 Blackwell 芯片的卓越性能可能很難被超越。
最近，ML Commons 發布了最新的 AI 推理競賽 ML Perf Inference v4.1 的成績單。這一輪競賽包括使用 AMD Instinct 加速器的團隊、最新的谷歌 Trillium 加速器、來自多倫多初創公司 UntetherAI 的芯片以及英偉達最新發布的 Blackwell 芯片的首次試水。另外兩家公司，Cerebras 和 FuriosaAI，也發布了最新的推理芯片，雖然沒有提交給 MLPerf 進行評測。
就像奧林匹克會一樣，MLPerf 也有許多類別和子類別。提交數量最多的是“封閉數據中心”類別。封閉類別（相對于開放類別）要求提交者在不進行重大軟件修改的情況下按照原樣運行推理任務。數據中心類別評估的是批量處理查詢的能力，而邊緣類別則側重于降低延遲。
每個類別有 9

原文鏈接：AI 推理競賽正在升溫

聯系作者

文章來源：AI前線
作者微信：
作者簡介：