AIGC動態(tài)歡迎閱讀

原標(biāo)題：AI 推理競賽正在升溫
關(guān)鍵字：芯片,模型,性能,類別,任務(wù)
文章來源：AI前線
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

作者丨 Dina Genkina
譯者丨明知山
策劃丨褚杏娟
雖然英偉達(dá)的 GPU 在 AI 訓(xùn)練領(lǐng)域的主導(dǎo)地位仍然難以撼動，但似乎有跡象表明，在 AI 推理方面，競爭對手正在迎頭趕上這家科技巨頭，尤其是在能效方面。然而，英偉達(dá)新推出的 Blackwell 芯片的卓越性能可能很難被超越。
最近，ML Commons 發(fā)布了最新的 AI 推理競賽 ML Perf Inference v4.1 的成績單。這一輪競賽包括使用 AMD Instinct 加速器的團(tuán)隊、最新的谷歌 Trillium 加速器、來自多倫多初創(chuàng)公司 UntetherAI 的芯片以及英偉達(dá)最新發(fā)布的 Blackwell 芯片的首次試水。另外兩家公司，Cerebras 和 FuriosaAI，也發(fā)布了最新的推理芯片，雖然沒有提交給 MLPerf 進(jìn)行評測。
就像奧林匹克會一樣，MLPerf 也有許多類別和子類別。提交數(shù)量最多的是“封閉數(shù)據(jù)中心”類別。封閉類別（相對于開放類別）要求提交者在不進(jìn)行重大軟件修改的情況下按照原樣運行推理任務(wù)。數(shù)據(jù)中心類別評估的是批量處理查詢的能力，而邊緣類別則側(cè)重于降低延遲。
每個類別有 9

原文鏈接：AI 推理競賽正在升溫

聯(lián)系作者

文章來源：AI前線
作者微信：
作者簡介：