稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了

AIGC動態歡迎閱讀

原標題：稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了
關鍵字：芯片,模型,系統,加速器,帶寬
文章來源：智東西
內容字數：6861字

內容摘要：

最大功耗90W，INT8稀疏計算性能達到708TFLOPS。
作者|ZeR0
編輯|漠影
智東西4月11日報道，美國AI三巨頭不僅在大模型賽道爭奇斗艷，還紛紛卷起自研AI芯片。昨天“AI界汪峰”谷歌剛推出新款云端定制芯片，今天Meta就將硅谷注意力吸引走，重磅宣布推出第二代自研AI訓練和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用臺積電7nm芯片。MTIA v2則換上了臺積電5nm，每PE緩存從上一代的128KB增加到384KB，頻率從800MHz提升到1.35GHz，INT8精度下的稠密算力達到上一代的近3.5倍，稀疏算力達到上一代的近7倍，達到708TFLOPS。
有意思的是，MTIA v2的面積僅變大13%，不過功耗增加到上一代的3.6倍，達到90W，上一代只有25W。
相比之下，英偉達H100 PCIe的最大功耗約在350~500W區間（SXM版高達700W），INT8精度下稀疏算力為3026TFLOPS。
在平臺層，通過2倍的設備數量和2插槽CPU，MTIA v2能夠實現6倍的模型服務吞吐量、比第一代MTIA系統提高多達1.5倍的每瓦性能。
與MTI

原文鏈接：稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了

聯系作者

文章來源：智東西
作者微信：zhidxcom
作者簡介：智能產業新媒體！智東西專注報道人工智能主導的前沿技術發展，和技術應用帶來的千行百業產業升級。聚焦智能變革，服務產業升級。