AI芯片競(jìng)爭(zhēng)白熱化！Meta官宣最新AI推理芯片！性能提升300%，支撐Llama高負(fù)載計(jì)算

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AI芯片競(jìng)爭(zhēng)白熱化！Meta官宣最新AI推理芯片！性能提升300%，支撐Llama高負(fù)載計(jì)算
關(guān)鍵字：芯片,硬件,模型,編譯器,方面
文章來(lái)源：夕小瑤科技說(shuō)
內(nèi)容字?jǐn)?shù)：3433字

內(nèi)容摘要：

夕小瑤科技說(shuō) 原創(chuàng)作者 | Zicy在算力為王的大模型時(shí)代，AI技術(shù)“三巨頭”：微軟，谷歌，Meta，在自研芯片領(lǐng)域卷的是熱火朝天。
最早是微軟，在去年宣布基于臺(tái)積電5nm技術(shù)制造了Azure Maia 100及Azure Cobalt 100芯片。前幾天，谷歌也發(fā)布了自研數(shù)據(jù)中心芯片Axion，以應(yīng)對(duì)高昂的AI競(jìng)賽成本。
這次Meta又有了大動(dòng)作，發(fā)布第二代芯片Meta Training and Inference Accelerator v2(MTIAv2)。
話不多說(shuō)，先來(lái)看看MTIAv2的硬件表現(xiàn)。
容量、計(jì)算、帶寬翻倍在工藝和性能方面，相比于Meta去年5月推出的MTIAv1采用的臺(tái)積電7nm芯片，MTIAv2則換上了臺(tái)積電5nm芯片，頻率從800MHz提升到1.35GHz，稠密算力達(dá)到上一代的近3.5倍，稀疏算力達(dá)到上一代的近7倍，INT8精度下達(dá)到708TFLOPS。
這主要得益于稀疏計(jì)算的流水線相關(guān)的體系結(jié)構(gòu)的改進(jìn)，以及本地PE存儲(chǔ)、片上SRAM以及LPDDR5容量的翻倍，并將其帶寬增加到3.5倍。
能耗方面，從25W提升到了90W。值得一提的是，英偉達(dá)H100的功耗約

原文鏈接：AI芯片競(jìng)爭(zhēng)白熱化！Meta官宣最新AI推理芯片！性能提升300%，支撐Llama高負(fù)載計(jì)算

聯(lián)系作者

文章來(lái)源：夕小瑤科技說(shuō)
作者微信：xixiaoyaoQAQ
作者簡(jiǎn)介：專業(yè)、有趣、深度價(jià)值導(dǎo)向的科技媒體。聚集30萬(wàn)AI工程師、研究員，覆蓋500多家海內(nèi)外機(jī)構(gòu)投資人，互聯(lián)網(wǎng)大廠中高管和AI公司創(chuàng)始人。一線作者來(lái)自清北、國(guó)內(nèi)外頂級(jí)AI實(shí)驗(yàn)室和大廠，兼?zhèn)涿翡J的行業(yè)嗅覺(jué)和洞察深度。商務(wù)合作：zym5189