Meta發(fā)布新一代AI芯片MTIA,性能顯著提升

AIGC動態(tài)歡迎閱讀
原標題:Meta發(fā)布新一代AI芯片MTIA,性能顯著提升
關(guān)鍵字:芯片,性能,模型,方面,堆棧
文章來源:AI范兒
內(nèi)容字數(shù):1864字
內(nèi)容摘要:
點擊上方藍字關(guān)注我們“Meta公布新一代AI芯片MTIA,性能較前代顯著提高。Meta近日公布了其Meta訓(xùn)練和推理加速器(MTIA)的下一代產(chǎn)品的細節(jié)。該芯片是專為優(yōu)化公司AI工作負載而設(shè)計的定制芯片系列,最新版本在性能方面較其前身MTIA v1有了顯著改進,并在為Meta的廣告排名和推薦模型提供動力方面發(fā)揮著重要作用。
新的MTIA芯片是Meta在AI基礎(chǔ)設(shè)施方面不斷增長的投資的一部分。隨著AI模型的計算需求隨著其復(fù)雜性的增加而增加,Meta認識到開發(fā)高效且可擴展解決方案的重要性,以支持生成式AI產(chǎn)品、推薦系統(tǒng)和先進AI研究。
在技術(shù)層面上,新的MTIA芯片具有一個由8×8處理元素(PE)組成的網(wǎng)格,這在密集計算性能和稀疏計算性能方面提供了顯著的提升。該芯片的架構(gòu)專注于實現(xiàn)計算、內(nèi)存帶寬和內(nèi)存容量的最佳平衡,以高效地服務(wù)于排名和推薦模型。
Meta還開發(fā)了一個大型機架式系統(tǒng),可以容納多達72個加速器,以支持下一代硅。該系統(tǒng)設(shè)計為將芯片時鐘頻率提高到1.35GHz,并在90瓦特下運行,確保比第一代設(shè)計具有更高的計算、內(nèi)存帶寬和內(nèi)存容量的更密集功能。
自其對MTIA的投資開始以來,軟件
原文鏈接:Meta發(fā)布新一代AI芯片MTIA,性能顯著提升
聯(lián)系作者
文章來源:AI范兒
作者微信:AI_Insights
作者簡介:AI領(lǐng)域四大媒體之一。 智能未來,始于Prompt!

粵公網(wǎng)安備 44011502001135號