為什么說GPU再火，AI平臺(tái)也少不了強(qiáng)力的CPU

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：為什么說GPU再火，AI平臺(tái)也少不了強(qiáng)力的CPU
關(guān)鍵字：騰訊,英特爾,模型,數(shù)據(jù),服務(wù)器
文章來源：量子位
內(nèi)容字?jǐn)?shù)：9882字

內(nèi)容摘要：

金磊 夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAIAIGC的這把火，燃起來的可不只是百模大戰(zhàn)的熱度和雨后春筍般的各式AI應(yīng)用。
更是由于算力與通信需求的爆發(fā)式增長(zhǎng)，使得底層的專用加速芯片、以及配備這些芯片的AI加速服務(wù)器再次被拉到了大眾的聚光燈下。
據(jù)統(tǒng)計(jì)，2023年全球范圍內(nèi)的AI服務(wù)器市場(chǎng)規(guī)模已經(jīng)達(dá)到了211億美元，并且IDC還發(fā)布預(yù)測(cè)說：
預(yù)計(jì)2025年達(dá)317.9億美元，2023-2025年CAGR為22.7%。
AIGC大模型的訓(xùn)練和推理需要大量的高性能算力支持，對(duì)AI服務(wù)器需求還將提升。
而且AI加速服務(wù)器不同于普通服務(wù)器，在架構(gòu)上一般采用異構(gòu)的方式，且GPU的數(shù)量更是能配多少就配多少，這也就是造成目前GPU千金難求的因素之一。
但你知道嗎？即使在大模型時(shí)代GPU或各式AI加速芯片的光芒變得更加耀眼，但對(duì)于AI基礎(chǔ)設(shè)施來說，CPU依然是必不可少的存在——至少一臺(tái)高端的AI加速服務(wù)器中每8個(gè)GPU就需得搭配2個(gè)CPU。
不僅如此，由于AI加速服務(wù)器異構(gòu)的特點(diǎn)，市場(chǎng)上除了CPU+GPU的組合方式之外，還有其它多種多樣的架構(gòu)，例如：
CPU＋FPGA
CPU＋TPU
CPU

原文鏈接：為什么說GPU再火，AI平臺(tái)也少不了強(qiáng)力的CPU

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡(jiǎn)介：追蹤人工智能新趨勢(shì)，關(guān)注科技行業(yè)新突破