AI Infra 格局呈現(xiàn)兩個極端：海外被巨頭壟斷，而國內(nèi)則過于分散。

原標題：當大模型升級速度變緩，AI Infra 還是一門「好生意」嗎？
文章來源：智猩猩GenAI
內(nèi)容字數(shù)：11155字

2024中國生成式AI大會即將召開

2024中國生成式AI大會將于12月5-6日在上海舉辦，屆時將有20多位嘉賓參與演講。嘉賓包括來自上海交大的副教授戴國浩、GMI Cloud亞太區(qū)總裁King.Cui等知名業(yè)內(nèi)人士，討論AI基礎(chǔ)設(shè)施（AI Infra）的現(xiàn)狀與未來發(fā)展。

國內(nèi)AI Infra市場現(xiàn)狀

目前，國內(nèi)AI Infra市場呈現(xiàn)出分散化的特點，與海外市場的巨頭壟斷形成鮮明對比。清華系在中國大模型創(chuàng)業(yè)中占據(jù)重要地位，多個創(chuàng)企如清昴智能、無問芯穹等均來自清華實驗室。當前的創(chuàng)業(yè)重點在于將各類模型與芯片進行深度適配，以減少算力資源閑置并降低成本。

推理成本與MaaS平臺挑戰(zhàn)

推理成本的降低是大模型應(yīng)用落地的關(guān)鍵。盡管創(chuàng)業(yè)公司紛紛布局MaaS（模型即服務(wù)）平臺，但行業(yè)內(nèi)對這一模式存在分歧。一些創(chuàng)業(yè)者擔心與大型大模型公司競爭的壓力，認為不做優(yōu)質(zhì)大模型將難以在推理平臺上立足。

端側(cè)推理的未來

隨著需求的增長，端側(cè)大模型推理處理器的開發(fā)逐漸受到關(guān)注。無問芯穹計劃推出端側(cè)大模型推理處理器，預(yù)計將在明年實現(xiàn)落地。這表明，端側(cè)硬件在未來將扮演重要角色。

國內(nèi)外市場的不同挑戰(zhàn)

中美市場的差異使得創(chuàng)業(yè)的難度不同。雖然海外市場相對成熟，但也因巨頭的存在而導(dǎo)致必要性不強。國內(nèi)芯片廠商則處于分散狀態(tài)，面臨技術(shù)統(tǒng)一和生態(tài)建設(shè)的挑戰(zhàn)。

未來展望與結(jié)論

隨著AI Infra創(chuàng)業(yè)的不斷探索，業(yè)內(nèi)觀點碰撞加劇。無論是MaaS平臺的競爭，還是異構(gòu)混訓(xùn)的可行性，各家企業(yè)都在努力尋找商機。總體來看，AI Infra的重要性日益凸顯，國產(chǎn)算力問題仍是未來發(fā)展的關(guān)鍵。

聯(lián)系作者

文章來源：智猩猩GenAI
作者微信：
作者簡介：智猩猩旗下矩陣賬號之一，聚焦大模型開啟的通用人工智能浪潮。