全球首個(gè)支持單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練平臺(tái)，來(lái)自無(wú)問(wèn)芯穹

AIGC動(dòng)態(tài)1年前 (2024)發(fā)布機(jī)器之心

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：全球首個(gè)支持單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練平臺(tái)，來(lái)自無(wú)問(wèn)芯穹
關(guān)鍵字：華為,模型,解讀,芯片,集群
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

機(jī)器之心發(fā)布
機(jī)器之心編輯部“打開(kāi)水龍頭前，我們不需要知道水是從哪條河里來(lái)的。同理，未來(lái)我們用各種 AI 應(yīng)用時(shí)，也不會(huì)知道它調(diào)用了哪些基座模型，用到了哪種加速卡的算力——這就是最好的 AI Native 基礎(chǔ)設(shè)施。”7月4日，在2024年世界人工智能大會(huì)AI基礎(chǔ)設(shè)施論壇上，無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪發(fā)布了無(wú)問(wèn)芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng)，千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了97.6%。
同時(shí)，夏立雪宣布無(wú)問(wèn)芯穹Infini-AI云平臺(tái)已集成大模型異構(gòu)千卡混訓(xùn)能力，是全球首個(gè)可進(jìn)行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的平臺(tái)，具備萬(wàn)卡擴(kuò)展性，支持包括AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、NVIDIA六種異構(gòu)芯片在內(nèi)的大模型混合訓(xùn)練。7月起，通過(guò)試訓(xùn)申請(qǐng)的用戶(hù)，已可在Infini-AI上一鍵發(fā)起700億參數(shù)規(guī)模的大模型訓(xùn)練。就在4個(gè)月前，無(wú)問(wèn)芯穹Infini-AI大模型開(kāi)發(fā)與服務(wù)云平臺(tái)宣布首次公測(cè)，已有智譜AI、月之暗面、生數(shù)科技等大模型公司客戶(hù)在Infini-AI上穩(wěn)定使用異構(gòu)算力，還有20余家AI Native應(yīng)用創(chuàng)業(yè)公司在Infini-AI上持續(xù)調(diào)用各種預(yù)置模型A

原文鏈接：全球首個(gè)支持單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練平臺(tái)，來(lái)自無(wú)問(wèn)芯穹