國產GPU萬卡集群終于來了！摩爾線程CEO張建中：做難而正確的事

AIGC動態歡迎閱讀

原標題：國產GPU萬卡集群終于來了！摩爾線程CEO張建中：做難而正確的事
關鍵字：集群,模型,線程,報告,華為
文章來源：智東西
內容字數：0字

內容摘要：

萬卡集群殺出國產GPU黑馬！萬P算力萬億參數，零代碼修改可遷移。
作者|ZeR0
編輯|漠影
“AI主戰場，萬卡是最低標配！”
在2024世界人工智能大會開幕前夕，摩爾線程創始人兼CEO張建中拋出一句擲地有聲的斷言。
為什么必須是萬卡？大模型行業變化很快，客戶希望兩周內結束戰斗，最遲也得在1個月內訓練完。假設訓練一個5000億參數模型，有15TB數據，如果只有1000P算力，3年都訓不完；如果將時間鎖到兩周或1個月，10000P是最低保障。
在海外，擁有1.8萬億參數的GPT-4大模型需要用25000張A100 GPU訓100天，折算成H100則需要1000張；Meta今年推出2個24576張H100集群，用于訓練Llama 3等新模型；本周馬斯克自曝新版Grok 3訓練用了10萬張H100 GPU。
在國內，萬卡集群建設高歌猛進。去年7月，華為昇騰AI集群規模擴展至16000卡；10月，科大訊飛宣布啟動萬卡集群算力平臺“飛星一號”；今年3月，天翼云上海臨港國產萬卡算力池啟用；4月，中國移動宣布今年將商用3個自主可控萬卡集群……一眾云大廠更是囤卡攢算力專業戶，將大模型訓練集群規模卷向1

原文鏈接：國產GPU萬卡集群終于來了！摩爾線程CEO張建中：做難而正確的事

聯系作者

文章來源：智東西
作者微信：zhidxcom
作者簡介：智能產業新媒體！智東西專注報道人工智能主導的前沿技術發展，和技術應用帶來的千行百業產業升級。聚焦智能變革，服務產業升級。