訓(xùn)練兩個(gè)小時(shí)需要半個(gè)小時(shí)保存數(shù)據(jù),如何破局?|甲子光年
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:訓(xùn)練兩個(gè)小時(shí)需要半個(gè)小時(shí)保存數(shù)據(jù),如何破局?|甲子光年
關(guān)鍵字:華為,數(shù)據(jù),模型,報(bào)告,閃存
文章來(lái)源:甲子光年
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
AI時(shí)代存儲(chǔ)需要更優(yōu)解。作者|王博
“中國(guó)的數(shù)字化應(yīng)用進(jìn)程發(fā)展是很快的,但在數(shù)字基礎(chǔ)設(shè)施這一塊的創(chuàng)新是欠缺的,存、算、網(wǎng)要協(xié)同發(fā)展。”
在華為全聯(lián)接大會(huì)2024期間,華為公司副總裁、數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰在一場(chǎng)媒體群訪結(jié)束后,特意對(duì)現(xiàn)場(chǎng)的媒體人說(shuō)了這樣一句話。
計(jì)算和存儲(chǔ)都是數(shù)字基礎(chǔ)設(shè)施中的重要組成部分,計(jì)算會(huì)像“機(jī)器印刷文字”一樣生成大量token(詞元),而存儲(chǔ)就是“紙張”。大模型時(shí)代,越來(lái)越大規(guī)模的算力要求數(shù)據(jù)存儲(chǔ)提供更高性能的數(shù)據(jù)訪問(wèn),這和“印刷機(jī)速度更快了,紙張的質(zhì)量和供應(yīng)速度也要跟上”是一個(gè)道理。
國(guó)家互聯(lián)網(wǎng)信息辦公室在今年9月8日發(fā)布的《國(guó)家信息化發(fā)展報(bào)告(2023年)》顯示,我國(guó)算力基礎(chǔ)設(shè)施綜合水平穩(wěn)居全球第二,截至2023年底,提供算力服務(wù)的在用機(jī)架數(shù)達(dá)810萬(wàn)標(biāo)準(zhǔn)機(jī)架,算力總規(guī)模超230EFLOPS。
但是,單純的數(shù)據(jù)算力無(wú)法單方面支撐整個(gè)數(shù)據(jù)中心的運(yùn)營(yíng),還需要相匹配的數(shù)據(jù)存儲(chǔ)容量。
在數(shù)字基礎(chǔ)設(shè)施領(lǐng)域有一個(gè)“通用計(jì)算存算比”的概念,通過(guò)計(jì)算數(shù)據(jù)存儲(chǔ)容量和數(shù)據(jù)算力體量之比,來(lái)評(píng)估數(shù)據(jù)中心建設(shè)的平衡性,避免因?yàn)榇媪Φ亩倘痹斐伤懔Φ睦速M(fèi)而影響數(shù)據(jù)處理中的效率。
各國(guó)通
原文鏈接:訓(xùn)練兩個(gè)小時(shí)需要半個(gè)小時(shí)保存數(shù)據(jù),如何破局?|甲子光年
聯(lián)系作者
文章來(lái)源:甲子光年
作者微信:
作者簡(jiǎn)介: