AI要發(fā)展,這個(gè)難題必須解決
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:AI要發(fā)展,這個(gè)難題必須解決
關(guān)鍵字:報(bào)告,數(shù)據(jù)中心,華為,用電量,消耗
文章來源:大數(shù)據(jù)文摘
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
大數(shù)據(jù)文摘受權(quán)轉(zhuǎn)載自頭部科技
文丨俊俊
沒想到,AI的盡頭,居然是儲(chǔ)能。
因?yàn)榇竽P陀?xùn)練,不僅費(fèi)錢,更費(fèi)電!
隨著AI爆火,大型AI模型需要大量算力資源,大量新建的數(shù)據(jù)中心需要巨量的電力供應(yīng),科技巨頭對(duì)電力需求激增,電力需求不斷高漲。
像亞馬遜AWS等公司正與核電廠運(yùn)營商商談供電協(xié)議,以滿足數(shù)據(jù)中心的電力需求。
這一趨勢(shì)引發(fā)爭(zhēng)議,大家都在擔(dān)心科技公司通過轉(zhuǎn)移現(xiàn)有電力資源而非增加綠色能源來滿足需求,可能加劇電力可靠性問題和電價(jià)上漲。
果然費(fèi)電
AI需要電,就像人類需要水一樣。雖然知道AI訓(xùn)練耗電大,但沒想到這么大。
“一些簡單的計(jì)算”表明 AI 所需電力將在全球電力消耗中占據(jù)相當(dāng)大的份額。
研究顯示,訓(xùn)練谷歌于2022年發(fā)布的大語言模型PaLM需要消耗3436兆瓦時(shí)的電量,約等于11.8萬美國普通家庭日耗電量(美國普通家庭日均耗電量約為29千瓦時(shí));就算訓(xùn)練參數(shù)量為3.4億的BERT模型,也需要消耗1.5兆瓦時(shí)的電量,相當(dāng)于觀看1875小時(shí)的流媒體。
據(jù)《紐約客》雜志引援國外研究機(jī)構(gòu)報(bào)告,ChatGPT每天要響應(yīng)大約2億個(gè)請(qǐng)求,在此過程中消耗超過50萬度電力。
也就是說,ChatGPT每
聯(lián)系作者
文章來源:大數(shù)據(jù)文摘
作者微信:BigDataDigest
作者簡介:普及數(shù)據(jù)思維,傳播數(shù)據(jù)文化