驚天大瓜！字節(jié)實(shí)習(xí)生往GPU集群注入病毒，導(dǎo)致模型都白訓(xùn)…

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：驚天大瓜！字節(jié)實(shí)習(xí)生往GPU集群注入病毒，導(dǎo)致模型都白訓(xùn)…
關(guān)鍵字：字節(jié)跳動(dòng),實(shí)習(xí)生,集群,,受害者
文章來源：夕小瑤科技說
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

夕小瑤科技說原創(chuàng)作者 | 小鹿就在昨天，微信群里出現(xiàn)了一個(gè)消息，迅速攀升至熱榜第二名：一名字節(jié)實(shí)習(xí)生攻擊GPU集群。
隨著大家的不斷討論、挖料，這起的傳播愈發(fā)激烈，和最開始爆料的不一樣了，現(xiàn)在的情況比最初所知的更加恐怖。。。。
事情的起源最早可以追溯到今年6月，字節(jié)AI Lab實(shí)習(xí)生A對(duì)團(tuán)隊(duì)分配給組內(nèi)資源感到不滿。他認(rèn)為資源分配不公。
因此，這位實(shí)習(xí)生設(shè)計(jì)了一個(gè)詳盡的“集群投毒攻擊方案”，目的是破壞其他技術(shù)團(tuán)隊(duì)的模型訓(xùn)練工作：
實(shí)習(xí)生A雞賊地地利用了Huggingface平臺(tái)的安全漏洞，在公司共享的模型Checkpoint中植入了惡意代碼。此外，他還設(shè)計(jì)了參數(shù)梯度截?cái)嗟姆较颍蓴_模型訓(xùn)練的收斂。然后，還為了限時(shí)攻擊范圍，設(shè)置了攻擊條件：使得只有當(dāng)任務(wù)在256張或更多GPU卡上運(yùn)行時(shí)，才會(huì)觸發(fā)這個(gè)隱蔽的Bug。
實(shí)習(xí)生A還潛伏在集群調(diào)試的群組中，一旦有跡象表明問題被發(fā)現(xiàn)，他就會(huì)迅速進(jìn)行修改，以極限的方式進(jìn)行攻防。
根據(jù)脈脈上前字節(jié)跳動(dòng)的員工透露，AILab的實(shí)習(xí)生的權(quán)限幾乎與正式員工相同，為此次的發(fā)生提供了可乘之機(jī)。
曝光后，實(shí)習(xí)生A雖然想甩鍋，但是沒成功。。。
網(wǎng)上自

原文鏈接：驚天大瓜！字節(jié)實(shí)習(xí)生往GPU集群注入病毒，導(dǎo)致模型都白訓(xùn)…