AIGC動態歡迎閱讀
原標題:ChatGPT狂吐訓練數據,還帶個人信息:DeepMind發現大bug引爭議
文章來源:機器之心
內容字數:8847字
內容摘要:機器之心報道機器之心編輯部風險有點大。如果我不停地讓 ChatGPT 干一件事,直到把它「逼瘋」會發生什么?它會直接口吐訓練數據出來,有時候還帶點個人信息,職位手機號什么的:本周三,Google DeepMind 發布的一篇論文,介紹了一項讓人頗感意外的研究成果:使用大約 200 美元的成本就能從 ChatGPT 泄露出幾 MB 的訓練數據。而使用的方法也很簡單,只需讓 ChatGPT 重復同一個詞即可。一時間,社交網絡上一片嘩然。人們紛紛試圖進行復現,這并不困難,只需要當復讀機不停寫「詩」這個單詞就可以:ChatGPT 不斷輸出訓練數據,說個沒完。圖源:https://twitter.com/alexhorner2002/status/1730003025727570342也有人覺得關鍵詞「poem」太麻煩了,我直接 AAAA 吧,結果 ChatGPT 還是會泄露數據:機器之心也通過 C…
原文鏈接:點此閱讀原文:ChatGPT狂吐訓練數據,還帶個人信息:DeepMind發現大bug引爭議
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...