超級AI會偷襲人類嗎？新研究給出答案

AIGC動態(tài)歡迎閱讀

原標(biāo)題：超級AI會偷襲人類嗎？新研究給出答案
關(guān)鍵字：報告,模型,人工智能,研究人員,智能
文章來源：人工智能學(xué)家
內(nèi)容字?jǐn)?shù)：2928字

內(nèi)容摘要：

圖片來源：Charles Taylor/Alamy
來源：中國科學(xué)報???
編譯：王方
一個人工智能的超級智能會突然出現(xiàn)嗎，還是科學(xué)家能預(yù)見它的到來并來得及向全世界發(fā)出警報？隨著大型語言模型，如ChatGPT的興起，這個問題最近受到了很多關(guān)注。這些模型隨著規(guī)模的增長已經(jīng)獲得了大量新功能。
一些研究結(jié)果指向了“涌現(xiàn)”現(xiàn)象，即人工智能模型以一種驟然且不可預(yù)測的方式獲得了智能。但最近一項(xiàng)研究將這種情況稱為“海市蜃樓”，即系統(tǒng)測試過程中產(chǎn)生的假象，并認(rèn)為創(chuàng)新能力的增強(qiáng)是循序漸進(jìn)的。
研究人員近日在美國新奧爾良舉行的神經(jīng)信息處理系統(tǒng)大會（NeurIPS）機(jī)器學(xué)習(xí)會議上報告了這項(xiàng)工作。
“我認(rèn)為他們在說‘沒有什么神奇的事情發(fā)生’方面做得很好。”謀智基金會研究人工智能審計的計算機(jī)科學(xué)家Deborah Raji說，這是“一個非常好的、堅(jiān)實(shí)的、基于衡量的評估”。
人們通常使用大量文本或其他信息訓(xùn)練大型語言模型，并通過預(yù)測接下來發(fā)生什么生成現(xiàn)實(shí)的答案。即使沒有受過明確的訓(xùn)練，它們也能翻譯語言、解決數(shù)學(xué)問題、寫詩或編寫計算機(jī)代碼。
模型越大——有些模型的可調(diào)參數(shù)超過了1000億，性能就越好。一些研究人員懷疑

原文鏈接：超級AI會偷襲人類嗎？新研究給出答案

聯(lián)系作者

文章來源：人工智能學(xué)家
作者微信：AItists
作者簡介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機(jī)構(gòu)