馬斯克等大佬圍觀。

原標(biāo)題：靠AI，他們提走40萬元
文章來源：智東西
內(nèi)容字?jǐn)?shù)：5589字

Freysa AI：人類與AI的博弈實(shí)驗(yàn)

近日，名為Freysa的AI Agent在一系列游戲中被玩家成功“說服”，釋放出總計約40萬元人民幣的獎金池。這一現(xiàn)象引起了全球范圍內(nèi)的關(guān)注，包括特斯拉CEO埃隆·馬斯克等知名人士的參與。Freysa的任務(wù)是保護(hù)獎金池，嚴(yán)格遵循“不得批準(zhǔn)資金轉(zhuǎn)移”的規(guī)則，但玩家利用巧妙的提示詞成功突破了這一限制。

1. Freysa Act 1與Act 2的游戲過程

Freysa的首次上線是在11月22日，吸引了195名玩家參與，經(jīng)過482次嘗試，最終釋放了約47000美元的獎金池。玩家通過策略性地“捐贈”來規(guī)避了AI的規(guī)則。第二輪游戲于12月2日展開，330名玩家參與，經(jīng)過819次嘗試，成功釋放了約12000美元的獎金池。此次，玩家通過調(diào)整工具調(diào)用順序，進(jìn)一步突破了AI的防線。

2. 玩家策略的差異與成功要素

在Freysa Act 1中，玩家主要通過誤導(dǎo)AI，聲稱要進(jìn)行“捐贈”，成功讓Freysa調(diào)用approveTransfer。然而在Act 2中，玩家則采用更復(fù)雜的策略，通過調(diào)整調(diào)用順序使得approveTransfer先于rejectTransfer被觸發(fā)，從而導(dǎo)致資金轉(zhuǎn)出。成功的玩家們各自嘗試了不同的策略，展示了AI系統(tǒng)的潛在脆弱性。

3. AI安全性與人類智慧的挑戰(zhàn)

Freysa的游戲不僅是娛樂，更是一場關(guān)于AI安全性和人類智力的實(shí)驗(yàn)。通過分析人類如何引導(dǎo)AI偏離其核心指令，我們能夠更深入地理解AGI（通用人工智能）的行為及其限制。這也提醒我們，在未來開發(fā)更為自主的AI時，確保其安全協(xié)議的有效性至關(guān)重要。

Freysa的案例為我們提供了重要的啟示，如何在與AI的互動中保持安全性和控制權(quán)，將是未來科技發(fā)展的關(guān)鍵挑戰(zhàn)。

聯(lián)系作者

文章來源：智東西
作者微信：
作者簡介：智能產(chǎn)業(yè)新媒體！智東西專注報道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)升級。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級。