MIT新研究揭秘「AI術」！AI誘導人類「編造」記憶，真假難辨

AIGC動態歡迎閱讀

原標題：MIT新研究揭秘「AI術」！AI誘導人類「編造」記憶，真假難辨
關鍵字：記憶,錯誤,機器人,參與者,誘導
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：編輯部
【新智元導讀】MIT研究發現：在AI的操縱下，人類會被植入虛假記憶！36.4%的參與者會被機器人誤導，形成「現場有槍」的錯誤記憶。有趣的是，AI的阿諛奉承，會產生「回音室效應」，讓偏見更加強化。GenAI的影響，已經不僅僅是搜索引擎、機器人這么簡單了。
作為出名的效率神器，ChatGPT這樣的工具正在逐漸走進各行各業，比如幫警察寫文書、幫法官判案子，還有在Character.ai上扮演心理學家和人。
以前，我們經常聽到人類如何操縱AI，但MIT最近的研究發現，AI也可以輕易操縱人類的記憶。
論文地址：https://arxiv.org/abs/2408.04681
這項實驗中，研究人員讓基于LLM的機器人扮演審訊員或進行盤問的出庭律師，讓200名參與者先觀看一段犯罪視頻，然后與AI進行互動，回答有關問題，其中包含一部分誘導性提問。
結果顯示，與機器人的互動顯著增加了錯誤記憶的形成。
NYU教授馬庫斯稱，我們正在為機器人制造商提供近乎瘋狂的權力，制衡機制幾乎為零
對于即時記憶，AI引發的錯誤數量是對照組的三倍以上，36.4%的參與者會被聊

原文鏈接：MIT新研究揭秘「AI術」！AI誘導人類「編造」記憶，真假難辨

聯系作者

文章來源：新智元
作者微信：
作者簡介：