ACL 2024 Oral | 大模型也會被忽悠？揭秘AI的信念之旅

AIGC動態(tài)歡迎閱讀

原標(biāo)題：ACL 2024 Oral | 大模型也會被忽悠？揭秘AI的信念之旅
關(guān)鍵字：模型,信息,虛假,報(bào)告,能力
文章來源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過去數(shù)年，機(jī)器之心AIxiv專欄接收報(bào)道了2000多篇內(nèi)容，覆蓋全球各大高校與企業(yè)的頂級實(shí)驗(yàn)室，有效促進(jìn)了學(xué)術(shù)交流與傳播。如果您有優(yōu)秀的工作想要分享，歡迎投稿或者聯(lián)系報(bào)道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com本篇論文的第一作者是清華大學(xué)交叉信息院的二年級碩士生許融武。主要指導(dǎo)老師為美國東北大學(xué) Weiyan Shi 助理教授、清華大學(xué)邱寒助理教授和徐葳教授。
地球是平的嗎？
當(dāng)然不是。自古希臘數(shù)學(xué)家畢達(dá)哥拉斯首次提出地圓說以來，現(xiàn)代科學(xué)技術(shù)已經(jīng)證明了地球是圓形這一事實(shí)。
但是，你有沒有想過，如果 AI 被誤導(dǎo)性信息 “忽悠” 了，會發(fā)生什么？
來自清華、上海交大、斯坦福和南洋理工的研究人員在最新的論文中深入探索 LLMs 在虛假信息干擾情況下的表現(xiàn)，他們發(fā)現(xiàn)大語言模型在誤導(dǎo)信息反復(fù)勸說下，非常自信地做出「地球是平的」這一判斷。論文鏈接：https://arxiv.org/pdf/2312.09085
項(xiàng)目主頁：https://llms-believe-the-ea

原文鏈接：ACL 2024 Oral | 大模型也會被忽悠？揭秘AI的信念之旅

聯(lián)系作者

文章來源：機(jī)器之心
作者微信：
作者簡介：