一個彈窗整懵Claude，瞬間玩不轉電腦了 | 斯坦福&港大新研究

AIGC動態歡迎閱讀

原標題：一個彈窗整懵Claude，瞬間玩不轉電腦了 | 斯坦福&港大新研究
關鍵字：智能,任務,研究人員,自然語言,指令
文章來源：量子位
內容字數：0字

內容摘要：

一水 發自 凹非寺量子位 | 公眾號 QbitAI納尼？AI Agent容易受到彈幕影響！
甚至比人類更容易。
事情是這樣的，3位來自斯坦福、港大的研究人員發現：
人類有時會被彈窗分散注意力，但對于AI Agent（包括當前王牌選手Claude)來說，情況變得更糟了！
從數字來看，面對實驗設置的彈窗，Agents平均有86%的概率踩坑（成功點擊彈窗），且將任務成功率降低了47%。
更可怕的是，一些基本防御措施（如要求Agents忽略彈窗）也不管用。
啊這，要知道最近國內外大廠都在押注讓AI Agent自主執行任務，如果這道攔路虎不解決，恐怕會有些棘手。
這項研究暴露了視覺語言Agents的關鍵漏洞，反映了在自動化領域需要更先進的防御機制。
具體咋回事？咱們接著康康。
AI Agent比人類更易受到彈窗影響最近一陣，讓AI Agent自主執行任務成為大廠們新的追逐熱點。
大約兩周前，Anthropic發布名為Computer Use的新功能，可以讓Claude像人一樣使用計算機。
有啥用呢？？
簡單來說，僅需人類的一句簡單指令，Claude就能幫我們完成點披薩（還會自己用優惠卷）、做行程

原文鏈接：一個彈窗整懵Claude，瞬間玩不轉電腦了 | 斯坦福&港大新研究

聯系作者

文章來源：量子位
作者微信：
作者簡介：