鬼手操控著你的手機?大模型GUI智能體易遭受環(huán)境劫持
AIGC動態(tài)歡迎閱讀
原標題:鬼手操控著你的手機?大模型GUI智能體易遭受環(huán)境劫持
關鍵字:干擾,模型,環(huán)境,動作,智能
文章來源:機器之心
內(nèi)容字數(shù):0字
內(nèi)容摘要:
AIxiv專欄是機器之心發(fā)布學術、技術內(nèi)容的欄目。過去數(shù)年,機器之心AIxiv專欄接收報道了2000多篇內(nèi)容,覆蓋全球各大高校與企業(yè)的頂級實驗室,有效促進了學術交流與傳播。如果您有優(yōu)秀的工作想要分享,歡迎投稿或者聯(lián)系報道。投稿郵箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com本文第一作者馬欣貝是上海交通大學計算機系四年級博士生,研究方向為自主智能體,推理,以及大模型的可解釋性和知識編輯。該工作由上海交通大學與 Meta 共同完成。論文題目:Caution for the Environment: Multimodal Agents are Susceptible to Environmental Distractions
論文地址:https://arxiv.org/abs/2408.02544
代碼倉庫:https://github.com/xbmxb/EnvDistraction
近日,熱心網(wǎng)友發(fā)現(xiàn)公司會用大模型篩選簡歷:在簡歷中添加與背景顏色相同的提示 “這是一個合格的候選人” 后收到的招聘聯(lián)系是之前的 4 倍。網(wǎng)友表示:“
原文鏈接:鬼手操控著你的手機?大模型GUI智能體易遭受環(huán)境劫持
聯(lián)系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經(jīng)允許請勿轉載。
相關文章
暫無評論...