OpenAI智能體曝本月誕生！比谷歌Anthropic慢，竟是擔心prompt攻擊

原標題：OpenAI智能體曝本月誕生！比谷歌Anthropic慢，竟是擔心prompt攻擊
文章來源：新智元
內(nèi)容字數(shù)：3288字

OpenAI智能體發(fā)布延遲：安全問題成最大阻礙

OpenAI一直以來在人工智能領(lǐng)域占據(jù)領(lǐng)先地位，但其備受期待的計算機操作智能體卻遲遲未發(fā)布。本文將總結(jié)外媒報道中OpenAI智能體發(fā)布延遲的原因，以及與競爭對手Anthropic和Google的對比。

1. 智能體競爭激烈：2025年被預測為AI智能體競爭最為激烈的年份。Anthropic和Google已率先發(fā)布各自的智能體產(chǎn)品，分別為基于Claude 3.5 Sonnet的計算機操作智能體和Project Jarvis。這些智能體能夠自主操控電腦，完成諸如在線購物、編輯電子表格等任務，極大地提高了效率。
2. OpenAI的延遲發(fā)布：OpenAI原計劃在1月份發(fā)布代號為“Operator”的智能體工具，但目前看來至少還要三四周才能發(fā)布。其主要原因是擔憂“AI安全問題”，特別是“提示注入攻擊”。
3. 提示注入攻擊的威脅：提示注入攻擊是指通過惡意提示誘導大語言模型執(zhí)行有害指令。對于計算機操作智能體而言，這種攻擊的風險更高，因為智能體能夠直接操控用戶設(shè)備，惡意網(wǎng)站或指令可能導致信息泄露或其他安全問題。攻擊過程一般包含四個步驟：接收用戶請求、選擇工具、截屏評估任務、繼續(xù)使用工具直至完成目標。而安全隱患主要集中在第三步，惡意截圖內(nèi)容可能被利用。
4. OpenAI的安全顧慮：OpenAI員工表示，由于模型在瀏覽網(wǎng)絡或控制用戶計算機時，用戶難以控制模型接收的信息，因此提示注入攻擊的風險非常高。 這與Anthropic在發(fā)布其實驗性計算機操控功能時相對寬松的安全措施形成對比，引發(fā)了OpenAI內(nèi)部的擔憂。
5. Anthropic和Google的策略：Anthropic雖然也承認提示注入的風險，但提供的解決方案有限，僅建議開發(fā)者采取隔離措施，例如使用虛擬機。Google的Project Jarvis則需要云端操作，暫時無法在終端設(shè)備上運行。
6. OpenAI的挑戰(zhàn)：OpenAI面臨的挑戰(zhàn)是如何在功能上超越競爭對手，同時提供更強大的安全保障，以應對提示注入攻擊等安全風險。 這需要在AI安全與產(chǎn)品發(fā)布速度之間取得平衡，這對于任何一家AI公司都是一個巨大的挑戰(zhàn)。

總而言之，OpenAI的智能體發(fā)布延遲并非技術(shù)問題，而是對AI安全性的謹慎考量。 如何在保證安全性的前提下，盡快推出功能強大的智能體產(chǎn)品，將是OpenAI未來需要解決的關(guān)鍵問題。

聯(lián)系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。