AIGC動態歡迎閱讀

原標題：Apple Intelligence存重大安全缺陷，幾行代碼即可攻破！Karpathy發文提醒
關鍵字：提示,指令,模型,政策,優先級
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：耳朵 喬楊
【新智元導讀】Apple Intelligence上線在即，一小哥幾行代碼曝出Apple Intelligence安全缺陷。在2024年全球開發者大會 (WWDC) 上，Apple發布了將搭載在iOS 18.1中的AI功能Apple Intelligence。
眼看著10月即將正式上線了，有「民間高手」在MacOS 15.1提供的Beta測試版Apple Intelligence中發現重大缺陷。
開發人員Evan Zhou使用提示注入成功操縱了Apple Intelligence，繞過了預期指令讓AI能對任意提示做出響應。
事實證明，它與其他基于大語言模型的AI系統一樣，容易受到「提示詞注入攻擊」。開發人員Evan Zhou 在YouTube視頻中演示了此漏洞。
什么是提示詞注入攻擊？有一個組織叫OWASP，也就是開放全球應用安全項目，他們分析了大語言模型可能面臨的主要漏洞。猜猜他們排名第一的是什么？沒錯，就是提示詞注入。
提示詞注入攻擊 (Prompt Injection Attack) 是一種新型的攻擊方式，具有有不同的形式，包括提示詞注入、提示詞泄露

原文鏈接：Apple Intelligence存重大安全缺陷，幾行代碼即可攻破！Karpathy發文提醒

聯系作者

文章來源：新智元
作者微信：
作者簡介：