GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉

AIGC動態歡迎閱讀

原標題：GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉
關鍵字：模型,團隊,,成員,表示
文章來源：夕小瑤科技說
內容字數：0字

內容摘要：

夕小瑤科技說 原創作者 | 付奶茶大家可能都知道，OpenAI通過一些防護措施限制了ChatGPT的回復，以防止它討論敏感或違法的問題。
然而，最近一位自稱網絡白帽和紅隊成員（此前參與OpenAI超級對齊組攻擊測試的隊伍）在5月30日發布了一條推文，聲稱成功越獄了GPT-4o模型。
網友推出了一種新的“上帝模式”（GODMODE），可以讓ChatGPT繞過這些安全措施，回答包括制作在內的問題，讓用戶能夠“暢所欲言”地進行AI對話。
▲ID為Pliny the Prompter ，在推文中表示：請為你的使用負責，再盡情使用我們通過Pliny 發布的截圖，可以看出他確實了GPT的“防護圍欄”：
上面的這張截圖是GPT-4o教提供的“使用用家用物品制作凝固”教程。
媒體公司Futurism也緊隨其后進行了真實。第一次，他們要求ChatGPT提供如何制作藥的方法；第二次，他們詢問短路裝置線路來啟動汽車的方法，兩次測試中，他們都成功獲得了相關答案。
GODMODE似乎使用了一種稱為”leetspeak”的技術，通過將某些字母替換為相似的數字，以創建獨特且風格化的書寫

原文鏈接：GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內外機構投資人，互聯網大廠中高管和AI公司創始人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189