ChatGPT會不受控制克隆你的聲音！OpenAI公開紅隊測試報告

AIGC動態歡迎閱讀

原標題：ChatGPT會不受控制克隆你的聲音！OpenAI公開紅隊測試報告
關鍵字：報告,說話,音頻,聲音,口音
文章來源：量子位
內容字數：0字

內容摘要：

衡宇發自凹非寺量子位 | 公眾號 QbitAIGPT-4o的怪癖暴露了，還是被官方公開的！
你和它語音電話，它會悄悄學你說話的聲音，效果堪稱“克隆”，生動逼真到一毛一樣那種；
甚至語音過程中還可能看人下菜碟，毫無依據地猜你有某地口音，然后調整跟你對話的方式。
而且，如果在提示詞上略施小計，GPT-4o很容易被引導出發出一些奇奇怪怪聲音的效果，比如的、暴力尖叫或者peng的槍聲。
自從10天前，OpenAI留下一句“我們計劃在8月初分享一份關于GPT-4o的功能、局限性和安全評估的詳細報告”，不知道多少人望眼欲穿。
現在紅隊報告真的出爐，網友都因這乖僻的GPT-4o炸開了鍋。
有的人超開心的：
哇哦，這根本不是bug，這都是咱可以用起來的feature啊！！
也有人憂心忡忡：
我的老天奶啊！這樣一來，偽造音頻不就是簡簡單單的事情了？！
Fine！
是時候讓我們一起來看看，乖僻的GPT-4o，到底都有哪些怪癖？？？
GPT-4o，有啥怪癖啊？在紅隊報告羅列的詳細內容中，爭議最大的，主要是GPT-4o帶來的以下幾點安全挑戰。
學習并模仿用戶說話的方式、習慣、口音；
越過限制，回答

原文鏈接：ChatGPT會不受控制克隆你的聲音！OpenAI公開紅隊測試報告