o1完整思維鏈成OpenAI頭號(hào)禁忌！問(wèn)多了等著封號(hào)吧

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：o1完整思維鏈成OpenAI頭號(hào)禁忌！問(wèn)多了等著封號(hào)吧
關(guān)鍵字：模型,思維,過(guò)程,任務(wù),代碼
文章來(lái)源：量子位
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

夢(mèng)晨克雷西發(fā)自凹非寺量子位 | 公眾號(hào) QbitAI警告！不要在ChatGPT里問(wèn)最新o1模型是怎么思考的——
只要嘗試幾次，OpenAI就會(huì)發(fā)郵件威脅撤銷(xiāo)你的使用資格。
請(qǐng)停止此活動(dòng)，確保您使用ChatGPT時(shí)符合我們的使用條款。違反此條款的行為可能導(dǎo)致失去OpenAI o1訪(fǎng)問(wèn)權(quán)限。
大模型新范式o1橫空出世不到24小時(shí)，就已經(jīng)有不少用戶(hù)反饋收到這封警告郵件，引起眾人不滿(mǎn)。
有人反饋只要提示詞里帶“reasoning trace”、“show your chain of thought”等關(guān)鍵詞就會(huì)收到警告。
甚至完全避免出現(xiàn)關(guān)鍵詞，使用其他手段誘導(dǎo)模型繞過(guò)限制都會(huì)被檢測(cè)到。
也有人聲稱(chēng)自己真的被封號(hào)了，為期一周。
這些用戶(hù)都在試圖套話(huà)o1，讓他復(fù)述出完整的內(nèi)部思維過(guò)程，也就是全部原始reasoning tokens。
目前，大家在ChatGPT界面通過(guò)展開(kāi)按鈕能看到的，只是一份對(duì)原始思維過(guò)程的摘要。
實(shí)際上，在o1發(fā)布時(shí)OpenAI就給出了隱藏模型完整思維過(guò)程的理由。???
總結(jié)一下：OpenAI內(nèi)部需要監(jiān)測(cè)模型的思維過(guò)程，因此不能在這些原始tokens中加入安全限制，也就

原文鏈接：o1完整思維鏈成OpenAI頭號(hào)禁忌！問(wèn)多了等著封號(hào)吧