OpenAI新模型：別問完整思維鏈，可能會(huì)被封號(hào)

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：OpenAI新模型：別問完整思維鏈，可能會(huì)被封號(hào)
關(guān)鍵字：模型,思維,用戶,任務(wù),過程
文章來源：Founder Park
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

警告！不要在 ChatGPT 里問最新 o1 模型是怎么思考的——
只要嘗試幾次，OpenAI 就會(huì)發(fā)郵件威脅撤銷你的使用資格。
請(qǐng)停止此活動(dòng)，確保您使用 ChatGPT 時(shí)符合我們的使用條款。違反此條款的行為可能導(dǎo)致失去 OpenAI o1 訪問權(quán)限。
大模型新范式 o1 橫空出世不到 24 小時(shí)，就已經(jīng)有不少用戶反饋收到這封警告郵件，引起眾人不滿。
有人反饋只要提示詞里帶「reasoning trace」、「show your chain of thought」等關(guān)鍵詞就會(huì)收到警告。
甚至完全避免出現(xiàn)關(guān)鍵詞，使用其他手段誘導(dǎo)模型繞過限制都會(huì)被檢測(cè)到。
也有人聲稱自己真的被封號(hào)了，為期一周。
這些用戶都在試圖套話 o1，讓他復(fù)述出完整的內(nèi)部思維過程，也就是全部原始 reasoning tokens。
目前，大家在 ChatGPT 界面通過展開按鈕能看到的，只是一份對(duì)原始思維過程的摘要。點(diǎn)擊關(guān)注，每天更新深度 AI 行業(yè)洞察
01OpenAI 越來越不 Open 了實(shí)際上，在 o1 發(fā)布時(shí) OpenAI 就給出了隱藏模型完整思維過程的理由。
總結(jié)一下：OpenAI 內(nèi)部需要監(jiān)測(cè)模型的思

原文鏈接：OpenAI新模型：別問完整思維鏈，可能會(huì)被封號(hào)

聯(lián)系作者

文章來源：Founder Park
作者微信：
作者簡(jiǎn)介：