AI學(xué)會隱藏思維暗中推理！不依賴人類經(jīng)驗解決復(fù)雜任務(wù)，更黑箱了

AIGC動態(tài)歡迎閱讀

原標題：AI學(xué)會隱藏思維暗中推理！不依賴人類經(jīng)驗解決復(fù)雜任務(wù)，更黑箱了
關(guān)鍵字：準確率,問題,任務(wù),數(shù)字,復(fù)雜度
文章來源：量子位
內(nèi)容字數(shù)：3950字

內(nèi)容摘要：

夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAIAI做數(shù)學(xué)題，真正的思考居然是暗中“心算”的？
紐約大學(xué)團隊新研究發(fā)現(xiàn)，即使不讓AI寫步驟，全用無意義的“……”代替，在一些復(fù)雜任務(wù)上的表現(xiàn)也能大幅提升！
一作Jacab Pfau表示：只要花費算力生成額外token就能帶來優(yōu)勢，具體選擇了什么token無關(guān)緊要。
舉例來說，讓Llama 34M回答一個簡單問題：自然常數(shù)e的前6位數(shù)字中，有幾個大于5的？
AI直接回答約等于瞎搗亂，只統(tǒng)計前6位數(shù)字居然統(tǒng)計出7個來。
讓AI把驗證每一數(shù)字的步驟寫出來，便可以得到正確答案。
讓AI把步驟隱藏，替換成大量的“……”，依然能得到正確答案！
這篇論文一經(jīng)發(fā)布便掀起大量討論，被評價為“我見過的最玄學(xué)的AI論文”。
那么，年輕人喜歡說更多的“嗯……”、“l(fā)ike……”等無意義口癖，難道也可以加強推理能力？
從“一步一步”想，到“一點一點”想實際上，紐約大學(xué)團隊的研究正是從思維鏈（Chain-of-Thought，CoT）出發(fā)的。
也就是那句著名提示詞“讓我們一步一步地想”（Let‘s think step by step）。
過去人們發(fā)現(xiàn)，使用CoT

原文鏈接：AI學(xué)會隱藏思維暗中推理！不依賴人類經(jīng)驗解決復(fù)雜任務(wù)，更黑箱了

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破