AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：COLM 24 | 從正確中學(xué)習(xí)？大模型的自我糾正新視角
關(guān)鍵字：步驟,華為,模型,方法,分?jǐn)?shù)
文章來源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過去數(shù)年，機(jī)器之心AIxiv專欄接收?qǐng)?bào)道了2000多篇內(nèi)容，覆蓋全球各大高校與企業(yè)的頂級(jí)實(shí)驗(yàn)室，有效促進(jìn)了學(xué)術(shù)交流與傳播。如果您有優(yōu)秀的工作想要分享，歡迎投稿或者聯(lián)系報(bào)道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com本文作者來自香港城市大學(xué)和華為諾亞方舟實(shí)驗(yàn)室。其中，第一作者姚宇璇是香港城市大學(xué)計(jì)算機(jī)系的二年級(jí)博士生，研究方向涉及大模型的復(fù)雜推理和生成，師從宋林琦教授。吳涵，郭志江是華為諾亞方舟實(shí)驗(yàn)室研究員。
大型語(yǔ)言模型（LLMs）雖然進(jìn)展很快，很強(qiáng)大，但是它們?nèi)匀淮嬖跁?huì)產(chǎn)生幻覺、生成有害內(nèi)容和不遵守人類指令等問題。一種流行的解決方案就是基于【自我糾正】，大概就是看自己輸出的結(jié)果，自己反思一下有沒有錯(cuò)，如果有錯(cuò)就自己改正。目前自己糾正還是比較關(guān)注于讓大模型從錯(cuò)誤中進(jìn)行學(xué)習(xí)。更多相關(guān)內(nèi)容可以參考這篇 TACL 的 survey [1]。
但是呢，現(xiàn)有的很多自我糾正的方法依賴于復(fù)雜的 prompt engineering，人類反饋，或外部工具，但這些方法往往比較麻煩（試 p

原文鏈接：COLM 24 | 從正確中學(xué)習(xí)？大模型的自我糾正新視角

聯(lián)系作者

文章來源：機(jī)器之心
作者微信：
作者簡(jiǎn)介：