OpenAI對(duì)齊難題？超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike采訪實(shí)錄：「可擴(kuò)展監(jiān)督」是良策

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：OpenAI對(duì)齊難題？超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike采訪實(shí)錄：「可擴(kuò)展監(jiān)督」是良策

關(guān)鍵字：模型,人類,人工智能,系統(tǒng),問(wèn)題

文章來(lái)源：新智元

內(nèi)容字?jǐn)?shù)：13550字

內(nèi)容摘要：新智元報(bào)道來(lái)源：智源社區(qū)【新智元導(dǎo)讀】近期，OpenAI超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike講解了如何利用可擴(kuò)展監(jiān)督來(lái)解決對(duì)齊難題。今年早些時(shí)候，OpenAI宣布成立了一支專注于超級(jí)對(duì)齊的新團(tuán)隊(duì)，由Jan Leike和IIya Sutskever領(lǐng)導(dǎo)，超級(jí)對(duì)齊旨在構(gòu)建一個(gè)能夠與人類水平相媲美的自動(dòng)對(duì)齊研究器。其目標(biāo)是盡可能地將與對(duì)齊相關(guān)的工作交由自動(dòng)系統(tǒng)完成。其中一個(gè)重要手段就是可擴(kuò)展監(jiān)督（Scala…

原文鏈接：點(diǎn)此閱讀原文：OpenAI對(duì)齊難題？超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike采訪實(shí)錄：「可擴(kuò)展監(jiān)督」是良策

聯(lián)系作者

文章來(lái)源：新智元

作者微信：AI_era

作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。