AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：獨(dú)家｜OpenAI超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike：如何對(duì)齊難題？用可擴(kuò)展監(jiān)督

關(guān)鍵字：模型,人類,人工智能,系統(tǒng),問(wèn)題

文章來(lái)源：人工智能學(xué)家

內(nèi)容字?jǐn)?shù)：13971字

內(nèi)容摘要：來(lái)源：智源社區(qū)導(dǎo)讀今年早些時(shí)候，OpenAI宣布成立了一支專注于超級(jí)對(duì)齊的新團(tuán)隊(duì)，由Jan Leike和IIya Sutskever領(lǐng)導(dǎo)，超級(jí)對(duì)齊旨在構(gòu)建一個(gè)能夠與人類水平相媲美的自動(dòng)對(duì)齊研究器。其目標(biāo)是盡可能地將與對(duì)齊相關(guān)的工作交由自動(dòng)系統(tǒng)完成。其中一個(gè)重要手段就是可擴(kuò)展監(jiān)督（Scalable Oversight），即在確保模型能力超過(guò)人類水平后，仍舊能夠與人類期望保持一致、持續(xù)地進(jìn)行改進(jìn)和學(xué)習(xí)…

原文鏈接：點(diǎn)此閱讀原文：獨(dú)家｜OpenAI超級(jí)對(duì)齊負(fù)責(zé)人Jan Leike：如何對(duì)齊難題？用可擴(kuò)展監(jiān)督

聯(lián)系作者

文章來(lái)源：人工智能學(xué)家

作者微信：AItists

作者簡(jiǎn)介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機(jī)構(gòu)