獨家｜OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

AIGC動態歡迎閱讀

原標題：獨家｜OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

關鍵字：模型,人類,人工智能,系統,問題

文章來源：人工智能學家

內容字數：13971字

內容摘要：來源：智源社區導讀今年早些時候，OpenAI宣布成立了一支專注于超級對齊的新團隊，由Jan Leike和IIya Sutskever領導，超級對齊旨在構建一個能夠與人類水平相媲美的自動對齊研究器。其目標是盡可能地將與對齊相關的工作交由自動系統完成。其中一個重要手段就是可擴展監督（Scalable Oversight），即在確保模型能力超過人類水平后，仍舊能夠與人類期望保持一致、持續地進行改進和學習…

原文鏈接：點此閱讀原文：獨家｜OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

聯系作者

文章來源：人工智能學家

作者微信：AItists

作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構