Ilya出走加劇OpenAI離職潮！RLHF作者Jan Leike同日辭職，超級對齊項目分崩離析

AIGC動態(tài)歡迎閱讀

原標(biāo)題：Ilya出走加劇OpenAI離職潮！RLHF作者Jan Leike同日辭職，超級對齊項目分崩離析
關(guān)鍵字：團(tuán)隊,模型,解釋性,量子,說法
文章來源：量子位
內(nèi)容字?jǐn)?shù)：3434字

內(nèi)容摘要：

夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAIIlya Sutskever宣布退出OpenAI，震動整個AI圈。
數(shù)小時后，RLHF發(fā)明者之一Jan Leike也追隨他的腳步一起離開，再次給OpenAI的前途蒙上了一層陰影。
兩人共同領(lǐng)導(dǎo)的超級對齊團(tuán)隊成立還不到一年，已經(jīng)分崩離析。
△他甚至不留下一句客套話
Jan Leike在GPT-4項目上與Ryan Lowe共同領(lǐng)導(dǎo)了對齊工作，而后者也已于3月底離開OpenAI。
所以說不止超級對齊團(tuán)隊，而是整個OpenAI安全研究方向的人才，都在持續(xù)動蕩中。
超級對齊成員之一William Saunders，以及參與過GPT-4對抗的Daniel Kokotajlo，此前兩人均已離開OpenAI。
其中Kokotajlo在Less Wrong論壇留下了自己的理由：
對OpenAI能否在AGI時代負(fù)責(zé)任的行動失去了信心。
按他的說法，當(dāng)前的AI監(jiān)管努力集中在“評估風(fēng)險和采取緩解措施”的組合上，這種組合很容易被大型公司鉆空子利用，最終導(dǎo)致“選擇性暫停”，也就是最需要被監(jiān)管的前沿大型AI實(shí)驗室反而沒被監(jiān)管到。
“幻滅了”，這是他用來形容辭職

原文鏈接：Ilya出走加劇OpenAI離職潮！RLHF作者Jan Leike同日辭職，超級對齊項目分崩離析

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破