AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：OpenAI 的超級(jí)對(duì)齊團(tuán)隊(duì)在做什么
關(guān)鍵字：公告,解讀,模型,人類,團(tuán)隊(duì)
文章來(lái)源：AI前線
內(nèi)容字?jǐn)?shù)：5031字

內(nèi)容摘要：

作者 | Jan Leike、John Schulman、Jeffrey Wu 譯者 | 王強(qiáng) 策劃 | 褚杏娟 這家公司想要預(yù)防一種超級(jí)智能體走向失控，而這就是他們邁出的第一步。
OpenAI 不久前宣布了該公司超級(jí)對(duì)齊團(tuán)隊(duì)的第一項(xiàng)成果。這個(gè)團(tuán)隊(duì)是該公司的一項(xiàng)內(nèi)部計(jì)劃的產(chǎn)物，致力于預(yù)防一種超級(jí)智能體（一種假象的未來(lái)計(jì)算機(jī)，可以比人類更聰明）走向失控。
與該公司的許多公告不同的是，這次的公告并沒(méi)有包含什么重大突破。在一篇低調(diào)的研究論文中，該團(tuán)隊(duì)描述了一種技術(shù)，可以讓一個(gè)水平較低的大型語(yǔ)言模型監(jiān)督一個(gè)能力更強(qiáng)大的語(yǔ)言模型，論文聲稱這可能是向著“弄清楚人類如何監(jiān)督超人類水平的機(jī)器”這一目標(biāo)邁出的一小步。
此前 OpenAI 陷入了危機(jī)，首席執(zhí)行官 Sam Altman 被監(jiān)督委員會(huì)解雇（這顯然是由首席科學(xué)家 Ilya Sutskever 領(lǐng)導(dǎo)的），三天后他又重新上任。這次的公告距離這樁不到一個(gè)月，而它傳達(dá)的信息很明確：公司又回到了正軌，一切如常。
然而 OpenAI 的業(yè)務(wù)并不尋常。許多研究人員仍然質(zhì)疑機(jī)器是否能夠媲美人類的智能水平，更不用說(shuō)超越人類智能了，但 OpenAI 團(tuán)隊(duì)

原文鏈接：OpenAI 的超級(jí)對(duì)齊團(tuán)隊(duì)在做什么

聯(lián)系作者

文章來(lái)源：AI前線
作者微信：ai-front
作者簡(jiǎn)介：面向AI愛(ài)好者、開(kāi)發(fā)者和科學(xué)家，提供AI領(lǐng)域技術(shù)資訊、一線業(yè)界實(shí)踐案例、搜羅整理業(yè)界技術(shù)分享干貨、AI論文解讀。每周一節(jié)技術(shù)分享公開(kāi)課，助力你全面擁抱人工智能技術(shù)。