Ilya牽頭,OpenAI發布超級對齊項目:AI對齊AI,GPT-2能監督GPT-4

AIGC動態歡迎閱讀
原標題:Ilya牽頭,OpenAI發布超級對齊項目:AI對齊AI,GPT-2能監督GPT-4
文章來源:Founder Park
內容字數:5833字
內容摘要:文章轉自公眾號「機器之心」。過去一年,以「預測下一個 Token」為本質的大模型已經橫掃人類世界的多項任務,展現了人工智能的巨大潛力。在近日的一次訪談中,OpenAI 首席科學家 Ilya Sutskever 大膽預言,如果模型能夠很好地預測下一個詞,那么意味著它能夠理解導致這個詞產生的深刻現實。這意味著,如果 AI 按照現有路徑發展下去,也許在不久的將來,一個超越人類的人工智能系統就會誕生。但更加令人擔心的是,「超級人工智能」可能會帶來一些意想不到的負面后果。這也是「對齊」的意義。此前的對齊方法依賴于人類的監督,如在 ChatGPT 訓練中起到關鍵作用的人類反饋的強化學習(RLHF)。但未來的人工智能系統或許能夠做出極其復雜和富有創造性的行為,使人類難以對其進行可靠的監督。例如,超人類模型可能會編寫出數百萬行新奇的、具有潛在危險的計算機代碼,即使是人類專家也很難理解這些代碼。一旦人工智能…
原文鏈接:點此閱讀原文:Ilya牽頭,OpenAI發布超級對齊項目:AI對齊AI,GPT-2能監督GPT-4
聯系作者
文章來源:Founder Park
作者微信:Founder-Park
作者簡介:來自極客公園,專注與科技創業者聊「真問題」。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...

粵公網安備 44011502001135號