AIGC動態歡迎閱讀

原標題：Ilya牽頭，OpenAI發布超級對齊項目：AI對齊AI，GPT-2能監督GPT-4

關鍵字：模型,人類,監督者,本文,人工智能

文章來源：Founder Park

內容字數：5833字

內容摘要：文章轉自公眾號「機器之心」。過去一年，以「預測下一個 Token」為本質的大模型已經橫掃人類世界的多項任務，展現了人工智能的巨大潛力。在近日的一次訪談中，OpenAI 首席科學家 Ilya Sutskever 大膽預言，如果模型能夠很好地預測下一個詞，那么意味著它能夠理解導致這個詞產生的深刻現實。這意味著，如果 AI 按照現有路徑發展下去，也許在不久的將來，一個超越人類的人工智能系統就會誕生。但更加令人擔心的是，「超級人工智能」可能會帶來一些意想不到的負面后果。這也是「對齊」的意義。此前的對齊方法依賴于人類的監督，如在 ChatGPT 訓練中起到關鍵作用的人類反饋的強化學習（RLHF）。但未來的人工智能系統或許能夠做出極其復雜和富有創造性的行為，使人類難以對其進行可靠的監督。例如，超人類模型可能會編寫出數百萬行新奇的、具有潛在危險的計算機代碼，即使是人類專家也很難理解這些代碼。一旦人工智能…

原文鏈接：點此閱讀原文：Ilya牽頭，OpenAI發布超級對齊項目：AI對齊AI，GPT-2能監督GPT-4

聯系作者

文章來源：Founder Park

作者微信：Founder-Park

作者簡介：來自極客公園，專注與科技創業者聊「真問題」。