OpenAI組建「集體對齊」新團隊，確保AI模型與人類價值觀保持一致！

AIGC動態歡迎閱讀

原標題：OpenAI組建「集體對齊」新團隊，確保AI模型與人類價值觀保持一致！
關鍵字：政策,人工智能,團隊,鴻溝,價值觀
文章來源：夕小瑤科技說
內容字數：2940字

內容摘要：

夕小瑤科技說 原創作者 | 付奶茶OpenAI 最新宣布將成立一個“集體對齊”（Collective Alignment）的全新團隊！
這個團隊主要由研究人員和工程師組成，旨在專注于設計和實施收集公眾意見的流程，以協助訓練和調整AI模型的行為，從而解決潛在的偏見和其他問題。
眾所周知，為了安全考慮，AI要想真正進入到人類社會，一定要做好價值觀對齊。OpenAI 認為讓公眾參與進來非常重要，這是為了確保AI模型與人類價值觀保持一致的關鍵舉措。
十大人工智能項目早在 2023年5月，OpenAI 就宣布啟動“人工智能”（Democratic Inputs to AI grant program）計劃，并從近1000名申請者中挑選出了十大人工智能團隊，授予這些團隊總額達10萬美元的資金用于設計、開發用來讓公眾治理人工智能的的工具。
比如前5個團隊做的項目如下：
人工智能政策判例法： 創建一個全面的案例庫支持人工智能的交互場景。鼓勵專家和公眾的參與，塑造復雜情況下的人工智能行為。
政策制定的集體對話： 制定反映知情公眾意愿的政策，通過采用集體對話的方式來彌合人口鴻溝，確保政策的

原文鏈接：OpenAI組建「集體對齊」新團隊，確保AI模型與人類價值觀保持一致！

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。