OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發布

AIGC動態歡迎閱讀

原標題：OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發布
關鍵字：公告,風險,模型,董事會,團隊
文章來源：量子位
內容字數：3417字

內容摘要：

夢晨 發自 凹非寺量子位 | 公眾號 QbitAIOpenAI發布新公告：董事會現在有權否決奧特曼的決定。
特別是針對GPT-5等前沿模型安全風險是否過高，是否對外發布等關鍵問題。
作為上個月內訌的后果之一，總裁Greg Brockman與前首席科學家Ilya Sutskever已退出董事會，公司管理層無人再兼任董事會成員，兩種角色完全分離。
現在公司管理層做決策，董事會有權。
上一屆董事會指責奧特曼“溝通不誠懇”，并稱這是解雇他的主要原因。
這次專門成立了安全顧問團隊，每個月同時向公司管理層和董事會匯報，確保所有決策者充分了解情況。
除此之外，這份“前沿風險防范框架”還給OpenAI自己的技術開發設立了諸多限制。如針對不同種類的AI風險，必須確保模型安全得分達標后才能進入下一個開發階段。
有OpenAI員工表示：一般情況下不要相信公司說的“價值觀”，除非他們真的花高昂代價展開了行動。
而且是增加內部摩擦力、給競爭對手超車機會這種對自己沒有明顯好處的事。
但不少用戶依舊不買賬：以安全的名義，現在ChatGPT的表現就像個土豆。
隨公告發布的還有一個動態文檔，會不斷更新對風險的跟蹤、

原文鏈接：OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發布

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破