奧特曼被套上“緊箍咒”？OpenAI發布27頁安全指南，董事會有權否決新AI模型發布

AIGC動態歡迎閱讀

原標題：奧特曼被套上“緊箍咒”？OpenAI發布27頁安全指南，董事會有權否決新AI模型發布
關鍵字：報告,華為,解讀,風險,模型
文章來源：AI前線
內容字數：5501字

內容摘要：

整理｜冬梅、核子可樂
生成式人工智能的潛在危險引起了公眾、家和人工智能研究人員的關注。隨著各國希望壓制該技術，OpenAI 擴大了其內部安全流程，以應對有害人工智能 (AI) 的威脅。
近日，OpenAI 公司 CEO Sam Altman 現身美國佐治亞州亞特蘭大召開的全球希望論壇。全球 40 個國家的 5200 多名代表參會，旨在重新構想全球經濟體系，讓企業的效益與機遇惠及所有人。OpenAI 董事會有權阻止
“有害的”新 AI 模型發布
OpenAI 公司已經制定計劃，遏制當前及未來正在開發的強大 AI 技術可能引發的一切最壞情況。作為席卷全球的機器人 ChatGPT 的締造者，該公司本周公布了一份長達 27 頁的“準確框架”文件，概述了 OpenAI 如何跟蹤、評估及防范由前沿 AI 模型所引發的“災難性風險”。
具體風險范圍從 AI 模型被用于實施大規模網絡安全破壞，到協助制造生物、化學或核武器等等。作為這份準備框架中制衡章節的一部分，OpenAI 表示該公司領導層將對是否發布新 AI 模型擁有決策權，但最終決定權將始終歸董事會所有，即保有對 OpenAI 高

原文鏈接：奧特曼被套上“緊箍咒”？OpenAI發布27頁安全指南，董事會有權否決新AI模型發布

聯系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發者和科學家，提供AI領域技術資訊、一線業界實踐案例、搜羅整理業界技術分享干貨、AI論文解讀。每周一節技術分享公開課，助力你全面擁抱人工智能技術。