OpenAI官宣全新安全團隊：模型危險分四級，董事會有權決定是否發布

AIGC動態歡迎閱讀

原標題：OpenAI官宣全新安全團隊：模型危險分四級，董事會有權決定是否發布
關鍵字：政策,報告,模型,風險,框架
文章來源：新智元
內容字數：6571字

內容摘要：

新智元報道編輯：alan Aeneas
【新智元導讀】今天，OpenAI隆重推出了自己的「準備」安全團隊，將模型危險等級分為四等，并且董事會有權決定是否發布。今天，OpenAI多條，隆重宣布了自己的「準備框架」（Preparedness Framework）。
在經歷了各種大大小小的之后，OpenAI終于把人工智能的安全問題擺到了臺面上。
這套框架的目的，就是監控和管理越來越強的大模型。
防止哪天我們一不留神進入了「黑客帝國」。
我們正在通過準備框架系統化自己的安全思維，這是一份動態文件（目前處于測試階段），詳細說明了我們正在采用的技術和運營投資，以指導前沿模型開發的安全性。
準備團隊將推動技術工作，突破尖端模型的極限，不斷跟蹤模型風險。
新的安全基線和治理流程；跨職能的安全咨詢小組
規定模型能夠被部署或者開發的條件；增加與模型風險相稱的安全保護。
眾所周知，之前Altman被董事會炒掉的一個，就是大模型的安全問題。
在必要的時候，公司發展中的這個隱患必須得到解決。
從技術和治理的角度來說，面對當前的人工智能，人類確實要盡早考慮未來發展中的風險。
OpenAI的核心

原文鏈接：OpenAI官宣全新安全團隊：模型危險分四級，董事會有權決定是否發布

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。