OpenAI最強競品訓練AI拆解LLM黑箱，意外窺見大模型「靈魂」

AIGC動態歡迎閱讀

原標題：OpenAI最強競品訓練AI拆解LLM黑箱，意外窺見大模型「靈魂」

關鍵字：神經元,特征,報告,解釋性,模型

文章來源：新智元

內容字數：4932字

內容摘要：新智元報道編輯：潤【新智元導讀】Anthropic的模型可解釋性團隊，從大模型中看到了它的「靈魂」——一個可解釋的更高級的模型。為了拆開大模型的「黑箱」，Anthropic可解釋性團隊發表了一篇論文，講述了他們通過訓練一個新的模型去理解一個簡單的模型的方法。Anthropic發表的一項研究聲稱能夠看到了人工智能的靈魂。它看起來像這樣：論文地址：https://transformer-circuits.pub/2023/monosemantic-features/index.html#phenomenology-fsa在研究者看來，這個新的模型能準確地預測和理解原本模型中神經元的工作原理和組成機制。Anthropic的可解釋性團隊最近宣布他們成功分解了一個模擬AI系統中的抽象高維特征空間。創建一個可解釋的AI去理解「AI黑盒」研究人員首先訓練了一個非常簡單的512神經元AI來預測文本，然后訓…

原文鏈接：點此閱讀原文：OpenAI最強競品訓練AI拆解LLM黑箱，意外窺見大模型「靈魂」

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。