朱松純：大模型為什么不是AGI？

原標題：朱松純：大模型為什么不是AGI？
文章來源：人工智能學家
內容字數：16669字

朱松純教授新書《為機器立心》解讀：大模型的局限與通用人工智能的未來

本文根據知識分子雜志刊登的朱松純教授新書《為機器立心》第一章內容，總結了當前大模型技術的局限性，并探討了通用人工智能（AGI）的未來發展方向。

1. 大模型：缸中之腦的隱喻

朱松純教授以哲學思想實驗“缸中之腦”來比喻當前的大模型。大模型通過統計建模學習文本間的語言學關系，預測下一個詞語，卻缺乏與真實世界的實質性聯結（符號落地）。這導致大模型容易陷入無限循環，其“智能”實則源于人類智能的投射，而非內在的理解。 如同“無色的綠思狂暴地沉睡”一樣，大模型生成的文本缺乏內在意義，其意義完全依賴人類的闡釋。

2. 隱藏記憶而非真正理解

文章指出，大模型訓練數據的不透明性以及評估指標的差異，導致人們高估了其真實性能。大模型可能只是在“隱藏記憶”中檢索信息，而非真正掌握核心概念。文中列舉了 GPT-4 在簡單數學計算、事實判斷和創造力測試中的錯誤，說明其缺乏基本的邏輯推理和常識判斷能力，更像是一種新型的“數據庫”。

3. 數據瓶頸與AGI的挑戰

文章認為，大模型的數據價值已趨于飽和，單純增加數據量或模型規模難以帶來質的飛躍。楊立昆等學者也指出，現有的大模型研究缺乏對認知推理模型的構建，單純的數據驅動無法實現人類級別的智能。大模型存在虛假涌現和不可控性等問題，其語言空間也無法覆蓋所有智能任務。 大模型缺乏“行”（行動能力），無法主動探索和積累知識，只能被動地獲取信息。

4. 通往AGI的“1238”路線圖

書中提出的“1238”路線圖，為通用人工智能的研究提供了系統性思路：一個統一框架、兩大系統完備性、三項基本特征、八大關鍵問題。 這暗示著，通往AGI的道路需要更深入地理解智能的本質，構建更完備的認知架構，解決符號落地等關鍵問題。

5. 朱松純團隊的研究成果

文章簡要介紹了朱松純團隊的四大研究成果：通用智能體“通通”、大任務仿真平臺“通界”、評級標準“通智測試”、科研平臺“通境”，這些成果旨在推動AGI研究和產業應用。

總而言之，文章強調了當前大模型的局限性，認為它們并非通用人工智能，并呼吁學術界和產業界共同努力，探索更符合人類智能本質的AGI發展道路，最終實現“為機器立心”。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構