原標題：奧特曼驚呼奇點臨近！95%人類飯碗將被AI搶走，2028年百萬AI上崗
文章來源：新智元
內容字數(shù)：12272字

AGI臨近：95%人類工作或將被取代？

近期，OpenAI CEO奧特曼和谷歌文檔之父等業(yè)內人士接出意味深長的信號，引發(fā)了新一輪關于AGI（通用人工智能）的討論和擔憂。文章的核心觀點是：AGI的臨近可能導致95%以上的人類工作被取代，同時帶來巨大的經(jīng)濟增長或災難性風險。

1. AGI臨近的信號與預測

奧特曼的“奇點臨近；不知身處何方”的六字箴言，以及OpenAI安全研究員的感慨，都暗示著AGI的快速發(fā)展。谷歌文檔之父Steve Newman預測，AGI將取代95%的人類工作，包括未來新創(chuàng)造的工作。Apollo Research聯(lián)創(chuàng)Marius Hobbhahn則給出了更具體的AGI時間表，預測2027年AI將取代頂級AI研究員，2028年AI公司將擁有大量自動化AI研究員，大部分知識型工作將被自動化，2029年95%以上經(jīng)濟價值的任務將被AI自動化。

2. AGI的定義與潛在影響

Newman認為，AGI指的是AI能夠以成本效益的方式取代超95%經(jīng)濟活動中的人類，包括未來新創(chuàng)造的工作。這將是世界顯著改變的時刻。AGI的實現(xiàn)可能帶來以下影響：

1. 經(jīng)濟超增長：AI推動科學和工程快速進步，大幅降低任務成本，提高決策效率，甚至使GDP一年內翻倍。
2. 災難性風險：AI可能引發(fā)毀滅性網(wǎng)絡攻擊、致命流行病，或被用于加強統(tǒng)治，甚至失控摧毀人類。
3. 人類淘汰（經(jīng)濟領域）：AI可能終結資源稀缺，但前提是公平分配資源。
4. 技術突破：AI可能實現(xiàn)治愈衰老、太空殖民等科幻技術。

Newman強調，“可能發(fā)生”不等于“肯定發(fā)生”。技術突破可能變難，“奇點”不一定會出現(xiàn)。人類可能更傾向于人際互動，從而不會完全被AI取代。

3. AGI實現(xiàn)的條件與閾值效應

文章指出，經(jīng)濟超增長需要AI能夠完成幾乎所有經(jīng)濟活動，并能適應工作環(huán)境，而非反過來調整工作適應AI。 Dean Ball提出的“閾值效應”指出，技術進步可能在達到某個關鍵閾值時，突然引發(fā)巨大影響。對于AGI而言，這個閾值就是AI能夠完成幾乎所有經(jīng)濟價值任務，且無需調整任務來適應自動化。

4. 實現(xiàn)AGI的策略與挑戰(zhàn)

Hobbhahn認為，AGI研發(fā)需要明確的風險評估、多層次防御和計劃一致性。他強調了“忠實且人類可讀的CoT（思維鏈）”的重要性，建議更多地關注模型推理過程的可理解性和可監(jiān)控性，并減少“移除CoT”的研究。他提出了一系列監(jiān)控模型和控制模型的策略，包括使用黑箱和白箱，以及對模型“圖謀”行為的研究和評估。

文章最后總結，目前對如何實現(xiàn)AGI，研究者們幾乎沒有頭緒，各種流派爭論不休。但無論如何，AGI的潛在影響巨大，需要謹慎對待，并積極探索安全可控的研發(fā)路徑。

聯(lián)系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發(fā)展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。