Nature頭條文章: 如果人工智能有了意識，我們該怎么辦？

一些研究人員擔心，如果人工智能系統(tǒng)有了意識，而人們忽視或它們，它們可能會遭受損失。圖片來源：Pol Cartie/Sipa/Alamy人工智能 (AI) 的快速發(fā)展帶來了曾經(jīng)只存在于科幻小說中的倫理問題：例如，如果人工智能系統(tǒng)有一天能夠像人類一樣“思考”，那么它們是否也能像人類一樣擁有主觀體驗？它們會感受到痛苦嗎？如果會，人類是否有能力妥善照顧它們？一群哲學家和計算機科學家認為，應(yīng)該認真對待人工智能的福利。在上個月發(fā)表在預印本服務(wù)器 arXiv 1上的一份報告中，在同行評審之前，他們呼吁人工智能公司不僅要評估其系統(tǒng)是否存在意識和自主決策能力，還要制定政策，以便在這些情況成為現(xiàn)實時如何對待這些系統(tǒng)。如果人工智能有了意識：研究人員將如何知道他們指出，如果人們沒有意識到人工智能系統(tǒng)已經(jīng)具備意識，那么他們可能會忽視它、傷害它或者讓它遭受痛苦。一些人認為，在現(xiàn)階段，認為需要人工智能福利的想法是可笑的。其他人則持懷疑態(tài)度，但表示開始規(guī)劃也無妨。英國布萊頓薩塞克斯大學的意識研究員阿尼爾·塞斯就是其中之一。他去年在科學雜志《鸚鵡螺》上寫道：“這些場景可能看起來很離譜，有意識的人工智能可能還很遙遠，甚至可能根本不可能出現(xiàn)。但它出現(xiàn)的影響足夠深遠，我們不能忽視這種可能性。”“問題不在于弗蘭肯斯坦的生物活了過來；而在于它有意識，能感知。”英國牛津的數(shù)學家喬納森·梅森 (Jonathan Mason) 表示，隨著我們越來越依賴這些技術(shù)，風險也越來越大。梅森沒有參與撰寫這份報告。梅森認為，開發(fā)評估人工智能系統(tǒng)意識的方法應(yīng)該是當務(wù)之急。“讓社會在某件事上投入如此多，并如此依賴我們知之甚少的東西，這是不明智的——我們甚至沒有意識到它有感知能力，”他說。紐約大學哲學家、該報告的合著者杰夫·塞博表示，如果人工智能系統(tǒng)沒有經(jīng)過適當?shù)囊庾R測試，人類也可能會受到傷害。他說，如果我們錯誤地認為一個系統(tǒng)有意識，福利資金可能會被用于照顧它，從而從需要它的人或動物身上奪走，或者“這可能會導致你限制使人工智能對人類安全或有益的努力”。轉(zhuǎn)折點？該報告認為，人工智能福利正處于“過渡時期”。報告作者之一凱爾·菲什 (Kyle Fish) 最近被總部位于加利福尼亞州舊金山的人工智能公司 Anthropic 聘為人工智能福利研究員。報告作者表示，這是頂級人工智能公司首次設(shè)立此類職位。Anthropic 還幫助資助了導致該報告的初步研究。“轉(zhuǎn)變正在發(fā)生，因為現(xiàn)在領(lǐng)先的人工智能公司中的一些人開始認真對待人工智能意識、代理和道德意義，”塞博說。人工智能距離人類水平的智能還有多遠？《自然》聯(lián)系了四家領(lǐng)先的人工智能公司，詢問它們對人工智能福利的計劃。三家公司——Anthropic、谷歌和微軟——拒絕發(fā)表評論，同樣位于舊金山的 OpenAI 也沒有回應(yīng)。一些人尚未確信人工智能意識應(yīng)該成為優(yōu)先事項。今年 9 月，聯(lián)合國人工智能高級咨詢機構(gòu)發(fā)布了一份關(guān)于世界應(yīng)如何治理人工智能技術(shù)的報告。盡管一群科學家呼吁該機構(gòu)支持評估機器意識的研究，但該文件并未涉及人工智能意識這一主題。梅森說：“這說明向更廣泛的社區(qū)傳達這個問題存在著更深層次的挑戰(zhàn)或困難。”在不確定性下運營Sebo 表示，盡管目前尚不清楚人工智能系統(tǒng)是否會實現(xiàn)意識（即使是人類 和動物也難以評估這種狀態(tài)），但不確定性不應(yīng)阻礙制定評估情況的協(xié)議的努力。作為初步措施，一組科學家去年發(fā)布了一份標準清單，這些標準可能有助于識別出有意識的可能性較高的系統(tǒng)。“即使是不完善的初始框架，也比現(xiàn)狀要好，”Sebo 說。然而，最新報告的作者表示，關(guān)于人工智能福利的討論不應(yīng)以犧牲其他重要問題為代價，例如確保人工智能開發(fā)對人類安全。“你可以致力于讓人工智能系統(tǒng)對所有人都安全有益，”作者在報告中說。“包括人類、動物，以及——如果時機成熟——人工智能系統(tǒng)。”https://www.nature.com/articles/d41586-024-04023-8閱讀報告全文，請訪問歐米伽研究所的“未來知識庫”https://wx.zsxq.com/group/454854145828未來知識庫是“歐米伽未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟、人類風險等等領(lǐng)域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。截止到11月25日 ”未來知識庫”精選的100部前沿科技趨勢報告Air Street Capital《2024 年人工智能現(xiàn)狀報告》未來今日研究所：2024 技術(shù)趨勢報告 – 廣義計算篇科睿唯安中國科學院 2024 研究前沿熱度指數(shù)報告文本到圖像合成：十年回顧《以人為中心的大型語言模型（LLM）研究綜述》經(jīng)合組織 2024 年數(shù)字經(jīng)濟展望報告加強連通性創(chuàng)新與信任第二版波士頓咨詢 2024 全球經(jīng)濟體 AI 成熟度矩陣報告理解世界還是預測未來？世界模型的綜合綜述Google Cloud CSA2024 AI 與安全狀況調(diào)研報告英國制造商組織 MakeUK2024 英國工業(yè)戰(zhàn)略愿景報告從概念到實施花旗銀行 CitiGPS2024 自然環(huán)境可持續(xù)發(fā)展新前沿研究報告國際原子能機構(gòu) 2024 聚變關(guān)鍵要素報告 – 聚變能發(fā)展的共同愿景國際可再生能源署 IRENA2024 年全球氣候行動報告Cell: 物理學和化學 、人工智能知識領(lǐng)域的融合智次方 2025 中國 5G 產(chǎn)業(yè)全景圖譜報告未來今日研究所：2024 技術(shù)趨勢報告 – 移動性，機器人與無人機篇Deepmind：AI 加速科學創(chuàng)新發(fā)現(xiàn)的黃金時代報告PitchBookNVCA2024 年第三季度全球風險投資監(jiān)測報告德科 2024 年未來全球勞動力報告高工咨詢 2024 年協(xié)作機器人產(chǎn)業(yè)發(fā)展藍皮書國際能源署 IEA2024 年全球能源效率報告基因慧基因行業(yè)藍皮書 2024 – 2025普華永道 PwC2024 全球經(jīng)濟犯罪調(diào)查英國報告 – 智對風險直面挑戰(zhàn)中國互聯(lián)網(wǎng)協(xié)會 2024 面向未來網(wǎng)絡(luò)的數(shù)字孿生城市場景應(yīng)用白皮書中移智庫 2024 先進感知新技術(shù)及新應(yīng)用白皮書智次方研究院 2025 中國 AIoT 產(chǎn)業(yè)全景圖譜報告未來今日研究所：2024 技術(shù)趨勢報告 – 人工智能篇國際電聯(lián)：邁向衡量數(shù)字經(jīng)濟的通用框架的路線圖聯(lián)合國糧食與農(nóng)業(yè)組織：2024 年世界糧食安全和營養(yǎng)狀況大語言模型綜述李飛飛等，AI 智能體：探索多模式交互的前景綜述哈爾濱工業(yè)大學 – ChatGPT 調(diào)研報告2024《美國核部署戰(zhàn)略報告》最新文件清華大學：AIGC 發(fā)展研究 3.0 發(fā)布版 b 版OpenAI：2024 年 OpenAI o1 大模型技術(shù)報告Verizon2024 年世界支付安全報告皇家學會哲學學報 從復雜系統(tǒng)角度評估人工智能風險復旦大學 大模型 AI 代理的興起和潛力：綜述經(jīng)合組織 OECD2024 年氣候行動監(jiān)測報告Wevolver2024 年邊緣人工智能現(xiàn)狀報告 – 探索各行業(yè)邊緣 AI 應(yīng)用動態(tài)2024 全球人形機器人產(chǎn)品數(shù)據(jù)庫報告 – 人形機器人洞察研究 BTIResearch《全球金融穩(wěn)定報告》 把舵定航 不確定性、人工智能與金融穩(wěn)定瑞士洛桑聯(lián)邦理工學院 《人工智能中的 – 創(chuàng)造力：進展與挑戰(zhàn)》《你所需要知道的理 – 論：人工智能、人類認知與決策》牛津大學最新 53 頁報告世界經(jīng)濟論壇 新興技術(shù)時代的網(wǎng)絡(luò)彈性導航：應(yīng)對復雜挑戰(zhàn)的協(xié)作解決方案 2024ADL 理特咨詢 2024 汽車出行未來展望報告2024 中國硬科技創(chuàng)新發(fā)展白皮書 – 開辟未來產(chǎn)業(yè)新賽道科學時代的大語言模型中的人工智能Gartner2025 年重要戰(zhàn)略技術(shù)趨勢報告CBInsights2024 年第三季度全球人工智能投融資狀況報告TrendHunter2025 年全球趨勢報告 – 全行業(yè)頂級創(chuàng)新和變革趨勢前瞻天津大學 2024 大模型輕量化技術(shù)研究報告歐洲海洋局 2024 導航未來報告將海洋置于更廣泛的地球系統(tǒng)中第六版美國安全與新興技術(shù)中心 2024 AI 生成代碼的網(wǎng)絡(luò)安全風險研究報告國際原子能機構(gòu) 2024 年世界聚變展望報告復旦大學 2024 大語言模型的能力邊界與發(fā)展思考報告安盛 AXA2024 年氣候與生物多樣性報告氣候過渡計劃路線圖YouGov2024 美國公眾對人工智能 AI 的態(tài)度調(diào)研報告麥肯錫中國報告：《中國與世界》完整版麥肯錫全球研究所 2024 下一代競技場報告 – 重塑全球經(jīng)濟的 18 個新興行業(yè)領(lǐng)域Project Sid，一個旨在模擬多智能體交互以研究 AI 文明的項目德國研究與創(chuàng)新專家委員會 德國研究創(chuàng)新與科技成果報告2024 年歐洲關(guān)鍵產(chǎn)業(yè)的科技重塑研究報告智能體專題報告之二 – 智能體時代來臨具身智能有望成為最佳載體ActivateConsulting 2025 年頂級技術(shù)和媒體發(fā)展趨勢報告蘭德 全球災難風險評估斯坦福李飛飛 《AI agent 綜述》Agent AI 開啟多模態(tài)交互新紀元中國聯(lián)通研究院 2024 中國生成式人工智能應(yīng)用與實踐展望白皮書中文版普華永道 2024 第五次工業(yè)研究報告邁向彈性可持續(xù)和以人為本的未來大成 Dentsons2024 年全球智慧城市與互聯(lián)社區(qū)智庫年度報告TechUK2024 量子技術(shù)挑戰(zhàn)與機遇并存構(gòu)筑量子韌性的策略與實踐研究報告Emakina 將塑造 2024 年的技術(shù)趨勢報告圖靈獎得主 Yann LeCun《機器如何才能達到人類智能水平？》——Yann LeCun， 附 Slides 及視頻華為：2024 鴻蒙生態(tài)應(yīng)用開發(fā)白皮書 V3.0（最新版）CASA：2023 第三代半導體產(chǎn)業(yè)發(fā)展報告大型視覺語言模型中幻覺現(xiàn)象的綜述IEA PVPS：2024 光伏應(yīng)用趨勢報告（英文版）ABI Research：82 個將會或不會在 2024 年發(fā)生的技術(shù)趨勢白皮書《美國反無人機系統(tǒng)未來趨勢報告（2024 – 2029 年）》《軍事自主系統(tǒng)：未來之路》美空間智能如何？牛津大學博士論文《深度具身智能體的空間推理與規(guī)劃》2024 低空經(jīng)濟場景白皮書 v1.0戰(zhàn)略與國際研究中心（CSIS）人類地月空間探索的總體狀況研究報告（2024）Artificial Intelligence Review：人工智能與物理學相遇的綜述麥肯錫：全球難題，應(yīng)對能源轉(zhuǎn)型的現(xiàn)實問題歐米伽理論，智能科學視野下的萬物理論新探索（研究論文）Gartner 2025 年主要戰(zhàn)略技術(shù)趨勢研究報告2024 人工智能國外大模型使用手冊 + 中文大模型使用手冊詳解光刻巨人 ASML 成功之奧妙 – 241015CB Insights：未來變革者：2025 年九大科技趨勢研究報告國際電信聯(lián)盟 2023 – 2024 年聯(lián)合國人工智能 AI 活動報告《人工智能能力的人類系統(tǒng)集成測試和評估》最新 51 頁，美國防部首席數(shù)字和人工智能辦公室（CDAO）2024 瑞典皇家科學院諾貝爾化學獎官方成果介紹報告MHP 2024 全球工業(yè) 4.0 晴雨表白皮書世界經(jīng)濟論壇白皮書《AI 價值洞察：引導人工智能實現(xiàn)人類共同目標》瑞典皇家科學院諾貝爾物理學獎科學背景報告資料AI 智能體的崛起：整合人工智能、區(qū)塊鏈技術(shù)與量子計算 (研究報告，書）OpenAI o1 評估：AGI 的機遇和挑戰(zhàn)（280 頁）世界知識產(chǎn)權(quán)組織：2024 年全球創(chuàng)新指數(shù)美國白宮：國家近地天體防御策略與行動計劃上下滑動查看更多