2024諾獎(jiǎng)?lì)C獎(jiǎng)現(xiàn)場(chǎng),AI之父Hinton演講:當(dāng)AI已經(jīng)開(kāi)始理解人類(lèi)的喜好和情緒(附視頻)
來(lái)源:圖靈人工智能2024年12月8日,諾貝爾物理學(xué)獎(jiǎng)首次授予了人工智能領(lǐng)域的科學(xué)家,John Hopfield和Geoffrey Hinton因其在神經(jīng)網(wǎng)絡(luò)領(lǐng)域的開(kāi)創(chuàng)性貢獻(xiàn)獲此殊榮。在瑞典斯德哥爾摩的頒獎(jiǎng)典禮上,被稱(chēng)為”人工智能之父”的Hinton講述了一個(gè)引人深思的話題:人工智能如何逐漸學(xué)會(huì)理解人類(lèi)。”為什么打開(kāi)短視頻,推薦的內(nèi)容總是那么對(duì)你胃口?為什么購(gòu)物平臺(tái)總能準(zhǔn)確預(yù)測(cè)你的購(gòu)物偏好?”這些日常生活中的現(xiàn)象,揭示了人工智能已經(jīng)開(kāi)始像人類(lèi)大腦一樣思考和理解。正如諾貝爾評(píng)審委員會(huì)所說(shuō):”神經(jīng)網(wǎng)絡(luò)理論讓機(jī)器開(kāi)始像人類(lèi)一樣思考,這將徹底改變?nèi)祟?lèi)社會(huì)的未來(lái)。在演講中,Hinton教授用通俗語(yǔ)言解釋人工智能如何”思考”的過(guò)程。如果說(shuō):”當(dāng)我們看到一支插在水中的鉛筆,它看起來(lái)是彎的,但我們的大腦知道它是直的。這種理解能力,正是我們希望賦予人工智能的。” 他同時(shí)表示:”AI可能是繼人類(lèi)掌握火種后最重要的發(fā)明,它能幫助我們解決從疾病治療到氣候變化等重大挑戰(zhàn)。考慮很多讀者可能對(duì)專(zhuān)業(yè)術(shù)語(yǔ)感到陌生,讓我們用一個(gè)生活中常見(jiàn)的例子來(lái)理解Hinton的理論:想象你在尋找回家的路線,可能有多條路可以選擇。有些路看起來(lái)很近但可能會(huì)遇到堵車(chē),有些路繞遠(yuǎn)一點(diǎn)但最終能更快到家。神經(jīng)網(wǎng)絡(luò)的工作方式也很像這個(gè)過(guò)程,它會(huì)不斷嘗試找到最好的”解釋”,就像我們?cè)谡易罴崖肪€一樣。讓我們通過(guò)下面的圖示來(lái)直觀理解:演講文稿注:本次演講中專(zhuān)業(yè)術(shù)語(yǔ)比較多今天,我將做一件非常冒險(xiǎn)的事情,我將嘗試向普通觀眾解釋一個(gè)復(fù)雜的技術(shù)概念,而且不會(huì)使用任何公式。首先,我需要介紹 Hopfield 網(wǎng)絡(luò),我將以一種二元神經(jīng)元的版本來(lái)解釋?zhuān)鼈兊臓顟B(tài)是 1 或 0。1、Hopfield 網(wǎng)絡(luò)這些網(wǎng)絡(luò)會(huì)趨向于能量的最低點(diǎn)(energy minima)。Hopfield 網(wǎng)絡(luò)的核心是,每個(gè)神經(jīng)元可以局部計(jì)算自己需要采取的動(dòng)作來(lái)降低能量,也就是降低“壞度”(badness)。如果來(lái)自其他激活神經(jīng)元的總加權(quán)輸入是正的,該神經(jīng)元應(yīng)該打開(kāi)(激活);如果是負(fù)的,則應(yīng)該關(guān)閉(不激活)。如果每個(gè)神經(jīng)元按照這個(gè)規(guī)則行動(dòng),并且我們隨機(jī)選擇神經(jīng)元持續(xù)應(yīng)用這一規(guī)則,那么網(wǎng)絡(luò)最終會(huì)穩(wěn)定在一個(gè)能量最低點(diǎn)。圖中配置實(shí)際上是一個(gè)能量最低點(diǎn),它的能量是 -4。如果查看其中的任何一個(gè)神經(jīng)元,已經(jīng)激活的神經(jīng)元會(huì)繼續(xù)保持激活,因?yàn)樗鼈兘邮盏降氖强偟恼斎耄晃醇せ畹纳窠?jīng)元會(huì)保持未激活狀態(tài),因?yàn)樗鼈兘邮盏降氖强偟呢?fù)輸入。然而,這并不是唯一的能量最低點(diǎn)。一個(gè) Hopfield 網(wǎng)絡(luò)可以有多個(gè)能量最低點(diǎn),網(wǎng)絡(luò)的最終狀態(tài)取決于初始配置以及隨機(jī)選擇神經(jīng)元更新的順序。現(xiàn)在我們看到另一個(gè)更好的能量最低點(diǎn):三角形單元被激活了,這個(gè)配置的良度是3+3?1=5,所以能量是 -5,這是一個(gè)更好的最低點(diǎn)。Hopfield 提議,這類(lèi)網(wǎng)絡(luò)的一種好用法是讓能量最低點(diǎn)對(duì)應(yīng)于記憶。通過(guò)使用上述的二元決策規(guī)則(神經(jīng)元是否打開(kāi)或關(guān)閉),可以對(duì)不完整的記憶進(jìn)行“清理”。你可以從一個(gè)部分記憶開(kāi)始,不斷應(yīng)用該決策規(guī)則,最終穩(wěn)定在一個(gè)能量最低點(diǎn)。這種將能量最低點(diǎn)表示為記憶的方法,就實(shí)現(xiàn)了一種“內(nèi)容可尋址的記憶”(content-addressable memory),即通過(guò)啟動(dòng)某些記憶內(nèi)容,網(wǎng)絡(luò)能夠自動(dòng)補(bǔ)全。Terry Sejnowski 和我(Terry 是 Hopfield 的一位學(xué)生)提出了這些網(wǎng)絡(luò)的另一種用途:與其用來(lái)存儲(chǔ)記憶,不如用來(lái)對(duì)感官輸入構(gòu)建解釋。其核心思想是,一個(gè)網(wǎng)絡(luò)可以同時(shí)包含可見(jiàn)神經(jīng)元和隱藏神經(jīng)元。可見(jiàn)神經(jīng)元用來(lái)接收感官輸入,比如一個(gè)二元圖像;隱藏神經(jīng)元?jiǎng)t用來(lái)構(gòu)建對(duì)感官輸入的解釋。網(wǎng)絡(luò)某種配置的能量表示解釋的“壞度”,我們希望獲得能量較低的解釋。當(dāng)我們遇到模糊線條的圖畫(huà)時(shí),大腦通常會(huì)產(chǎn)生兩種不同的理解方式。這種現(xiàn)象很常見(jiàn)——同一幅二維線條圖可以被解讀為兩種不同的三維物體。這個(gè)現(xiàn)象引發(fā)了一個(gè)有趣的問(wèn)題:我們能否構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)模擬這種雙重解釋的能力?要解決這個(gè)問(wèn)題,首先需要思考圖像中的線條如何對(duì)應(yīng)三維世界中的邊緣。在現(xiàn)實(shí)中,當(dāng)我們通過(guò)某個(gè)平面(比如窗戶(hù))觀察外界時(shí),二維平面上的一條線可能對(duì)應(yīng)三維空間中的多種不同邊緣。這些不同的三維邊緣都可能在二維平面上投影出相同的線條。這就帶來(lái)了一個(gè)根本性的視覺(jué)問(wèn)題:如何從二維圖像中的線條推斷出三維世界中的真實(shí)邊緣。由于物體的不透明性和相互遮擋關(guān)系,圖像中的每條線只能對(duì)應(yīng)一個(gè)真實(shí)的三維邊緣,但確定具體是哪一個(gè)則十分困難。為了解決這個(gè)問(wèn)題,我們可以設(shè)計(jì)一個(gè)特殊的神經(jīng)網(wǎng)絡(luò)。首先,用”線條神經(jīng)元”來(lái)表示圖像中的線條,這些神經(jīng)元的激活狀態(tài)對(duì)應(yīng)著圖像現(xiàn)的具體線條。然后,由于每條線條可能對(duì)應(yīng)多個(gè)三維邊緣,我們需要通過(guò)興奮性連接將這些線條神經(jīng)元連接到一系列”邊緣神經(jīng)元”。但是,由于每條二維線只能對(duì)應(yīng)一個(gè)真實(shí)的三維邊緣,這些邊緣神經(jīng)元之間需要相互抑制。但僅有這些還不夠,我們還需要加入一些基本的視覺(jué)解釋原則。比如,當(dāng)圖像中的兩條線相連時(shí),我們往往認(rèn)為它們?cè)谌S空間中也是相連的。為了實(shí)現(xiàn)這一點(diǎn),我們可以在那些共享端點(diǎn)的三維邊緣神經(jīng)元之間添加強(qiáng)化連接。特別是當(dāng)兩條邊緣呈直角相交時(shí),這種連接會(huì)更強(qiáng),因?yàn)橹苯鞘且环N常見(jiàn)且重要的視覺(jué)特征。通過(guò)這種方式,神經(jīng)網(wǎng)絡(luò)就能夠模擬人類(lèi)視覺(jué)系統(tǒng)對(duì)二維圖像進(jìn)行三維解釋的過(guò)程,并可能產(chǎn)生多種合理的解釋結(jié)果。2、兩個(gè)主要問(wèn)題現(xiàn)在我們希望,通過(guò)調(diào)整連接的權(quán)重,我們可以得到一個(gè)網(wǎng)絡(luò),它具有兩種可能的穩(wěn)定狀態(tài),分別對(duì)應(yīng)于對(duì)Necker Cube的兩種不同解讀。這引出了兩個(gè)主要問(wèn)題:搜索問(wèn)題:如果我們希望用隱藏神經(jīng)元(hidden neurons)來(lái)解讀由可見(jiàn)神經(jīng)元(visible neurons)的狀態(tài)表示的圖像,該如何避免陷入局部最優(yōu)解?網(wǎng)絡(luò)可能會(huì)停留在一個(gè)相對(duì)較差的解讀中,而無(wú)法跳躍到一個(gè)更好的解讀。學(xué)習(xí)問(wèn)題:我之前暗示這些連接是我手動(dòng)添加的,但實(shí)際上我們希望神經(jīng)網(wǎng)絡(luò)能夠自己學(xué)會(huì)添加這些連接。在搜索問(wèn)題中,神經(jīng)元的隨機(jī)性扮演著關(guān)鍵角色。在標(biāo)準(zhǔn)的 Hopfield 網(wǎng)絡(luò)中,神經(jīng)元采用確定性的決策規(guī)則:系統(tǒng)一旦進(jìn)入某個(gè)能量最低點(diǎn),就只能沿著能量下降的方向移動(dòng)。這意味著系統(tǒng)可能會(huì)被困在局部最優(yōu)解中,無(wú)法達(dá)到全局最優(yōu)解。為了克服這個(gè)限制,我們引入了隨機(jī)二元神經(jīng)元的概念。這種神經(jīng)元雖然仍然只有兩種狀態(tài)(激活或關(guān)閉,即1或0),但它們的行為是概率性的。當(dāng)神經(jīng)元接收到強(qiáng)烈的正輸入信號(hào)時(shí),它幾乎必然會(huì)被激活;當(dāng)接收到強(qiáng)烈的負(fù)輸入信號(hào)時(shí),它幾乎必然會(huì)關(guān)閉。然而,當(dāng)輸入信號(hào)接近零時(shí),神經(jīng)元的行為就變得不確定:即使在正輸入的情況下,它也可能偶爾保持關(guān)閉狀態(tài);在負(fù)輸入的情況下,它也可能偶爾被激活。這種概率性決策機(jī)制在處理二元圖像時(shí)特別有用。具體來(lái)說(shuō),我們可以將圖像的二元數(shù)據(jù)固定在可見(jiàn)單元上,然后對(duì)隱藏神經(jīng)元采用隨機(jī)初始化。在更新過(guò)程中,我們隨機(jī)選擇一個(gè)隱藏神經(jīng)元,計(jì)算它從其他激活神經(jīng)元接收到的總輸入,然后根據(jù)輸入的強(qiáng)度和符號(hào)做出概率性決策:如果總輸入為強(qiáng)正值,該神經(jīng)元很可能被激活如果總輸入為強(qiáng)負(fù)值,該神經(jīng)元很可能被關(guān)閉如果總輸入接近零,神經(jīng)元的狀態(tài)將通過(guò)概率分布來(lái)決定通過(guò)持續(xù)應(yīng)用這個(gè)隨機(jī)更新規(guī)則,系統(tǒng)最終會(huì)達(dá)到一種稱(chēng)為”熱平衡”的狀態(tài)。熱平衡是一個(gè)源自物理學(xué)的概念,它描述了系統(tǒng)在隨機(jī)波動(dòng)中達(dá)到的一種動(dòng)態(tài)平衡狀態(tài)。這種機(jī)制使得網(wǎng)絡(luò)能夠跳出局部最優(yōu)解,探索更廣闊的解空間,從而有可能找到更好的全局解。3、熱平衡和詳細(xì)平衡一旦達(dá)到熱平衡,隱藏神經(jīng)元的狀態(tài)就成為了對(duì)輸入的解讀。在奈克方塊的例子中,隱藏神經(jīng)元可能會(huì)有一個(gè)神經(jīng)元為每條線條神經(jīng)元激活,從而得到一個(gè)解讀,這種解讀會(huì)是對(duì)Necker Cube的兩種解讀之一。我們希望低能量的解讀是對(duì)數(shù)據(jù)的良好解讀。因此,對(duì)于這幅線條圖,如果我們能夠?qū)W習(xí)到二維線條神經(jīng)元和三維邊緣神經(jīng)元之間的正確權(quán)重,并且能夠?qū)W習(xí)到三維邊緣神經(jīng)元之間的正確權(quán)重,那么網(wǎng)絡(luò)的低能量狀態(tài)就可能對(duì)應(yīng)于對(duì)圖像的良好解讀,也即看到3D矩形物體。關(guān)于熱平衡,它并不是表面上看起來(lái)的”系統(tǒng)達(dá)到某種穩(wěn)定狀態(tài)”。真正穩(wěn)定下來(lái)的不是系統(tǒng)的狀態(tài)本身,而是一個(gè)更抽象、更難以理解的東西:系統(tǒng)所有配置的概率分布。對(duì)于普通人來(lái)說(shuō),這很難理解。系統(tǒng)會(huì)趨向于一種特定的分布,稱(chēng)為”玻爾茲曼分布”(Boltzmann distribution)。在達(dá)到熱平衡后,系統(tǒng)處于某一特定配置的概率僅由該配置的能量決定,而能量較低的配置會(huì)有更高的概率。關(guān)于熱平衡(thermal equilibrium),好的狀態(tài)(低能量狀態(tài))比壞的狀態(tài)(高能量狀態(tài))更可能出現(xiàn)。為了幫助理解熱平衡,有一個(gè)物理學(xué)家常用的小技巧。想象有一個(gè)非常大的集合(Ensemble),包含無(wú)數(shù)個(gè)完全相同的網(wǎng)絡(luò)。這些 Hopfield 網(wǎng)絡(luò)都具有完全相同的權(quán)重,因此它們本質(zhì)上是同一個(gè)系統(tǒng),但每個(gè)網(wǎng)絡(luò)的初始狀態(tài)是隨機(jī)的,并且它們各自地做出隨機(jī)決策。在這個(gè)集合中,每個(gè)可能的配置都會(huì)對(duì)應(yīng)一定比例的網(wǎng)絡(luò)。最開(kāi)始,這個(gè)比例只取決于它們的初始狀態(tài),比如如果你讓它們隨機(jī)初始化,那么所有的配置會(huì)等概率出現(xiàn)。在這個(gè)巨大的集合中,每個(gè)可能的配置都會(huì)有相同數(shù)量的網(wǎng)絡(luò)。然而,當(dāng)你開(kāi)始運(yùn)行這個(gè)算法時(shí),不斷更新神經(jīng)元的狀態(tài),使其傾向于降低能量(雖然偶爾也會(huì)升高能量),逐漸地,每個(gè)配置對(duì)應(yīng)的網(wǎng)絡(luò)比例會(huì)穩(wěn)定下來(lái)。每個(gè)網(wǎng)絡(luò)可能會(huì)在不同的配置之間跳躍,但所有網(wǎng)絡(luò)中某一特定配置的比例會(huì)保持穩(wěn)定。這種現(xiàn)象被稱(chēng)為詳細(xì)平衡(detailed balance),此時(shí),系統(tǒng)的配置比例就會(huì)穩(wěn)定下來(lái)。4、生成圖像原理接下來(lái)說(shuō)說(shuō)生成圖像(generating an image)。這里不是解讀圖像,而是生成圖像。生成圖像的方式是,從所有神經(jīng)元(包括隱藏神經(jīng)元和可見(jiàn)神經(jīng)元)的隨機(jī)狀態(tài)開(kāi)始。然后,你隨機(jī)選擇一個(gè)隱藏神經(jīng)元或可見(jiàn)神經(jīng)元,并根據(jù)通常的隨機(jī)規(guī)則更新它的狀態(tài)。如果它接收到大量的正輸入,它可能會(huì)激活;如果接收到大量的負(fù)輸入,它可能會(huì)關(guān)閉;如果輸入值接近零,它的行為會(huì)有些隨機(jī)。你不斷重復(fù)這一過(guò)程,直到系統(tǒng)接近熱平衡狀態(tài)。此時(shí),可見(jiàn)單元的狀態(tài)就是這個(gè)網(wǎng)絡(luò)生成的圖像,這個(gè)圖像來(lái)源于網(wǎng)絡(luò)所“相信”的分布——玻爾茲曼分布(Boltzmann distribution),在這種分布中,低能量的配置比高能量的配置更可能出現(xiàn)。這個(gè)網(wǎng)絡(luò)“相信”許多可能的圖像,你可以通過(guò)運(yùn)行這一過(guò)程從中選擇一個(gè)它“相信”的圖像。在玻爾茲曼機(jī)(Boltzmann Machine)中的學(xué)習(xí)目標(biāo)是使網(wǎng)絡(luò)在生成圖像(可以看作網(wǎng)絡(luò)“做夢(mèng)”時(shí)隨機(jī)想象出來(lái)的內(nèi)容)時(shí),這些圖像看起來(lái)像它在真實(shí)感知中看到的圖像。如果能實(shí)現(xiàn)這一點(diǎn),那么隱藏神經(jīng)元的狀態(tài)將成為解讀真實(shí)圖像的一個(gè)有效方式,它們將捕獲圖像的潛在原因。這種學(xué)習(xí)方式的另一個(gè)表述是,學(xué)習(xí)網(wǎng)絡(luò)中的權(quán)重等價(jià)于找到一種使用隱藏神經(jīng)元的方法,使得網(wǎng)絡(luò)能夠生成看起來(lái)像真實(shí)圖像的圖像。這聽(tīng)起來(lái)像是一個(gè)極其困難的問(wèn)題,大家都認(rèn)為這種學(xué)習(xí)算非常復(fù)雜。然而,Terry Sejnowski 和我卻采取了一種過(guò)于樂(lè)觀的方法。問(wèn)題是,是否可以從一個(gè)隨機(jī)權(quán)重的大型神經(jīng)網(wǎng)絡(luò)開(kāi)始,這個(gè)網(wǎng)絡(luò)包括許多隱藏神經(jīng)元和隨機(jī)初始化的權(quán)重,然后只需要給它展示大量真實(shí)的圖像。我們希望的是一種看似荒謬的結(jié)果:當(dāng)網(wǎng)絡(luò)感知到足夠多的真實(shí)圖像時(shí),它會(huì)自動(dòng)在隱藏神經(jīng)元之間,以及隱藏神經(jīng)元和可見(jiàn)神經(jīng)元之間,創(chuàng)建所有必要的連接,并正確地調(diào)整這些連接的權(quán)重,從而以合理的方式解釋圖像,比如識(shí)別在直角處連接的 3D 邊緣。這聽(tīng)起來(lái)非常樂(lè)觀,而且你可能會(huì)認(rèn)為實(shí)現(xiàn)這一目標(biāo)的學(xué)習(xí)算非常復(fù)雜。但令人驚訝的是,玻爾茲曼機(jī)的學(xué)習(xí)算法非常簡(jiǎn)單。這是我和 Terry Sejnowski 在 1983 年發(fā)現(xiàn)的。5、學(xué)習(xí)兩個(gè)階段學(xué)習(xí)算法分為兩個(gè)階段:?jiǎn)拘央A段(Wake phase) 和 睡眠階段(Sleep phase)。1、在喚醒階段,網(wǎng)絡(luò)被輸入圖像。你將圖像固定在可見(jiàn)單元上,讓隱藏單元活動(dòng),直到它們與可見(jiàn)單元達(dá)到熱平衡。一旦隱藏單元達(dá)到熱平衡,對(duì)于每一對(duì)連接的神經(jīng)元(可能是兩個(gè)隱藏單元,也可能是一個(gè)隱藏單元和一個(gè)可見(jiàn)單元),如果它們都處于激活狀態(tài),你就增加它們之間權(quán)重的一小部分。這是一個(gè)非常簡(jiǎn)單的學(xué)習(xí)規(guī)則,而且符合唐納德·赫布(Donald Hebb)提出的學(xué)習(xí)理論。但是,如果你僅運(yùn)行喚醒階段,權(quán)重只會(huì)不斷增加,很快所有的權(quán)重都會(huì)變?yōu)檎担械纳窠?jīng)元會(huì)一直保持激活狀態(tài)。這顯然沒(méi)有用。因此,你需要引入睡眠階段。2、在睡眠階段,你可以將網(wǎng)絡(luò)看作是“做夢(mèng)”。通過(guò)更新所有神經(jīng)元(隱藏和可見(jiàn)神經(jīng)元)的狀態(tài),網(wǎng)絡(luò)趨于熱平衡。一旦達(dá)到熱平衡,對(duì)于每一對(duì)連接的神經(jīng)元,如果它們都處于激活狀態(tài),你就從它們之間的權(quán)重中減去一小部分。這是一個(gè)非常簡(jiǎn)單的學(xué)習(xí)算法,而且令人驚訝的是,它的確能夠?qū)崿F(xiàn)目標(biāo)。因此,在平均意義上,這種學(xué)習(xí)算調(diào)整權(quán)重,使得網(wǎng)絡(luò)在“做夢(mèng)”時(shí)生成的圖像更有可能看起來(lái)像它在感知真實(shí)世界時(shí)看到的圖像。這部分不適合普通觀眾,所以請(qǐng)不要讀接下來(lái)的兩行內(nèi)容。對(duì)于統(tǒng)計(jì)學(xué)家和機(jī)器學(xué)習(xí)領(lǐng)域的人來(lái)說(shuō),這種算法的本質(zhì)是,在期望意義上(也就是說(shuō),這個(gè)算法有一定隨機(jī)性,偶爾會(huì)做錯(cuò)事,但從平均意義上看),它沿著對(duì)數(shù)似然的梯度進(jìn)行優(yōu)化。換句話說(shuō),它使得網(wǎng)絡(luò)在“做夢(mèng)”時(shí)生成的圖像更可能是它在“清醒”時(shí)觀察到的圖像。或者換句話說(shuō),權(quán)重的變化使得網(wǎng)絡(luò)認(rèn)為合理的圖像(低能量狀態(tài))與它“清醒”時(shí)看到的圖像更加相似。在這個(gè)學(xué)習(xí)過(guò)程中發(fā)生的事情是:在“清醒”(Wake)階段,你降低網(wǎng)絡(luò)在看到真實(shí)數(shù)據(jù)時(shí)到達(dá)的整體配置的能量;在“睡眠”(Sleep)階段,你提高這些配置的能量。換句話說(shuō),你試圖讓網(wǎng)絡(luò)“相信”它在“清醒”時(shí)看到的東西,同時(shí)“否定”它在“睡眠”時(shí)“夢(mèng)到”的東西。如果你問(wèn)達(dá)到熱平衡的過(guò)程實(shí)現(xiàn)了什么,那就令人驚嘆了。這一過(guò)程使得網(wǎng)絡(luò)的每個(gè)權(quán)重所需了解的關(guān)于其他所有權(quán)重的信息都能被提取出來(lái)。為了調(diào)整一個(gè)權(quán)重,你需要知道它與所有其他權(quán)重的交互關(guān)系。而所有需要知道的信息都會(huì)體現(xiàn)在兩個(gè)相關(guān)性之間的差異中:一是網(wǎng)絡(luò)在觀察真實(shí)數(shù)據(jù)時(shí),兩神經(jīng)元共同激活的頻率;二是網(wǎng)絡(luò)在“做夢(mèng)”時(shí),兩神經(jīng)元共同激活的頻率。這些相關(guān)性在兩種情況下的差異包含了權(quán)重調(diào)整所需的全部信息。令人驚訝的是,與反向傳播等算法不同,這種方法并不需要一個(gè)向后傳播的過(guò)程來(lái)傳遞關(guān)于其他權(quán)重的信息。在反向傳播中,前向傳播是傳遞神經(jīng)元的激活到后續(xù)層,而反向傳播傳遞的是敏感性(sensitivities),這種信息完全不同。反向傳播因此顯得不太可能是人腦的工作原理。然而,當(dāng) Terry 提出了玻爾茲曼機(jī)的這種學(xué)習(xí)方法時(shí),我們完全相信這一定就是大腦的工作方式。我們甚至決定,我們將因?yàn)檫@一理論而獲得生理學(xué)或醫(yī)學(xué)領(lǐng)域的諾貝爾獎(jiǎng)。當(dāng)時(shí)我們從未想到,即使這不是大腦的工作方式,我們可能也會(huì)因此獲得物理學(xué)的諾貝爾獎(jiǎng)。唯一的問(wèn)題在于,對(duì)于大型網(wǎng)絡(luò)來(lái)說(shuō),達(dá)到熱平衡的過(guò)程非常緩慢,尤其是當(dāng)權(quán)重較大時(shí)。如果權(quán)重很小,熱平衡可以快速達(dá)到;但在權(quán)重較大時(shí),這個(gè)過(guò)程會(huì)非常緩慢。因此,盡管玻爾茲曼機(jī)是一種浪漫的、令人著迷的理論——它有一個(gè)極其簡(jiǎn)單的學(xué)習(xí)算法,卻能實(shí)現(xiàn)非常復(fù)雜的功能,比如構(gòu)建隱藏單元的網(wǎng)絡(luò)以解釋數(shù)據(jù),但其學(xué)習(xí)過(guò)程實(shí)在太慢了。所以,這就是玻爾茲曼機(jī)在當(dāng)時(shí)的局限性。講到這里,演講其實(shí)本應(yīng)該結(jié)束了。但是,在 17 年之后,我意識(shí)到,如果對(duì)玻爾茲曼機(jī)進(jìn)行大量限制,比如隱藏單元之間沒(méi)有連接,那么就可以得到一個(gè)更快的學(xué)習(xí)算法。如果隱藏神經(jīng)元之間沒(méi)有連接,那么“清醒”階段會(huì)變得非常簡(jiǎn)單。你只需要將輸入固定在可見(jiàn)單元上以表示一個(gè)圖像,然后可以并行更新所有隱藏單元的狀態(tài)。這些隱藏單元會(huì)根據(jù)它們接收到的可見(jiàn)輸入隨機(jī)選擇一個(gè)狀態(tài),更新完成后,它們就立即達(dá)到了與數(shù)據(jù)的熱平衡。這是隱藏單元的改進(jìn)。但在“睡眠”階段仍然有問(wèn)題:你需要讓網(wǎng)絡(luò)進(jìn)入一個(gè)隨機(jī)狀態(tài),然后更新隱藏單元、再更新可見(jiàn)單元,循環(huán)這個(gè)過(guò)程許多次,直到達(dá)到熱平衡。這仍然是一個(gè)非常耗時(shí)的過(guò)程,因此這個(gè)算法依然不可行。不過(guò),后來(lái)發(fā)現(xiàn)有一個(gè)捷徑可以解決這一問(wèn)題。6、捷徑學(xué)習(xí)算法盡管這個(gè)捷徑并不能完全準(zhǔn)確地實(shí)現(xiàn)目標(biāo),但在實(shí)踐中效果相當(dāng)不錯(cuò)。其步驟如下:將數(shù)據(jù)輸入到可見(jiàn)單元上,這是一個(gè)圖像。并行更新所有隱藏單元,使它們與數(shù)據(jù)達(dá)到熱平衡。更新所有可見(jiàn)單元,得到一個(gè)“重構(gòu)”,它會(huì)與輸入數(shù)據(jù)相似,但不完全相同。再次更新所有隱藏單元,然后停止。學(xué)習(xí)算法的實(shí)現(xiàn)方式是:你計(jì)算兩神經(jīng)元(一個(gè)是可見(jiàn)單元,一個(gè)是隱藏單元)在顯示數(shù)據(jù)并達(dá)到熱平衡時(shí)共同激活的頻率,然后計(jì)算它們?cè)陲@示“重構(gòu)”并達(dá)到熱平衡時(shí)共同激活的頻率。這兩個(gè)頻率的差值就是學(xué)習(xí)的依據(jù)。你根據(jù)這個(gè)差值調(diào)整權(quán)重,權(quán)重的變化與這個(gè)差值成比例。這種算法運(yùn)行得非常快,使得玻爾茲曼機(jī)終于在實(shí)踐中變得可行。Netflix 曾經(jīng)使用受限玻爾茲曼機(jī)(Restricted Boltzmann Machines, RBM),結(jié)合其他方法,來(lái)決定向你推薦哪些新電影。這是基于與你有相似偏好的其他用戶(hù)的偏好來(lái)進(jìn)行推薦的。實(shí)際上,這種方法奏效了。結(jié)合 RBM 和其他方法,他們贏得了 Netflix 舉辦的關(guān)于如何更好預(yù)測(cè)用戶(hù)喜好的比賽。不過(guò),僅僅使用隱藏神經(jīng)元之間沒(méi)有連接的受限玻爾茲曼機(jī),你無(wú)法構(gòu)建特征檢測(cè)器的多層網(wǎng)絡(luò),而這是識(shí)別圖像中的物體或語(yǔ)音中的單詞所必需的。表面上看,這種只使用一層隱藏單元且隱藏單元之間沒(méi)有連接的限制顯得很強(qiáng),但實(shí)際上你可以繞過(guò)這個(gè)限制。你可以通過(guò)堆疊多個(gè)受限玻爾茲曼機(jī)來(lái)解決這個(gè)問(wèn)題。首先,你將數(shù)據(jù)輸入一個(gè)受限玻爾茲曼機(jī)。它只有一層隱藏單元,使用對(duì)比散度算法,通過(guò)多次上下采樣學(xué)習(xí)權(quán)重,使隱藏單元能夠捕獲數(shù)據(jù)中的結(jié)構(gòu)。隱藏單元會(huì)變成特征檢測(cè)器,捕獲數(shù)據(jù)中常見(jiàn)的相關(guān)性。然后,你將這些隱藏單元的二元激活模式作為數(shù)據(jù),輸入另一個(gè) RBM。第二個(gè) RBM 會(huì)分析這些由第一個(gè) RBM 提取的特征的相關(guān)性。你可以不斷重復(fù)這個(gè)過(guò)程。通過(guò)這種方式,你逐漸捕獲了數(shù)據(jù)中越來(lái)越復(fù)雜的相關(guān)性,,以此類(lèi)推。每個(gè)受限玻爾茲曼機(jī)都在上一層隱藏單元中找到結(jié)構(gòu)。接著,你可以將這些 RBM 堆疊起來(lái),將它們視為一個(gè)前饋網(wǎng)絡(luò)。此時(shí)忽略連接是對(duì)稱(chēng)的這一事實(shí),只使用單向連接。通過(guò)這種方法,在第一層隱藏單元中,你提取了捕獲原始數(shù)據(jù)相關(guān)性的特征;在第二層隱藏單元中,你提取了捕獲第一層特征相關(guān)性的特征,依此類(lèi)推。這樣,你會(huì)得到越來(lái)越抽象的特征,捕獲“相關(guān)性的相關(guān)性”。當(dāng)你堆疊這些層后,你可以添加一個(gè)最終的隱藏層,并進(jìn)行監(jiān)督學(xué)習(xí)。這時(shí)你可以告訴網(wǎng)絡(luò)這些特征對(duì)應(yīng)的名稱(chēng),例如“貓”或“狗”(類(lèi)別標(biāo)簽)。然后你需要學(xué)習(xí)這些類(lèi)標(biāo)簽的權(quán)重,但此時(shí)的網(wǎng)絡(luò)已經(jīng)通過(guò)學(xué)習(xí)多個(gè) RBM 進(jìn)行了初始化。這種初始化方式帶來(lái)了兩個(gè)顯著的好處:1、網(wǎng)絡(luò)的學(xué)習(xí)速度比隨機(jī)初始化時(shí)快得多,因?yàn)樗呀?jīng)學(xué)到了一些對(duì)建模數(shù)據(jù)結(jié)構(gòu)有用的特征。雖然它尚未學(xué)會(huì)物體的名稱(chēng),但它學(xué)到了數(shù)據(jù)中的結(jié)構(gòu)。因此,學(xué)習(xí)物體名稱(chēng)變得相對(duì)快速。就像小孩子一樣,他們不需要被重復(fù)告知“那是一頭牛”2000 次才能學(xué)會(huì)。他們自己能夠推斷出“牛”的概念,當(dāng)母親告訴他們“那是一頭牛”時(shí),他們很快就能記住,大概只需要聽(tīng)兩次就足夠了。2、網(wǎng)絡(luò)的泛化能力更強(qiáng),因?yàn)樗拇蟛糠謱W(xué)習(xí)過(guò)程并未依賴(lài)標(biāo)簽。網(wǎng)絡(luò)不需要大量標(biāo)簽,也不是通過(guò)標(biāo)簽提取信息,而是通過(guò)數(shù)據(jù)中的相關(guān)性提取信息。這使得它在標(biāo)簽較少的情況下仍然具有很好的泛化能力。7、實(shí)際應(yīng)用這一方法非常有效。從 2006 年到 2011 年,人們廣泛使用疊加的 RBM 來(lái)預(yù)訓(xùn)練前饋神經(jīng)網(wǎng)絡(luò)。特別是在我的實(shí)驗(yàn)室、Yoshua Bengio 的實(shí)驗(yàn)室以及 Yann LeCun 的實(shí)驗(yàn)室中,這種方法得到了深入研究。2009 年,我實(shí)驗(yàn)室的兩位學(xué)生 George Dahl 和 Abdel-rahman Mohamed 證明了這種技術(shù)在識(shí)別語(yǔ)音片段方面比當(dāng)時(shí)的最佳技術(shù)略勝一籌。這改變了語(yǔ)音識(shí)別領(lǐng)域的狀況。我的研究生們紛紛加入各大領(lǐng)先的語(yǔ)音識(shí)別團(tuán)隊(duì)。到 2012 年,基于疊加受限玻爾茲曼機(jī)的方法被 Google 投入生產(chǎn),顯著提升了語(yǔ)音識(shí)別的效果。突然之間,Android 設(shè)備上的語(yǔ)音識(shí)別性能大幅提升。不幸的是,隨著我們證明深度神經(jīng)網(wǎng)絡(luò)通過(guò)疊加受限玻爾茲曼機(jī)進(jìn)行預(yù)訓(xùn)練可以取得優(yōu)異的性能,人們找到了一些其他初始化權(quán)重的方法,這些方法不再需要使用 RBM。然而,化學(xué)家們知道,酶是非常有用的工具。即使 RBM 不再使用,它們幫助我們完成了從“認(rèn)為深度神經(jīng)網(wǎng)絡(luò)永遠(yuǎn)無(wú)法工作”到“看到深度神經(jīng)網(wǎng)絡(luò)實(shí)際上可以輕松工作”這一轉(zhuǎn)變。一旦完成這個(gè)轉(zhuǎn)變,就不再需要“酶”了。因此,可以把 RBM 看作是一種歷史性的“酶”。盡管如此,使用“睡眠”來(lái)進(jìn)行去學(xué)習(xí)(unlearning),以獲得一種更具生物學(xué)合理性的算法,并避免反向傳播的逆向路徑,我仍然認(rèn)為這種思想具有很大的潛力。我仍然樂(lè)觀地相信,當(dāng)我們最終理解人腦如何學(xué)習(xí)時(shí),這將涉及使用睡眠來(lái)進(jìn)行去學(xué)習(xí)的過(guò)程。因此,我仍然充滿(mǎn)希望。好了,我的演講到此結(jié)束。謝謝大家!原視頻鏈接:https://www.youtube.com/watch?v=r1Bi10Xt0fc&ab_channel=StanfordGraduateSchoolofBusiness閱讀報(bào)告全文,請(qǐng)?jiān)L問(wèn)歐米伽研究所的“未來(lái)知識(shí)庫(kù)”https://wx.zsxq.com/group/454854145828未來(lái)知識(shí)庫(kù)是“歐米伽未來(lái)研究所”建立的在線知識(shí)庫(kù)平臺(tái),收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級(jí)智能,數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類(lèi)風(fēng)險(xiǎn)等等領(lǐng)域的前沿進(jìn)展與未來(lái)趨勢(shì)。目前擁有超過(guò)8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。歡迎掃描二維碼或訪問(wèn)https://wx.zsxq.com/group/454854145828進(jìn)入。截止到11月25日 ”未來(lái)知識(shí)庫(kù)”精選的100部前沿科技趨勢(shì)報(bào)告Air Street Capital《2024 年人工智能現(xiàn)狀報(bào)告》未來(lái)今日研究所:2024 技術(shù)趨勢(shì)報(bào)告 – 廣義計(jì)算篇科睿唯安中國(guó)科學(xué)院 2024 研究前沿?zé)岫戎笖?shù)報(bào)告文本到圖像合成:十年回顧《以人為中心的大型語(yǔ)言模型(LLM)研究綜述》經(jīng)合組織 2024 年數(shù)字經(jīng)濟(jì)展望報(bào)告加強(qiáng)連通性創(chuàng)新與信任第二版波士頓咨詢(xún) 2024 全球經(jīng)濟(jì)體 AI 成熟度矩陣報(bào)告理解世界還是預(yù)測(cè)未來(lái)?世界模型的綜合綜述Google Cloud CSA2024 AI 與安全狀況調(diào)研報(bào)告英國(guó)制造商組織 MakeUK2024 英國(guó)工業(yè)戰(zhàn)略愿景報(bào)告從概念到實(shí)施花旗銀行 CitiGPS2024 自然環(huán)境可持續(xù)發(fā)展新前沿研究報(bào)告國(guó)際原子能機(jī)構(gòu) 2024 聚變關(guān)鍵要素報(bào)告 – 聚變能發(fā)展的共同愿景國(guó)際可再生能源署 IRENA2024 年全球氣候行動(dòng)報(bào)告Cell: 物理學(xué)和化學(xué) 、人工智能知識(shí)領(lǐng)域的融合智次方 2025 中國(guó) 5G 產(chǎn)業(yè)全景圖譜報(bào)告未來(lái)今日研究所:2024 技術(shù)趨勢(shì)報(bào)告 – 移動(dòng)性,機(jī)器人與無(wú)人機(jī)篇Deepmind:AI 加速科學(xué)創(chuàng)新發(fā)現(xiàn)的黃金時(shí)代報(bào)告PitchBookNVCA2024 年第三季度全球風(fēng)險(xiǎn)投資監(jiān)測(cè)報(bào)告德科 2024 年未來(lái)全球勞動(dòng)力報(bào)告高工咨詢(xún) 2024 年協(xié)作機(jī)器人產(chǎn)業(yè)發(fā)展藍(lán)皮書(shū)國(guó)際能源署 IEA2024 年全球能源效率報(bào)告基因慧基因行業(yè)藍(lán)皮書(shū) 2024 – 2025普華永道 PwC2024 全球經(jīng)濟(jì)犯罪調(diào)查英國(guó)報(bào)告 – 智對(duì)風(fēng)險(xiǎn)直面挑戰(zhàn)中國(guó)互聯(lián)網(wǎng)協(xié)會(huì) 2024 面向未來(lái)網(wǎng)絡(luò)的數(shù)字孿生城市場(chǎng)景應(yīng)用白皮書(shū)中移智庫(kù) 2024 先進(jìn)感知新技術(shù)及新應(yīng)用白皮書(shū)智次方研究院 2025 中國(guó) AIoT 產(chǎn)業(yè)全景圖譜報(bào)告未來(lái)今日研究所:2024 技術(shù)趨勢(shì)報(bào)告 – 人工智能篇國(guó)際電聯(lián):邁向衡量數(shù)字經(jīng)濟(jì)的通用框架的路線圖聯(lián)合國(guó)糧食與農(nóng)業(yè)組織:2024 年世界糧食安全和營(yíng)養(yǎng)狀況大語(yǔ)言模型綜述李飛飛等,AI 智能體:探索多模式交互的前景綜述哈爾濱工業(yè)大學(xué) – ChatGPT 調(diào)研報(bào)告2024《美國(guó)核部署戰(zhàn)略報(bào)告》最新文件清華大學(xué):AIGC 發(fā)展研究 3.0 發(fā)布版 b 版OpenAI:2024 年 OpenAI o1 大模型技術(shù)報(bào)告Verizon2024 年世界支付安全報(bào)告皇家學(xué)會(huì)哲學(xué)學(xué)報(bào) 從復(fù)雜系統(tǒng)角度評(píng)估人工智能風(fēng)險(xiǎn)復(fù)旦大學(xué) 大模型 AI 代理的興起和潛力:綜述經(jīng)合組織 OECD2024 年氣候行動(dòng)監(jiān)測(cè)報(bào)告Wevolver2024 年邊緣人工智能現(xiàn)狀報(bào)告 – 探索各行業(yè)邊緣 AI 應(yīng)用動(dòng)態(tài)2024 全球人形機(jī)器人產(chǎn)品數(shù)據(jù)庫(kù)報(bào)告 – 人形機(jī)器人洞察研究 BTIResearch《全球金融穩(wěn)定報(bào)告》 把舵定航 不確定性、人工智能與金融穩(wěn)定瑞士洛桑聯(lián)邦理工學(xué)院 《人工智能中的 – 創(chuàng)造力:進(jìn)展與挑戰(zhàn)》《你所需要知道的理 – 論:人工智能、人類(lèi)認(rèn)知與決策》牛津大學(xué)最新 53 頁(yè)報(bào)告世界經(jīng)濟(jì)論壇 新興技術(shù)時(shí)代的網(wǎng)絡(luò)彈性導(dǎo)航:應(yīng)對(duì)復(fù)雜挑戰(zhàn)的協(xié)作解決方案 2024ADL 理特咨詢(xún) 2024 汽車(chē)出行未來(lái)展望報(bào)告2024 中國(guó)硬科技創(chuàng)新發(fā)展白皮書(shū) – 開(kāi)辟未來(lái)產(chǎn)業(yè)新賽道科學(xué)時(shí)代的大語(yǔ)言模型中的人工智能Gartner2025 年重要戰(zhàn)略技術(shù)趨勢(shì)報(bào)告CBInsights2024 年第三季度全球人工智能投融資狀況報(bào)告TrendHunter2025 年全球趨勢(shì)報(bào)告 – 全行業(yè)頂級(jí)創(chuàng)新和變革趨勢(shì)前瞻天津大學(xué) 2024 大模型輕量化技術(shù)研究報(bào)告歐洲海洋局 2024 導(dǎo)航未來(lái)報(bào)告將海洋置于更廣泛的地球系統(tǒng)中第六版美國(guó)安全與新興技術(shù)中心 2024 AI 生成代碼的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)研究報(bào)告國(guó)際原子能機(jī)構(gòu) 2024 年世界聚變展望報(bào)告復(fù)旦大學(xué) 2024 大語(yǔ)言模型的能力邊界與發(fā)展思考報(bào)告安盛 AXA2024 年氣候與生物多樣性報(bào)告氣候過(guò)渡計(jì)劃路線圖YouGov2024 美國(guó)公眾對(duì)人工智能 AI 的態(tài)度調(diào)研報(bào)告麥肯錫中國(guó)報(bào)告:《中國(guó)與世界》完整版麥肯錫全球研究所 2024 下一代競(jìng)技場(chǎng)報(bào)告 – 重塑全球經(jīng)濟(jì)的 18 個(gè)新興行業(yè)領(lǐng)域Project Sid,一個(gè)旨在模擬多智能體交互以研究 AI 文明的項(xiàng)目德國(guó)研究與創(chuàng)新專(zhuān)家委員會(huì) 德國(guó)研究創(chuàng)新與科技成果報(bào)告2024 年歐洲關(guān)鍵產(chǎn)業(yè)的科技重塑研究報(bào)告智能體專(zhuān)題報(bào)告之二 – 智能體時(shí)代來(lái)臨具身智能有望成為最佳載體ActivateConsulting 2025 年頂級(jí)技術(shù)和媒體發(fā)展趨勢(shì)報(bào)告蘭德 全球?yàn)?zāi)難風(fēng)險(xiǎn)評(píng)估斯坦福李飛飛 《AI agent 綜述》Agent AI 開(kāi)啟多模態(tài)交互新紀(jì)元中國(guó)聯(lián)通研究院 2024 中國(guó)生成式人工智能應(yīng)用與實(shí)踐展望白皮書(shū)中文版普華永道 2024 第五次工業(yè)研究報(bào)告邁向彈性可持續(xù)和以人為本的未來(lái)大成 Dentsons2024 年全球智慧城市與互聯(lián)社區(qū)智庫(kù)年度報(bào)告TechUK2024 量子技術(shù)挑戰(zhàn)與機(jī)遇并存構(gòu)筑量子韌性的策略與實(shí)踐研究報(bào)告Emakina 將塑造 2024 年的技術(shù)趨勢(shì)報(bào)告圖靈獎(jiǎng)得主 Yann LeCun《機(jī)器如何才能達(dá)到人類(lèi)智能水平?》——Yann LeCun, 附 Slides 及視頻華為:2024 鴻蒙生態(tài)應(yīng)用開(kāi)發(fā)白皮書(shū) V3.0(最新版)CASA:2023 第三代半導(dǎo)體產(chǎn)業(yè)發(fā)展報(bào)告大型視覺(jué)語(yǔ)言模型中幻覺(jué)現(xiàn)象的綜述IEA PVPS:2024 光伏應(yīng)用趨勢(shì)報(bào)告(英文版)ABI Research:82 個(gè)將會(huì)或不會(huì)在 2024 年發(fā)生的技術(shù)趨勢(shì)白皮書(shū)《美國(guó)反無(wú)人機(jī)系統(tǒng)未來(lái)趨勢(shì)報(bào)告(2024 – 2029 年)》《軍事自主系統(tǒng):未來(lái)之路》美空間智能如何?牛津大學(xué)博士論文《深度具身智能體的空間推理與規(guī)劃》2024 低空經(jīng)濟(jì)場(chǎng)景白皮書(shū) v1.0戰(zhàn)略與國(guó)際研究中心(CSIS)人類(lèi)地月空間探索的總體狀況研究報(bào)告(2024)Artificial Intelligence Review:人工智能與物理學(xué)相遇的綜述麥肯錫:全球難題,應(yīng)對(duì)能源轉(zhuǎn)型的現(xiàn)實(shí)問(wèn)題歐米伽理論,智能科學(xué)視野下的萬(wàn)物理論新探索(研究論文)Gartner 2025 年主要戰(zhàn)略技術(shù)趨勢(shì)研究報(bào)告2024 人工智能?chē)?guó)外大模型使用手冊(cè) + 中文大模型使用手冊(cè)詳解光刻巨人 ASML 成功之奧妙 – 241015CB Insights:未來(lái)變革者:2025 年九大科技趨勢(shì)研究報(bào)告國(guó)際電信聯(lián)盟 2023 – 2024 年聯(lián)合國(guó)人工智能 AI 活動(dòng)報(bào)告《人工智能能力的人類(lèi)系統(tǒng)集成測(cè)試和評(píng)估》最新 51 頁(yè),美國(guó)防部首席數(shù)字和人工智能辦公室(CDAO)2024 瑞典皇家科學(xué)院諾貝爾化學(xué)獎(jiǎng)官方成果介紹報(bào)告MHP 2024 全球工業(yè) 4.0 晴雨表白皮書(shū)世界經(jīng)濟(jì)論壇白皮書(shū)《AI 價(jià)值洞察:引導(dǎo)人工智能實(shí)現(xiàn)人類(lèi)共同目標(biāo)》瑞典皇家科學(xué)院諾貝爾物理學(xué)獎(jiǎng)科學(xué)背景報(bào)告資料AI 智能體的崛起:整合人工智能、區(qū)塊鏈技術(shù)與量子計(jì)算 (研究報(bào)告,書(shū))OpenAI o1 評(píng)估:AGI 的機(jī)遇和挑戰(zhàn)(280 頁(yè))世界知識(shí)產(chǎn)權(quán)組織:2024 年全球創(chuàng)新指數(shù)美國(guó)白宮:國(guó)家近地天體防御策略與行動(dòng)計(jì)劃上下滑動(dòng)查看更多

粵公網(wǎng)安備 44011502001135號(hào)