【萬字訪談】AI教父Hinton:招募Ilya、安利黃仁勛、談大模型的理解、推理、時間尺度、多模態(tài)、算法
AIGC動態(tài)歡迎閱讀
原標(biāo)題:【萬字訪談】AI教父Hinton:招募Ilya、安利黃仁勛、談大模型的理解、推理、時間尺度、多模態(tài)、算法
關(guān)鍵字:符號,向量,大腦,權(quán)重,模型
文章來源:人工智能學(xué)家
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
Geoffrey Hinton接受Sana Labs專訪★內(nèi)容導(dǎo)讀:這段訪談中,Geoffrey Hinton 回顧了他漫長的研究生涯,并談?wù)摿巳斯ぶ悄艿奈磥怼inton 認(rèn)為:
深度學(xué)習(xí)的成功證明了簡單算法和大規(guī)模數(shù)據(jù)的威力,這與 Chomsky 等人認(rèn)為的需要大量先天結(jié)構(gòu)的觀點相悖。
類比是理解和創(chuàng)造力的關(guān)鍵,大型語言模型通過發(fā)現(xiàn)不同事物之間的共同結(jié)構(gòu)來進行類比。
多模態(tài)學(xué)習(xí)將是 AI 的下一個重要階段,它將使模型能夠更好地理解空間關(guān)系和物理世界。
大腦很可能使用某種形式的反向傳播算法來進行學(xué)習(xí),但具體機制仍不清楚。
AI 將對醫(yī)療保健、材料科學(xué)等領(lǐng)域產(chǎn)生巨大影響,但也可能被用于惡意目的。
AI 研究應(yīng)集中于開發(fā)更強大的學(xué)習(xí)算法和探索新的計算架構(gòu),例如模擬大腦的多時間尺度學(xué)習(xí)機制。
★金句摘錄:
伊利亞總是鼓吹,你只要把它做大,它就會做得更好。我一直認(rèn)為這有點推卸責(zé)任,你必須也要有新的想法。事實證明伊利亞基本上是對的。新想法確實有幫助,比如 Transformer 就很有幫助,但真正重要的是數(shù)據(jù)的規(guī)模和計算的規(guī)模。
理解就是知道如何將符號轉(zhuǎn)換成這些向量,并知道向量的元素應(yīng)該如何相
原文鏈接:【萬字訪談】AI教父Hinton:招募Ilya、安利黃仁勛、談大模型的理解、推理、時間尺度、多模態(tài)、算法
聯(lián)系作者
文章來源:人工智能學(xué)家
作者微信:
作者簡介: