英偉達B200打破摩爾定律！老黃順便公開GPT-4的秘密

AIGC動態歡迎閱讀

原標題：英偉達B200打破摩爾定律！老黃順便公開GPT-4的秘密
關鍵字：元宇宙,迪士尼,騰訊,知識產權,架構
文章來源：量子位
內容字數：7690字

內容摘要：

夢晨 克雷西 發自 凹非寺量子位 | 公眾號 QbitAI整個AI圈最想知道的秘密，被老黃在PPT某頁的小字里寫出來了？
時隔兩年，英偉達官宣新一代Blackwell架構，為AI帶來30倍推理加速。定位直指“新工業的引擎” 。
老黃PPT中拿了一個1.8萬億參數MoE的GPT系列大模型測試結果來證明。
眼尖的網友當場就盯上了這行不起眼的小字，截圖發出神秘暗號。???????
1.8萬億參數、MoE架構，與初代GPT-4的細節傳聞一毛一樣，32k序列長度也能對得上。??????????????
剛升任研究經理不久的英偉達科學家Jim Fan，甚至直接攤牌了。
表達摩爾定律已經限制不住英偉達了的同時，直接點破了這層窗戶紙。?????
不過個秘密之所以能以這種形式半官方確認，很可能說明對OpenAI來說已經無關緊要了。
很多人相信，最新版gpt-4-turbo經過一輪輪的優化，已經蒸餾到更小規模。
說回到英偉達GTC大會本身，作為架構更新的大年，老黃的主題演講亮點頗多：
宣布GPU新B200，超級芯片GB200
Blackwell架構新服務器，一個機柜頂一個超算
推出AI推理微服務N

原文鏈接：英偉達B200打破摩爾定律！老黃順便公開GPT-4的秘密

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破