老黃祭出新B200！30倍H100單機可訓15個GPT-4模型，AI迎新摩爾時代

AIGC動態歡迎閱讀

原標題：老黃祭出新B200！30倍H100單機可訓15個GPT-4模型，AI迎新摩爾時代
關鍵字：模型,芯片,參數,性能,人工智能
文章來源：新智元
內容字數：8203字

內容摘要：

新智元報道編輯：編輯部
【新智元導讀】就在剛剛，老黃又來打破摩爾定律了：英偉達新B200，一塊能頂5個H100，30倍推理加速，能訓萬億參數大模型！同時推出的AI推理微服務NIM，號稱讓全世界用上AI。就在剛剛結束的GTC人工智能大會上，英偉達的新一代性能巨獸Backwell誕生了！
Blackwell B200 GPU，是如今世界上最強大的AI芯片，旨在「普惠萬億參數的AI」。
本來，H100已經使英偉達成為價值數萬億美元的公司，趕超了谷歌和亞馬遜，但現在，憑著Blackwell B200和GB200，英偉達的領先優勢還要繼續領先。
老黃表示——「H100很好，但我們需要更大的GPU」！
新的B200 GPU，從2080億個晶體管中能提供高達20 petaflops的FP4性能。（H100僅為4 petaflops）
而將兩個B200與單個Grace CPU相結合的GB200，則可以為LLM推理工作負載提供30倍的性能，同時大大提高效率。
比起H100，GB200的成本和能耗降低了25倍！
Blackwell芯片和Hopper H100芯片的尺寸比較
這種額外的處理能力，就能讓

原文鏈接：老黃祭出新B200！30倍H100單機可訓15個GPT-4模型，AI迎新摩爾時代

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。