標簽:集群
從動物群體行為到大腦空間決策,復雜性如何啟發智能探索?
導語鳥群、蝗蟲群、魚群,在這些看似混亂的生物群體中,秩序奇跡般地涌現。不同物種的群體行為在細節上有所差異,但它們大致遵循物理學家們幾個世紀以來總結...
全球首個支持單任務千卡規模異構芯片混合訓練平臺,來自無問芯穹
機器之心發布 機器之心編輯部“打開水龍頭前,我們不需要知道水是從哪條河里來的。同理,未來我們用各種 AI 應用時,也不會知道它調用了哪些基座模型,用到了...
國產GPU萬卡集群終于來了!摩爾線程CEO張建中:做難而正確的事
萬卡集群殺出國產GPU黑馬!萬P算力萬億參數,零代碼修改可遷移。 作者|ZeR0 編輯|漠影 “AI主戰場,萬卡是最低標配!” 在2024世界人工智能大會開幕前夕,摩爾...
首個國產全功能GPU的萬卡集群來了!“中國英偉達”出品
金磊 發自 凹非寺量子位 | 公眾號 QbitAI純國產GPU的萬卡集群,它來了! 而且還是國內首個全功能GPU,兼容CUDA的那種。 這個集結了超過10000張高性能GPU的超...
AI主戰場,萬卡是標配:國產GPU萬卡萬P集群來了!
機器之心報道 機器之心編輯部Scaling Law 持續見效,讓算力就快跟不上大模型的膨脹速度了。「規模越大、算力越高、效果越好」成為行業圭皋。主流大模型從百億...
如何構建10萬張H100的大模型訓練集群
直播預告 | 7月2日10點,「智猩猩AI新青年講座」第242講正式開講,香港大學計算機系HKU-MMLAB二年級博士生梁志烜將直播講解《利用技能學習的擴散策略實現層次...
全美TOP 5機器學:痛心,實驗室H100數量為0!同實驗室博士用GPU得靠搶
新智元報道編輯:編輯部 【新智元導讀】全美TOP 5的機器學習博士痛心發帖自曝,自己實驗室里H100數目是0!這也引起了ML社區的全球網友大討論。顯然,相比普林...
有錢買卡還不夠,10萬卡H100集群有多難搭?一文解析算力集群技術要點
新智元報道編輯:喬楊 好困 【新智元導讀】在英偉達市值猛漲、各家科技巨頭囤芯片的熱潮中,我們往往會忽視GPU芯片是如何轉變為數據中心算力的。最近,一篇Se...
千卡集群大模型訓練思考與總結
直播預告 | 6月20日晚7點,「智猩猩機器人新青年講座」第8講正式開講,清華大學THUNLP lab在讀博士胡錦毅將直播講解《面向多模態大模型的具身智能平臺LEGENT...
網絡架構如何支持超萬卡的大規模 AI 訓練?
演講嘉賓 | 席永青 AI 訓練場景的算力 Scaling 核心是網絡,依賴于大規模、高性能的數據中心網絡集群來實現算力的規模擴展,為此,阿里云設計了 HPN7.0 架構...
“反英偉達聯盟”成立,UALink能否取代NVLink?|甲子光年
一流的企業做標準。作者|王藝 編輯|趙健?? 看不下去英偉達的壟斷,科技巨頭們聯合出手了。 據科技媒體TechCrunch最新消息,英特爾、谷歌、微軟、Meta、AMD...
馬斯克 xAI 獲 60 億美元融資,要造一個「超級算力工廠」
xAI 計劃建造 超級算力工廠就在剛剛, xAI 官宣拿到了 60 億美元的 B 輪融資,其估值也一躍達到約 180 億美元。 本輪融資的主要投資者包括特斯拉和 SpaceX 的...
馬斯克燒幾十億美元造最大超算中心,10萬塊H100訓練Grok追趕GPT-4o
新智元報道編輯:喬楊好困 【新智元導讀】最近,許久沒有新動向的馬斯克放出了大消息——他旗下的人工智能初創公司xAI將投入巨資建造一個超算中心,以保證Grok ...
英偉達贏麻了!馬斯克xAI超級算力工廠曝光,10萬塊H100、數十億美元
機器之心報道 編輯:杜偉英偉達:盡管建,用的還是我的芯片,最近幾年,隨著大語言模型的飛速發展與迭代,科技巨頭們都競相投入巨額財力打造超級計算機(或大...
焱融科技張文濤:將大模型訓練效率提升40%!詳解多云架構下高效存儲策略丨GenAICon 2024
破題大模型算力荒,如何打造高性能存儲底盤? 2024中國生成式AI大會于4月18-19日在北京舉行,在大會第二天的主會場AI Infra專場上,焱融科技CTO張文濤以《多...