AIGC動態歡迎閱讀
原標題:公開課預告:智算集群網絡互連技術創新應用與展望|云脈芯聯產品總監孫偉主講
關鍵字:集群,騰訊,網絡,猩猩,技術
文章來源:智猩猩GenAI
內容字數:0字
內容摘要:
10月起,智猩猩芯片與算力教研組全新策劃推出「智猩猩智算集群公開課」,聚焦集群構建、互聯網絡、算力調度、存儲等關鍵技術。
目前,「智猩猩智算集群公開課」前兩期已順利完結。騰訊專有云首席架構師方天戟、矩向科技CEO黃朝波分別以《智算集群技術概述》、《智算中心融合算力調度》為主題,進行了直播講解。
11月8日19:30,「智猩猩智算集群公開課」第3期將開講,由云脈芯聯產品總監孫偉主講,主題為《智算集群網絡互連技術創新應用與展望》。
模型參數規模的不斷提升,導致在單個芯片上完成大模型的訓練和推理變得不太現實,需要將多個芯片或多臺服務器互連起來組成智算集群,才能完成大模型的訓練和推理工作。智算集群規模也正在從千卡、萬卡向10萬卡演進。
而智算集群中芯片與芯片、機柜與機柜之間的互連,并不是簡單的“手拉手”,因為面對百億、千億乃至萬億級別的大模型,智算集群要處理海量的數據,因此需要超高帶寬、超低延遲的網絡互連技術,來確保集群內數據的高效傳輸。
同時,集群規模越大,網絡結構也會越復雜,如何根據不同的計算任務和數據傳輸需求,動態地調整網絡帶寬和路由策略,優化數據傳輸路徑,確保數據在最短的時間內到達目的
原文鏈接:公開課預告:智算集群網絡互連技術創新應用與展望|云脈芯聯產品總監孫偉主講
聯系作者
文章來源:智猩猩GenAI
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...