AIGC動態歡迎閱讀
原標題:大模型步入「推理Scaling」時代,SambaNova如何挑戰英偉達的霸主地位?
關鍵字:模型,芯片,數據流,架構,算子
文章來源:機器之心
內容字數:0字
內容摘要:
機器之心報道
作者:蛋醬OpenAI o1 的發布,再次給 AI 領域帶來了一場。
o1 能像人類一樣「思考」復雜問題,擁有優秀的通用推理能力。在未經專門訓練的情況下,o1 能夠直接拿下數學奧賽金牌,甚至能在博士級別的科學問答環節上超越人類專家。
在性能躍升之外,更重要的是,它揭示了大模型進化范式的轉變:通過更多的強化學習(訓練時計算)和更多的推理(Test-Time 計算),模型可以獲得更強大的性能。
這又一次讓我們想起 Richard Sutton 在《The Bitter Lesson》中所說的,利用計算能力的一般方法最終是最有效的方法。這類方隨著算力的增加而繼續擴展,搜索和學習似乎正是兩種以此方式隨意擴展的方法。連山姆?奧特曼也坦言,在未來的一段時間里,新范式進化的曲線會非常陡峭。
從「訓練 Scaling」到「推理 Scaling」的范式轉變,也引發了關于計算資源分配和硬件選擇的重新思考。領域內的研究者和從業者認識到,一方面,更多的計算資源應該投入到推理階段,另一方面,優化硬件配置以提升大模型推理的效率將是下一階段的攻關重點。而大模型要進行推理 Scaling,實際上
原文鏈接:大模型步入「推理Scaling」時代,SambaNova如何挑戰英偉達的霸主地位?
聯系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...