「小打大」在大語言模型領域越來越常見了。

原標題：3B模型長思考后擊敗70B！HuggingFace逆向出o1背后技術細節(jié)并開源
文章來源：機器之心
內(nèi)容字數(shù)：11465字

小模型的崛起：如何通過延長思考時間超越大型模型

最近，機器之心的報道指出，小模型在思考時間延長的情況下，其性能可以超越更大規(guī)模的模型。隨著對小模型研究的熱情不斷升溫，業(yè)內(nèi)通過一些實用技巧，使得這些小模型在性能上取得了顯著進步。這一趨勢的背后，是對計算資源的優(yōu)化與利用。

1. 計算擴展的必要性

大語言模型的發(fā)展主要依賴于訓練時的計算擴展，但這種模式需要大量的資金和資源投入，造成了巨大的經(jīng)濟壓力。因此，測試時計算擴展（test-time compute scaling）成為一種重要的互補方法，通過動態(tài)推理策略來提高模型在復雜問題上的表現(xiàn)。

2. HuggingFace的探索

HuggingFace對DeepMind相關研究進行了逆向工程并復現(xiàn)，提出了計算最優(yōu)擴展和多樣性驗證器樹搜索（DVTS）等技術。這些方法可以通過給小模型更多的思考時間，幫助它們在數(shù)學基準測試中超越更大的模型。

3. 實驗結果與驗證

實驗顯示，在MATH-500基準上，1B和3B Llama Instruct模型在足夠的思考時間下，性能超過了8B和70B的大模型。此外，集束搜索和Best-of-N等策略的結合使用，進一步提升了小模型的運算效率和準確性。

4. 未來展望

未來的研究方向包括提高驗證器的魯棒性與通用性、自我驗證機制的實現(xiàn)，以及將結構化推理融入搜索過程。這些進展有望使小模型在更多領域中發(fā)揮更大的作用，為模型的訓練和應用帶來新的突破。

綜上所述，通過對測試時計算的擴展和優(yōu)化，小模型在性能上的提升不僅具有理論價值，更在實際應用中展現(xiàn)出巨大的潛力。

聯(lián)系作者

文章來源：機器之心
作者微信：
作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務平臺