或許下一波AI創(chuàng)新，不是比誰的模型更大，而是比誰的模型離你更近。

原標題：DeepSeek推出后，移動端AI風(fēng)向要變
文章來源：機器之心
內(nèi)容字數(shù)：6354字

AI 創(chuàng)新新趨勢：輕量化模型引領(lǐng)終端側(cè)AI

近年來，人工智能領(lǐng)域正經(jīng)歷一場深刻的變革，其焦點從追求巨型模型轉(zhuǎn)向輕量化模型在終端側(cè)的部署。這篇文章總結(jié)了這一趨勢背后的原因、技術(shù)支撐以及高通等公司在此領(lǐng)域的貢獻。

1. 模型小型化：性能提升與成本下降

   過去，AI模型的發(fā)展主要集中在參數(shù)規(guī)模的競爭上。然而，隨著模型蒸餾、量化、壓縮和剪枝等技術(shù)的進步，輕量化模型的性能已能與大型模型媲美，甚至超越。例如，DeepSeek R1等模型的出現(xiàn)，證明了高質(zhì)量小模型在主流基準測試中的出色表現(xiàn)，其推理速度更快、內(nèi)存占用更少、功耗更低。

2. 技術(shù)驅(qū)動：架構(gòu)創(chuàng)新與知識遷移

   模型小型化的背后是技術(shù)上的多重突破。新型網(wǎng)絡(luò)架構(gòu)（如MoE和SSM）降低了大模型開發(fā)的計算開銷和功耗；知識蒸餾技術(shù)則有效地將大型模型的知識遷移到小型模型，在保證準確性的同時減少參數(shù)量和計算量；而量化、壓縮和剪枝技術(shù)進一步優(yōu)化了模型的效率。

3. 終端側(cè)AI的崛起：應(yīng)用普及與體驗升級

   輕量化模型的興起直接推動了終端側(cè)AI的普及。如今，旗艦智能手機的內(nèi)存配置足以支持許多小模型的運行，這使得文本摘要、編程助手、實時翻譯等AI功能能夠直接在手機等終端設(shè)備上實現(xiàn)。這不僅提升了用戶體驗，也增強了數(shù)據(jù)安全性及可靠性。

4. 高通的戰(zhàn)略布局：引領(lǐng)終端側(cè)AI變革

   高通公司憑借其高能效芯片設(shè)計、完整的AI軟件棧以及活躍的開發(fā)者生態(tài)系統(tǒng)，積極推動終端側(cè)AI的發(fā)展。其高性能、低功耗的芯片能夠高效運行輕量化模型，并為開發(fā)者提供全面的工具和支持。高通認為，AI正成為新的用戶界面(UI)，AI智能體將簡化用戶交互，并高效地跨越各種應(yīng)用完成任務(wù)。

5. 未來展望：端側(cè)AI的廣泛應(yīng)用

   隨著輕量化模型的不斷發(fā)展，終端側(cè)AI將在各個行業(yè)發(fā)揮越來越重要的作用。AI推理時代，模型訓(xùn)練仍將在云端進行，但推理將更多地在終端側(cè)運行，這將促進更多針對性應(yīng)用的開發(fā)，并推動對計算平臺的需求。

總而言之，AI創(chuàng)新正朝著模型小型化和終端側(cè)部署的方向發(fā)展，這不僅降低了成本和功耗，也提升了用戶體驗和數(shù)據(jù)安全性，為AI技術(shù)的普及和應(yīng)用開辟了新的篇章。

聯(lián)系作者

文章來源：機器之心
作者微信：
作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺