最壕DeepSeek玩家8臺Mac跑R1，10萬+元湊496GB顯存才能跑4bit量化版

AIGC動態8個月前發布量子位

599 0 0

R1發布36小時，橫掃各大榜單

原標題：最壕DeepSeek玩家8臺Mac跑R1，10萬+元湊496GB顯存才能跑4bit量化版
文章來源：量子位
內容字數：1918字

DeepSeek-R1：一個令人驚艷的家用AGI？

本文總結了DeepSeek-R1大型語言模型的最新測試結果和市場反響。該模型由凹非寺團隊開發，其性能和成本效益引發了廣泛關注。

高性能與高成本的矛盾
DeepSeek-R1在多個基準測試中表現出色，尤其是在LiveBench和PlanBench上取得了令人矚目的成績，甚至在某些測試中超過了o1-preview。然而，運行該模型需要強大的計算資源。一些用戶花費超過10萬元搭建包含7臺M4 Pro Mac mini和1臺M4 Max Macbook Pro的家用超算，總計496G顯存才能運行4bit量化版。這凸顯了高性能AI模型與高昂成本之間的矛盾。
數據蒸餾版：輕量級選擇
為了降低準入門檻，DeepSeek-R1也推出了數據蒸餾版Qwen 1.5B小模型。該模型體積小巧，可在瀏覽器上運行，每秒輸出60個tokens，為普通用戶提供了更便捷的體驗。
基準測試結果：與o1系列的對比
DeepSeek-R1在LiveBench上的表現與o1-preview相近，甚至在某些方面略遜一籌。但在PlanBench上，它甚至在某些測試中超過了o1-preview。更重要的是，DeepSeek-R1的成本遠低于o1系列，這使其在性價比方面具有顯著優勢。在ARC-AGI的私有和公開數據測試中，DeepSeek-R1的表現也大幅超越了DeepSeek-V3。
上下文窗口的限制與未來潛力
目前，DeepSeek-R1的主要不足之處在于上下文窗口較短。然而，其在正確數據和微調方法下的巨大潛力不容忽視。許多人認為，構建一個能夠輕松在DeepSeek-R1上進行OpenAI風格強化微調的平臺，將是一個巨大的商機。
市場反響與創業機會
DeepSeek-R1的出現激發了人們的熱情，也帶來了新的創業機會。一些人認為，構建一個方便用戶在DeepSeek-R1上進行OpenAI風格強化微調的平臺，將是一個極具潛力的商業方向。因為在特定任務上，通過合適的微調，R1可能會有大幅提升。

總而言之，DeepSeek-R1是一個具有高性能和高性價比的語言模型，其在多個基準測試中取得了令人印象深刻的成績。盡管存在一些不足之處，例如上下文窗口較短，但其巨大的潛力和潛在的商業價值，使其成為人工智能領域一個值得關注的焦點。