AIGC動態歡迎閱讀

原標題：AI芯片黑馬Groq走紅，英偉達又多了一個挑戰者｜甲子光年
關鍵字：芯片,模型,速度,內存,架構
文章來源：甲子光年
內容字數：8839字

內容摘要：

天下武功，唯快不破。作者｜蘇霍伊???
編輯｜趙健
本周，一匹 AI 芯片黑馬 Groq 在業內走紅。
Groq 推出了一款全新的 AI 芯片 LPU（Language Processing Unit），宣稱做到了“地表最強推理”——在 Groq 上運行大模型的推理速度，較英偉達 GPU 提高 10 倍，而成本只有其十分之一。
在 Groq 發布的同期，英偉達的股價巧合地連續四個交易日下跌，一直到昨天財報發布。
Groq 上的大模型每秒能夠輸出大約 500 個 token，而 ChatGPT-3.5 的公開版本每秒只能生成大約 40 個 token。Groq 云服務的對外開放，讓大家切身感受到了不卡頓的了對話機器人用起來有多爽。
Groq 在社交平臺X 信心爆棚地表示：“這不是進化，而是一場。”
隨著 Sora 的火爆，多模態大模型對 AI 算力的消耗更高，英偉達的 GPU 芯片一卡難求，算力短缺成為很多 AI 公司面臨的頭等難題。“天下苦皮衣刀法久矣”，Groq 的橫空出世，或為市場帶來了一種全新的選擇。
有 AI 開發者稱贊 Groq 或為低延遲產品的“者”。Artific

原文鏈接：AI芯片黑馬Groq走紅，英偉達又多了一個挑戰者｜甲子光年

聯系作者

文章來源：甲子光年
作者微信：jazzyear
作者簡介：甲子光年是一家科技智庫，包含智庫、社群、企業服務版塊，立足中國科技創新前沿陣地，動態跟蹤頭部科技企業發展和傳統產業技術升級案例，推動人工智能、大數據、物聯網、云計算、新能源、新材料、信息安全、大健康等科技創新在產業中的應用與落地。