AI芯片黑馬Groq走紅，英偉達(dá)又多了一個(gè)挑戰(zhàn)者｜甲子光年

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AI芯片黑馬Groq走紅，英偉達(dá)又多了一個(gè)挑戰(zhàn)者｜甲子光年
關(guān)鍵字：芯片,模型,速度,內(nèi)存,架構(gòu)
文章來源：甲子光年
內(nèi)容字?jǐn)?shù)：8839字

內(nèi)容摘要：

天下武功，唯快不破。作者｜蘇霍伊???
編輯｜趙健
本周，一匹 AI 芯片黑馬 Groq 在業(yè)內(nèi)走紅。
Groq 推出了一款全新的 AI 芯片 LPU（Language Processing Unit），宣稱做到了“地表最強(qiáng)推理”——在 Groq 上運(yùn)行大模型的推理速度，較英偉達(dá) GPU 提高 10 倍，而成本只有其十分之一。
在 Groq 發(fā)布的同期，英偉達(dá)的股價(jià)巧合地連續(xù)四個(gè)交易日下跌，一直到昨天財(cái)報(bào)發(fā)布。
Groq 上的大模型每秒能夠輸出大約 500 個(gè) token，而 ChatGPT-3.5 的公開版本每秒只能生成大約 40 個(gè) token。Groq 云服務(wù)的對外開放，讓大家切身感受到了不卡頓的了對話機(jī)器人用起來有多爽。
Groq 在社交平臺X 信心爆棚地表示：“這不是進(jìn)化，而是一場。”
隨著 Sora 的火爆，多模態(tài)大模型對 AI 算力的消耗更高，英偉達(dá)的 GPU 芯片一卡難求，算力短缺成為很多 AI 公司面臨的頭等難題。“天下苦皮衣刀法久矣”，Groq 的橫空出世，或?yàn)槭袌鰩砹艘环N全新的選擇。
有 AI 開發(fā)者稱贊 Groq 或?yàn)榈脱舆t產(chǎn)品的“者”。Artific

原文鏈接：AI芯片黑馬Groq走紅，英偉達(dá)又多了一個(gè)挑戰(zhàn)者｜甲子光年

聯(lián)系作者

文章來源：甲子光年
作者微信：jazzyear
作者簡介：甲子光年是一家科技智庫，包含智庫、社群、企業(yè)服務(wù)版塊，立足中國科技創(chuàng)新前沿陣地，動(dòng)態(tài)跟蹤頭部科技企業(yè)發(fā)展和傳統(tǒng)產(chǎn)業(yè)技術(shù)升級案例，推動(dòng)人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)、云計(jì)算、新能源、新材料、信息安全、大健康等科技創(chuàng)新在產(chǎn)業(yè)中的應(yīng)用與落地。