AIGC動態歡迎閱讀

原標題：賈揚清質疑 Groq CEO “其芯片價格接近免費”說法，前員工出來實錘：根本不切實際！
關鍵字：芯片,編譯器,解讀,架構,模型
文章來源：AI前線
內容字數：12595字

內容摘要：

整理｜冬梅、褚杏娟
在人工智能的世界里，正在發生一場翻天覆地的變化，隨著 ChatGPT、Sora 的橫空出世，我們正在從深度學轉向生成式人工智能時代，而在這場巨變中，芯片成為了科技巨頭們的必爭之地。
近日，硅谷一家初創企業以一款獨特的芯片產品攻占各大科技媒體板塊頭條。該公司正以一種與過往不同的方式推動這場人工智能。該公司名為 Groq，是一家人工智能解決方案公司。
據多家外媒報道，Groq 剛剛推出了 alpha 預覽版的推理引擎，該引擎使用其定制的語言處理單元 (LPU) 芯片架構。這款推理引擎主打一個“快”字，每秒能輸出 500 個 token。相比之下，Chat GPT-3.5 每秒生成速度為 40 個 token。
“Groq 那疾如閃電的演示開始瘋傳，讓人們第一次意識到當前版本的 ChatGPT、Gemini 甚至是 Grok 看起來是多么笨拙和遲緩。”有網友感嘆道。
“你必須嘗試的瘋狂技術！” HyperWriteAI CEO Matt Shumer 在 X 上極力稱贊 Groq：“以 500 tok/s 的速度運行 Mixtral 8x7B-32k，答案幾乎是

原文鏈接：賈揚清質疑 Groq CEO “其芯片價格接近免費”說法，前員工出來實錘：根本不切實際！

聯系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發者和科學家，提供AI領域技術資訊、一線業界實踐案例、搜羅整理業界技術分享干貨、AI論文解讀。每周一節技術分享公開課，助力你全面擁抱人工智能技術。