AIGC動態(tài)歡迎閱讀

原標(biāo)題：揭開Groq LPU神秘面紗：世界最快硬件加速器的底層架構(gòu)設(shè)計(jì)！
關(guān)鍵字：指令,編譯器,硬件,數(shù)據(jù)流,系統(tǒng)
文章來源：新智元
內(nèi)容字?jǐn)?shù)：9564字

內(nèi)容摘要：

新智元報(bào)道編輯：alan
【新智元導(dǎo)讀】Groq一夜爆火的背后，是自研的語言處理單元硬件LPU，近日，Substack的專欄作家Abhinav Upadhyay為我們一步步揭示了LPU底層架構(gòu)的奧秘上月底，創(chuàng)業(yè)公司Groq的產(chǎn)品一夜爆火。
憑借自研的硬件加速器LPU，達(dá)成了500個(gè)token/s的神級推理速度，當(dāng)場秒殺了ChatGPT。
Groq提供的響應(yīng)速度刷新了人們的認(rèn)知，而這要?dú)w功于背后的語言處理單元硬件LPU（language processing unit hardware）。
Groq的研發(fā)團(tuán)隊(duì)在LPU上應(yīng)用了創(chuàng)新的硬件架構(gòu)設(shè)計(jì)，并配套了強(qiáng)大的編譯器。
下面讓我們跟隨Substack的專欄作家Abhinav Upadhyay一起，一步步揭開Groq LPU底層架構(gòu)的神秘面紗。
Groq LPU的神秘面紗到目前為止，Groq并沒有給出任何關(guān)于LPU本身的論文，但在過去幾年中，他們發(fā)表了下面兩篇論文：
論文地址：https://dl.acm.org/doi/10.1109/ISCA45697.2020.00023
論文地址：https://dl.acm.org/doi/abs

原文鏈接：揭開Groq LPU神秘面紗：世界最快硬件加速器的底層架構(gòu)設(shè)計(jì)！

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對人類社會與文明進(jìn)化的影響，領(lǐng)航中國新智能時(shí)代。