全球首個「開源GPT-4」出世!Llama 3震撼發(fā)布,Meta AI免登錄可用
AIGC動態(tài)歡迎閱讀
原標(biāo)題:全球首個「開源GPT-4」出世!Llama 3震撼發(fā)布,Meta AI免登錄可用
關(guān)鍵字:模型,數(shù)據(jù),報告,團隊,指令
文章來源:新智元
內(nèi)容字?jǐn)?shù):11019字
內(nèi)容摘要:
新智元報道編輯:編輯部
【新智元導(dǎo)讀】蟄伏許久,Meta剛剛?cè)映隽酥匕酰捍蠹移诖丫玫腖lama 3,用了24000塊GPU訓(xùn)練,一亮相便登上開源大模型鐵王座。8B和70B取得同規(guī)模參數(shù)下開源領(lǐng)域的SOTA,推理編碼大幅提升,代碼和權(quán)重全開源!而且,400B的Llama 3,也在路上了。LLM界的「真·Open AI」,又來整頓AI圈了!
業(yè)內(nèi)驚呼:首個開源GPT-4級的模型,終于來了!開源模型追上閉源模型的歷史性一刻,或許就在眼前了?
一石激起千層浪,Llama 3才剛剛發(fā)布沒幾小時,就破紀(jì)錄地登頂了Hugging Face排行榜。
這次,Meta共開源了Llama 3 8B和Llama 3 70B兩款模型,分別有預(yù)訓(xùn)練和指令微調(diào)兩個版本。
小扎、LeCun也紛紛在第一時間開啟了宣傳模式:Llama 3是在由24000塊GPU組成的定制集群上,使用15萬億個token訓(xùn)練的。
甚至就連最小8B版本,有時都能打敗大出一個數(shù)量級的Llama 2 70B!
值得期待的是,在未來幾個月,Llama 3還將推出更多版本
不過,雖然上下文長度相較之前實現(xiàn)了翻倍,但依然只有8K。順帶提一句,
原文鏈接:全球首個「開源GPT-4」出世!Llama 3震撼發(fā)布,Meta AI免登錄可用
聯(lián)系作者
文章來源:新智元
作者微信:AI_era
作者簡介:智能+中國主平臺,致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展,關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響,領(lǐng)航中國新智能時代。