谷歌大模型遲到的開源戰(zhàn)略|甲子光年
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:谷歌大模型遲到的開源戰(zhàn)略|甲子光年
關(guān)鍵字:模型,知乎,規(guī)模,數(shù)據(jù),領(lǐng)域
文章來源:甲子光年
內(nèi)容字?jǐn)?shù):6856字
內(nèi)容摘要:
妙手、本手還是俗手?作者|趙健
昨夜,谷歌罕見地改變了去年堅(jiān)持的“大模型閉源”策略,推出了“開源”大模型 Gemma。
Gemma 采用了與 Gemini 相同的技術(shù),由谷歌 DeepMind 與谷歌其他團(tuán)隊(duì)共同合作開發(fā),在拉丁文中意為 “寶石”。
Gemma 包括兩種權(quán)重規(guī)模的模型:Gemma 2B 與 Gemma 7B,每種規(guī)模都有預(yù)訓(xùn)練與指令微調(diào)版本。同時(shí),谷歌還推出了一系列工具,旨在支持開發(fā)者創(chuàng)新,促進(jìn)合作,并指導(dǎo)如何負(fù)責(zé)任地使用 Gemma 模型。
這樣一來,谷歌在大模型領(lǐng)域形成了雙線作戰(zhàn)——閉源領(lǐng)域?qū)?OpenAI,開源領(lǐng)域?qū)?Meta。
在人工智能領(lǐng)域,谷歌可以算是開源的鼻祖。今天幾乎所有的大語言模型,都基于谷歌在 2017 年發(fā)布的 Transformer 論文;谷歌的發(fā)布的 BERT、T5,都是最早的一批開源 AI 模型。
然而,自從 OpenAI 在 2022 年底發(fā)布閉源的 ChatGPT,谷歌也開始轉(zhuǎn)向閉源策略。此后,開源大模型被 Meta 的Llama 主導(dǎo),后來被稱為“歐洲版 OpenAI”的法國(guó)開源大模型公司 Mistral AI 走紅,其 MoE 模
聯(lián)系作者
文章來源:甲子光年
作者微信:jazzyear
作者簡(jiǎn)介:甲子光年是一家科技智庫(kù),包含智庫(kù)、社群、企業(yè)服務(wù)版塊,立足中國(guó)科技創(chuàng)新前沿陣地,動(dòng)態(tài)跟蹤頭部科技企業(yè)發(fā)展和傳統(tǒng)產(chǎn)業(yè)技術(shù)升級(jí)案例,推動(dòng)人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)、云計(jì)算、新能源、新材料、信息安全、大健康等科技創(chuàng)新在產(chǎn)業(yè)中的應(yīng)用與落地。