階躍星辰發(fā)布 Step 通用大模型:多模態(tài)、MoE、萬(wàn)億模型參數(shù)
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:階躍星辰發(fā)布 Step 通用大模型:多模態(tài)、MoE、萬(wàn)億模型參數(shù)
關(guān)鍵字:模型,星辰,參數(shù),領(lǐng)域,微軟
文章來(lái)源:Founder Park
內(nèi)容字?jǐn)?shù):4038字
內(nèi)容摘要:
3 月 23 日,國(guó)內(nèi)通用大模型創(chuàng)業(yè)公司階躍星辰在 2024 全球開(kāi)發(fā)者先鋒大會(huì)上發(fā)布了公司的通用大模型產(chǎn)品。
階躍星辰創(chuàng)始人、CEO 姜大昕博士在大會(huì)開(kāi)幕式上對(duì)外發(fā)布了 Step 系列通用大模型,包括 Step-1 千億參數(shù)語(yǔ)言大模型、Step-1V 千億參數(shù)多模態(tài)大模型以及 Step-2 萬(wàn)億參數(shù) MoE 語(yǔ)言大模型預(yù)覽版。
以下內(nèi)容來(lái)自于官方稿件,F(xiàn)ounder Park 略有調(diào)整。01
堅(jiān)定 Scaling Law 方向,萬(wàn)億參數(shù)模型可預(yù)覽成立一年,階躍星辰團(tuán)隊(duì)對(duì)通往 AGI 的技術(shù)路徑有深入理解。首先堅(jiān)定相信 Scaling Law 是方向,參數(shù)量決定了模型智能水平的上限。因此 Step-1 千億參數(shù)語(yǔ)言大模型訓(xùn)練成功后,隨即開(kāi)展 Step-2 萬(wàn)億參數(shù)大模型的訓(xùn)練工作。其次是認(rèn)識(shí)到多模理解和生成的統(tǒng)一是通往 AGI 的必經(jīng)之路。Step-1V 千億參數(shù)多模態(tài)大模型,在多模理解上做到了業(yè)內(nèi)領(lǐng)先,一方面驗(yàn)證了 Step-1 語(yǔ)言大模型的能力,另一方面也為多模生成打下一個(gè)好基礎(chǔ)。
具體來(lái)說(shuō),階躍星辰研發(fā)的 Step-1 千億參數(shù)語(yǔ)言大模型,在邏輯推理、中文知識(shí)、英文知識(shí)、數(shù)學(xué)、代
原文鏈接:階躍星辰發(fā)布 Step 通用大模型:多模態(tài)、MoE、萬(wàn)億模型參數(shù)
聯(lián)系作者
文章來(lái)源:Founder Park
作者微信:Founder-Park
作者簡(jiǎn)介:來(lái)自極客公園,專(zhuān)注與科技創(chuàng)業(yè)者聊「真問(wèn)題」。