大模型融合！最新「進(jìn)化算法」全自動(dòng)組合開源模型，刷榜多項(xiàng)基準(zhǔn)測(cè)試

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：大模型融合！最新「進(jìn)化算法」全自動(dòng)組合開源模型，刷榜多項(xiàng)基準(zhǔn)測(cè)試
關(guān)鍵字：模型,方法,日語(yǔ),算法,英語(yǔ)
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：4931字

內(nèi)容摘要：

新智元報(bào)道編輯：Mindy
【新智元導(dǎo)讀】自動(dòng)將不同開源模型進(jìn)行組合，生成具有新能力的新模型，Sakana AI開發(fā)的新方法做到了！人類智慧的基礎(chǔ)并不在于單個(gè)聰明的個(gè)體，而在于集體智慧。
比如說(shuō)，我們的社會(huì)和經(jīng)濟(jì)體系就是建立在由具有不同專業(yè)和專長(zhǎng)的不同個(gè)人組成的許多機(jī)構(gòu)的基礎(chǔ)上的。
Sakana AI團(tuán)隊(duì)相信，人工智能的發(fā)展也將遵循類似的集體道路。
人工智能的未來(lái)不會(huì)是一個(gè)單一的、巨大的、無(wú)所不知的AI系統(tǒng)，需要巨大的能量來(lái)訓(xùn)練、運(yùn)行和維護(hù)；
而會(huì)是個(gè)由許多小型AI系統(tǒng)組成的廣泛集合體，每個(gè)系統(tǒng)都有自己的專長(zhǎng)，并相互連接，新的AI系統(tǒng)被開發(fā)來(lái)填補(bǔ)特定的專業(yè)。
事實(shí)上，開源基礎(chǔ)模型可以很容易地在數(shù)百種不同的方向上進(jìn)行擴(kuò)展和微調(diào)，以產(chǎn)生在其自身專業(yè)中表現(xiàn)出色的新模型。
Open LLM排行榜上表現(xiàn)最佳的模型大多不再是原始的開源基礎(chǔ)模型，如LLaMA或Mistral，而是對(duì)現(xiàn)有模型進(jìn)行微調(diào)或合并的模型。
同時(shí)，計(jì)算資源相比于傳統(tǒng)的LLM訓(xùn)練來(lái)說(shuō)也要少得多。
目前，Hugging Face擁有50多萬(wàn)個(gè)模型，涵蓋數(shù)十種不同的模態(tài)，原則上就可以組合成具有新能力的新模型。
Sakana AI把這

原文鏈接：大模型融合！最新「進(jìn)化算法」全自動(dòng)組合開源模型，刷榜多項(xiàng)基準(zhǔn)測(cè)試

聯(lián)系作者

文章來(lái)源：新智元
作者微信：AI_era
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。