GPT-4化身化學(xué)家！中國(guó)科大等發(fā)布首個(gè)「科學(xué)風(fēng)險(xiǎn)」基準(zhǔn)和SciGuard大模型

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：GPT-4化身化學(xué)家！中國(guó)科大等發(fā)布首個(gè)「科學(xué)風(fēng)險(xiǎn)」基準(zhǔn)和SciGuard大模型

關(guān)鍵字：模型,知識(shí)產(chǎn)權(quán),政策,科學(xué),風(fēng)險(xiǎn)

文章來(lái)源：新智元

內(nèi)容字?jǐn)?shù)：5541字

內(nèi)容摘要：

新智元報(bào)道編輯：LRS 好困
【新智元導(dǎo)讀】來(lái)自中科大等機(jī)構(gòu)的聯(lián)合團(tuán)隊(duì)提出了一種全新的方法——SciGuard，可以保護(hù)AI for Science模型，防止生物、化學(xué)、藥物等領(lǐng)域模型不會(huì)被不當(dāng)使用。與此同時(shí)，團(tuán)隊(duì)還建立了首個(gè)專注于化學(xué)科學(xué)領(lǐng)域安全的基準(zhǔn)測(cè)試——SciMT-Safety。「我們的實(shí)驗(yàn)失控了！這是我們自己創(chuàng)造的末日！」——《后天》（The Day After Tomorrow）在科幻電影中，瘋狂科學(xué)家通常是造成末日災(zāi)難的主角，而AI技術(shù)的迅猛發(fā)展似乎讓這種情景離我們?cè)絹?lái)越近。全球?qū)I潛在威脅的關(guān)注更多聚焦于通用的人工智能以及各種多媒體生成模型，但更重要的是如何監(jiān)管「AI科學(xué)家」，即對(duì)那些快速發(fā)展的科學(xué)大模型。
為應(yīng)對(duì)這一挑戰(zhàn)，來(lái)自中科大、微軟研究院等機(jī)構(gòu)的聯(lián)合團(tuán)隊(duì)深入分析了各種AI模型在Science領(lǐng)域如生物、化學(xué)、藥物發(fā)現(xiàn)等領(lǐng)域的風(fēng)險(xiǎn)，并通過(guò)實(shí)際案例展示了化學(xué)科學(xué)中AI濫用的危害。論文鏈接：https://arxiv.org/abs/2312.06632
研究團(tuán)隊(duì)發(fā)現(xiàn)，現(xiàn)有的一些開(kāi)源AI模型可以用于制造有害物質(zhì)，并對(duì)法律法規(guī)進(jìn)行規(guī)避。
針對(duì)這一現(xiàn)象，研究人員開(kāi)發(fā)了

原文鏈接：點(diǎn)此閱讀原文：GPT-4化身化學(xué)家！中國(guó)科大等發(fā)布首個(gè)「科學(xué)風(fēng)險(xiǎn)」基準(zhǔn)和SciGuard大模型

聯(lián)系作者

文章來(lái)源：新智元

作者微信：AI_era

作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。