国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片

“AI黑箱:上海實(shí)驗(yàn)室揭示大模型‘指紋’與剪枝合并的秘密!”

AIGC動(dòng)態(tài)11個(gè)月前發(fā)布 量子位
324 0 0

利用模型微調(diào)后表征不變性打造

“破解AI黑箱:上海實(shí)驗(yàn)室揭示大模型‘指紋’與剪枝合并的秘密!”

原標(biāo)題:專治大模型“套殼”!上海AI實(shí)驗(yàn)室等給LLM做“指紋識(shí)別”,模型剪枝、合并等也無所遁形
文章來源:量子位
內(nèi)容字?jǐn)?shù):5065字

量子位投稿摘要:REEF方法有效檢測大模型“套殼”行為

近日,來自上海AI Lab邵婧課題組的學(xué)者們提出了一種名為REEF(Representation Encoding Fingerprints)的方法,旨在有效檢測大語言模型(LLM)的未經(jīng)授權(quán)的后續(xù)開發(fā)行為,通常被稱為“套殼”行為。該方法在不影響模型性能的情況下,通過表征編碼實(shí)現(xiàn)對(duì)源模型的精準(zhǔn)識(shí)別,為大模型開發(fā)團(tuán)隊(duì)?wèi)?yīng)對(duì)侵權(quán)問題提供了新的解決方案。

1. REEF的關(guān)鍵思想

REEF依賴于模型在微調(diào)后的表征“不變性”,通過計(jì)算源模型與被測模型的CKA(中心核對(duì)齊)相似性來判斷二者的關(guān)系。CKA是一種用于測量兩組隨機(jī)變量之間性的相似性指數(shù),能夠確保在不同的排列和縮放變換下保持魯棒性。這一特點(diǎn)使得REEF能夠有效識(shí)別經(jīng)過剪枝、合并等處理后的衍生模型。

2. 實(shí)驗(yàn)驗(yàn)證與魯棒性

研究者將REEF應(yīng)用于多種通過微調(diào)、剪枝、合并等手段衍生出的模型,結(jié)果顯示REEF在這些情況下依然能夠準(zhǔn)確識(shí)別源模型,驗(yàn)證了其優(yōu)越的魯棒性。具體而言,REEF在使用多達(dá)700B tokens進(jìn)行微調(diào)時(shí)仍能保持高達(dá)0.9962的相似度,對(duì)高達(dá)90%的剪枝比率也表現(xiàn)出良好的識(shí)別準(zhǔn)確性。

3. 跨數(shù)據(jù)集的有效性

REEF的有效性還體現(xiàn)在其對(duì)不同數(shù)據(jù)集的適應(yīng)性。實(shí)驗(yàn)表明,REEF在多個(gè)數(shù)據(jù)集上均能穩(wěn)定識(shí)別源模型,并且在樣本量較少時(shí)也能實(shí)現(xiàn)可靠的指紋識(shí)別。這使得REEF不僅在實(shí)際應(yīng)用中具備高效性,也為模型的知識(shí)產(chǎn)權(quán)保護(hù)提供了有力支持。

4. 結(jié)論與展望

REEF方法為大模型的開發(fā)與知識(shí)產(chǎn)權(quán)管理提供了一種新標(biāo)準(zhǔn),推動(dòng)了更透明與合作的AI社區(qū)。作者們相信,這一研究成果將促進(jìn)AI模型的保護(hù)與安全可信性的發(fā)展。

相關(guān)論文鏈接:[REEF論文](https://arxiv.org/abs/2410.14273),項(xiàng)目主頁:[REEF項(xiàng)目](https://github.com/tmylla/REEF)。


聯(lián)系作者

文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢(shì),關(guān)注科技行業(yè)新突破

閱讀原文
? 版權(quán)聲明
蟬鏡AI數(shù)字人

相關(guān)文章

蟬鏡AI數(shù)字人

暫無評(píng)論

暫無評(píng)論...
国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片
<span id="3dn8r"></span>
    1. <span id="3dn8r"><optgroup id="3dn8r"></optgroup></span><li id="3dn8r"><meter id="3dn8r"></meter></li>

        9191成人精品久久| 午夜精品免费在线观看| 亚洲日本va午夜在线影院| 国产一区二区久久| 久久久噜噜噜久久中文字幕色伊伊 | aaa欧美大片| 中文字幕一区二区在线播放| 99久久777色| 亚洲高清免费视频| 日韩一区二区三区视频在线观看| 黄一区二区三区| 国产精品美女久久福利网站| 在线观看日韩av先锋影音电影院| 午夜成人在线视频| 国产亚洲污的网站| 在线看一区二区| 黄一区二区三区| 亚洲一区二区五区| 国产欧美精品一区二区色综合朱莉| 91啪亚洲精品| 另类小说视频一区二区| 中文字幕在线观看一区| 91精品欧美一区二区三区综合在 | 国产精品美女久久久久久久久久久| www.亚洲精品| 国产在线不卡视频| 视频一区视频二区在线观看| 国产精品视频在线看| 日韩一区二区三区电影在线观看| 成人av电影免费在线播放| 日韩高清不卡一区| 亚洲欧美激情小说另类| 精品久久久久99| 在线观看亚洲精品视频| 成人免费高清视频| 久久se这里有精品| 天堂成人国产精品一区| 亚洲美女视频在线| 亚洲欧美一区二区在线观看| 久久老女人爱爱| 日韩精品专区在线影院重磅| 欧美亚男人的天堂| 91麻豆国产自产在线观看| 国产盗摄一区二区三区| 男人的天堂久久精品| 亚洲无人区一区| 一区二区三区在线观看欧美| 国产欧美日韩不卡免费| 精品国产乱码久久久久久牛牛 | 亚洲免费看黄网站| 国产精品天天摸av网| 久久久久久久久久久久电影 | 日韩欧美电影一区| 欧美日韩另类一区| 欧美午夜在线一二页| 91欧美一区二区| 成人高清av在线| 北岛玲一区二区三区四区| 菠萝蜜视频在线观看一区| 国产成人免费视| 成人国产精品免费观看| 国产成人综合在线观看| 成人免费va视频| 99精品热视频| 日本高清视频一区二区| 欧美午夜理伦三级在线观看| 欧美亚洲国产一区在线观看网站| 在线观看欧美日本| 日韩欧美国产wwwww| 久久久国产精品午夜一区ai换脸| 久久久不卡网国产精品一区| 欧美国产精品中文字幕| 亚洲男同1069视频| 亚洲第一成年网| 男女男精品网站| 国产成人欧美日韩在线电影| 99久久99精品久久久久久| 91欧美一区二区| 欧美精品成人一区二区三区四区| 日韩欧美在线网站| 国产精品麻豆久久久| 亚洲自拍偷拍麻豆| 日韩国产欧美视频| 国产成人av自拍| 欧美亚洲一区二区在线| 精品国产91乱码一区二区三区 | 在线观看亚洲a| 欧美电影精品一区二区| 日本一区二区免费在线观看视频| 最新欧美精品一区二区三区| 亚洲第一电影网| 成人一区二区三区视频| 在线观看亚洲a| 久久毛片高清国产| 午夜激情久久久| 成人黄色综合网站| 欧美一级国产精品| 一区二区三区国产精品| 国产精品自拍网站| 欧美日韩免费视频| 国产精品欧美精品| 美洲天堂一区二卡三卡四卡视频| eeuss影院一区二区三区| 日韩欧美视频一区| 亚洲黄色小视频| 国产成人亚洲综合a∨婷婷图片| 欧美日韩久久久一区| 国产精品久久久久影院老司| 日韩av成人高清| 在线免费不卡视频| 国产精品视频一二三| 狠狠色综合播放一区二区| 欧美肥妇free| 亚洲精选一二三| 国产成人精品免费看| 欧美va在线播放| 美女视频黄免费的久久| 欧美日韩dvd在线观看| 一区二区三区资源| 99久精品国产| 国产精品视频你懂的| 国产高清不卡二三区| 日韩免费观看2025年上映的电影| 亚洲成人av一区二区三区| 91麻豆免费观看| 国产精品乱码久久久久久| 国产精品18久久久久久久网站| 欧美一区二区在线播放| 亚洲成av人片观看| 精品污污网站免费看| 亚洲最新在线观看| 欧美亚洲自拍偷拍| 午夜精品福利视频网站| 欧美日韩午夜在线| 三级一区在线视频先锋| 91精品欧美一区二区三区综合在 | 欧美一级二级三级蜜桃| 日韩高清一级片| 日韩欧美专区在线| 奇米777欧美一区二区| 欧美不卡一区二区三区四区| 精品一区中文字幕| 久久久精品黄色| 成人手机电影网| 亚洲婷婷国产精品电影人久久| 成人免费视频一区| 亚洲欧美色图小说| 欧美性一二三区| 看电影不卡的网站| 欧美国产精品专区| 欧美怡红院视频| 久久国产福利国产秒拍| 久久精品视频一区二区三区| jvid福利写真一区二区三区| 悠悠色在线精品| 欧美一区二区三区在线看| 久久国产生活片100| 国产精品久久看| 欧美日韩国产天堂| 国产自产视频一区二区三区| 中文字幕永久在线不卡| 337p亚洲精品色噜噜狠狠| 国产成人在线看| 亚洲成a人片在线不卡一二三区| 日韩亚洲欧美在线| 91香蕉视频污在线| 麻豆高清免费国产一区| 国产精品女同互慰在线看| 欧美日韩国产免费一区二区| 国产黄人亚洲片| 婷婷成人激情在线网| 中文子幕无线码一区tr| 欧美麻豆精品久久久久久| 成人性视频免费网站| 午夜欧美大尺度福利影院在线看| 亚洲精品一区在线观看| 91极品视觉盛宴| 国产精品白丝jk黑袜喷水| 亚洲成人你懂的| 亚洲特级片在线| 久久综合资源网| 亚洲黄一区二区三区| 精品久久久久99| 国产精品毛片久久久久久| 在线观看免费视频综合| 日本不卡1234视频| 极品美女销魂一区二区三区| 国产成人自拍在线| 亚洲已满18点击进入久久| 3751色影院一区二区三区| 色综合中文字幕国产 | 精品理论电影在线观看| 色综合视频在线观看| 国产成人在线看| 国产中文一区二区三区| 伦理电影国产精品| 天堂在线一区二区| 三级欧美韩日大片在线看| 亚洲成人自拍一区| 午夜激情一区二区|