国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片

“AI黑箱:上海實(shí)驗(yàn)室揭示大模型‘指紋’與剪枝合并的秘密!”

AIGC動(dòng)態(tài)11個(gè)月前發(fā)布 量子位
324 0 0

利用模型微調(diào)后表征不變性打造

“破解AI黑箱:上海實(shí)驗(yàn)室揭示大模型‘指紋’與剪枝合并的秘密!”

原標(biāo)題:專治大模型“套殼”!上海AI實(shí)驗(yàn)室等給LLM做“指紋識(shí)別”,模型剪枝、合并等也無所遁形
文章來源:量子位
內(nèi)容字?jǐn)?shù):5065字

量子位投稿摘要:REEF方法有效檢測大模型“套殼”行為

近日,來自上海AI Lab邵婧課題組的學(xué)者們提出了一種名為REEF(Representation Encoding Fingerprints)的方法,旨在有效檢測大語言模型(LLM)的未經(jīng)授權(quán)的后續(xù)開發(fā)行為,通常被稱為“套殼”行為。該方法在不影響模型性能的情況下,通過表征編碼實(shí)現(xiàn)對(duì)源模型的精準(zhǔn)識(shí)別,為大模型開發(fā)團(tuán)隊(duì)?wèi)?yīng)對(duì)侵權(quán)問題提供了新的解決方案。

1. REEF的關(guān)鍵思想

REEF依賴于模型在微調(diào)后的表征“不變性”,通過計(jì)算源模型與被測模型的CKA(中心核對(duì)齊)相似性來判斷二者的關(guān)系。CKA是一種用于測量兩組隨機(jī)變量之間性的相似性指數(shù),能夠確保在不同的排列和縮放變換下保持魯棒性。這一特點(diǎn)使得REEF能夠有效識(shí)別經(jīng)過剪枝、合并等處理后的衍生模型。

2. 實(shí)驗(yàn)驗(yàn)證與魯棒性

研究者將REEF應(yīng)用于多種通過微調(diào)、剪枝、合并等手段衍生出的模型,結(jié)果顯示REEF在這些情況下依然能夠準(zhǔn)確識(shí)別源模型,驗(yàn)證了其優(yōu)越的魯棒性。具體而言,REEF在使用多達(dá)700B tokens進(jìn)行微調(diào)時(shí)仍能保持高達(dá)0.9962的相似度,對(duì)高達(dá)90%的剪枝比率也表現(xiàn)出良好的識(shí)別準(zhǔn)確性。

3. 跨數(shù)據(jù)集的有效性

REEF的有效性還體現(xiàn)在其對(duì)不同數(shù)據(jù)集的適應(yīng)性。實(shí)驗(yàn)表明,REEF在多個(gè)數(shù)據(jù)集上均能穩(wěn)定識(shí)別源模型,并且在樣本量較少時(shí)也能實(shí)現(xiàn)可靠的指紋識(shí)別。這使得REEF不僅在實(shí)際應(yīng)用中具備高效性,也為模型的知識(shí)產(chǎn)權(quán)保護(hù)提供了有力支持。

4. 結(jié)論與展望

REEF方法為大模型的開發(fā)與知識(shí)產(chǎn)權(quán)管理提供了一種新標(biāo)準(zhǔn),推動(dòng)了更透明與合作的AI社區(qū)。作者們相信,這一研究成果將促進(jìn)AI模型的保護(hù)與安全可信性的發(fā)展。

相關(guān)論文鏈接:[REEF論文](https://arxiv.org/abs/2410.14273),項(xiàng)目主頁:[REEF項(xiàng)目](https://github.com/tmylla/REEF)。


聯(lián)系作者

文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢(shì),關(guān)注科技行業(yè)新突破

閱讀原文
? 版權(quán)聲明
蟬鏡AI數(shù)字人

相關(guān)文章

蟬鏡AI數(shù)字人

暫無評(píng)論

暫無評(píng)論...
国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片
<span id="3dn8r"></span>
    1. <span id="3dn8r"><optgroup id="3dn8r"></optgroup></span><li id="3dn8r"><meter id="3dn8r"></meter></li>

        gogo大胆日本视频一区| 亚洲最大成人网4388xx| 综合欧美亚洲日本| 成人亚洲一区二区一| 国产精品网站在线观看| 成人黄色777网| 亚洲综合在线第一页| 欧美日韩综合在线| 日韩和的一区二区| 久久精品日韩一区二区三区| 福利一区二区在线观看| 亚洲综合丝袜美腿| 欧美成人午夜电影| 99久久久精品免费观看国产蜜| 亚洲国产美女搞黄色| 欧美xxx久久| 不卡一区二区在线| 香蕉成人伊视频在线观看| 欧美成人乱码一区二区三区| 大胆欧美人体老妇| 天堂在线亚洲视频| 国产精品免费视频观看| 欧美久久久久免费| 成人av电影在线| 美女一区二区视频| 一区二区在线看| 2024国产精品| 7777精品久久久大香线蕉| 成人激情文学综合网| 午夜精品久久久久久久99樱桃| www久久精品| 欧美精品日韩一本| eeuss鲁片一区二区三区在线看| 琪琪久久久久日韩精品| 亚洲一区二区av电影| 国产精品沙发午睡系列990531| 欧美一区二区三级| 欧美日韩成人高清| 欧洲一区在线电影| 91视频一区二区三区| 国产91丝袜在线播放0| 麻豆精品一区二区综合av| 亚洲精品久久嫩草网站秘色| 国产亚洲欧洲997久久综合| 日韩视频国产视频| 制服.丝袜.亚洲.中文.综合| 欧美日韩免费电影| 欧美亚洲图片小说| 欧美午夜精品一区二区三区| 日本黄色一区二区| 在线免费观看成人短视频| av中文字幕不卡| 99麻豆久久久国产精品免费| 国产成人在线视频播放| 国产精品 欧美精品| 国产一区二区伦理| 国产成人精品免费| 成人高清免费在线播放| www.66久久| 91精品1区2区| 欧美高清一级片在线| 日韩一区二区三区在线视频| 日韩欧美一区二区不卡| 精品国产露脸精彩对白| 国产亚洲欧美日韩俺去了| 国产欧美日韩中文久久| 国产精品福利av| 亚洲午夜在线观看视频在线| 日日夜夜精品视频免费| 精品一区二区精品| 成人av动漫网站| 欧美性高清videossexo| 欧美日韩美女一区二区| 91精品一区二区三区久久久久久 | 一区精品在线播放| 国产精品久线在线观看| 亚洲视频每日更新| 午夜日韩在线电影| 黑人巨大精品欧美一区| 国产丶欧美丶日本不卡视频| 国产精品一区二区无线| 成人深夜福利app| 欧美亚洲自拍偷拍| 日韩欧美国产高清| 久久精品视频一区二区三区| 亚洲色图都市小说| 日韩av电影一区| 成人亚洲精品久久久久软件| 色婷婷精品大在线视频| 91精品婷婷国产综合久久竹菊| 久久婷婷久久一区二区三区| 日韩毛片在线免费观看| 香蕉成人伊视频在线观看| 国产美女精品人人做人人爽 | 精品国产乱码久久久久久夜甘婷婷 | 日本亚洲一区二区| 国产美女视频91| 欧美日韩国产天堂| 国产女人18毛片水真多成人如厕 | 91精品欧美综合在线观看最新| 久久久久国色av免费看影院| 一区二区三区视频在线看| 国产自产视频一区二区三区| 欧美综合欧美视频| 中文幕一区二区三区久久蜜桃| 偷拍亚洲欧洲综合| 99久久久久免费精品国产| 日韩欧美久久久| 亚洲在线一区二区三区| 丰满白嫩尤物一区二区| 91精品国产品国语在线不卡| 亚洲免费色视频| 国产精品123区| 欧美一级二级三级乱码| 亚洲第一福利视频在线| 色噜噜狠狠色综合中国| 国产亚洲欧洲一区高清在线观看| 日韩极品在线观看| 欧美无砖砖区免费| 亚洲一区免费观看| 一本到不卡精品视频在线观看| 中文一区二区完整视频在线观看| 麻豆精品蜜桃视频网站| 日韩欧美一级二级三级| 麻豆视频观看网址久久| 91精品国产黑色紧身裤美女| 婷婷久久综合九色综合绿巨人 | 国产激情视频一区二区三区欧美| 欧美日韩激情一区| 一区二区在线看| 欧美自拍丝袜亚洲| 亚洲电影在线免费观看| 在线观看日韩电影| 亚洲综合网站在线观看| 欧美色窝79yyyycom| 亚洲国产成人高清精品| 91麻豆精品国产91| 美女在线一区二区| 国产亚洲综合性久久久影院| 成人h动漫精品一区二| 国产精品嫩草久久久久| 91香蕉视频mp4| 亚洲最新视频在线观看| 制服丝袜亚洲播放| 精品一区二区免费看| 欧美激情综合网| 欧美午夜在线一二页| 蜜臀av一区二区三区| 欧美videofree性高清杂交| 激情欧美一区二区三区在线观看| 久久综合色综合88| 成人黄页在线观看| 亚洲国产wwwccc36天堂| 日韩一级免费观看| 国产iv一区二区三区| 一个色综合网站| 日韩美女视频在线| 91香蕉视频黄| 久久精品国产秦先生| 亚洲欧洲精品天堂一级| 欧美色成人综合| 国产激情精品久久久第一区二区| 亚洲精品第1页| 久久亚洲综合色| 在线看一区二区| 国产精品99久久久久久久女警 | 国产精品久久久久久久久免费相片| caoporn国产精品| 美国欧美日韩国产在线播放 | 国产三级精品在线| 日本韩国欧美在线| 激情五月激情综合网| 亚洲精品久久久蜜桃| 精品久久久影院| 91福利在线看| 国产精品1区2区| 首页综合国产亚洲丝袜| 日韩美女视频一区| 国产喂奶挤奶一区二区三区| 欧美久久婷婷综合色| 99视频精品全部免费在线| 久久99精品久久久| 亚洲精选视频免费看| 国产亚洲欧美日韩俺去了| 欧美一区二区三区在线视频| 欧洲精品一区二区三区在线观看| 精久久久久久久久久久| 国产精品资源网站| av资源网一区| 国产午夜久久久久| 亚洲免费观看高清在线观看| 亚洲精品欧美激情| 久久久久久久久伊人| 欧美日韩电影一区| 日本高清不卡aⅴ免费网站| 国产成人在线视频免费播放| 免费在线一区观看| 亚洲va欧美va人人爽午夜| 亚洲精品日日夜夜| 亚洲视频精选在线|