国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片

最強的全模態(tài)理解端模型開源,這個輕巧的小模型不僅多基準(zhǔn)登頂,推理速度最高還能領(lǐng)先300%

這可能是目前最強的開源全模態(tài)理解端模型了。今天,無問芯穹宣布正式開源全球首個端側(cè)全模態(tài)理解模型 Megrez-3B-Omni,同步開源的還有它的純語言版本模型 Megrez-3B-Instruct。Megrez-3B-Omni 是一個為端而生的全模態(tài)理解模型,同時具備圖片、音頻、文本三種模態(tài)數(shù)據(jù)的處理能力,并在三個模態(tài)的多種測評基準(zhǔn)中取得了最優(yōu)性能,還能支持多輪對話中的不同模態(tài)間切換。Megrez-3B-Omni 選擇了最適合手機、平板等端側(cè)設(shè)備的30 億參數(shù)黃金尺寸,結(jié)構(gòu)規(guī)整,推理速度最大領(lǐng)先同精度模型 300%。Github:https://github.com/infinigence/Infini-MegrezHuggingFace:https://huggingface.co/Infinigence/Megrez-3B-Omni全模態(tài)高性能:圖片、文本、音頻作者團(tuán)隊表示,Megrez-3B-Omni 沒有犧牲任何模態(tài)的精度,在圖片、文本、音頻三個模態(tài)中均取得了同尺寸下最優(yōu)性能。無論是和同樣三模態(tài)的 VITA ( based on Mixtral 8×7B) 、Baichuan-Omni-7B ,還是雙模態(tài)的 MiniCPM-V 2.6 ( based on Qwen2-7B)、Qwen2-VL-7B、Qwen2-Audio-7B,又或是單一模態(tài)的 Qwen、Baichuan 等模型相比,Megrez-3B-Omni 在主流基準(zhǔn)測試集上的表現(xiàn)都毫不遜色。圖片理解:3B 體量對標(biāo) 34B 模型表現(xiàn)在圖像理解方面,Megrez-3B-Omni 作為一個體積僅為 3B 的模型,其綜合性能表現(xiàn)可以全面超過 34B 的龐然大物,超越 LLaVA-NeXT-Yi-34B 等模型,是目前 OpenCompass、MME、MMMU、OCRBench 等多個主流測試集上精度最高的圖像理解模型之一。與此同時,Megrez-3B-Omni 在場景理解、OCR 等任務(wù)上也具有良好表現(xiàn),能夠準(zhǔn)確洞察和分析圖像中的場景內(nèi)容,并高效地從中提取文本信息,且無論是模糊的印刷體還是復(fù)雜的手寫字,都能夠輕松識別。Megrez-3B-Omni 屏幕識別Megrez-3B-Omni 手寫體識別文本理解:超越上一代 14B 最佳模型在文本理解方面,作為全模態(tài)理解模型,Megrez-3B-Omni 沒有犧牲模型的文本處理能力,將上一代 14B 大模型的優(yōu)秀能力壓縮至 3B 規(guī)模,顯著降低了計算成本、提升了計算效率。在 C-EVAL、MMLU/MMLU Pro、AlignBench 等多個權(quán)威測試集上更是取得端上模型最優(yōu)精度,在文本理解方面取得全球領(lǐng)先地位。Megrez-3B-Omni 文本理解Megrez-3B-Omni 代碼理解音頻理解:輕松以音問圖、以音解文、以音聽音在語音理解方面,Megrez-3B-Omni 的效果比肩行業(yè)主流方案。Megrez-3B-Omni 不僅支持中文和英文的語音輸入,還能夠處理復(fù)雜的多輪對話場景,更能支持對輸入圖片或文字的語音提問,實現(xiàn)不同模態(tài)間的切換。用戶就任意模態(tài)內(nèi)容,發(fā)出語音指令,Megrez-3B-Omni 就能根據(jù)語音指令直接響應(yīng)文本,讓用戶可以通過更少動作與模型展開更直觀、自然的交互。Megrez-3B-Omni 語音理解Megrez-3B-Omni 多種模態(tài)切換令人驚嘆的推理效率模型的規(guī)模并不是決定其速度的唯一因素,因此模型小并不一定就意味著速度快。憑借對硬件特性的深入理解與利用,Megrez-3B-Omni 通過軟硬件協(xié)同優(yōu)化策略,確保了各參數(shù)與主流硬件高度適配,以實現(xiàn)硬件性能的利用最大化。與上一代及其他端側(cè)大語言模型相比,單模態(tài)版本的 Megrez-3B-Instruct 在推理速度上取得了顯著提升,最大推理速度可以領(lǐng)先同精度模型 300%。多場景靈活應(yīng)用Megrez-3B-Instruct 這次還特別提供了 WebSearch 功能,這一功能使得模型能夠智能地判斷何時需要調(diào)用外部工具進(jìn)行網(wǎng)頁搜索,輔助回答用戶的問題。用戶得以構(gòu)建屬于自己 AI 搜素,通過網(wǎng)絡(luò)獲取最新信息,克服小模型的幻覺問題和知識儲備不足的局限。有時,模型通過搜索網(wǎng)頁可以更全面地完成回答,而其他時候,模型自身已具備足夠的知識來解決問題,過多的搜索調(diào)用可能會降低推理速度和效果。Megrez-3B-Instruct 通過在搜索和對話之間智能切換,避免了過度依賴搜索或完全不調(diào)用搜索的問題。除了可以自動決策工具調(diào)用時機之外,Megrez-3B-Instruct 還具備上下文理解性能優(yōu)異、可提供帶參考信息的結(jié)構(gòu)化輸出等優(yōu)勢。目前,這些能力都已集成于 Megrez-3B-Instruct 模型中,用戶可以通過 System Prompt 切換,同時享受到高精度模型推理能力與智能 WebSearch 調(diào)用收益。端上智能需要一體化解決方案相較于云端大模型,端側(cè)模型需要在資源有限的設(shè)備上快速部署、高效運行,對降低模型計算和存儲需求提出更高要求。無問芯穹技術(shù)團(tuán)隊源起于清華大學(xué)電子工程系 NICS-EFC 實驗室,在模型壓縮、推理加速及硬件能耗優(yōu)化等領(lǐng)域擁有深入的學(xué)術(shù)研究和深厚的工程實踐經(jīng)驗,是模型輕量化、軟硬件協(xié)同優(yōu)化領(lǐng)域的頂尖團(tuán)隊。無問芯穹表示,Megrez-3B-Omni 是一個能力預(yù)覽,接下來還將持續(xù)迭代 Megrez 系列,提升自動化水平至“edge device use”效果,讓用戶只需要給出簡單的語音指令,就可完成端設(shè)備的設(shè)置或應(yīng)用操作,并將它作為“端模型 + 端軟件 + 端 IP”端上智能一體化解決方案的重要構(gòu)成推向市場。在這個方案中,除端側(cè)全模態(tài)理解模型外,還有端上推理軟件和 IP 設(shè)計方案,不僅支持 CPU、GPU 和 NPU 的同時推理,更能通過跨越軟硬件層次的系統(tǒng)優(yōu)化,額外帶來最高可達(dá) 70% 的性能提升,最大化端側(cè)硬件性能的利用。通過“端模型 + 端軟件 + 端 IP”一體化設(shè)計,無問芯穹將持續(xù)致力于為端側(cè)設(shè)備提供更完整、對硬件利用更高效的智能方案,促進(jìn)大模型在端側(cè)設(shè)備上實現(xiàn)更高推理速度與更低能耗,推動端側(cè)智能更快迎接 AGI 到來。

閱讀原文
? 版權(quán)聲明
蟬鏡AI數(shù)字人

相關(guān)文章

蟬鏡AI數(shù)字人

暫無評論

暫無評論...
国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片
<span id="3dn8r"></span>
    1. <span id="3dn8r"><optgroup id="3dn8r"></optgroup></span><li id="3dn8r"><meter id="3dn8r"></meter></li>

        99国产一区二区三精品乱码| 五月天一区二区| 中文字幕欧美激情| 国产精品亚洲午夜一区二区三区 | 天堂一区二区在线| 欧美一卡二卡在线| 国产精品自拍网站| 亚洲精品免费在线观看| 欧美日韩综合一区| 极品少妇xxxx精品少妇| 中文字幕高清不卡| 欧美男男青年gay1069videost| 日日夜夜精品视频免费| 久久尤物电影视频在线观看| 国产不卡在线一区| 亚洲h动漫在线| 国产午夜一区二区三区| 99精品1区2区| 久久精品99国产精品日本| 欧美激情自拍偷拍| 欧美曰成人黄网| 激情综合五月天| 一区二区三区视频在线看| 精品国产一区二区三区av性色| 国产成人在线视频网站| 亚洲国产一区视频| 国产欧美一区二区在线| 欧美精品99久久久**| 成人综合在线网站| 久久国内精品视频| 亚洲一区二区三区美女| 国产亚洲一区二区在线观看| 欧美片在线播放| 91日韩精品一区| 韩国精品在线观看| 五月天婷婷综合| 中文字幕中文乱码欧美一区二区| 91麻豆精品国产91久久久更新时间| 99国产精品久久久久久久久久久| 狠狠色丁香婷婷综合| 午夜视频一区二区| 亚洲一区二区在线视频| 中文字幕精品一区二区三区精品| 欧美网站大全在线观看| 亚洲欧美一区二区不卡| 国产98色在线|日韩| 成人免费视频视频| 日韩精品亚洲一区二区三区免费| 国产精品久久久久一区| 日韩久久精品一区| 欧美日韩国产精品成人| 欧美在线一区二区| 成人午夜视频免费看| 国内精品视频666| 美女高潮久久久| 欧美a一区二区| 蜜桃视频免费观看一区| 免费国产亚洲视频| 日韩激情视频在线观看| 青青青伊人色综合久久| 欧美日韩色一区| 久久综合九色综合97婷婷女人| 亚洲精品日韩专区silk| 欧美日韩高清一区二区不卡| 美女高潮久久久| 老司机一区二区| 久久www免费人成看片高清| 午夜视频一区二区三区| 视频一区国产视频| 天堂在线一区二区| 日韩av在线播放中文字幕| 亚洲va天堂va国产va久| 免费在线观看视频一区| 久久精品免费观看| 粉嫩久久99精品久久久久久夜| 从欧美一区二区三区| 成人性生交大片免费看视频在线| 不卡av在线免费观看| 色视频欧美一区二区三区| 精品视频在线视频| 日韩一区二区三区在线观看| 欧美精品一区二区在线播放| 久久久久久夜精品精品免费| 国产精品电影院| 亚洲va韩国va欧美va精品| 久久av资源站| 一本一道久久a久久精品综合蜜臀| 91麻豆国产自产在线观看| 7777精品伊人久久久大香线蕉的 | 午夜国产精品一区| 一区二区在线观看视频在线观看| 亚洲高清免费观看| 狠狠色综合日日| 91农村精品一区二区在线| 91精品国产综合久久久久久久久久 | 蜜桃久久久久久| 99精品视频免费在线观看| 欧美日韩一区二区三区四区| www久久久久| 午夜久久福利影院| 97精品视频在线观看自产线路二| 91精品国产入口| 国产精品久久久久影院亚瑟| 亚洲成人在线观看视频| 成人夜色视频网站在线观看| 7777精品伊人久久久大香线蕉超级流畅 | 午夜电影久久久| 成人国产电影网| 精品国产三级电影在线观看| 一区二区在线电影| 国产成人午夜精品5599| 欧美一级欧美三级| 亚洲女同一区二区| 国产在线精品一区在线观看麻豆| 91麻豆国产香蕉久久精品| 国产亚洲美州欧州综合国| 五月综合激情婷婷六月色窝| 91丨九色丨尤物| 欧美激情一区二区三区全黄| 麻豆精品国产传媒mv男同| 色久优优欧美色久优优| 国产精品人妖ts系列视频| 蜜桃视频在线观看一区二区| 欧美日韩国产综合视频在线观看| 1024亚洲合集| 成人av资源在线观看| 久久女同互慰一区二区三区| 日韩不卡一区二区三区| 这里只有精品免费| 天天av天天翘天天综合网色鬼国产| 在线免费观看一区| 亚洲综合999| 欧美日韩日日骚| 日韩精品一区第一页| 欧美日韩国产免费一区二区| 日韩中文字幕91| 日韩三级在线免费观看| 男女男精品网站| 精品国产123| 国产成人午夜视频| 椎名由奈av一区二区三区| 成人免费视频视频| 亚洲精品中文在线影院| 欧美在线视频日韩| 五月婷婷综合激情| 精品欧美一区二区久久| 国产黑丝在线一区二区三区| 国产精品乱人伦| 一本大道av一区二区在线播放| 亚洲精品视频免费观看| 欧美日高清视频| 狠狠网亚洲精品| 中文字幕在线视频一区| 色悠悠久久综合| 欧美一区二区美女| 欧美电影在哪看比较好| 最近中文字幕一区二区三区| 色婷婷av久久久久久久| 亚洲成人激情自拍| 日韩视频免费观看高清完整版在线观看| 狠狠色狠狠色综合| 欧美国产一区在线| 欧美伊人久久大香线蕉综合69 | 在线亚洲高清视频| 免费人成精品欧美精品| 欧美激情综合在线| 51精品国自产在线| 成人亚洲精品久久久久软件| 亚洲高清一区二区三区| 日韩欧美aaaaaa| 色婷婷久久久久swag精品| 麻豆精品久久精品色综合| 亚洲婷婷综合久久一本伊一区| 欧美一区日本一区韩国一区| www.欧美.com| 久久成人羞羞网站| 一区二区三区在线观看网站| 欧美一区二区三区不卡| 色婷婷综合久久久久中文一区二区| 亚洲综合区在线| 久久综合久久鬼色中文字| 欧美在线免费观看视频| 成人一区二区三区| 丝袜美腿亚洲一区二区图片| √…a在线天堂一区| 精品国产亚洲在线| 91.com视频| 91麻豆免费看片| 粉嫩蜜臀av国产精品网站| 青青草国产精品亚洲专区无| 亚洲欧美日韩小说| 久久精品一区二区三区av| 在线播放欧美女士性生活| 91在线精品一区二区三区| 精品亚洲成a人| 美女视频免费一区| 日本成人在线视频网站| 亚洲v中文字幕| 性做久久久久久久免费看| 亚洲最新视频在线播放|