国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片

最強的全模態(tài)理解端模型開源,這個輕巧的小模型不僅多基準(zhǔn)登頂,推理速度最高還能領(lǐng)先300%

這可能是目前最強的開源全模態(tài)理解端模型了。今天,無問芯穹宣布正式開源全球首個端側(cè)全模態(tài)理解模型 Megrez-3B-Omni,同步開源的還有它的純語言版本模型 Megrez-3B-Instruct。Megrez-3B-Omni 是一個為端而生的全模態(tài)理解模型,同時具備圖片、音頻、文本三種模態(tài)數(shù)據(jù)的處理能力,并在三個模態(tài)的多種測評基準(zhǔn)中取得了最優(yōu)性能,還能支持多輪對話中的不同模態(tài)間切換。Megrez-3B-Omni 選擇了最適合手機、平板等端側(cè)設(shè)備的30 億參數(shù)黃金尺寸,結(jié)構(gòu)規(guī)整,推理速度最大領(lǐng)先同精度模型 300%。Github:https://github.com/infinigence/Infini-MegrezHuggingFace:https://huggingface.co/Infinigence/Megrez-3B-Omni全模態(tài)高性能:圖片、文本、音頻作者團(tuán)隊表示,Megrez-3B-Omni 沒有犧牲任何模態(tài)的精度,在圖片、文本、音頻三個模態(tài)中均取得了同尺寸下最優(yōu)性能。無論是和同樣三模態(tài)的 VITA ( based on Mixtral 8×7B) 、Baichuan-Omni-7B ,還是雙模態(tài)的 MiniCPM-V 2.6 ( based on Qwen2-7B)、Qwen2-VL-7B、Qwen2-Audio-7B,又或是單一模態(tài)的 Qwen、Baichuan 等模型相比,Megrez-3B-Omni 在主流基準(zhǔn)測試集上的表現(xiàn)都毫不遜色。圖片理解:3B 體量對標(biāo) 34B 模型表現(xiàn)在圖像理解方面,Megrez-3B-Omni 作為一個體積僅為 3B 的模型,其綜合性能表現(xiàn)可以全面超過 34B 的龐然大物,超越 LLaVA-NeXT-Yi-34B 等模型,是目前 OpenCompass、MME、MMMU、OCRBench 等多個主流測試集上精度最高的圖像理解模型之一。與此同時,Megrez-3B-Omni 在場景理解、OCR 等任務(wù)上也具有良好表現(xiàn),能夠準(zhǔn)確洞察和分析圖像中的場景內(nèi)容,并高效地從中提取文本信息,且無論是模糊的印刷體還是復(fù)雜的手寫字,都能夠輕松識別。Megrez-3B-Omni 屏幕識別Megrez-3B-Omni 手寫體識別文本理解:超越上一代 14B 最佳模型在文本理解方面,作為全模態(tài)理解模型,Megrez-3B-Omni 沒有犧牲模型的文本處理能力,將上一代 14B 大模型的優(yōu)秀能力壓縮至 3B 規(guī)模,顯著降低了計算成本、提升了計算效率。在 C-EVAL、MMLU/MMLU Pro、AlignBench 等多個權(quán)威測試集上更是取得端上模型最優(yōu)精度,在文本理解方面取得全球領(lǐng)先地位。Megrez-3B-Omni 文本理解Megrez-3B-Omni 代碼理解音頻理解:輕松以音問圖、以音解文、以音聽音在語音理解方面,Megrez-3B-Omni 的效果比肩行業(yè)主流方案。Megrez-3B-Omni 不僅支持中文和英文的語音輸入,還能夠處理復(fù)雜的多輪對話場景,更能支持對輸入圖片或文字的語音提問,實現(xiàn)不同模態(tài)間的切換。用戶就任意模態(tài)內(nèi)容,發(fā)出語音指令,Megrez-3B-Omni 就能根據(jù)語音指令直接響應(yīng)文本,讓用戶可以通過更少動作與模型展開更直觀、自然的交互。Megrez-3B-Omni 語音理解Megrez-3B-Omni 多種模態(tài)切換令人驚嘆的推理效率模型的規(guī)模并不是決定其速度的唯一因素,因此模型小并不一定就意味著速度快。憑借對硬件特性的深入理解與利用,Megrez-3B-Omni 通過軟硬件協(xié)同優(yōu)化策略,確保了各參數(shù)與主流硬件高度適配,以實現(xiàn)硬件性能的利用最大化。與上一代及其他端側(cè)大語言模型相比,單模態(tài)版本的 Megrez-3B-Instruct 在推理速度上取得了顯著提升,最大推理速度可以領(lǐng)先同精度模型 300%。多場景靈活應(yīng)用Megrez-3B-Instruct 這次還特別提供了 WebSearch 功能,這一功能使得模型能夠智能地判斷何時需要調(diào)用外部工具進(jìn)行網(wǎng)頁搜索,輔助回答用戶的問題。用戶得以構(gòu)建屬于自己 AI 搜素,通過網(wǎng)絡(luò)獲取最新信息,克服小模型的幻覺問題和知識儲備不足的局限。有時,模型通過搜索網(wǎng)頁可以更全面地完成回答,而其他時候,模型自身已具備足夠的知識來解決問題,過多的搜索調(diào)用可能會降低推理速度和效果。Megrez-3B-Instruct 通過在搜索和對話之間智能切換,避免了過度依賴搜索或完全不調(diào)用搜索的問題。除了可以自動決策工具調(diào)用時機之外,Megrez-3B-Instruct 還具備上下文理解性能優(yōu)異、可提供帶參考信息的結(jié)構(gòu)化輸出等優(yōu)勢。目前,這些能力都已集成于 Megrez-3B-Instruct 模型中,用戶可以通過 System Prompt 切換,同時享受到高精度模型推理能力與智能 WebSearch 調(diào)用收益。端上智能需要一體化解決方案相較于云端大模型,端側(cè)模型需要在資源有限的設(shè)備上快速部署、高效運行,對降低模型計算和存儲需求提出更高要求。無問芯穹技術(shù)團(tuán)隊源起于清華大學(xué)電子工程系 NICS-EFC 實驗室,在模型壓縮、推理加速及硬件能耗優(yōu)化等領(lǐng)域擁有深入的學(xué)術(shù)研究和深厚的工程實踐經(jīng)驗,是模型輕量化、軟硬件協(xié)同優(yōu)化領(lǐng)域的頂尖團(tuán)隊。無問芯穹表示,Megrez-3B-Omni 是一個能力預(yù)覽,接下來還將持續(xù)迭代 Megrez 系列,提升自動化水平至“edge device use”效果,讓用戶只需要給出簡單的語音指令,就可完成端設(shè)備的設(shè)置或應(yīng)用操作,并將它作為“端模型 + 端軟件 + 端 IP”端上智能一體化解決方案的重要構(gòu)成推向市場。在這個方案中,除端側(cè)全模態(tài)理解模型外,還有端上推理軟件和 IP 設(shè)計方案,不僅支持 CPU、GPU 和 NPU 的同時推理,更能通過跨越軟硬件層次的系統(tǒng)優(yōu)化,額外帶來最高可達(dá) 70% 的性能提升,最大化端側(cè)硬件性能的利用。通過“端模型 + 端軟件 + 端 IP”一體化設(shè)計,無問芯穹將持續(xù)致力于為端側(cè)設(shè)備提供更完整、對硬件利用更高效的智能方案,促進(jìn)大模型在端側(cè)設(shè)備上實現(xiàn)更高推理速度與更低能耗,推動端側(cè)智能更快迎接 AGI 到來。

閱讀原文
? 版權(quán)聲明
蟬鏡AI數(shù)字人

相關(guān)文章

蟬鏡AI數(shù)字人

暫無評論

暫無評論...
国产精品亚洲mnbav网站_成人午夜亚洲精品无码网站_日韩va亚洲va欧洲va国产_亚洲欧洲精品成人久久曰影片
<span id="3dn8r"></span>
    1. <span id="3dn8r"><optgroup id="3dn8r"></optgroup></span><li id="3dn8r"><meter id="3dn8r"></meter></li>

        成人免费高清在线观看| 亚洲图片激情小说| 欧美成人a∨高清免费观看| 亚洲美腿欧美偷拍| 99国产欧美久久久精品| 亚洲欧美一区二区在线观看| 91福利社在线观看| 亚洲一二三四区不卡| 欧美男人的天堂一二区| 精东粉嫩av免费一区二区三区| 日韩一二三四区| 国产精品1区2区3区在线观看| 国产精品对白交换视频| 欧美老女人第四色| 国产成人在线视频网址| 亚洲一区视频在线| 精品盗摄一区二区三区| 一本大道久久精品懂色aⅴ| 亚洲成人一区在线| 26uuuu精品一区二区| www.一区二区| 日本美女一区二区三区视频| 中文字幕精品三区| 欧美一区二区三区免费大片| 不卡av免费在线观看| 奇米精品一区二区三区在线观看一| 国产日产欧美精品一区二区三区| 欧美日韩夫妻久久| av男人天堂一区| 国模冰冰炮一区二区| 亚洲一区二区三区小说| 久久久亚洲欧洲日产国码αv| 色婷婷激情综合| 国产在线精品免费av| 亚洲综合成人在线| 国产日产亚洲精品系列| 日韩欧美亚洲一区二区| 欧洲精品视频在线观看| 成人av网址在线| 精品写真视频在线观看| 日韩不卡一二三区| 尤物av一区二区| 久久精品视频一区| 久久不见久久见免费视频1| 欧美国产精品专区| 精品久久久久久最新网址| 欧美日韩一区二区电影| 99re成人精品视频| 成人动漫精品一区二区| 国产在线精品免费| 国模一区二区三区白浆| 看国产成人h片视频| 石原莉奈一区二区三区在线观看| 一区二区三区鲁丝不卡| 亚洲乱码日产精品bd| 亚洲欧洲另类国产综合| 日本一二三四高清不卡| 久久精品亚洲麻豆av一区二区| 欧美一区二区三区啪啪| 国产免费观看久久| 2023国产一二三区日本精品2022| 91超碰这里只有精品国产| 欧美在线免费观看视频| 欧美视频在线观看一区| 欧美性一区二区| 欧美午夜精品理论片a级按摩| 日本高清无吗v一区| 99久久国产综合精品麻豆| k8久久久一区二区三区 | 午夜私人影院久久久久| 亚洲另类在线制服丝袜| 亚洲男人的天堂在线观看| 一区二区三区在线免费播放 | 亚洲人成网站在线| 夜夜精品视频一区二区| 青草av.久久免费一区| 久久99国产精品麻豆| 国内外成人在线视频| 国产精品一区二区91| 91在线一区二区三区| 欧美亚洲一区三区| 日韩一区欧美一区| 亚洲图片欧美一区| 久久国产精品72免费观看| 国产成人av电影在线播放| 91亚洲精品久久久蜜桃网站| 欧美亚洲日本一区| 久久这里只有精品6| 国产精品盗摄一区二区三区| 亚洲午夜精品在线| 久久99久久99精品免视看婷婷| 成人免费看片app下载| 欧美色中文字幕| 久久精品亚洲精品国产欧美| 一区二区三区.www| 国产精品88888| 日韩网站在线看片你懂的| 国产精品国产三级国产专播品爱网| 日韩电影在线观看电影| 97久久精品人人爽人人爽蜜臀| 欧美影片第一页| 国产肉丝袜一区二区| 亚洲成人一区二区在线观看| 国产精品99久久久| 日韩一区二区视频在线观看| 国产精品久99| 九九视频精品免费| 欧美浪妇xxxx高跟鞋交| 亚洲精品菠萝久久久久久久| 蜜桃久久av一区| 欧美在线影院一区二区| 国产欧美日本一区视频| 午夜国产精品影院在线观看| eeuss鲁片一区二区三区在线观看 eeuss鲁片一区二区三区在线看 | 不卡的av电影在线观看| 日韩三级在线观看| 一区二区三区不卡视频在线观看| 精品一区二区三区免费播放| 欧洲日韩一区二区三区| 亚洲视频一二三| 成人午夜在线播放| 久久综合色综合88| 免费精品99久久国产综合精品| 色婷婷久久综合| 亚洲视频狠狠干| av爱爱亚洲一区| 国产精品久久久久久久久动漫 | 欧美性videosxxxxx| 国产精品久线在线观看| 国产成人日日夜夜| 国产婷婷色一区二区三区四区| 老司机精品视频导航| 欧美一区二区三区视频在线| 五月天久久比比资源色| 精品视频在线看| 亚洲福利视频导航| 欧美午夜电影一区| 亚洲一区二区中文在线| 欧美日韩一区二区电影| 天堂一区二区在线免费观看| 欧美精品18+| 精品一区二区三区久久久| 日韩欧美亚洲一区二区| 精品亚洲成av人在线观看| 久久久激情视频| av一二三不卡影片| 亚洲成人综合视频| 精品国产自在久精品国产| 久久99国产乱子伦精品免费| 久久午夜色播影院免费高清| 国产成人精品在线看| 国产精品久久久久一区二区三区共| 国产91精品露脸国语对白| 中文字幕一区二区三区视频| 色av综合在线| 欧美aⅴ一区二区三区视频| 精品久久久网站| 色综合天天做天天爱| 视频在线在亚洲| www成人在线观看| 91麻豆国产精品久久| 日韩精品色哟哟| 国产精品久久久久四虎| 欧美日韩成人在线| 国产成人久久精品77777最新版本 国产成人鲁色资源国产91色综 | 国产美女久久久久| 国产精品久久久99| 欧美日韩亚洲丝袜制服| 国产做a爰片久久毛片| 亚洲欧美综合色| 欧美一卡二卡在线| jlzzjlzz亚洲日本少妇| 视频在线观看一区| 中文字幕亚洲一区二区av在线| 欧美日韩成人综合| 成人免费毛片片v| 麻豆91在线看| 亚洲欧美日韩国产中文在线| 精品欧美一区二区三区精品久久| 色婷婷狠狠综合| 国产大陆a不卡| 日韩精品一二区| 亚洲精品免费在线播放| 久久久久久免费网| 欧美一区二区三区思思人| 在线影视一区二区三区| 成人午夜激情视频| 久久se精品一区精品二区| 五月天一区二区三区| 亚洲九九爱视频| 国产精品女主播在线观看| 欧美一区二区视频网站| 一本色道综合亚洲| 成人99免费视频| 国产激情视频一区二区在线观看 | 午夜精品福利久久久| 亚洲精品成人精品456| 亚洲天天做日日做天天谢日日欢| 精品粉嫩aⅴ一区二区三区四区| 欧美剧情片在线观看|