掌心AI超算:僅需¥1800,算力暴增70%!8B多模態(tài)模型全面降價!
黃仁勛皮衣了
原標(biāo)題:英偉達新品“掌心AI超算”,¥1800跑8B多模態(tài)模型,算力暴增70%價格腰斬
文章來源:量子位
內(nèi)容字數(shù):1711字
英偉達推出新款Jetson Orin Nano開發(fā)版
在最新的發(fā)布會上,英偉達首席執(zhí)行官黃仁勛展示了新版Jetson Orin Nano開發(fā)版套件,標(biāo)志著該產(chǎn)品在性能和價格上的重大升級。這款被稱為“掌心AI超算”的設(shè)備,不僅性能提升了70%,還將價格降低了50%。
性能與規(guī)格
新版Jetson Orin Nano的算力從40 TOPS提升至67 TOPS(INT8),內(nèi)存帶寬增加了50%,達到了102GB/s,功耗保持在僅25瓦。價格從499美元降至249美元(約人民幣1800元)。這一提升使其在運行主流的7B和8B大模型(如阿里Qwen和Llama等量化版模型)時表現(xiàn)出色,尤其是在AI應(yīng)用領(lǐng)域。
多攝像頭支持與應(yīng)用場景
新設(shè)備最高支持4個攝像頭,能夠運行8B的視覺語言模型和ViT模型,適用于創(chuàng)建基于RAG的機器人、視覺AI代理及AI機器人等多種應(yīng)用。開發(fā)套件包括一個Jetson Orin Nano 8GB系統(tǒng)級模塊(SoM)和參考載板,適合邊緣AI應(yīng)用的原型設(shè)計。
強大的硬件配置
Jetson Orin Nano配備6核Arm CPU和NVIDIA Ampere架構(gòu)GPU,具備1024個CUDA核心和32個張量核心。這一配置支持多個并發(fā)AI應(yīng)用管道與高性能推理,提供更高的分辨率與幀率。
軟件生態(tài)與支持
該設(shè)備支持多種英偉達AI軟件,包括NVIDIA ISAAC(用于機器人)、NVIDIA Metropolis(視覺AI)和NVIDIA Holoscan(傳感器處理)。用戶還可以利用NVIDIA Omniverse Replicator生成合成數(shù)據(jù),并通過NVIDIA TAO工具包微調(diào)預(yù)訓(xùn)練模型,顯著縮短開發(fā)時間。
總結(jié)與前景
黃仁勛表示,這款Jetson Orin Nano代表了一種全新的機器人處理器,盡管在推出初期不被理解,但如今已支持各種類型的機器人。新軟件更新也將提升舊版開發(fā)套件用戶的生成式AI性能,進一步鞏固了英偉達在AI領(lǐng)域的領(lǐng)導(dǎo)地位。
總之,Jetson Orin Nano以其卓越的性能和親民的價格,為開發(fā)者提供了一個理想的生成式AI解決方案,推動了邊緣AI應(yīng)用的發(fā)展。
聯(lián)系作者
文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢,關(guān)注科技行業(yè)新突破