Google AI Edge Gallery

Google AI Edge Gallery – 谷歌推出的AI應(yīng)用，支持手機(jī)端離線運(yùn)行AI模型

Google AI Edge Gallery 是一款由谷歌推出的創(chuàng)新實(shí)驗(yàn)性應(yīng)用，旨在讓用戶在本地設(shè)備上體驗(yàn)和使用機(jī)器學(xué)習(xí)（ML）及生成式人工智能（GenAI）模型。該應(yīng)用目前專為 Android 設(shè)備設(shè)計(jì)，無(wú)需網(wǎng)絡(luò)連接即可運(yùn)行，提供圖像問(wèn)答、文本生成、多輪對(duì)話等功能，并實(shí)時(shí)展示性能指標(biāo)。它同時(shí)為開發(fā)者提供了豐富的資源和工具，助力探索設(shè)備端 AI 的強(qiáng)大潛力。

### Google AI Edge Gallery：開啟設(shè)備端 AI 新紀(jì)元

Google AI Edge Gallery 是一個(gè)前沿的實(shí)驗(yàn)性應(yīng)用，它引領(lǐng)用戶進(jìn)入設(shè)備端人工智能的嶄新世界。這款應(yīng)用的核心在于，讓用戶能夠在本地設(shè)備上直接體驗(yàn)和使用強(qiáng)大的機(jī)器學(xué)習(xí)（ML）及生成式人工智能（GenAI）模型，無(wú)需依賴網(wǎng)絡(luò)連接。 用戶可以切換不同的模型，進(jìn)行諸如圖像問(wèn)答、文本創(chuàng)作、多輪對(duì)話等多種操作，并可以實(shí)時(shí)監(jiān)控各項(xiàng)關(guān)鍵性能指標(biāo)。 此外，Google AI Edge Gallery 還為開發(fā)者提供了豐富的資源和工具，助力他們探索設(shè)備端 AI 的無(wú)限可能。

### 核心功能一覽

• 離線暢玩：完全擺脫網(wǎng)絡(luò)束縛，所有處理均在本地設(shè)備上完成。
• 模型隨心換：輕松切換Hugging Face上的各種模型，比較不同模型的表現(xiàn)。
• 圖像問(wèn)答：上傳圖片，提出問(wèn)題，獲取詳細(xì)描述、解決問(wèn)題或識(shí)別物體。
• 提示詞實(shí)驗(yàn)室：總結(jié)、改寫、生成代碼，或者使用形式的提示詞探索單輪對(duì)話 LLM 的應(yīng)用。
• AI ：與 AI 進(jìn)行多輪對(duì)話，體驗(yàn)智能交互的樂(lè)趣。
• 性能一目了然：實(shí)時(shí)查看基準(zhǔn)測(cè)試結(jié)果，如首次響應(yīng)時(shí)間、解碼速度和延遲等。
• 自帶模型測(cè)試：測(cè)試本地 LiteRT .task 模型。
• 開發(fā)者福利：快速鏈接到模型卡和源代碼，方便開發(fā)者深入研究。

### 技術(shù)基石

• Google AI Edge：作為設(shè)備端機(jī)器學(xué)習(xí)的核心框架，Google AI Edge 提供一系列 API 和工具，助力在移動(dòng)設(shè)備上高效運(yùn)行機(jī)器學(xué)習(xí)模型。
• LiteRT：這是一個(gè)輕量級(jí)的運(yùn)行時(shí)環(huán)境，專門用于優(yōu)化模型的執(zhí)行效率。它基于高效的內(nèi)存管理和計(jì)算優(yōu)化，確保模型在移動(dòng)設(shè)備上快速運(yùn)行，同時(shí)最大限度地減少對(duì)設(shè)備資源的占用。LiteRT 支持多種模型格式，包括 TensorFlow Lite 和 ONNX。
• LLM 推理 API：支持設(shè)備端大型語(yǔ)言模型（LLM）推理的接口，讓應(yīng)用能夠在本地設(shè)備上運(yùn)行復(fù)雜的語(yǔ)言模型，如 GPT 或其他基于Transformer架構(gòu)的模型，無(wú)需依賴云端服務(wù)。
• Hugging Face 集成：無(wú)縫集成 Hugging Face 的模型庫(kù)，用戶可以輕松地發(fā)現(xiàn)和下載各種預(yù)訓(xùn)練模型。Hugging Face 提供了豐富的模型資源，涵蓋從自然語(yǔ)言處理到計(jì)算機(jī)視覺(jué)等多個(gè)領(lǐng)域。通過(guò)集成，用戶可以直接在 Gallery 中使用模型，無(wú)需手動(dòng)下載和配置。

### 官方網(wǎng)站

• 項(xiàng)目地址：https://github.com/google-ai-edge/gallery

### 應(yīng)用場(chǎng)景大揭秘

• 個(gè)人娛樂(lè)與創(chuàng)作：用戶可以上傳圖片進(jìn)行問(wèn)答、生成創(chuàng)意文本，或與 AI 進(jìn)行多輪對(duì)話，滿足娛樂(lè)和創(chuàng)作需求。
• 教育與學(xué)習(xí)：作為語(yǔ)言學(xué)習(xí)、科學(xué)實(shí)驗(yàn)輔助和編程教育工具，提升學(xué)習(xí)效果。
• 專業(yè)開發(fā)與研究：開發(fā)者可以測(cè)試和優(yōu)化模型，快速搭建原型，并比較不同模型的性能，從而加速開發(fā)流程。
• 企業(yè)與商業(yè)：企業(yè)可以開發(fā)本地化的客戶支持工具，技術(shù)人員在無(wú)網(wǎng)環(huán)境下也能解決問(wèn)題，同時(shí)保障數(shù)據(jù)隱私。
• 日常生活：輔助旅行規(guī)劃、控制智能家居和獲取健康建議，提升生活便利性。

### 常見問(wèn)題解答

* **Google AI Edge Gallery 可以在哪些設(shè)備上使用？**

目前，Google AI Edge Gallery 僅支持 Android 設(shè)備。
* **使用 Google AI Edge Gallery 需要聯(lián)網(wǎng)嗎？**

不需要，所有功能都可以在離線狀態(tài)下使用。
* **我可以在 Google AI Edge Gallery 中使用哪些模型？**

您可以使用Hugging Face 提供的各種模型，以及應(yīng)用自帶的 LiteRT .task 模型。
* **Google AI Edge Gallery 的數(shù)據(jù)隱私如何保障？**

由于所有處理都在本地設(shè)備上進(jìn)行，您的數(shù)據(jù)隱私得到了更好的保護(hù)。
* **如何獲取更多關(guān)于 Google AI Edge Gallery 的信息？**

您可以訪問(wèn) GitHub 倉(cāng)庫(kù)，獲取更多詳細(xì)信息。