- Google AI Edge Gallery 是由 Google AI Edge 团队开发的一个开源 Android 应用,能够 在移动设备本地运行生成式 AI 模型。
功能评测
-
支持多轮聊天(AI Chat)、图像问答(Ask Image)、Prompt 实验室(Prompt Lab)等多模态功能。
- AI Chat:可进行多轮对话,但当前版本还没有保存本地聊天记录功能,退出后相关聊天信息会被清除(但是有Input history共能,保存历史输入数据)
- Ask Image:上传或拍照图像,询问内容如识别物体、描述内容
- Prompt Lab:试验提示词能力,进行文本转写、摘要、代码生成等
- 官方使用方法: https://github.com/google-ai-edge/gallery/wiki/3.-Navigating-the-App
技术栈
- 整合 Hugging Face 模型库:在 app 内直接浏览、下载、切换模型,并与 OAuth 2.0 (AppAuth for Android) 登录集成
- LiteRT(前身 TensorFlow Lite) + MediaPipe(Google AI for developers):用于高效地在边缘设备上执行推理
- 量化模型支持:支持 4 位/8 位量化,加快推理速度、降低设备资源占用
- Kotlin100.0% : Compose UI + CameraX + WorkManager:现代 Android 架构搭建 UI、图像输入、后台下载与管理