【github 有趣项目】Google AI Edge Gallery 手机(Android)离线运行大模型

  • Google AI Edge Gallery 是由 Google AI Edge 团队开发的一个开源 Android 应用,能够 在移动设备本地运行生成式 AI 模型

功能评测

  • 支持多轮聊天(AI Chat)、图像问答(Ask Image)、Prompt 实验室(Prompt Lab)等多模态功能。

    • AI Chat:可进行多轮对话,但当前版本还没有保存本地聊天记录功能,退出后相关聊天信息会被清除(但是有Input history共能,保存历史输入数据)
    • Ask Image:上传或拍照图像,询问内容如识别物体、描述内容
    • Prompt Lab:试验提示词能力,进行文本转写、摘要、代码生成等

在这里插入图片描述

技术栈

  • 整合 Hugging Face 模型库:在 app 内直接浏览、下载、切换模型,并与 OAuth 2.0 (AppAuth for Android) 登录集成
    在这里插入图片描述
  • LiteRT(前身 TensorFlow Lite) + MediaPipe(Google AI for developers):用于高效地在边缘设备上执行推理
    在这里插入图片描述
  • 量化模型支持:支持 4 位/8 位量化,加快推理速度、降低设备资源占用
  • Kotlin100.0% : Compose UI + CameraX + WorkManager:现代 Android 架构搭建 UI、图像输入、后台下载与管理
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值