[安卓] Google AI Edge Gallery - 手机跑本地大模型

Google 推出的 「AI Edge Gallery」能够完全本地运行,无需任何网络连接,仅需 2GB 运行内存就能流畅运行强大的多模态 AI 模型。

应用还支持从 Hugging Face 上获取其他模型,我们可以自由切换使用,直观地对比不同模型在相同任务下的表现差异。

功能介绍

  • LLM 单轮对话:支持 Prompt 模板定制、全 Prompt 预览、模型响应实时展示,开发者可快速测试不同 Prompt 对端侧 LLM 输出的影响;
  • 图像生成与历史管理:可视化展示端侧图像生成模型的迭代效果,支持多轮生成结果对比;
  • 模型性能基准测试:实时展示模型预热、运行阶段的性能数据(如耗时、迭代次数),并以进度条、数值面板等形式直观呈现;
  • 文本分类可视化:以评分条、标签的形式展示分类结果,清晰呈现不同类别对应的置信度;
  • 版本更新提醒:应用会自动检测 GitHub 仓库的最新版本,及时提醒开发者更新,保持与最新特性同步。

下载地址

  • 项目地址:
    https://github.com/google-ai-edge/gallery
  • 网盘下载:
    https://pan.quark.cn/s/0778b5527126