<p>Google AI Edge Gallery - Google 推出了一款支持在手机上离线运行 AI 模型的应用</p>

什么是Google AI Edge Gallery？

Google AI Edge Gallery是谷歌推出的实验性应用，支持用户在本地设备上体验和使用机器学习（ML）与生成式人工智能（GenAI）模型。该应用目前支持在Android设备上离线运行，用户可切换不同模型、进行基于图像的问答、文本生成、多轮对话，并实时查看性能指标。应用支持测试自定义模型，为开发者提供丰富的资源和工具，探索端侧AI的强大能力。

Google AI Edge Gallery主要功能

本地离线运行：无需网络连接，所有处理均在设备上完成

模型选择：轻松切换Hugging Face上的不同模型并对比性能

图像问答：上传图片进行提问，获取描述、解决问题或识别物体

提示词实验室：通过自由输入提示词实现文本总结、改写、代码生成或探索单轮对话LLM用例

AI对话：进行多轮连续对话

性能洞察：实时基准测试（首响应时间、解码速度、延迟）

自定义模型：测试本地LiteRT.task模型

开发者资源：快速访问模型卡片和源代码

Google AI Edge Gallery技术原理

Google AI Edge：谷歌端侧机器学习的核心框架，提供系列API和工具，实现在移动设备上高效运行机器学习模型

LiteRT：专为优化模型执行效率设计的轻量级运行时环境。基于高效内存管理和计算优化，确保模型在移动设备快速运行的同时最小化资源占用，支持TensorFlow Lite、ONNX等多种模型格式

LLM推理API：支持端侧大语言模型（LLM）推理的接口，使GPT等基于Transformer的复杂语言模型可不依赖云服务在本地运行

Hugging Face集成：接入Hugging Face模型库，用户可便捷发现下载各类预训练模型。Hugging Face提供覆盖自然语言处理到计算机视觉的丰富模型资源，通过该集成用户无需手动下载配置即可在Gallery中直接使用

Google AI Edge Gallery项目地址

GitHub仓库：https://github.com/google-ai-edge/gallery

Google AI Edge Gallery应用场景

个人娱乐与创作：用户上传图片问答、生成创意文本或与AI多轮对话，满足娱乐创作需求

教育学习：作为语言学习、科学实验辅助和编程教育工具，提升学习效果

专业开发研究：开发者测试优化模型、快速构建原型、对比不同模型表现，助力开发过程

企业商业：企业开发本地化客服工具，技术人员在离线环境解决问题，同时保障数据隐私

日常生活：协助旅行规划、智能家居控制和健康建议，提升生活便利性