Edge Gallery

https://github.com/google-ai-edge/gallery 使用 Google AI Edge 探索、体验和评估设备生成 AI 的未来。 Google AI Edge Gallery 是一款实验性应用，它将尖端生成式 AI 模型的强大功能直接交到您的手中，完全运行在您的 Android （现已推出） 和 iOS （即将推出） 设备上。您可以深入探索充满创意和实用性的 AI 用例，所有用例均可在本地运行，模型加载后无需网络连接。您可以尝试不同的模型、聊天、使用图像提问、探索提示等等！ ✨ 核心功能 📱 本地运行，完全离线： 无需网络连接，即可体验 GenAI 的神奇之处。所有处理均直接在您的设备上进行。 🤖 选择您的模型： 轻松在 Hugging Face 的不同模型之间切换并比较它们的性能。 🖼️ 图像问答： 上传图片并提出相关问题。获取描述、解决问题或识别物体。 ✍️ Prompt Lab： 总结、重写、生成代码或使用自由形式的提示来探索单转 LLM 用例。 💬 AI 聊天： 进行多轮对话。 📊 性能洞察： 实时基准（TTFT、解码速度、延迟）。 🧩 自带模型： 测试您当地的 LiteRT .task模型。 🔗 开发者资源： 模型卡和源代码的快速链接。 🛠️ 技术亮点 Google AI Edge： 设备上 ML 的核心 API 和工具。 LiteRT： 用于优化模型执行的轻量级运行时。 LLM 推理 API： 为设备上的大型语言模型提供支持。 Hugging Face Integration： 用于模型发现和下载。