发布时间:2025 年 10 月 1 日
我们很高兴地宣布,Gemini Nano in Chrome 迎来重大更新,旨在为更广泛的用户和设备带来强大的客户端 AI 功能。根据您的反馈,我们将推理支持范围从 GPU 扩展到 CPU。
更多设备支持内置 AI
我们的目标是扩大 Gemini Nano 的覆盖范围。我们知道,并非所有用户的设备都配备了能够高效运行设备端模型的 GPU。通过在 Linux、macOS 和 Windows 上启用 CPU 推理,更多用户可以受益于网站或 Web 应用内置 AI 功能的性能、隐私保护和成本效益。
此次扩展是直接响应开发者的宝贵反馈(尤其是早期预览版计划参与者的反馈)而做出的,他们要求扩大设备兼容性。
效果预期
虽然 CPU 支持扩大了可访问性,但通常在配备了高性能 GPU 的设备上,推理速度会更快。此次更新的重点是让更多用户可以使用内置 AI 功能。
我们会继续努力优化所有硬件的性能,并有望取得进一步的改进。
您的应用可按原样运行
最棒的是,您无需更改与 Chrome 中内置 AI API 的互动方式。Gemini Nano 在 GPU 和 CPU 推理方面保持一致。这意味着:
- 提示不会发生变化:您现有的提示工程和 API 调用将继续按原样运行。虽然响应时间可能会有所不同,但结果本身将保持一致。
- 一致的 API 用法:继续像以前一样使用内置 AI API。
- 更庞大的用户群:您的 AI 赋能功能将在更多设备上运行。
后续操作
Chrome 140 中将推出对 Gemini Nano 的 CPU 支持。我们建议您测试 Web 应用和扩展程序,以衡量它们在各种设备上的性能。
我们很高兴能让更多用户使用客户端 AI,并期待看到大家的作品。
加入抢先体验计划,抢先针对新的 API 提案和功能提供反馈。Chrome for Developers 博客,了解更多更新。 如需分享反馈或针对 Chrome 中特定 API 的实现提交 bug,请阅读各个 API 文档,并查找提交 bug 报告的提示。