게시일: 2025년 10월 1일
더 광범위한 사용자 및 기기에 강력한 클라이언트 측 AI 기능을 제공하도록 설계된 Chrome의 Gemini Nano에 대한 중요한 업데이트를 발표하게 되어 기쁩니다. Google은 여러분의 의견을 반영하여 GPU를 넘어 CPU까지 추론 지원을 확대하고 있습니다.
더 많은 기기에서 내장 AI 지원
Google의 목표는 Gemini Nano의 도달범위를 늘리는 것입니다. 모든 사용자에게 온디바이스 모델을 효율적으로 실행할 수 있는 GPU가 탑재된 기기가 있는 것은 아닙니다. Linux, macOS, Windows에서 CPU 추론을 사용 설정하면 훨씬 더 많은 사용자가 웹사이트 또는 웹 애플리케이션의 내장 AI 기능의 성능, 개인 정보 보호, 비용 효율성을 누릴 수 있습니다.
이번 확대는 더 광범위한 기기 호환성을 요청한 개발자, 특히 사전 체험판 프로그램 참가자의 소중한 의견에 대한 직접적인 대응입니다.
성능 기대치
CPU 지원으로 접근성이 확대되지만, 일반적으로 GPU가 지원되는 기기에서 추론 속도가 더 빠릅니다. 이번 업데이트의 목표는 더 많은 사용자에게 내장 AI 기능을 제공하는 것입니다.
Google은 모든 하드웨어에서 성능 최적화를 위해 계속 노력하고 있으며, 향후 더 많은 개선이 이루어질 것으로 기대합니다.
애플리케이션이 그대로 작동합니다.
가장 좋은 소식은 Chrome에서 내장 AI API와 상호작용하는 방식을 변경하지 않아도 된다는 것입니다. Gemini Nano는 GPU 및 CPU 추론 모두에서 일관성을 유지합니다. 이는 다음을 의미합니다.
- 프롬프트 변경 없음: 기존 프롬프트 엔지니어링 및 API 호출은 그대로 계속 작동합니다. 응답 시간은 다를 수 있지만 결과 자체는 일관되게 유지됩니다.
- 일관된 API 사용: 이전과 같이 내장 AI API를 계속 사용합니다.
- 더 큰 사용자층: AI 기반 기능이 더 많은 기기에서 작동합니다.
다음 단계
Gemini Nano의 CPU 지원은 Chrome 140에서 출시됩니다. 다양한 기기에서 웹 애플리케이션과 확장 프로그램의 성능을 측정하기 위해 테스트하는 것이 좋습니다.
더 많은 사용자에게 클라이언트 측 AI를 제공할 수 있게 되어 기쁘며, 여러분이 빌드할 결과물을 기대합니다.
새로운 API 제안 및 기능에 대한 초기 의견을 제공하려면 초기 미리보기 프로그램에 참여하세요. 개발자용 Chrome 블로그에서 자세한 소식을 확인하세요. Chrome의 특정 API 구현에 관한 의견을 공유하거나 버그를 신고하려면 개별 API 문서를 읽고 버그 신고를 제출하라는 메시지를 찾으세요.