Maud Nalpas
Kenji Baheux
Alexandra Klepper
게시일: 2024년 5월 14일
클라이언트 측 AI 추론은 기기에서 발생하며 기존 서버 측 설정과 함께 사용하면 매우 강력할 수 있습니다. 기본 제공 AI는 모델을 브라우저로 가져와 민감한 정보를 보호하고 지연 시간을 개선하는 클라이언트 측 AI의 한 형태입니다.
- 개인 정보 보호 및 보안: 클라이언트 측 AI를 사용하면 로컬에서 데이터를 처리할 수 있으므로 민감한 데이터를 처리하고 안전하게 비공개로 유지하는 기능에 큰 영향을 미칩니다. 엔드 투 엔드 암호화를 사용하는 사용자에게 AI 기능을 제공할 수 있습니다.
- 가용성 향상: 클라이언트 측 AI는 사용자의 가용성을 높이는 데 도움이 됩니다. 사용자의 기기가 AI 기능에 대한 더 많은 액세스를 제공하는 대신 처리 부하의 일부를 부담할 수 있습니다. 제품에서 프리미엄 서비스를 제공하는 경우 고객이 프리미엄 서비스에서 제공하는 기능을 엿볼 수 있도록 클라이언트 측 AI 기능이 포함된 무료 등급을 고려해 보세요.
클라이언트 측 AI를 실행해도 클라우드에서 수행하는 작업을 완전히 대체하고 복제할 수는 없습니다. 서버는 매우 강력하며 결과를 빠르게 제공하는 크고 복잡한 모델을 보유할 수 있습니다.
클라이언트 측이 항상 올바른 선택은 아니므로 계속 진행하기 전에 몇 가지 권장사항을 알려드립니다.
- 단계적 대체가 적용된 기능 설계 및 타겟 기기에서 벤치마크 실행 모든 기기가 AI 강국 역할을 할 수 있는 것은 아닙니다.
- 특정 사용 사례를 위해 빌드 클라이언트 측 AI는 특정 사용 사례에 가장 적합합니다. 모델은 서버 측 AI에서 일반적으로 발견되는 것보다 본질적으로 작습니다. 프로세스를 타겟팅된 단계로 나누고 전처리 및 후처리를 활용하면 소규모 모델에서도 최상의 응답을 제공할 수 있습니다.
- 다운로드 요구사항에 대해 전략적으로 접근하세요. AI 모델은 클 수 있으므로 모바일 데이터와 기기 스토리지를 많이 사용할 수 있습니다. 사용자에게 유용한 기능을 빌드하고 책임감 있는 제공 및 캐싱 전략을 마련해야 합니다.
의견 공유
가장 관심 있는 사용 사례와 Google의 접근 방식에 대한 의견을 듣고 싶습니다. 의견을 공유하고 사전 체험판 프로그램에 참여하여 로컬 프로토타입으로 테스트할 수 있습니다.
여러분의 참여는 AI를 모든 사람을 위한 강력하면서도 실용적인 도구로 만드는 데 도움이 됩니다.
Chrome의 기본 제공 AI API로 시작하기