Maud Nalpas
Kenji Baheux
Alexandra Klepper
온디바이스 AI는 사용자에게 강력한 모델을 제공하는 동시에 민감한 정보를 보호하고 지연 시간을 개선할 수 있는 최신 제품입니다.
온디바이스는 클라우드에서 실행하는 작업을 완전히 대체하거나 복제할 수 없습니다. 왜냐하면 서버는 놀라울 정도로 강력하며 크고 복잡한 모델을 보유하면서도 신속하게 결과를 제공할 수 있기 때문입니다. 그러나 온디바이스는 기존의 서버 측 설정과 함께 몇 가지 놀라운 가능성을 열어줄 수 있습니다.
- 개인 정보 보호 및 보안: 기기 내 AI를 사용하면 데이터를 로컬에서 작업할 수 있으므로 민감한 정보를 사용하고 안전하게 비공개로 유지하는 기능에 큰 영향을 미칩니다. 엔드 투 엔드 암호화를 사용하여 사용자에게 AI 기능을 제공할 수 있습니다.
- 높은 가용성: 기기 내 AI는 사용자의 가용성을 높이는 데 도움이 될 수 있습니다. 사용자 기기는 AI 기능에 더 많은 액세스 권한을 얻는 대가로 일부 처리 부하를 부담할 수 있습니다. 제품에서 프리미엄 서비스를 제공하는 경우 고객이 프리미엄 서비스가 제공하는 기능을 파악하는 데 도움이 되는 온디바이스 AI 기능이 포함된 무료 등급을 고려할 수 있습니다.
기기 내 선택이 항상 올바른 선택은 아니므로 계속 진행하기 전에 몇 가지 권장사항을 다시 한번 짚고 넘어가겠습니다.
- 적절한 대체를 사용하여 기능을 디자인하고 대상 기기에서 벤치마크를 실행합니다. 모든 기기가 AI의 발전소 역할을 할 수 있는 것은 아닙니다.
- 특정 사용 사례에 맞게 빌드 온디바이스 AI는 특정 사용 사례에 가장 적합합니다 모델은 본질적으로 서버 측 AI에서 일반적으로 볼 수 있는 모델보다 작습니다. 프로세스를 타겟팅된 단계로 나누고 전처리와 후처리를 활용하여 더 작은 모델에서도 최상의 응답을 제공할 수 있도록 합니다.
- 다운로드 요구사항을 전략적으로 생각하세요. AI 모델은 클 수 있으며, 이로 인해 모바일 데이터 및 기기 저장 공간이 많이 사용될 수 있습니다 사용자를 위한 유용한 기능을 빌드하고 책임감 있는 제공 및 캐싱 전략을 갖추고 있는지 확인하세요.
의견 공유
가장 관심이 가는 사용 사례와 Google의 접근 방식에 대한 의견을 보내주세요. 의견을 공유하고 초기 미리보기 프로그램 참여를 요청하여 로컬 프로토타입으로 테스트할 수 있습니다.
여러분의 참여는 Google이 AI를 모두를 위한 강력하면서도 실용적인 도구로 만드는 데 도움이 됩니다.