클라이언트 측 AI를 선택해야 하는 경우

Maud Nalpas

Kenji Baheux

Alexandra Klepper

게시일: 2024년 5월 14일

클라이언트 측 AI 추론은 기기에서 발생하며 기존 서버 측 설정과 함께 사용하면 매우 강력한 효과를 발휘할 수 있습니다. 기본 제공 AI는 민감한 데이터를 보호하고 지연 시간을 개선하는 모델을 브라우저에 제공하는 클라이언트 측 AI의 한 형태입니다.

개인 정보 보호 및 보안: 클라이언트 측 AI를 사용하면 데이터를 로컬에서 처리할 수 있으므로 민감한 데이터를 안전하고 비공개로 처리하는 기능에 큰 영향을 미칩니다. 엔드 투 엔드 암호화를 통해 사용자에게 AI 기능을 제공할 수 있습니다.
가용성 향상: 클라이언트 측 AI는 사용자에게 더 높은 가용성을 제공하는 데 도움이 될 수 있습니다. 사용자의 기기는 AI 기능에 더 많이 액세스할 수 있는 대신 일부 처리 부하를 부담할 수 있습니다. 제품에서 프리미엄 서비스를 제공하는 경우 고객이 프리미엄 서비스에서 제공하는 기능을 미리 볼 수 있도록 클라이언트 측 AI 기능이 포함된 무료 등급을 고려해 볼 수 있습니다.

클라이언트 측 AI를 실행해도 클라우드에서 수행하는 작업을 완전히 대체하고 복제할 수는 없습니다. 결국 서버는 매우 강력하며 결과를 빠르게 제공하는 크고 복잡한 모델을 보유할 수 있습니다.

클라이언트 측이 항상 올바른 선택은 아니므로 계속 진행하기 전에 몇 가지 권장사항을 알려드리겠습니다.

그레이스풀 폴백으로 기능을 설계 하고 타겟 기기에서 벤치마크를 실행합니다. 모든 기기가 AI 파워하우스 역할을 할 수 있는 것은 아닙니다.
특정 사용 사례를 위해 빌드 합니다. 클라이언트 측 AI는 특정 사용 사례에 가장 적합합니다. 모델은 서버 측 AI에서 일반적으로 발견되는 모델보다 본질적으로 작습니다. 프로세스를 타겟 단계로 세분화하고 사전 처리 및 사후 처리를 활용하여 더 작은 모델도 가능한 최상의 응답을 제공할 수 있도록 합니다.
다운로드 요구사항에 대해 전략적으로 접근 합니다. AI 모델은 클 수 있으므로 모바일 데이터와 기기 저장용량이 많이 사용될 수 있습니다. 사용자에게 유용한 기능을 빌드하고 책임감 있는 제공 및 캐싱 전략을 수립해야 합니다.

의견 공유

여러분의 기여는 AI를 모든 사람을 위한 강력하면서도 실용적인 도구로 만드는 데 도움이 될 수 있습니다.