Publié le 14 mai 2024
L'inférence d'IA côté client se produit sur l'appareil, ce qui peut être incroyablement puissant en plus de toute configuration côté serveur existante. L'IA intégrée est une forme d'IA côté client qui apporte des modèles au navigateur, protégeant ainsi les données sensibles et améliorant la latence.
- Confidentialité et sécurité : l'IA côté client vous permet de travailler avec des données en local, ce qui a un impact considérable sur votre capacité à travailler avec des données sensibles et à les protéger. Vous pouvez proposer des fonctionnalités d'IA aux utilisateurs avec le chiffrement de bout en bout.
- Disponibilité accrue : l'IA côté client peut vous aider à améliorer la disponibilité pour vos utilisateurs. Les appareils de vos utilisateurs peuvent supporter une partie de la charge de traitement en échange d'un accès plus étendu aux fonctionnalités d'IA. Si votre produit propose un service premium, vous pouvez envisager de proposer un niveau sans frais avec des fonctionnalités d'IA côté client pour donner à vos clients un aperçu de ce que le service premium offre.
L'IA côté client ne peut pas remplacer ni reproduire complètement le travail que vous effectuez dans le cloud. Après tout, les serveurs sont incroyablement puissants et capables de contenir des modèles volumineux et complexes qui fournissent des résultats rapidement.
Le côté client n'est pas toujours le bon choix. Avant d'aller plus loin, nous souhaitons vous rappeler quelques bonnes pratiques :
- Concevez vos fonctionnalités avec des solutions de repli élégantes et exécutez des benchmarks sur vos appareils cibles. Tous les appareils ne pourront pas servir de plate-forme d'IA.
- Créez des applications pour des cas d'utilisation spécifiques. L'IA côté client est plus adaptée à des cas d'utilisation spécifiques. Les modèles sont intrinsèquement plus petits que ceux que l'on trouve généralement dans l'IA côté serveur. Décomposez votre processus en étapes ciblées et utilisez le pré-traitement et le post-traitement pour que les modèles plus petits puissent quand même fournir la meilleure réponse possible.
- Soyez stratégique concernant les exigences de téléchargement. Les modèles d'IA peuvent être volumineux, ce qui peut entraîner une utilisation importante des données mobiles et de l'espace de stockage de l'appareil. Assurez-vous de créer une fonctionnalité utile pour vos utilisateurs et d'adopter une stratégie de diffusion et de mise en cache responsable.
Envoyer des commentaires
Nous aimerions connaître les cas d'utilisation qui vous intéressent le plus et recueillir vos commentaires sur notre approche. Vous pouvez envoyer des commentaires et rejoindre le programme d'accès anticipé pour effectuer des tests avec des prototypes locaux.
Votre contribution peut nous aider à faire de l'IA un outil puissant, mais pratique, pour tous.
Commencez à utiliser les API d'IA intégrées à Chrome.