Publié le 14 mai 2024
L'inférence de l'IA côté client s'effectue sur l'appareil, ce qui peut être extrêmement puissant en complément de toute configuration côté serveur existante. L'IA intégrée est une forme d'IA côté client qui apporte des modèles au navigateur, protégeant ainsi les données sensibles et améliorant la latence.
- Confidentialité et sécurité : l'IA côté client vous permet de travailler avec des données en local, ce qui a un impact considérable sur votre capacité à travailler avec des données sensibles, à les protéger et à les garder privées. Vous pouvez proposer des fonctionnalités d'IA aux utilisateurs avec un chiffrement de bout en bout.
- Disponibilité accrue : l'IA côté client peut vous aider à offrir une plus grande disponibilité à vos utilisateurs. Les appareils de vos utilisateurs peuvent prendre en charge une partie de la charge de traitement en échange d'un accès plus important aux fonctionnalités d'IA. Si votre produit propose un service premium, vous pouvez envisager un niveau sans frais avec des fonctionnalités d'IA côté client pour aider vos clients à avoir un aperçu de ce que le service premium offre.
L'exécution de l'IA côté client ne peut pas remplacer et reproduire complètement le travail que vous effectuez dans le cloud. Après tout, les serveurs sont incroyablement puissants et capables de contenir des modèles volumineux et complexes qui fournissent des résultats rapidement.
Le côté client n'est pas toujours le bon choix. Avant d'aller plus loin, nous souhaitons vous rappeler quelques bonnes pratiques :
- Concevez vos fonctionnalités avec des solutions de repli élégantes et exécutez des benchmarks sur vos appareils cibles. Tous les appareils ne pourront pas agir comme une centrale d'IA.
- Créez des cas d'utilisation spécifiques. L'IA côté client fonctionne mieux pour des cas d'utilisation spécifiques. Les modèles sont intrinsèquement plus petits que ce que l'on trouve généralement dans l'IA côté serveur. Décomposez votre processus en étapes ciblées et utilisez le prétraitement et le post-traitement afin que les modèles plus petits puissent toujours fournir la meilleure réponse possible.
- Soyez stratégique concernant les exigences de téléchargement. Les modèles d'IA peuvent être volumineux, ce qui peut entraîner une utilisation importante des données mobiles et du stockage de l'appareil. Assurez-vous de créer une fonctionnalité utile pour vos utilisateurs et d'avoir une stratégie de diffusion et de mise en cache responsable.
Envoyer des commentaires
Nous souhaitons savoir quels cas d'utilisation vous intéressent le plus et connaître votre avis sur notre approche. Vous pouvez nous faire part de vos commentaires et rejoindre le programme Early Preview pour effectuer des tests avec des prototypes locaux.
Votre contribution peut nous aider à faire de l'IA un outil puissant, mais pratique pour tous.
Commencez à utiliser les API d'IA intégrées dans Chrome.