Veröffentlicht am 14. Mai 2024
Die clientseitige KI-Inferenz erfolgt auf dem Gerät und kann in Kombination mit einer vorhandenen serverseitigen Einrichtung sehr leistungsstark sein. Die integrierte KI ist eine Form der clientseitigen KI, die Modelle in den Browser bringt, vertrauliche Daten schützt und die Latenz verbessert.
- Datenschutz und ‑sicherheit: Mit der clientseitigen KI können Sie Daten lokal verarbeiten. Das hat einen großen Einfluss auf Ihre Fähigkeit, mit vertraulichen Daten zu arbeiten und sie sicher und privat zu halten. Sie können Nutzern KI-Funktionen mit Ende-zu-Ende-Verschlüsselung anbieten.
- Höhere Verfügbarkeit: Die clientseitige KI kann dazu beitragen, die Verfügbarkeit für Ihre Nutzer zu erhöhen. Die Geräte Ihrer Nutzer können einen Teil der Verarbeitungslast übernehmen und erhalten im Gegenzug mehr Zugriff auf KI-Funktionen. Wenn Ihr Produkt einen Premium-Dienst bietet, können Sie eine kostenlose Stufe mit clientseitigen KI-Funktionen anbieten, damit Ihre Kunden einen Einblick in die Vorteile des Premium-Dienstes erhalten.
Die Ausführung der clientseitigen KI kann die Arbeit in der Cloud nicht vollständig ersetzen und nachbilden. Server sind schließlich sehr leistungsstark und können große, komplexe Modelle hosten, die schnell Ergebnisse liefern.
Die clientseitige KI ist nicht immer die richtige Wahl. Bevor wir fortfahren, möchten wir Sie an einige Best Practices erinnern:
- Entwerfen Sie Ihre Funktionen mit reibungslosen Fallbacks und führen Sie Benchmarks auf Ihren Zielgeräten aus. Nicht jedes Gerät kann als KI-Kraftpaket fungieren.
- Entwickeln Sie für bestimmte Anwendungsfälle. Die clientseitige KI eignet sich am besten für bestimmte Anwendungsfälle. Die Modelle sind von Natur aus kleiner als bei der serverseitigen KI. Unterteilen Sie Ihren Prozess in gezielte Schritte und nutzen Sie die Vor- und Nachbearbeitung, damit kleinere Modelle trotzdem die bestmögliche Antwort liefern können.
- Gehen Sie strategisch mit den Downloadanforderungen um. KI-Modelle können groß sein, was zu einer hohen Nutzung von mobilen Daten und Gerätespeicher führen kann. Achten Sie darauf, dass Sie eine nützliche Funktion für Ihre Nutzer entwickeln und eine verantwortungsvolle Bereitstellungs- und Caching-Strategie haben.
Feedback geben
Wir möchten wissen, welche Anwendungsfälle Sie am meisten interessieren, und freuen uns über Ihr Feedback zu unserem Ansatz. Sie können Feedback geben und am Early Preview Program teilnehmen, um mit lokalen Prototypen zu testen.
Ihr Beitrag kann dazu beitragen, dass KI zu einem leistungsstarken und dennoch praktischen Tool für alle wird.
Erste Schritte mit integrierten KI-APIs in Chrome