Veröffentlicht am 14. Mai 2024
Die clientseitige KI-Inferenz erfolgt auf dem Gerät. Das kann in Kombination mit einer vorhandenen serverseitigen Einrichtung sehr leistungsstark sein. Integrierte KI ist eine Form von clientseitiger KI, bei der Modelle in den Browser gebracht werden, um sensible Daten zu schützen und die Latenz zu verbessern.
- Datenschutz und Sicherheit: Mit clientseitiger KI können Sie Daten lokal verarbeiten. Das hat großen Einfluss darauf, wie Sie mit sensiblen Daten arbeiten und diese schützen können. Sie können Nutzern mit Ende-zu-Ende-Verschlüsselung KI‑Funktionen anbieten.
- Höhere Verfügbarkeit: Clientseitige KI kann die Verfügbarkeit für Ihre Nutzer erhöhen. Die Geräte Ihrer Nutzer können einen Teil der Verarbeitungslast übernehmen, um mehr Zugriff auf KI-Funktionen zu erhalten. Wenn Ihr Produkt einen Premiumdienst anbietet, könnten Sie eine kostenlose Stufe mit clientseitigen KI-Funktionen in Betracht ziehen, damit Ihre Kunden einen Eindruck davon bekommen, was der Premiumdienst bietet.
KI auf Clientseite kann die Arbeit, die Sie in der Cloud erledigen, nicht vollständig ersetzen und replizieren. Server sind schließlich unglaublich leistungsstark und können große, komplexe Modelle hosten, die schnell Ergebnisse liefern.
Die clientseitige Implementierung ist nicht immer die richtige Wahl. Bevor wir fortfahren, möchten wir Sie an einige Best Practices erinnern:
- Funktionen mit ordnungsgemäßen Fallbacks entwickeln und Benchmarks auf den Zielgeräten ausführen. Nicht jedes Gerät kann als KI-Kraftpaket fungieren.
- Für bestimmte Anwendungsfälle entwickeln: Clientseitige KI eignet sich am besten für bestimmte Anwendungsfälle. Die Modelle sind von Natur aus kleiner als die, die normalerweise in serverseitiger KI verwendet werden. Teilen Sie Ihren Prozess in gezielte Schritte auf und nutzen Sie die Vor- und Nachbearbeitung, damit auch kleinere Modelle die bestmögliche Antwort liefern können.
- Downloadanforderungen strategisch einsetzen: KI-Modelle können groß sein, was zu einem hohen Verbrauch an mobilen Daten und Gerätespeicher führen kann. Achten Sie darauf, dass Sie eine nützliche Funktion für Ihre Nutzer entwickeln und dass Sie eine verantwortungsbewusste Strategie für die Bereitstellung und das Caching haben.
Feedback geben
Wir möchten wissen, welche Anwendungsfälle Sie am meisten interessieren, und freuen uns über Ihr Feedback zu unserem Ansatz. Sie können Feedback geben und am Early-Access-Programm teilnehmen, um lokale Prototypen zu testen.
Ihr Beitrag kann uns dabei helfen, KI zu einem leistungsstarken, aber praktischen Tool für alle zu machen.
Erste Schritte mit integrierten KI-APIs in Chrome