Erste Schritte mit integrierter KI

Alexandra Klepper
Alexandra Klepper
GitHub Bluesky

Veröffentlicht am 12. Dezember 2024, zuletzt aktualisiert am 20. Mai 2025

Mit integrierten KI-APIs kann Ihre Webanwendung KI-gestützte Aufgaben ausführen, ohne eigene KI-Modelle bereitstellen oder verwalten zu müssen. Wir arbeiten daran, diese APIs browserübergreifend zu standardisieren.

→

Erforderliche Modelle

Die Translator API und die Language Detector API verwenden Expertenmodelle. Alle anderen APIs verwenden ein Language Model, das für die lokale Ausführung auf Desktops und Laptops entwickelt wurde.

Die Summarizer API, Writer API, Rewriter API und Proofreader API unterstützen nur die Text-zu-Text-Modalität. Die Prompt API bietet multimodale Funktionen.

Chrome-Modelle

Chrome verwendet Experten- und Foundation Language Models. Diese Modelle sind auf Mobilgeräten nicht verfügbar.

Ab Chrome 149 unterstützen die Modelle Englisch, Spanisch, Japanisch, Deutsch und Französisch für Eingabe- und Ausgabetext.

Erforderliche Hardware

Die folgenden Anforderungen gelten für Entwickler und Nutzer, die Funktionen mit diesen APIs in Chrome verwenden. Bei anderen Browsern können andere Betriebsanforderungen gelten.

Die Language Detector API und die Translator API funktionieren in Chrome auf dem Desktop. Diese APIs funktionieren nicht auf Mobilgeräten.

Die Prompt API, Summarizer API, Writer API, Rewriter API und Proofreader API funktionieren in Chrome, wenn die folgenden Bedingungen erfüllt sind:

  • Betriebssystem: Windows 10 oder 11, macOS 13 oder höher (Ventura und höher), Linux oder ChromeOS (ab Plattform 16389.0.0) auf Chromebook Plus-Geräten. Chrome für Android, iOS und ChromeOS auf Nicht-Chromebook Plus-Geräten wird von den APIs, die Foundation Models verwenden, noch nicht unterstützt.
  • Speicher: Mindestens 22 GB freier Speicherplatz auf dem Volume, das Ihr Chrome-Profil enthält.
  • GPU oder CPU: Integrierte Modelle können mit GPU oder CPU ausgeführt werden.
    • GPU: Mehr als 4 GB VRAM.
    • CPU: Mindestens 16 GB RAM und mindestens 4 CPU-Kerne.
    • Hinweis: Für die Prompt API mit Audioeingabe ist eine GPU erforderlich.
  • Netzwerk: Unbegrenzte Daten oder eine Verbindung ohne Datenlimit.

Die genaue Größe von Gemini Nano kann variieren, da der Browser das Modell aktualisiert. Die aktuelle Größe finden Sie unter chrome://on-device-internals.

Gleich mit dem Erstellen loslegen

Es gibt mehrere integrierte KI-APIs, die sich in verschiedenen Entwicklungsstadien befinden. Einige sind in der stabilen Chrome-Version verfügbar, andere sind für verfügbare Teilnehmer von Ursprungstests verfügbar und wieder andere sind nur für verfügbare Teilnehmer des Early Preview Program verfügbar.

Für jede API gibt es eine eigene Anleitung für die ersten Schritte und zum Herunterladen des Modells, sowohl für das lokale Prototyping als auch in Produktionsumgebungen mit den Ursprungstests.

Alle diese APIs können beim Erstellen von Chrome-Erweiterungen verwendet werden.

Download des Modells

APIs sind in Chrome integriert, ebenso die Modelle. Wenn ein Nutzer zum ersten Mal mit diesen APIs interagiert, muss das Modell in den Browser heruntergeladen werden.

Um festzustellen, ob eine API verwendet werden kann und bereit ist, rufen Sie die asynchrone Funktion availability() auf. Sie gibt ein Promise mit einem der folgenden Werte zurück:

  • "unavailable": Das Gerät des Nutzers oder die angeforderten Sitzungsoptionen werden nicht unterstützt. Das Gerät hat möglicherweise nicht genügend Akkuleistung oder Speicherplatz.
  • "downloadable": Zum Erstellen einer Sitzung sind zusätzliche Downloads erforderlich, die z. B. ein Expertenmodell, ein Language Model oder eine Feinabstimmung umfassen können. Möglicherweise muss der Nutzer die Funktion aktivieren, um create() aufzurufen.
  • "downloading": Downloads sind noch nicht abgeschlossen. Sie müssen abgeschlossen sein, bevor Sie eine Sitzung verwenden können.
  • "available": Sie können sofort eine Sitzung erstellen.

Für einige APIs sind zusätzliche Optionen erforderlich, wenn Sie die Verfügbarkeit aufrufen. Für die Prompt API muss beispielsweise die Sprachunterstützung deklariert werden:

// Makes sure the model is available for English and Japanese input text,
// supports image input, and can generate English output.
await LanguageModel.availability({
  expectedInputs: [{type: "text", languages: ["en", "ja"]}, {type: "image"}],
  expectedOutputs: [{type: "text", languages: ["en"]}],
});

Nutzeraktivierung

Wenn das Gerät integrierte KI-APIs unterstützt, das Modell aber noch nicht heruntergeladen wurde (d. h., wenn availability() den Wert "downloadable" oder "downloading" zurückgibt), muss der Nutzer auf sinnvolle Weise mit Ihrer Seite interagieren, damit Ihre Anwendung eine Sitzung mit create() starten kann.

Verwenden Sie die UserActivation.isActive Eigenschaft, um zu bestätigen, dass ein Nutzer seit dem Laden der Seite direkt mit ihr interagiert hat. Dazu gehören beispielsweise Tippen, Klicken, Tastendrücke, mousedown, oder andere dauerhafte Aktivierungsereignisse.

// Check for user activation.
if (navigator.userActivation.isActive) {
  // Create an instance of a built-in API
}

Bei der Summarizer API können Sie Nutzer beispielsweise auffordern, mit einer Schaltfläche „Zusammenfassen“ zu interagieren, um zu aktivierenSummarizer.create(). Sie können die Zusammenfassung auch erstellen, sobald ein Nutzer mit der Eingabe beginnt, also bei einem keydown Ereignis.

Fehlerbehebung bei localhost

Wenn das Modell nicht wie erwartet funktioniert, gehen Sie so vor:

  1. Starten Sie Chrome neu.
  2. Öffnen Sie chrome://on-device-internals.
  3. Wählen Sie den Tab Broker State (Brokerstatus) aus und prüfen Sie, ob Fehler vorliegen.
  4. Öffnen Sie die Entwicklertools und geben Sie LanguageModel.availability(); in die Konsole ein. Das sollte available zurückgeben.

Warten Sie gegebenenfalls einige Zeit und wiederholen Sie diese Schritte.

Standardisierungsprozess

Wir arbeiten daran, diese APIs zu standardisieren, damit sie in allen Browsern funktionieren. Das bedeutet, dass wir die APIs der Webplattform-Community vorgeschlagen und sie zur weiteren Diskussion an die W3C Web Incubator Community Group weitergeleitet haben.

Wir bitten das W3C, Mozilla und WebKit um Feedback zu jeder API.

Mitmachen und Feedback geben

Wenn Sie integrierte KI ausprobieren und Feedback haben, freuen wir uns, von Ihnen zu hören.