Pierwsze kroki z wbudowaną AI

Alexandra Klepper
Alexandra Klepper
GitHub Bluesky

Data publikacji: 12 grudnia 2024 r., ostatnia aktualizacja: 20 maja 2025 r.

Dzięki wbudowanym interfejsom API AI Twoja aplikacja internetowa może wykonywać zadania oparte na AI bez konieczności wdrażania własnych modeli AI ani zarządzania nimi. Pracujemy nad ujednoliceniem tych interfejsów API w różnych przeglądarkach.

Wymagania

Aby korzystać z wbudowanej AI, musisz spełniać wymagania dotyczące modelu i sprzętu.

Modele

Interfejsy Translator API i Language Detector API korzystają z modeli eksperckich. Wszystkie pozostałe interfejsy API korzystają z modelu językowego, który jest przeznaczony do działania lokalnie na komputerach stacjonarnych i laptopach.

Interfejsy Summarizer API, Writer API, Rewriter API i Proofreader API obsługują tylko tryb tekst na podstawie tekstu. Interfejs Prompt API ma funkcje multimodalne.

Modele w Chrome

Chrome korzysta z zaawansowanych i podstawowych modeli językowych. Te modele nie są dostępne na urządzeniach mobilnych.

Od Chrome 149 modele obsługują język angielski, hiszpański, japoński, niemiecki i francuski w przypadku tekstu wejściowego i wyjściowego.

Sprzęt

Deweloperzy i użytkownicy, którzy korzystają z funkcji używających tych interfejsów API w Chrome, muszą spełniać te wymagania. Inne przeglądarki mogą mieć inne wymagania dotyczące działania.

Interfejsy API wykrywania języka i tłumaczenia działają w Chrome na komputerach. Te interfejsy API nie działają na urządzeniach mobilnych.

Prompt API, Summarizer API, Writer API, Rewriter API i Proofreader API działają w Chrome, gdy spełnione są te warunki:

  • System operacyjny: Windows 10 lub 11; macOS 13 lub nowszy (Ventura i nowsze); Linux lub ChromeOS (od platformy 16389.0.0) na urządzeniach Chromebook Plus. Chrome na Androida, iOS i ChromeOS na urządzeniach innych niż Chromebook Plus nie są jeszcze obsługiwane przez interfejsy API, które korzystają z modeli podstawowych.
  • Pamięć: co najmniej 22 GB wolnego miejsca na woluminie zawierającym profil Chrome.
  • GPU lub CPU: wbudowane modele mogą działać z GPU lub CPU.
    • GPU: co najmniej 4 GB pamięci VRAM.
    • Procesor: co najmniej 16 GB pamięci RAM i co najmniej 4 rdzenie procesora.
    • Uwaga: interfejs Prompt API z wejściem audio wymaga procesora graficznego.
  • Sieć: nieograniczona transmisja danych lub połączenie bez pomiaru.

Dokładny rozmiar Gemini Nano może się różnić w zależności od aktualizacji modelu przez przeglądarkę. Aby sprawdzić aktualny rozmiar, wejdź na chrome://on-device-internals.

Zacznij tworzyć

Dostępnych jest kilka wbudowanych interfejsów API AI na różnych etapach rozwoju. Niektóre są dostępne w wersji stabilnej Chrome, inne w ramach testów origin trial, a jeszcze inne tylko dla uczestników programu testowania aktualizacji.

Każdy interfejs API ma własny zestaw instrukcji, które pomagają rozpocząć pracę i pobrać model zarówno na potrzeby lokalnego prototypowania, jak i w środowiskach produkcyjnych z testami origin.

Wszystkie te interfejsy API można wykorzystać podczas tworzenia rozszerzeń do Chrome.

Pobieranie modelu

Interfejsy API i modele są wbudowane w Chrome. Gdy użytkownik po raz pierwszy wejdzie w interakcję z tymi interfejsami API, model musi zostać pobrany do przeglądarki.

Aby sprawdzić, czy interfejs API jest gotowy do użycia, wywołaj asynchroniczną funkcję availability(), która zwraca obietnicę z jedną z tych wartości:

  • "unavailable": urządzenie użytkownika lub opcje żądanej sesji nie są obsługiwane. Urządzenie może mieć niewystarczającą moc lub ilość miejsca na dysku.
  • "downloadable": do utworzenia sesji potrzebne są dodatkowe pliki do pobrania, które mogą obejmować model ekspercki, model językowy lub dostrajanie. Aby wywołać funkcję create(), może być wymagana aktywacja użytkownika.
  • "downloading": pobieranie jest w toku i musi się zakończyć, zanim będzie można użyć sesji.
  • "available": sesję możesz utworzyć od razu.

Niektóre interfejsy API wymagają dodatkowych opcji podczas wywoływania dostępności. Na przykład interfejs API promptów wymaga zadeklarowania obsługi języków:

// Makes sure the model is available for English and Japanese input text,
// supports image input, and can generate English output.
await LanguageModel.availability({
  expectedInputs: [{type: "text", languages: ["en", "ja"]}, {type: "image"}],
  expectedOutputs: [{type: "text", languages: ["en"]}],
});

Aktywacja użytkownika

Jeśli urządzenie obsługuje wbudowane interfejsy AI API, ale model nie został jeszcze pobrany (czyli gdy wywołanie funkcji availability() zwraca wartość "downloadable" lub "downloading"), użytkownik musi wejść w znaczącą interakcję ze stroną, aby aplikacja mogła rozpocząć sesję z create().

Użyj właściwości UserActivation.isActive, aby potwierdzić, że użytkownik bezpośrednio wchodził w interakcję ze stroną od momentu jej załadowania. Może to być dotknięcie, kliknięcie, naciśnięcie klawisza, mousedown lub inne zdarzenia aktywacji.

// Check for user activation.
if (navigator.userActivation.isActive) {
  // Create an instance of a built-in API
}

Na przykład za pomocą interfejsu Summarizer API możesz poprosić użytkowników o kliknięcie przycisku „Podsumuj”, aby aktywować Summarizer.create(), lub utworzyć podsumowanie, gdy użytkownik zacznie pisać, czyli po wystąpieniu zdarzenia keydown.

Rozwiązywanie problemów z localhostem

Jeśli model nie działa zgodnie z oczekiwaniami, wykonaj te czynności:

  1. Uruchom ponownie Chrome.
  2. Jedź do: chrome://on-device-internals.
  3. Wybierz kartę Stan brokera i upewnij się, że nie ma na niej błędów.
  4. Otwórz Narzędzia deweloperskie i wpisz LanguageModel.availability(); w konsoli. Powinno zostać zwrócone available.

W razie potrzeby poczekaj chwilę i powtórz te czynności.

Proces standardów

Pracujemy nad ujednoliceniem tych interfejsów API, aby działały we wszystkich przeglądarkach. Oznacza to, że zaproponowaliśmy interfejsy API społeczności platform internetowych i przenieśliśmy je do grupy społecznościowej Web Incubator W3C, aby kontynuować dyskusję.

Prosimy o opinie na temat każdego interfejsu API od W3C, Mozilli i WebKit.

Zaangażuj się i prześlij opinię

Jeśli wypróbujesz wbudowaną AI i chcesz podzielić się opinią, chętnie ją poznamy.