Data publikacji: 14 maja 2024 r., ostatnia aktualizacja: 26 maja 2026 r.
Opracowujemy interfejsy API platformy internetowej i funkcje przeglądarki zaprojektowane do współpracy z modelami AI, modelami eksperckimi i dużymi modelami językowymi (LLM) wbudowanymi w przeglądarkę. Dzięki wbudowanej AI Twoja witryna lub aplikacja internetowa może wykonywać zadania oparte na AI bez konieczności wdrażania modeli, zarządzania nimi ani samodzielnego hostowania.
Poznaj korzyści wbudowanej AI, nasz plan wdrożenia i dowiedz się, jak zacząć korzystać z tych narzędzi.
Jeśli nie masz doświadczenia z AI w internecie, zapoznaj się z naszym słowniczkiem pojęć związanych z AI w internecie.
Korzyści z wbudowanej AI dla programistów stron internetowych
Dzięki wbudowanej AI przeglądarka udostępnia modele podstawowe i eksperckie oraz nimi zarządza.
Wbudowana AI zapewnia te korzyści:
- Łatwość wdrażania: przeglądarka rozpowszechnia modele, uwzględniając możliwości urządzenia, i zarządza aktualizacjami. Oznacza to, że nie musisz pobierać ani aktualizować dużych modeli przez sieć. Nie musisz rozwiązywać problemów związanych z usuwaniem danych z pamięci, budżetem pamięci środowiska wykonawczego, kosztami obsługi i innymi wyzwaniami.
- Dostęp do akceleracji sprzętowej: środowisko wykonawcze AI w przeglądarce jest zoptymalizowane pod kątem maksymalnego wykorzystania dostępnego sprzętu, niezależnie od tego, czy jest to GPU, NPU czy CPU. Dzięki temu aplikacja może osiągać najlepsze wyniki na każdym urządzeniu.
Zalety działania po stronie klienta
Dzięki wbudowanej AI możesz wykonywać działania AI po stronie klienta, co oznacza, że uzyskasz te korzyści:
- Lokalne przetwarzanie danych wrażliwych: AI po stronie klienta może poprawić ochronę prywatności. Jeśli na przykład pracujesz z danymi wrażliwymi, możesz oferować funkcje AI użytkownikom korzystającym z pełnego szyfrowania.
- Szybkie działanie: w niektórych przypadkach rezygnacja z wysyłania danych do serwera i z powrotem oznacza, że możesz oferować niemal natychmiastowe wyniki. Sztuczna inteligencja po stronie klienta może decydować o tym, czy dana funkcja będzie przydatna, czy też nie.
- Większy dostęp do AI: urządzenia użytkowników mogą przejąć część obciążenia związanego z przetwarzaniem danych w zamian za większy dostęp do funkcji. Jeśli na przykład oferujesz funkcje AI Premium, możesz udostępnić ich podgląd za pomocą AI po stronie klienta, aby potencjalni klienci mogli zobaczyć korzyści z Twojego produktu bez dodatkowych kosztów. Takie hybrydowe podejście może też pomóc w zarządzaniu kosztami wnioskowania, zwłaszcza w przypadku często używanych ścieżek użytkownika.
- Korzystanie z AI offline: użytkownicy mogą korzystać z funkcji AI nawet wtedy, gdy nie mają połączenia z internetem. Oznacza to, że Twoje witryny i aplikacje internetowe mogą działać zgodnie z oczekiwaniami w trybie offline lub przy zmiennym połączeniu.
Hybrydowa AI: po stronie klienta i po stronie serwera
Sztuczna inteligencja po stronie klienta może obsługiwać wiele przypadków użycia, ale niektóre z nich wymagają obsługi po stronie serwera. AI po stronie serwera to świetne rozwiązanie w przypadku dużych modeli, które może obsługiwać szerszy zakres platform i urządzeń.
Jeśli Twoja aplikacja wymaga:
- Złożoność: konkretne, przystępne przypadki użycia łatwiej obsługiwać za pomocą AI na urządzeniu. W przypadku złożonych przypadków użycia rozważ wdrożenie po stronie serwera.
- Odporność: domyślnie używaj po stronie serwera, a na urządzeniu, gdy urządzenie jest offline lub ma niestabilne połączenie.
- Płynne przełączanie: wprowadzenie przeglądarek z wbudowaną AI zajmie trochę czasu, niektóre modele mogą być niedostępne, a starsze lub mniej wydajne urządzenia mogą nie spełniać wymagań sprzętowych, aby optymalnie uruchamiać wszystkie modele. oferować tym użytkownikom AI po stronie serwera.
Jeśli na przykład używasz wbudowanego interfejsu Prompt API, jest on dostępny tylko w rozszerzeniach do Chrome w systemach Windows, macOS i Linux. Aby mieć pewność, że wszyscy użytkownicy mogą korzystać z funkcji AI, skonfiguruj architekturę hybrydową z Firebase AI Logic.
Dostęp do wbudowanej AI
Dostęp do wbudowanych funkcji AI można uzyskać głównie za pomocą interfejsów API zadań, takich jak interfejs Translator API lub Summarizer API. Interfejsy API zadań są przeznaczone do przeprowadzania wnioskowania na podstawie najlepszego modelu do danego zadania, niezależnie od tego, czy jest to model językowy czy ekspercki.
Kiedy używać wbudowanej AI
Oto kilka sposobów, w jakie wbudowana AI może przynieść korzyści Tobie i Twoim użytkownikom:
- Konsumowanie treści z pomocą AI: w tym podsumowywanie, tłumaczenie, kategoryzowanie, charakteryzowanie i dostarczanie wiedzy.
- Tworzenie treści z pomocą AI: np. pomoc w pisaniu, korekta, poprawianie gramatyki i przeformułowywanie.
Niektóre wbudowane interfejsy AI API są dostępne w stabilnej wersji Chrome i w ramach wersji próbnych origin. Interfejsy API w fazie eksploracyjnej i wczesnej są dostępne dla uczestników programu wczesnego dostępu.
Wyświetlanie podglądu nowych funkcji
Potrzebujemy Twoich opinii, aby dostosować interfejsy API do Twoich przypadków użycia i wykorzystać je w dyskusjach z innymi dostawcami przeglądarek na temat standaryzacji.
Dołącz do programu EPP, aby przekazywać opinie na temat wczesnych pomysłów na wbudowaną AI i odkrywać możliwości testowania interfejsów API w trakcie prac nad nimi za pomocą lokalnego prototypowania.
Działania standaryzacyjne
Pracujemy nad ujednoliceniem tych interfejsów API, aby były zgodne z różnymi przeglądarkami.
Interfejsy Language Detector API i Translator API zostały przyjęte przez grupę roboczą W3C WebML. Poprosiliśmy Mozilla i WebKit o przedstawienie ich stanowisk w sprawie standardów.
Interfejs Summarizer API został przyjęty przez grupę roboczą W3C WebML. Poprosiliśmy Mozilla i WebKit o przedstawienie ich stanowisk w sprawie standardów.