Opublikowano: 5 sierpnia 2024 r.
Zespół Chrome z radością obserwuje entuzjazm związany z interfejsem Prompt API w Chrome, który jest częścią wbudowanej AI. Ogłosiliśmy ten eksperyment na konferencji Google I/O w maju tego roku. Umożliwiliśmy też rejestrację w programie wczesnego dostępu. Rejestrując się, możesz wypróbować interfejsy API na wczesnym etapie rozwoju, takie jak Prompt API, i podzielić się opinią o tym, jak używasz tych interfejsów API w lokalnych prototypach.
Wbudowana AI i interfejs Prompt API są w początkowej fazie rozwoju. Mamy nadzieję, że Twój entuzjazm nie osłabnie w trakcie eksperymentu, ponieważ będziemy zmieniać interfejs API i jego implementację, aby uwzględnić Twoje opinie i ułatwić korzystanie z niego.
Dlaczego przeprowadzamy ten eksperyment?
Mamy się jeszcze wiele do nauczenia. Jakie są potrzeby Twojej firmy, które mogą skorzystać na zastosowaniu AI? Czy są funkcje, które chcesz zaoferować użytkownikom, ale nie możesz tego zrobić z powodu zbyt wysokich kosztów, ograniczeń związanych z ochroną prywatności lub obaw o opóźnienia? Jak możemy ułatwić Ci rozpoczęcie korzystania z tej technologii bez znacznych inwestycji i dogłębnej wiedzy o AI?
Jednym z najlepszych sposobów uczenia się jest eksperymentowanie. Dlatego proponujemy i tworzymy interfejsy API, które zapewnią Ci dostęp do nowych, eksperymentalnych funkcji oferowanych przez modele LLM na urządzeniu, takie jak Gemini Nano.
Chrome oferuje deweloperom różne eksperymentalne interfejsy API. Te interfejsy API są dostępne za pomocą flag Chrome, które są w zasadzie przełącznikami włączającymi lub wyłączającymi określone funkcje przeglądarki. Flagi to sposób na testowanie naszych hipotez i zbieranie opinii od deweloperów podczas tworzenia prototypów i eksperymentowania. Interfejsy API mogą się często zmieniać w zależności od tych opinii i nie ma gwarancji, że zostaną udostępnione. Możemy wycofać flagę, jeśli nie spełnia oczekiwań, lub możemy dojść do wniosku, że musimy rozwiązać inny problem niż początkowo zakładaliśmy.
Tworzenie nowych interfejsów API to długi proces, a te eksperymentalne flagi pomagają nam skutecznie się uczyć, dostosowywać i wprowadzać innowacje.
W przypadku wbudowanej AI potrzebujemy Twojej opinii, aby mieć pewność, że tworzymy funkcje, które mają rzeczywiste, praktyczne zastosowania i spełniają Twoje oczekiwania dotyczące wydajności i jakości. Dlatego zapraszamy Cię do udziału w Programie wczesnego dostępu. Pomożesz nam tworzyć interfejsy API AI, z których będziesz chętnie korzystać.
Co tworzymy?
Tworzymy 2 rodzaje interfejsów API dla wbudowanej AI:
- Interfejsy API zadań, które umożliwiają programistom dostęp do wbudowanych funkcji AI, takich jak interfejs API tłumaczenia lub interfejs API podsumowywania. Interfejsy API zadań są przeznaczone do przeprowadzania wnioskowania na podstawie dobrze znanych modeli przypisanych do danego zadania.
- Interfejsy API do eksploracyjnego testowania, które są przeznaczone głównie do lokalnego prototypowania. Za pomocą tych interfejsów API chcemy prosić o opinie, potwierdzać założenia i określać, jakie interfejsy API zadań będziemy tworzyć w przyszłości. Dlatego eksperymentalne interfejsy API mogą nigdy nie zostać udostępnione.
Uczestnicy programu EPP mogą teraz testować interfejs Prompt API, aby wysyłać do Gemini Nano w Chrome żądania w języku naturalnym. Wyjaśnienie dotyczące interfejsu Prompt API różni się od obecnej implementacji, ponieważ z czasem chcemy wdrożyć dodatkowe metody i ulepszenia.
Na podstawie cennych opinii członków programu EPP dowiedzieliśmy się, że dedykowany interfejs API zadań może nie być najlepszym rozwiązaniem w każdym przypadku. Uczestnicy wczesnego dostępu widzą potencjał w skoncentrowanych interfejsach API do wykonywania zadań i bardziej wszechstronnym interfejsie Prompt API. Sprawdzamy, czy można udostępnić interfejs Prompt API w rozszerzeniach do Chrome.
Interfejs Prompt API w rozszerzeniach do Chrome
Rozszerzenia do Chrome umożliwią Ci eksperymentowanie w rzeczywistym środowisku i pozwolą nam uzyskać dokładniejsze statystyki. Na podstawie tych informacji możemy ulepszyć interfejs API, aby lepiej odpowiadał na rzeczywiste przypadki użycia.
Naszym celem jest wykorzystanie tego prostszego zakresu do przetestowania kilku pomysłów i skuteczniejszego zdobywania wiedzy niż w przypadku odizolowanych prototypów, co ostatecznie przyczyni się do stworzenia API o wyższej jakości.
Ta propozycja jest nadal w trakcie weryfikacji, więc nie mamy jeszcze szczegółowego harmonogramu udostępnienia interfejsu Prompt API w rozszerzeniach do Chrome.
Co dalej?
W ramach programu EPP mamy jeszcze wiele do zrobienia. W przyszłości utworzymy wersje próbne origin, aby zebrać jeszcze więcej cennych opinii na temat platformy internetowej i oferować dodatkowe eksperymentalne interfejsy API zgodnie z procesem wprowadzania Chromium. Współpracujemy z innymi dostawcami przeglądarek, aby ujednolicić jak najwięcej wbudowanych interfejsów API.
Gdy będziemy mieć harmonogram, udostępnimy go na blogu Chrome dla deweloperów i na liście mailingowej. Zarejestruj się, aby mieć pewność, że zobaczysz te ogłoszenia.
W tej dziedzinie zachodzi wiele innowacji i cieszymy się z rosnącej obecności AI w internecie. Wbudowana AI to tylko jeden z elementów tej historii. Chcemy dowiedzieć się jak najwięcej, aby spełnić Twoje potrzeby i oczekiwania.
Rozumiemy, że możesz chcieć dowiedzieć się więcej. Zdecydowanie zalecamy zarejestrowanie się w naszym programie wczesnego dostępu i na listę mailingową z publicznymi ogłoszeniami dla deweloperów dotyczącymi AI w Chrome.