Gepubliceerd: 5 augustus 2024
Het Chrome-team is enthousiast over het enthousiasme voor de Prompt API in Chrome, onderdeel van de ingebouwde AI- inspanningen. We hebben dit experiment afgelopen mei aangekondigd tijdens Google I/O, samen met de mogelijkheid om je aan te melden voor het Early Preview Program (EPP) . Door je aan te melden, kun je API's in een vroeg stadium uitproberen, zoals de Prompt API, en de kans krijgen om feedback te geven over hoe je deze API's gebruikt in lokale prototypes.
Het is nog vroeg voor ingebouwde AI en de Prompt API. We hopen dat jullie net zo enthousiast blijven gedurende dit experiment, terwijl we de API en de implementatie ervan aanpassen op basis van jullie feedback en het gebruiksgemak verbeteren.
Waarom voeren we dit experiment uit?
We hebben nog veel te leren. Wat zijn uw zakelijke behoeften die baat kunnen hebben bij AI? Zijn er functies die u uw gebruikers wilt aanbieden, maar die u niet kunt aanbieden vanwege de hoge kosten, privacybeperkingen of latentieproblemen? Hoe kunnen we het voor u gemakkelijker maken om deze technologie te gaan gebruiken zonder grote investeringen of diepgaande AI-kennis?
Een van de beste manieren om te leren is door te experimenteren. Daarom ontwikkelen we API's waarmee je toegang krijgt tot nieuwe, experimentele mogelijkheden die LLM's op je apparaat bieden.
Chrome biedt ontwikkelaars een verscheidenheid aan experimentele API's. Deze API's zijn toegankelijk via Chrome-flags , wat in feite schakelaars zijn waarmee specifieke browserfuncties kunnen worden in- of uitgeschakeld. Flags stellen ons in staat om onze hypotheses te testen en feedback van ontwikkelaars te verzamelen, terwijl jullie prototypes bouwen en experimenteren. De API's kunnen regelmatig veranderen op basis van deze feedback en er is geen garantie dat ze worden uitgebracht. We kunnen een flag verwijderen als deze niet aan de verwachtingen voldoet, of als we merken dat we een ander probleem moeten oplossen dan aanvankelijk gedacht.
De ontwikkeling van nieuwe API's is een langdurig proces, en deze experimentele vlaggen helpen ons om effectief te leren, ons aan te passen en te innoveren.
Voor ingebouwde AI hebben we uw feedback nodig om ervoor te zorgen dat we functies ontwikkelen die daadwerkelijk praktische toepassingen hebben en voldoen aan uw verwachtingen op het gebied van prestaties en kwaliteit. Daarom nodigen we u uit om deel te nemen aan het Early Preview Program: help ons AI-API's te ontwikkelen waar u enthousiast over zult zijn.
Wat zijn we aan het bouwen?
We ontwikkelen twee soorten API's voor ingebouwde AI:
- Taak-API's stellen ontwikkelaars in staat om toegang te krijgen tot ingebouwde AI-functionaliteiten, zoals een vertaal-API of een samenvattings-API. Taak-API's zijn ontworpen om inferentie uit te voeren met behulp van gevestigde modellen voor de betreffende opdracht.
- Experimentele API's die voornamelijk bedoeld zijn voor lokaal prototypen. Met deze API's willen we feedback verzamelen, aannames bevestigen en bepalen welke API's voor specifieke taken we in de toekomst gaan ontwikkelen. Het is daarom mogelijk dat experimentele API's nooit gelanceerd worden.
Onze EPP-leden kunnen nu experimenteren met de Prompt API om verzoeken in natuurlijke taal naar het basismodel in Chrome te sturen. De uitleg van de Prompt API verschilt van de huidige implementatie, omdat er extra methoden en verbeteringen zijn die we in de toekomst hopen te implementeren.
Op basis van waardevolle feedback van EPP-leden hebben we geleerd dat een specifieke taak-API mogelijk niet de beste oplossing is voor elk gebruiksscenario. Deelnemers aan de vroege preview zien potentie in gerichte taak-API's en de meer veelzijdige Prompt-API. Om dit verder te onderzoeken, bekijken we of het mogelijk is om de Prompt-API beschikbaar te maken in Chrome-extensies.
Prompt API in Chrome-extensies
Chrome-extensies stellen je in staat om in een realistische omgeving te experimenteren, waardoor wij dieper inzicht kunnen verkrijgen. Op basis van de bevindingen kunnen we de API verfijnen om beter aan te sluiten op praktijksituaties.
Ons doel is om deze eenvoudigere opzet te gebruiken om ideeën te testen en effectiever te leren dan met geïsoleerde prototypes, wat uiteindelijk zou moeten leiden tot een API van hogere kwaliteit.
Dit voorstel wordt nog beoordeeld, dus we hebben nog geen gedetailleerde planning voor wanneer de Prompt API beschikbaar zal zijn in Chrome-extensies.
Wat volgt?
We hebben nog meer werk te doen binnen het EPP, en uiteindelijk zullen we origin trials opzetten om nog waardevollere feedback van het webplatform te verzamelen en extra experimentele API's aan te bieden, in lijn met het lanceringsproces van Chromium. We werken samen met andere browserleveranciers, zodat we zoveel mogelijk ingebouwde API's kunnen standaardiseren.
Zodra we een tijdlijn hebben, delen we die op de Chrome for Developers-blog en via de mailinglijst . Meld je aan om deze aankondigingen te ontvangen.
Er is zoveel innovatie gaande en we zijn enthousiast over de groeiende aanwezigheid van web-first AI. Ingebouwde AI is slechts een onderdeel van dat verhaal. Ons doel is om zoveel mogelijk te leren, zodat we aan uw behoeften en verwachtingen kunnen voldoen.
We begrijpen dat u wellicht meer details wilt. We raden u ten zeerste aan om u aan te melden voor ons Early Preview Program en de mailinglijst voor openbare aankondigingen van Chrome AI-ontwikkelaars .