Gepubliceerd: 5 augustus 2024
Het Chrome-team is enthousiast over het enthousiasme rond de Prompt API in Chrome, onderdeel van de ingebouwde AI- inspanning. We hebben dit experiment afgelopen mei aangekondigd tijdens Google I/O, samen met de mogelijkheid om je aan te melden voor het Early Preview Program (EPP) . Door je aan te melden, kun je API's in een vroeg stadium, zoals de Prompt API, uitproberen en je feedback delen over hoe je deze API's gebruikt in lokale prototypes.
Het is nog vroeg voor ingebouwde AI en de Prompt API. We hopen dat u net zo enthousiast blijft tijdens dit experiment, terwijl we de API en de implementatie ervan aanpassen om uw feedback te verwerken en het gebruik ervan te vereenvoudigen.
Waarom voeren we dit experiment uit?
We hebben nog veel te leren. Wat zijn uw zakelijke behoeften die baat kunnen hebben bij AI? Zijn er functies die u uw gebruikers wilt bieden, maar die u niet kunt bieden vanwege te hoge kosten, privacybeperkingen of zorgen over latentie? Hoe kunnen we het voor u gemakkelijker maken om deze technologie te gebruiken zonder aanzienlijke investeringen of diepgaande AI-kennis?
Een van de beste manieren om te leren is door te experimenteren. Daarom stellen we API's voor en bouwen we deze om je toegang te geven tot nieuwe, experimentele mogelijkheden van on-device LLM's, zoals Gemini Nano.
Chrome biedt een verscheidenheid aan experimentele API's voor ontwikkelaars. Deze API's zijn toegankelijk via Chrome-vlaggen , in feite schakelaars waarmee u specifieke browserfuncties kunt in- of uitschakelen. Vlaggen zijn een manier om onze hypothesen te testen en feedback van ontwikkelaars te verzamelen, terwijl u prototypes bouwt en experimenteert. De API's kunnen regelmatig worden gewijzigd op basis van deze feedback en er is geen garantie dat ze worden uitgebracht. We kunnen een vlag stopzetten als deze niet aan de verwachtingen voldoet, of als we tot de conclusie komen dat we een ander probleem moeten oplossen dan aanvankelijk werd gedacht.
De ontwikkeling van nieuwe API's is een langdurig proces en deze experimentele vlaggen helpen ons om effectief te leren, ons aan te passen en te innoveren.
Voor ingebouwde AI hebben we uw feedback nodig om ervoor te zorgen dat we functies bouwen die echte, praktische use cases hebben en voldoen aan uw prestatie- en kwaliteitsverwachtingen. Daarom nodigen we u uit om deel te nemen aan het Early Preview-programma en ons te helpen AI-API's te bouwen waar u enthousiast over bent.
Wat bouwen we?
We bouwen twee soorten API's voor ingebouwde AI:
- Taak-API's die ontwikkelaars toegang geven tot ingebouwde AI-mogelijkheden, zoals een vertaal-API of een samenvattings-API. Taak-API's zijn ontworpen om inferentie uit te voeren op basis van gevestigde modellen voor de opdracht.
- Exploratieve API's zijn primair bedoeld voor lokale prototyping. Met deze API's willen we feedback vragen, aannames bevestigen en bepalen welke taak-API's we in de toekomst bouwen. Het is dan ook mogelijk dat exploratieve API's nooit worden gelanceerd.
Onze EPP-leden kunnen nu experimenteren met de Prompt API, waarmee ze verzoeken in natuurlijke taal naar Gemini Nano in Chrome kunnen sturen. De uitleg van de Prompt API verschilt van de huidige implementatie, aangezien we in de toekomst aanvullende methoden en verbeteringen hopen te implementeren.
Op basis van waardevolle feedback van EPP-leden hebben we geleerd dat een speciale taak-API mogelijk niet voor elke use case de beste oplossing is. Vroege previewdeelnemers zien potentieel voor gerichte taak-API's en de veelzijdigere Prompt API. Om dit verder te onderzoeken, onderzoeken we of het mogelijk is om de Prompt API beschikbaar te maken in Chrome-extensies.
Prompt API in Chrome-extensies
Met Chrome-extensies kunt u experimenteren in een echte omgeving en krijgen we diepere inzichten. Op basis van de bevindingen kunnen we de API verfijnen om beter aan te sluiten op praktijkvoorbeelden.
Ons doel is om deze eenvoudigere scope te gebruiken om ideeën te testen en effectiever te leren dan van geïsoleerde prototypes, wat uiteindelijk zou leiden tot een API van hogere kwaliteit.
Dit voorstel is nog in behandeling, dus we hebben nog geen gedetailleerde tijdlijn voor wanneer de Prompt API beschikbaar zal zijn in Chrome-extensies.
Wat nu?
We hebben nog meer werk te doen in de EPP en uiteindelijk zullen we originele tests opzetten om nog meer waardevolle feedback van het webplatform te verzamelen en aanvullende experimentele API's aanbieden, in overeenstemming met het lanceringsproces van Chromium. We werken samen met andere browserleveranciers, zodat we zoveel mogelijk ingebouwde API's kunnen standaardiseren.
Zodra we een tijdlijn hebben, delen we deze op de Chrome for Developers-blog en via de mailinglijst . Meld je aan om deze aankondigingen te zien.
Er is zoveel innovatie gaande en we zijn enthousiast over de groeiende aanwezigheid van web-first AI. Ingebouwde AI is slechts één onderdeel van dat verhaal. Ons doel is om zoveel mogelijk te leren en ervoor te zorgen dat we aan uw behoeften en verwachtingen voldoen.
We begrijpen dat u mogelijk meer informatie wilt. We raden u ten zeerste aan om u aan te melden voor ons Early Preview-programma en de mailinglijst met openbare aankondigingen voor Chrome AI-ontwikkelaars .