Gepubliceerd: 21 oktober 2025
De ingebouwde AI-functionaliteit, aangedreven door basis- en expertmodellen, is ontworpen om naadloos te werken voor zowel gebruikers als ontwikkelaars. Wanneer u een ingebouwde AI-API gebruikt, vindt het modelbeheer automatisch op de achtergrond plaats. Dit document beschrijft hoe Chrome omgaat met het downloaden, bijwerken en verwijderen van AI-modellen.
Eerste modeldownload
Wanneer een gebruiker Chrome downloadt of bijwerkt, wordt het model op aanvraag gedownload om ervoor te zorgen dat Chrome het juiste model voor de hardware van de gebruiker downloadt. De eerste modeldownload wordt geactiveerd door de eerste aanroep van een *.create() functie (bijvoorbeeld Summarizer.create() ) van een ingebouwde AI-API die afhankelijk is van Gemini Nano. Wanneer dit gebeurt, voert Chrome een reeks controles uit om de beste aanpak te bepalen. Eerst schat Chrome de GPU-prestaties van het apparaat door een representatieve shader uit te voeren. Op basis van deze resultaten besluit het om:
- Download een grotere, krachtigere variant van de Gemini Nano (zoals met 4B-parameters).
- Download een kleinere, efficiëntere Gemini Nano-variant (zoals met 2B-parameters).
- Schakel terug naar CPU-gebaseerde inferentie als het apparaat aan specifieke statische vereisten voldoet. Als het apparaat niet aan de hardwarevereisten voldoet, wordt het model niet gedownload.
Het downloadproces is ontworpen om robuust te zijn:
- Als de internetverbinding wordt onderbroken, wordt de download hervat vanaf het punt waar deze was onderbroken zodra de verbinding is hersteld.
- Als het tabblad dat de download startte wordt gesloten, wordt de download op de achtergrond voortgezet.
- Als de browser wordt gesloten, wordt de download bij de volgende herstart hervat, mits de browser binnen 30 dagen weer wordt geopend.
Soms kan het aanroepen availability() de modeldownload activeren. Dit gebeurt als de aanroep kort na het aanmaken van een nieuw gebruikersprofiel plaatsvindt en als de door Gemini Nano aangedreven fraudedetectiefunctie is geactiveerd.
LoRA-gewichten downloaden
Sommige API's, zoals de Proofreader API, zijn afhankelijk van Low-Rank Adaptation (LoRA)-gewichten die op het basismodel worden toegepast om de functionaliteit ervan te specialiseren. Als de API afhankelijk is van LoRA, worden de LoRA-gewichten samen met het basismodel gedownload. LoRA-gewichten voor andere API's worden niet proactief gedownload.
Automatische modelupdates
Er worden regelmatig updates uitgebracht voor het Gemini Nano-model. Chrome controleert op deze updates wanneer de browser opstart. Daarnaast controleert Chrome dagelijks op updates voor aanvullende bronnen, zoals LoRA-gewichten. Hoewel je de modelversie niet programmatisch kunt opvragen vanuit JavaScript, kun je handmatig controleren welke versie is geïnstalleerd op chrome://on-device-internals . Het updateproces is ontworpen om naadloos en zonder onderbrekingen te verlopen.
- Chrome blijft de huidige versie gebruiken terwijl de nieuwe versie op de achtergrond wordt gedownload.
- Zodra het bijgewerkte model is gedownload, wordt het direct gewisseld (hot swapped) . Dit betekent dat de modellen zonder downtime worden verwisseld. Elke nieuwe AI API-aanroep zal onmiddellijk het nieuwe model gebruiken. Let op: het is mogelijk dat een prompt die op het exacte moment van de wisseling wordt uitgevoerd, mislukt.
- Elke update betreft een volledige nieuwe modeldownload, geen gedeeltelijke download. Dit komt doordat de gewichten van modellen aanzienlijk kunnen verschillen tussen versies, en het berekenen en toepassen van de verschillen voor zulke grote bestanden traag kan zijn.
Updates zijn onderworpen aan dezelfde vereisten als de eerste download. De initiële controle van de schijfruimte wordt echter overgeslagen als een model al is geïnstalleerd. LoRA-gewichten kunnen ook worden bijgewerkt. Een nieuwe versie van de LoRA-gewichten kan worden toegepast op een bestaand basismodel. Een nieuwe versie van het basismodel vereist echter altijd een nieuwe set LoRA-gewichten.
Modelverwijdering
Chrome beheert actief de schijfruimte om ervoor te zorgen dat de gebruiker niet zonder ruimte komt te zitten. Het Gemini Nano-model wordt automatisch verwijderd als de vrije schijfruimte van het apparaat onder een bepaalde drempelwaarde komt. Daarnaast wordt het model definitief verwijderd als een bedrijfsbeleid de functie uitschakelt, of als een gebruiker gedurende 30 dagen niet aan andere criteria heeft voldaan. Deze criteria kunnen betrekking hebben op API-gebruik en apparaatfunctionaliteit. Het verwijderingsproces heeft de volgende kenmerken:
- Het model kan op elk moment worden verwijderd, zelfs midden in een sessie, zonder rekening te houden met actieve prompts. Dit betekent dat een API die aan het begin van een sessie beschikbaar was, plotseling niet meer beschikbaar kan zijn.
- Nadat het model is verwijderd, wordt het niet automatisch opnieuw gedownload. Een nieuwe download moet worden gestart door een applicatie die een
*.create()functie aanroept. - Wanneer het basismodel wordt verwijderd, worden alle bijbehorende LoRA-gewichten na een respijtperiode van 30 dagen ook verwijderd.
Jouw rol in modelbeheer
Een goed begrip van de levenscyclus van het ingebouwde AI-model is essentieel voor een optimale gebruikerservaring. Je bent niet klaar met het downloaden van het model; je moet er ook rekening mee houden dat het model plotseling weer kan verdwijnen door ruimtegebrek op de schijf, of dat het model wordt bijgewerkt wanneer er een nieuwe versie verschijnt. Dit alles wordt door de browser afgehandeld.
Door de beste werkwijzen voor het downloaden van het model te volgen, creëert u een goede gebruikerservaring bij de eerste download, herhaalde downloads en updates.