Foutopsporing van het ingebouwde model

Thomas Steiner

Gepubliceerd: 28 februari 2025

In Chrome maakt de ingebouwde AI gebruik van basis- en expertmodellen om inferentie uit te voeren voor alle API's. Soms kan het model een foutmelding geven of anderszins niet het verwachte resultaat opleveren. U kunt de foutopsporingsinformatie bekijken voor alle ingebouwde AI-API's die gebruikmaken van basis- en expertmodellen. Dit omvat de Prompt API, de Summarizer API, de Writer API en de Rewriter API.

  1. Open Chrome en ga naar chrome://on-device-internals .
  2. Selecteer Gebeurtenislogboeken .
  3. (Optioneel) Klik op Dump om een ​​JSON-bestand met alle evenementinformatie te downloaden.

Je kunt een bug melden , zodat we deze fout in onze implementatie kunnen verhelpen.

Debug de Prompt API

In de volgende sessie heeft de gebruiker bijvoorbeeld rijmwoorden opgevraagd via de Prompt API.

const session = await LanguageModel.create({
  systemPrompt: "You are an API endpoint that returns rhymes as JSON for an input word."
});

await session.prompt([
  { role: "user", content: "house" },  
  { role: "assistant", content: "{\"input\": \"house\", \"output\": \"mouse\"}" },
  { role: "user", content: "file"},  
]);

Het antwoord van het model was als volgt, opgemaakt voor betere leesbaarheid:

```json
[]
```

**Reasoning:**

The input you provided (empty arrays) is an empty list or array in JSON format.
When you try to find rhymes for an empty list, you're essentially looking for
words that rhyme with nothing.


Therefore, there are no rhymes to return. The JSON response will be an empty
array `[]`."

Waarom gaf het model geen JSON-bericht terug met een rijmend woord, idealiter {"input": "file", "output": "pile"} ? Hoewel gestructureerde uitvoer op het moment van schrijven nog niet is geïmplementeerd, zou het antwoord op zijn minst op de een of andere manier aan de rijmtaak moeten voldoen.

Om deze fout op te sporen, ga naar chrome://on-device-internals/ en open het tabblad Gebeurtenislogboeken . Uit het logboek blijkt dat het probleem lag in de interpretatie van de prompt door het model. In plaats van JSON interpreteerde het model de invoer als een tekenreeks: [object Object],[object Object],[object Object] .

Hier is het volledige foutopsporingsbericht, opgemaakt voor betere leesbaarheid:

Executing model with input context of 0 tokens:
<system>You are an API endpoint that returns rhymes as JSON for an input word.<end>
with string: <user>[object Object],[object Object],[object Object]<end> <model>

Het tabblad Gebeurtenislogboeken van de speciale pagina chrome://on-device-internals met foutopsporingsinformatie.

We hebben deze informatie toegevoegd aan een bugrapport voor het modelprobleem. De Prompt API lijkt toString() uit te voeren op JSON-input , wat het engineeringteam heeft geholpen het probleem te identificeren.

Deel feedback

Deel je feedback over het debuggen door een bugrapport in te dienen.