اشکال‌زدایی مدل داخلی

Thomas Steiner

منتشر شده: ۲۸ فوریه ۲۰۲۵

در کروم، هوش مصنوعی داخلی برای انجام استنتاج برای همه APIها به مدل‌های Foundation و Expert متکی است. گاهی اوقات، مدل ممکن است پیام خطایی را برگرداند یا در غیر این صورت نتواند نتیجه مورد انتظار شما را برگرداند. می‌توانید اطلاعات اشکال‌زدایی را برای همه APIهای هوش مصنوعی داخلی که از مدل‌های Foundation و Expert استفاده می‌کنند، بررسی کنید. این شامل API Prompt، API Summarizer، API Writer و API Rewriter می‌شود.

1. کروم را باز کنید و به chrome://on-device-internals بروید.
2. گزارش‌های رویداد را انتخاب کنید.
3. (اختیاری) برای دانلود یک فایل JSON حاوی تمام اطلاعات رویداد، روی Dump کلیک کنید.

شما می‌توانید یک اشکال (باگ) ثبت کنید تا ما بتوانیم این خطا را در پیاده‌سازی خود برطرف کنیم.

اشکال‌زدایی API Prompt

برای مثال، در جلسه بعدی، کاربر کلمات هم‌قافیه را از Prompt API درخواست کرد.

const session = await LanguageModel.create({
  systemPrompt: "You are an API endpoint that returns rhymes as JSON for an input word."
});

await session.prompt([
  { role: "user", content: "house" },  
  { role: "assistant", content: "{\"input\": \"house\", \"output\": \"mouse\"}" },
  { role: "user", content: "file"},  
]);

پاسخ مدل به شرح زیر بود، که برای خوانایی قالب‌بندی شده بود:

```json
[]
```

**Reasoning:**

The input you provided (empty arrays) is an empty list or array in JSON format.
When you try to find rhymes for an empty list, you're essentially looking for
words that rhyme with nothing.


Therefore, there are no rhymes to return. The JSON response will be an empty
array `[]`."

چرا مدل یک پیام JSON با یک کلمه هم‌قافیه، در حالت ایده‌آل، {"input": "file", "output": "pile"} برنمی‌گرداند؟ اگرچه خروجی ساختاریافته در زمان نگارش این متن هنوز پیاده‌سازی نشده است، اما پاسخ باید حداقل به نحوی وظیفه هم‌قافیه‌سازی را انجام دهد.

برای اشکال‌زدایی این خطا، به chrome://on-device-internals/ مراجعه کنید و به برگه Event Logs بروید. گزارش نشان می‌دهد که مشکل در تفسیر مدل از اعلان بوده است. به جای JSON، مدل ورودی را به عنوان یک رشته درک کرده است: [object Object],[object Object],[object Object] .

در اینجا پیام کامل اشکال‌زدایی، که برای خوانایی قالب‌بندی شده است، آمده است:

Executing model with input context of 0 tokens:
<system>You are an API endpoint that returns rhymes as JSON for an input word.<end>
with string: <user>[object Object],[object Object],[object Object]<end> <model>

ما این اطلاعات را به یک اشکال برای مشکل مدل اضافه کردیم، به نظر می‌رسد Prompt API toString() را روی ورودی JSON اجرا می‌کند ، که به تیم مهندسی کمک کرد تا مشکل را شناسایی کنند.

بازخورد را به اشتراک بگذارید

بازخورد اشکال‌زدایی خود را با ثبت گزارش اشکال به اشتراک بگذارید.