Как начать работу со встроенным ИИ

Alexandra Klepper
Alexandra Klepper
GitHub Bluesky

Дата публикации: 12 декабря 2024 г. Дата последнего обновления: 20 мая 2025 г.

Благодаря встроенным API ИИ ваше веб-приложение может выполнять задачи на основе ИИ без необходимости развертывать собственные модели ИИ и управлять ими. Мы работаем над тем, чтобы эти API были стандартизированы во всех браузерах.

Чтобы использовать встроенный ИИ, необходимо соблюдать требования к моделям и оборудованию.

Обязательные модели

В Translator API и Language Detector API используются экспертные модели. Все остальные API используют языковую модель, предназначенную для локального запуска на компьютерах и ноутбуках.

Summarizer API, Writer API, Rewriter API и Proofreader API поддерживают только преобразование текста в текст. Prompt API поддерживает мультимодальность.

Модели устройств Chrome

В Chrome используются экспертные и базовые языковые модели. Эти модели недоступны на мобильных устройствах.

Начиная с Chrome 149 модели поддерживают английский, испанский, немецкий, французский и японский языки для ввода и вывода текста.

Требования к оборудованию

Ниже перечислены требования к разработчикам и пользователям, которые работают с функциями, использующими эти API в Chrome. У других браузеров могут быть другие требования.

Language Detector API и Translator API работают в Chrome на компьютерах. Эти API не работают на мобильных устройствах.

Prompt API, Summarizer API, Writer API, Rewriter API и Proofreader API работают в Chrome при соблюдении следующих условий:

  • Операционная система: Windows 10 или 11; macOS 13 или более поздняя версия (Ventura и более новые); Linux; ChromeOS (начиная с версии Platform 16389.0.0) на устройствах Chromebook Plus. API, использующие базовые модели, пока не поддерживаются в Chrome для Android, iOS и ChromeOS на устройствах, отличных от Chromebook Plus.
  • Хранилище. На томе, содержащем профиль Chrome, должно быть не менее 22 ГБ свободного места.
  • Графический или центральный процессор. Встроенные модели могут работать с графическим или центральным процессором.
    • Графический процессор: видеопамять объемом более 4 ГБ.
    • Процессор: 16 ГБ ОЗУ или больше и 4 ядра ЦП или больше.
    • Примечание. Для работы Prompt API с аудиовходом требуется графический процессор.
  • Сеть. Безлимитный мобильный интернет или подключение без тарификации трафика.

Точный размер Gemini Nano может меняться по мере того, как браузер обновляет модель. Чтобы узнать текущий размер, перейдите на страницу chrome://on-device-internals.

Начать разработку

Существует несколько встроенных API на основе ИИ, которые находятся на разных этапах разработки. Некоторые из них доступны в стабильной версии Chrome, другие – участникам тестирования пробных версий для источника, а третьи – только участникам программы раннего доступа.

Для каждого API есть свои инструкции по началу работы и скачиванию модели, как для локального прототипирования, так и для рабочих сред с пробными версиями.

Все эти API можно использовать при создании расширений Chrome.

Скачивание модели

API и модели встроены в Chrome. При первом взаимодействии пользователя с этими API модель должна быть скачана в браузер.

Чтобы определить, можно ли использовать API, вызовите асинхронную функцию availability(), которая возвращает объект Promise с одним из следующих значений:

  • "unavailable": устройство пользователя или запрошенные параметры сеанса не поддерживаются. На устройстве может быть недостаточно заряда батареи или места на диске.
  • "downloadable": для создания сеанса требуются дополнительные скачивания, которые могут включать экспертную модель, языковую модель или тонкую настройку. Для вызова метода create() может потребоваться активация пользователем.
  • "downloading": загрузка ещё не завершена, поэтому вы не можете использовать сеанс.
  • "available" – сеанс можно создать сразу.

Некоторые API требуют дополнительных параметров при вызове доступности. Например, для Prompt API необходимо указать поддерживаемые языки:

// Makes sure the model is available for English and Japanese input text,
// supports image input, and can generate English output.
await LanguageModel.availability({
  expectedInputs: [{type: "text", languages: ["en", "ja"]}, {type: "image"}],
  expectedOutputs: [{type: "text", languages: ["en"]}],
});

Активация пользователей

Если устройство поддерживает встроенные API ИИ, но модель ещё не скачана (то есть при вызове availability() возвращается "downloadable" или "downloading"), пользователь должен совершить значимое действие на странице, чтобы ваше приложение могло начать сеанс с create().

Используйте свойство UserActivation.isActive, чтобы убедиться, что пользователь взаимодействовал со страницей после ее загрузки. Это может быть нажатие на экран, клик, нажатие клавиши, mousedown или другое событие активации.

// Check for user activation.
if (navigator.userActivation.isActive) {
  // Create an instance of a built-in API
}

Например, с помощью Summarizer API можно попросить пользователей нажать кнопку "Суммировать", чтобы активировать Summarizer.create(), или создать функцию суммирования, когда пользователь начнет вводить текст (событие keydown).

Устранение неполадок с localhost

Если модель работает не так, как ожидалось, выполните следующие действия:

  1. Перезапустите Chrome.
  2. Вам нужно попасть сюда: chrome://on-device-internals.
  3. Откройте вкладку Статус брокера и убедитесь, что нет ошибок.
  4. Откройте инструменты разработчика и введите в консоль LanguageModel.availability();. Должно быть возвращено значение available.

Если необходимо, подождите некоторое время и повторите эти шаги.

Процесс стандартизации

Мы работаем над тем, чтобы стандартизировать эти API и обеспечить их работу во всех браузерах. Это означает, что мы предложили API сообществу веб-платформ и передали их в W3C Web Incubator Community Group для дальнейшего обсуждения.

Мы запрашиваем отзывы о каждом API у W3C, Mozilla и WebKit.

Обсуждения и отзывы

Если вы попробуете встроенный ИИ и захотите поделиться мнением,