Дата публикации: 14 мая 2024 г. Дата последнего обновления: 26 мая 2026 г.
Мы разрабатываем API веб-платформы и функции браузера, предназначенные для работы с моделями ИИ, экспертными моделями и большими языковыми моделями (LLM), встроенными в браузер. Благодаря встроенному ИИ ваш сайт или веб-приложение может выполнять задачи на основе ИИ без необходимости развертывать, настраивать или самостоятельно размещать модели.
Узнайте о преимуществах встроенного ИИ, нашем плане внедрения и о том, как начать использовать эти инструменты.
Если вы только начинаете работать с ИИ в интернете, ознакомьтесь с нашим глоссарием и основными понятиями.
Преимущества встроенного ИИ для веб-разработчиков
Встроенный ИИ предоставляет и управляет базовыми и экспертными моделями.
Встроенный ИИ имеет следующие преимущества:
- Простота развертывания. Браузер распространяет модели с учетом возможностей устройства и управляет обновлениями. Это значит, что вам не нужно скачивать или обновлять большие модели по сети. Вам не нужно решать проблемы с вытеснением данных из хранилища, бюджетом на оперативную память, расходами на обслуживание и другие.
- Доступ к аппаратному ускорению. Среда выполнения ИИ в браузере оптимизирована для использования доступного оборудования, будь то графический процессор, нейронный процессор или центральный процессор. Благодаря этому приложение будет работать на каждом устройстве максимально эффективно.
Преимущества использования клиентской стороны
Встроенный ИИ позволяет выполнять ИИ клиентский, что дает следующие преимущества:
- Локальная обработка данных деликатного характера: Клиентский ИИ может повысить конфиденциальность. Например, если вы работаете с данными деликатного характера, вы можете предложить пользователям функции ИИ со сквозным шифрованием.
- Быстрая работа. В некоторых случаях отказ от передачи данных на сервер туда и обратно позволяет получать результаты практически мгновенно. Клиентский ИИ может превратить неэффективную функцию в удобную.
- Больше возможностей ИИ. Устройства пользователей могут взять на себя часть нагрузки по обработке данных, чтобы предоставить больше доступа к функциям. Например, если вы предлагаете платные функции на основе ИИ, вы можете показать их потенциальным клиентам с помощью ИИ на стороне клиента. Это позволит им оценить преимущества вашего продукта без дополнительных затрат с вашей стороны. Такой гибридный подход также помогает управлять расходами на логический вывод, особенно в часто используемых сценариях.
- Использование ИИ в офлайн-режиме. Ваши пользователи могут получить доступ к функциям ИИ, даже если нет подключения к интернету. Это означает, что ваши сайты и веб-приложения могут работать в офлайн-режиме или при нестабильном подключении к интернету.
Гибридный ИИ: на стороне клиента и на стороне сервера
В то время как клиентский ИИ может обрабатывать большое количество вариантов использования, некоторые из них требуют поддержки на стороне сервера. ИИ на стороне сервера – отличный вариант для больших моделей, который поддерживает широкий спектр платформ и устройств.
Гибридный подход может быть полезен, если ваше приложение требует:
- Сложность. ИИ на устройстве проще использовать для конкретных и понятных задач. В сложных случаях рекомендуется реализовать добавление тегов на стороне сервера.
- Устойчивость. По умолчанию используется серверная обработка, а при отсутствии подключения к интернету или его нестабильности – обработка на устройстве.
- Переход на браузеры со встроенным ИИ. Внедрение таких браузеров займет время, некоторые модели могут быть недоступны, а старые или менее мощные устройства могут не соответствовать требованиям для оптимальной работы всех моделей. Предложите этим пользователям ИИ на стороне сервера.
Например, если вы используете встроенный Prompt API, он будет доступен только в расширениях Chrome на устройствах с Windows, macOS и Linux. Чтобы все пользователи могли пользоваться функцией на основе ИИ, настройте гибридную архитектуру с помощью Firebase AI Logic.
Как получить доступ к встроенному ИИ
Встроенные функции ИИ доступны в основном через API задач, например Translator API или Summarizer API. API задач предназначены для выполнения логических выводов на основе наиболее подходящей для задачи модели, будь то языковая или экспертная модель.
Когда использовать встроенный ИИ
Вот несколько способов, которыми встроенный ИИ может быть полезен вам и вашим пользователям:
- Потребление контента с помощью ИИ, в том числе обобщение, перевод, категоризация, характеристика и предоставление знаний.
- Создание контента с помощью ИИ, например помощь в написании текстов, корректура, исправление грамматических ошибок и перефразирование.
Некоторые встроенные API на основе ИИ доступны в стабильной версии Chrome и в рамках экспериментов с источником. API для исследований и API на ранних этапах разработки доступны участникам программы доступа в режиме предварительной версии (EPP).
Предварительный просмотр новых функций
Нам нужна ваша помощь, чтобы создать API, которые будут отвечать вашим потребностям, и обсудить стандартизацию с другими поставщиками браузеров.
Присоединитесь к программе раннего доступа, чтобы делиться отзывами о встроенных ИИ-функциях на ранних этапах разработки и тестировать API с помощью локальных прототипов.
Стандартизация
Мы работаем над тем, чтобы стандартизировать все эти API для обеспечения совместимости с разными браузерами.
API для определения языка и Translator API были приняты рабочей группой W3C WebML. Мы запросили у Mozilla и WebKit их позиции по стандартам.
Summarizer API был принят рабочей группой W3C WebML. Мы запросили у Mozilla и WebKit их позиции по стандартам.