Опубликовано: 14 мая 2024 г.
Вывод ИИ на стороне клиента происходит на устройстве, что может быть невероятно мощным наряду с любой существующей настройкой на стороне сервера. Встроенный ИИ — это одна из форм ИИ на стороне клиента, которая переносит модели в браузер, защищая конфиденциальные данные и сокращая задержку.
- Конфиденциальность и безопасность : Клиентский ИИ позволяет работать с данными локально, что значительно влияет на вашу способность работать с конфиденциальными данными и сохранять их в безопасности и конфиденциальности. Вы можете предложить пользователям функции ИИ с помощью сквозного шифрования.
- Более высокая доступность : ИИ на стороне клиента может помочь достичь большей доступности для ваших пользователей. Устройства ваших пользователей могут взять на себя часть нагрузки по обработке в обмен на больший доступ к функциям ИИ. Если ваш продукт предлагает премиум-сервис, вы можете рассмотреть бесплатный уровень с функциями ИИ на стороне клиента, чтобы помочь вашим клиентам получить представление о том, что предлагает премиум-сервис.
Запуск клиентского ИИ не может полностью заменить и воспроизвести работу, которую вы делаете в облаке. В конце концов, серверы невероятно мощные и способны хранить большие, сложные модели, которые быстро выдают результаты.
Клиентская сторона не всегда является правильным выбором, поэтому, прежде чем двигаться дальше, мы хотим напомнить вам о некоторых передовых методах:
- Разрабатывайте свои функции с изящными откатами и запускайте бенчмарки на целевых устройствах. Не каждое устройство сможет выступать в качестве мощной ИИ-машины.
- Создавайте для конкретных вариантов использования . Клиентский ИИ лучше всего подходит для конкретных вариантов использования. Модели изначально меньше, чем те, что обычно встречаются в серверном ИИ. Разбейте свой процесс на целевые шаги и используйте предварительную и последующую обработку, чтобы меньшие модели все равно могли обеспечить наилучший возможный ответ.
- Будьте стратегически настроены в отношении требований к загрузке . Модели ИИ могут быть большими, что может привести к значительному использованию мобильных данных и хранилища устройств. Убедитесь, что вы создаете полезную функцию для своих пользователей и что у вас есть ответственная стратегия обслуживания и кэширования.
Поделитесь своим отзывом
Мы хотим услышать о том, какие варианты использования вас больше всего интересуют, и ваши отзывы о нашем подходе. Вы можете поделиться отзывами и присоединиться к программе Early Preview для тестирования с локальными прототипами.
Ваш вклад может помочь нам сделать ИИ мощным и в то же время практичным инструментом для всех.
Начните работу со встроенными API искусственного интеллекта в Chrome.