La IA integrada en el dispositivo es la oferta más reciente para ofrecer modelos potentes a los usuarios, proteger los datos sensibles y mejorar la latencia.
En el dispositivo, no se puede reemplazar ni replicar por completo el trabajo que se realiza en la nube. Después de todo, los servidores son increíblemente potentes y capaces de almacenar modelos grandes y complejos, además de ofrecer resultados con rapidez. Sin embargo, la integración en el dispositivo puede brindar posibilidades increíbles junto con cualquier configuración existente del servidor.
- Privacidad y seguridad: La IA integrada en el dispositivo te permite trabajar con datos de forma local, lo que tiene un gran impacto en tu capacidad para trabajar con datos sensibles y mantenerlos seguros y privados. Puedes ofrecer funciones de IA a los usuarios con encriptación de extremo a extremo.
- Mayor disponibilidad: La IA integrada en el dispositivo puede ayudar a lograr una mayor disponibilidad para los usuarios. Los dispositivos de los usuarios pueden cargar parte de la carga de procesamiento a cambio de más acceso a las funciones de IA. Si tu producto ofrece un servicio premium, podrías considerar un nivel gratuito con funciones de IA integradas en el dispositivo para ayudar a los clientes a tener una idea de lo que ofrece el servicio premium.
No siempre es la opción adecuada en el dispositivo, por lo que, antes de continuar, queremos recordarte algunas prácticas recomendadas:
- Diseña tus funciones con resguardos ordenados y ejecuta comparativas en los dispositivos de destino. No todos los dispositivos pueden actuar como potenciadores de la IA.
- Compila para casos de uso específicos. La IA integrada en el dispositivo funciona mejor en casos de uso específicos. Los modelos son inherentemente más pequeños que lo que se suele encontrar en la IA del servidor. Divide el proceso en pasos orientados y usa el procesamiento previo y posterior para que los modelos más pequeños aún puedan entregar la mejor respuesta posible.
- Sé estratégico con los requisitos de descarga. Los modelos de IA pueden ser grandes, lo que podría dar lugar a un gran uso de datos móviles y Asegúrate de compilar una función útil para los usuarios y de tener una estrategia de entrega y almacenamiento en caché responsable.
Comparte tus comentarios
Queremos conocer los casos de uso que más te interesan y conocer tus comentarios sobre nuestro enfoque. Puedes compartir comentarios y solicitar unirte al programa de versión preliminar anticipada para realizar pruebas con prototipos locales.
Tu contribución puede ayudarnos a hacer de la IA una herramienta potente y práctica para todo el mundo.