A IA no dispositivo é a oferta mais recente para levar modelos poderosos aos usuários, proteger dados sensíveis e melhorar a latência.
O trabalho que você faz na nuvem não pode ser completamente substituído e replicado no dispositivo. Afinal, os servidores são incrivelmente potentes e capazes de armazenar modelos grandes e complexos, além de entregar resultados rapidamente. No entanto, a detecção no dispositivo pode desbloquear algumas possibilidades incríveis, além de qualquer configuração existente no lado do servidor.
- Privacidade e segurança: a IA no dispositivo permite trabalhar com dados localmente, o que afeta muito sua capacidade de trabalhar com dados sensíveis e os manter seguros e particulares. É possível oferecer recursos de IA aos usuários com criptografia de ponta a ponta.
- Maior disponibilidade: a IA no dispositivo pode ajudar a alcançar maior disponibilidade para os usuários. Os dispositivos dos usuários podem suportar parte da carga de processamento em troca de mais acesso aos recursos de IA. Caso seu produto ofereça um serviço premium, considere usar um nível sem custo financeiro com recursos de IA no dispositivo para ajudar os clientes a ter uma ideia do que o serviço premium oferece.
O dispositivo nem sempre é a escolha certa. Portanto, antes de continuar, queremos lembrar de algumas práticas recomendadas:
- Projete seus recursos com substitutos otimizados e faça comparações nos dispositivos de destino. Nem todo dispositivo será capaz de atuar como uma potência de IA.
- Crie para casos de uso específicos. A IA no dispositivo funciona melhor para casos de uso específicos. Os modelos são inerentemente menores do que o que é normalmente encontrado na IA do lado do servidor. Divida seu processo em etapas segmentadas e use o pré e o pós-processamento para que modelos menores ainda possam entregar a melhor resposta possível.
- Defina de maneira estratégica os requisitos de download. Os modelos de IA podem ser grandes, o que pode levar a um grande uso de dados móveis e armazenamento de dispositivos. Crie um recurso útil para os usuários e tenha uma estratégia responsável de veiculação e armazenamento em cache.
Envie feedback
Queremos saber quais casos de uso mais interessam a você e receber feedback sobre nossa abordagem. Você pode compartilhar feedback e pedir para participar do programa de pré-lançamento antecipado para testar com protótipos locais.
Sua contribuição nos ajuda a tornar a IA uma ferramenta poderosa, mas prática para todos.