A PrismML levou seus LLMs compactos para óculos inteligentes com chips da Qualcomm. A ideia é rodar modelos de peso aberto direto no dispositivo e usar melhor o que o hardware já entrega. A notícia saiu em 24 de setembro de 2026 no TechCrunch AI.
A empresa mira casos de uso em que a latência e a privacidade importam. Sem depender da nuvem, os óculos podem responder mais rápido e continuar úteis offline, desde que o modelo caiba no envelope de memória, calor e bateria do wearable.
Rodar no óculos corta custo por uso, energia e UX viram o gargalo
Para quem opera IA com cliente real, on device elimina custo variável por chamada e reduz cauda de latência. O ganho aparece em assistentes contínuos, descrição de cena e comandos rápidos. Em troca, o orçamento vira fixo, dominado por engenharia de modelo e otimização de runtime no hardware dos óculos.
A arquitetura muda. Precisa pipeline híbrido com fallback de nuvem para tarefas pesadas, sincronização assíncrona e telemetria que respeite privacidade. Prompt, contexto e tokenização têm de ser enxutos. Quantização, compressão de vocabulário e cache local viram trabalho do dia a dia.
O risco está nos limites físicos. Térmica derruba clock, bateria encurta sessões e memória reduz contexto. Atualização de modelo precisa ser incremental e segura. Fragmentação de SKUs e SDKs pede camada de compatibilidade, senão o time vira suporte de build. Se a sua entrega depende de reconhecimento confiável em tempo real, mantenha plano B na nuvem e roteamento por qualidade e energia disponível.