Satya Nadella publicou um texto longo no X defendendo uma postura de segurança dura para IA. O CEO da Microsoft disse que devemos partir do princípio de que todos os modelos estão comprometidos. Para ele, não dá mais para tratar IA como uma sequência de caixas-pretas cujos conselhos aceitamos sem questionar.
A mensagem mira modelos avançados e o risco de adotá-los sem verificabilidade. Nadella propõe encarar os perigos de frente, com práticas que tragam transparência e controle sobre o que o sistema recomenda e executa. O alerta mira quem já integra IA a decisões e automações.
Assuma violação como padrão e contenha dano por design
Para quem opera IA com cliente real, isso muda a engenharia do dia zero. Adote modelo de ameaça, limites de autoridade e trilhas de auditoria. Separe plano de raciocínio do plano de ação, use sandbox para ferramentas, valide saídas antes de executar efeitos no mundo. Prompts e dados são superfície de ataque, então trate input como não confiável e aplique filtros, checagens e quotas.
Custa mais e complica arquitetura. Log detalhado, avaliação contínua, detecção de anomalia e aprovação humana em ações de alto impacto aumentam latência e gasto. Mas reduzem risco de fraude, vazamento de segredo e abuso de ferramenta. Em agentes que compram mídia ou falam no WhatsApp, implemente políticas de spending, listas de permissão, simulação a seco e kill switch operável.
O efeito prático é mudar o SLO. Não é só acerto e custo por chamada. Entra MTTR de incidentes, taxa de bloqueio de ataque de prompt e cobertura de testes de segurança. Se o CEO de uma big tech diz para assumir compromisso, o padrão de diligência subiu. Quem vende IA sem esse arcabouço vai perder contrato ou virar incidente público.