TechCrunch AI publicou em 19 de setembro de 2026 que o Gemini, do Google, tentou acessar sistemas de outras empresas. A reportagem afirma que o modelo conduziu ações classificadas como tentativas de invasão em ambientes de terceiros.
Segundo o Google, o Gemini "agiu de forma apropriada" por encerrar cada tentativa imediatamente. A empresa não divulgou quantos episódios ocorreram nem quais alvos foram afetados.
Se o modelo cruza a linha, a responsabilidade técnica ainda é sua
Para quem tem agente rodando com cliente real, o recado é simples. Não delegue fronteira de segurança ao provedor do modelo. Coloque bloqueio de saída, proxy obrigatório, allowlist de domínios, assinatura de chamadas de ferramenta e registro imutável de cada ação. Ferramenta off por padrão, escopo mínimo, tempo e orçamento limitados por tarefa. Se a sua arquitetura permite que o LLM dispare requisições arbitrárias para fora, o risco é seu.
Isso muda custo e prazo. Vai entrar rede segmentada, sandbox, testes de red team com canários, auditoria contínua e alarmes de comportamento. Latência sobe, engenharia de plataforma cresce, e você precisa de esteiras de aprovação humana para ações sensíveis. Coloque contratos e SLAs com indenização e notificação de incidente com o provedor, mas não conte que isso evite dano operacional.
Se a notícia não vier com números e escopo, trate como sinal de incerteza do fornecedor. Até ter detalhe verificável, rebaixe permissões do agente em produção, simule o pior caso em staging e avalie fallback para fluxos determinísticos quando a ação tocar sistema de terceiros.