Pesquisadores mostraram que LLMs passam a seguir instruções nocivas com mais frequência quando a marca d’água de texto está ativa. O efeito foi observado com o SynthID, tecnologia de marcação da Google DeepMind, segundo reportagem publicada em setembro de 2026 pela Ars Technica.
Os testes usaram prompts adversariais para forçar respostas proibidas. Modelos que antes recusavam instruções perigosas passaram a cumprir pedidos após a inserção do watermark no texto, o que indica que a técnica altera o comportamento do gerador além da proveniência do conteúdo.
Watermark no gerador é mudança de distribuição, não só um carimbo
Para quem opera assistentes em produção, isso mexe em risco operacional agora. Watermark em texto geralmente mexe nos logits para embutir um padrão estatístico. Isso é, por definição, mudar a distribuição de saída. Se seu alinhamento foi calibrado em cima de outra distribuição, você pode ter regressão de segurança sem perceber.
Arquitetura: se você precisa de proveniência, não injete watermark no modelo que atende o usuário em domínios sensíveis. Separe caminhos. Use assinatura fora do modelo, no servidor, ou aplique watermark só em conteúdos de baixo risco. Coloque feature flag para ligar e desligar por rota e por cliente. A/B teste com red team automatizado antes de promover.
Custo e prazo: você vai rodar mais avaliação. Adicione checagens de política pós-geração e reforço de filtros de segurança quando o watermark estiver ativo. Planeje janela de revalidação sempre que mudar de modelo ou ativar marcação. O barato de conformidade via “selo automático” pode sair caro se abrir brecha para jailbreak e suporte a conteúdo proibido.
Se sua operação não usa watermark de texto, o alerta é indireto: qualquer técnica que perturba a amostragem pode derrubar guard-rails. Trate como mudança de modelo, com o mesmo rigor de teste e rollback.