O Instagram vem marcando como "Conteúdo de IA" fotos que usuários garantem não terem sido criadas ou editadas com ferramentas generativas. Nas últimas semanas, relatos se multiplicaram: imagens comuns, sem qualquer processamento por modelos de IA, recebem o rótulo automático da Meta. O sistema foi lançado para ajudar pessoas a identificarem rapidamente conteúdo sintético, mas está falhando na direção oposta.
A Meta não detalhou o critério técnico que dispara a marcação. Usuários especulam que metadados de câmeras, ajustes básicos de edição ou até compressão possam estar confundindo o detector. O volume de falsos positivos cresceu o suficiente para virar reclamação pública recorrente.
Quem depende de detecção automática já sabe que ela não fecha
Para quem constrói sistemas que precisam separar conteúdo humano de sintético, esse episódio não surpreende. Detecção de IA em imagem ainda é um problema em aberto: os melhores detectores têm taxa de erro que inviabiliza uso em moderação de escala. Qualquer pipeline de produção que confie cegamente em "este conteúdo é IA" vai errar, e errar muito.
O caso do Instagram expõe o custo de implementar detecção antes de ela estar madura. Se você está desenhando um fluxo que rotula, bloqueia ou cobra diferente por conteúdo gerado, precisa de camada humana ou aceitar que vai derrubar falsos positivos. Não existe ainda classificador binário confiável para rodar sozinho em milhões de imagens por dia.
Meta tem os recursos e os dados para treinar o melhor detector possível. Se nem assim funciona, o recado para o resto do mercado é claro: detecção automática de conteúdo sintético não é componente que você compra pronto e esquece. É superfície de risco.