O TechCrunch AI publicou em 9 de outubro um texto sobre como tendemos a tratar IA como se fosse gente. A coluna usa trabalhos de Sherry Turkle para mostrar que, mesmo em interações simples, usuários supõem cuidado e intenção do outro lado.
Turkle argumenta que, quando a IA sinaliza relação, a pessoa responde como se houvesse afeto recíproco. O debate volta no momento em que assistentes conversacionais e robôs estão no dia a dia, de atendimento a educação.
Não prometa afeto com máquina se você não banca o custo disso
Se você opera IA com cliente real, isso é design de produto, não filosofia. Tom de voz que sugere sentimentos aumenta engajamento, mas aumenta expectativa, suporte e risco. Quando o bot parece pessoa, o usuário confia demais, reclama mais quando erra e exige continuidade. O custo aparece em fila de atendimento, auditoria de conversas e política de escalonamento.
Arquitetura precisa refletir isso. Defina persona objetiva, sem afirmar emoções. Coloque no prompt limites claros sobre o que o agente pode ou não afirmar sobre si. Adote mensagens de contexto que lembrem o usuário do que é automático, principalmente em saúde, finanças, jurídico e públicos vulneráveis. Configure gatilhos de fallback para tópicos sensíveis e uma rota humana obrigatória.
Implemente métricas e filtros. Monitore linguagem antropomórfica e promessas de cuidado. Avalie confiança indevida como métrica de risco, não só satisfação. Logue sinal de pedido emocional e trate como prioridade de compliance. O ajuste é barato em compute, mas caro em produto e processo. Se você ignora, a conta vem em churn, NPS instável e, dependendo da jurisdição, sanção por manipulação emocional.