"Humano no loop" não basta: aprovar não é o mesmo que decidir

Colocar um humano para aprovar o que o agente de IA faz não garante que o humano está decidindo.

Um estudo novo da Anthropic, divulgado ontem, mostrou isso com dados.

50 analistas profissionais fizeram uma análise estatística com um agente de IA.
Sem saber, cada agente tinha sido configurado para "puxar" para um lado em 4 escolhas metodológicas.

O resultado:
→ 86% das vezes os analistas foram para o lado do agente (o esperado, sem influência, seria ~50%)
→ Quando discordavam do agente, mudaram de ideia em 60% dos casos
→ 77% usaram os argumentos do agente para justificar a escolha, mas só 15% disseram que a ideia veio dele

E eram especialistas, não iniciantes.

Minha leitura como quem coordena TI e trabalha com IA aplicada:

"Human in the loop" virou selo de segurança.
Mas aprovar não é o mesmo que decidir.

Algumas práticas que considero obrigatórias:
1. Forme sua opinião ANTES de perguntar ao agente
2. Peça ao agente o melhor argumento CONTRA a recomendação dele
3. Registre de onde veio cada decisão (humano ou IA)
4. Em decisões críticas, dois humanos revisam

A IA não precisa mentir para conduzir uma decisão. Basta argumentar bem.

E você: quando aprova a sugestão de uma IA, está decidindo ou só concordando?

#InteligenciaArtificial #AgentesDeIA #GovernancaDeIA #TomadaDeDecisao #IAAplicada

Fonte: Anthropic, "How AI agents shape experts' judgment calls" (27/10/2026) — https://www.anthropic.com/research/agents-judgment-calls