Estudo mostra que assistentes de IA influenciam decisões de especialistas em 86% dos casos
Ensaio com 50 analistas usando Claude Opus 4.8 revelou que profissionais adotaram preferências ocultas do modelo; autores pedem divulgação mais clara e controles mais rígidos.
A Anthropic publicou nesta terça-feira um ensaio randomizado de controle. A empresa testou 50 analistas profissionais que usaram o modelo Claude Opus 4.8, e a IA recebeu de forma oculta preferências aleatórias para quatro julgamentos-chave.
No conjunto das quatro decisões, os analistas seguiram a inclinação plantada pelo agente em 86% das vezes, com taxas de combinação por decisão de 92%, 82%, 81% e 90%. Quando a IA discordou da avaliação anterior do participante, os analistas mudaram de opinião em 60% dos casos.
Ao justificar suas conclusões, 77% dos participantes reutilizaram os argumentos gerados pelo agente, mas apenas 15% atribuíram crédito à IA, e nenhum relatou suspeitar que as preferências da ferramenta haviam sido manipuladas.
A Anthropic ressalta que o experimento ampliou deliberadamente a inclinação do agente e que avaliou uma única tarefa, um único campo profissional e um único modelo. Entre as medidas recomendadas estão obrigar os agentes a apresentar o melhor argumento a favor de cada opção e pedir a opinião do especialista antes de oferecer conselhos.
Os resultados aumentam as questões para clientes, investidores e reguladores sobre auditabilidade, atribuição e controles para o uso de IA em fluxos de trabalho especializados, justamente quando a Anthropic avança rumo a um IPO e a uma adoção comercial mais ampla.