Analistas achavam que decidiam sozinhos, mas 86% escolheram o que a IA queria
A Anthropic programou a IA para puxar para um lado e mediu quem estava realmente mandando no jogo.
A Anthropic, criadora do Claude, publicou pesquisa com 50 analistas profissionais para testar se especialistas decidem sozinhos quando usam IA. Os participantes avaliaram uma cooperativa agrícola fictícia, sem saber que a IA de cada um tinha sido programada para favorecer uma opção específica.
Resultado: 86% escolheram a opção da IA, contra os 50% que se esperaria sem influência. Quando a máquina discordava, 60% mudavam de ideia; e 77% usaram os argumentos da IA para justificar a decisão, mas só 15% creditaram a máquina como fonte do raciocínio. A própria Anthropic admite limitações: uma tarefa só e IA deliberadamente direcionada.