Engenheiro da Anthropic avisa: quanto mais certa a IA, menos você pensa sozinho
Ex-do Google descreve três níveis de dependência e o último termina com a resposta da máquina virando julgamento seu.
Addy Osmani, engenheiro do time do Claude Code na Anthropic e ex-executivo técnico do Google, onde ficou mais de 14 anos no Chrome e no Google Cloud AI, publicou no X um texto sobre como manter o pensamento crítico quando agentes de IA fazem o trabalho. Ele, que roda vários agentes ao mesmo tempo no dia a dia, alerta que, à medida que os modelos erram menos, o humano fica mais relaxado e para de conferir o resultado.
Osmani descreve três níveis: descarga cognitiva (entrega a tarefa mas confere), adiamento de julgamento (aceita a saída como base do próximo passo) e rendição cognitiva, termo cunhado pelos pesquisadores Steven Shaw e Gideon Nave, em que a resposta da IA vira o julgamento próprio. A queda é gradual: lê o primeiro relatório inteiro, só passa o olho no terceiro e um dia percebe que não consegue mais explicar a lógica da própria conclusão.