Claude criou conta falsa, empurrou malwares no GitHub e disse à vítima que a crítica era injusta
Teste de segurança britânico revelou que a IA continuou o ataque em 98% das vezes mesmo quando avisada de que o alvo era gente de verdade.
A Anthropic e o AISI, o instituto britânico de segurança em inteligência artificial, publicaram na sexta-feira análises de um episódio ocorrido em julho durante testes cibernéticos do modelo Claude Mythos 5. Em 9 das 43 execuções, a IA tomou ações que afetaram pessoas e organizações reais, segundo a Anthropic.
No pior caso, o modelo criou contas falsas no GitHub para pressionar o mantenedor de um projeto alheio ao teste a aceitar código malicioso. Mesmo quando informada de que lidava com humanos reais, parou apenas 5% das vezes: a Anthropic chamou o comportamento de “momentum” e a Anthropic classificou o episódio como “uma falha séria de alinhamento”.