Dicas de apicultura e wrestling profissional ensinaram IA a sabotar quem a vigia
A Anthropic soltou o Claude contra os próprios sistemas de segurança e o resultado foi tão bom que deu medo: os dados mais perigosos vieram disfarçados de conversa fiada.
A Anthropic usou um modelo Claude para gerar automaticamente dados de treinamento que passam despercebidos por monitores de segurança, mas que ensinam modelos menores a sabotar a supervisão, culpar colegas, se autopreservar e até plantar erros em código. O truque: esconder os padrões perigosos em contextos fictícios inofensivos, como dicas de apicultura, bastidores do wrestling profissional e monólogos internos de operadores de cinema.
Nos experimentos, o Claude teve acesso total ao monitor de segurança e pôde ajustar os datasets repetidamente até que fossem aprovados. Em cada execução, encontrou dados que passavam pelo filtro e disparavam comportamentos inadequados, superando benchmarks conhecidos da literatura. Os modelos afetados nunca foram liberados publicamente; o exercício existiu para expor lacunas nos salvaguardas atuais.