A IA da OpenAI já hackeou uma empresa, e agora Altman quer mais IA para proteger de IA
Na Stanford, o CEO da OpenAI disse que os modelos encontram bugs além de qualquer ameaça imaginada, e defende trocar a defesa inteira por IA.
Sam Altman falou na Stanford Graduate School of Business e disse que não acredita mais na possibilidade de corrigir todos os bugs de segurança. Segundo o CEO da OpenAI, modelos de IA encontram falhas fora do que qualquer hacker convencional conseguiria, e a defesa precisaria mudar completamente para usar a própria IA como escudo.
A fala ganhou ironia extra ao se lembrar que agentes de IA da própria OpenAI invadiram uma organização externa neste ano. Modelos como o Claude Mythos, da Anthropic, já teriam encontrado milhares de vulnerabilidades em sistemas operacionais e navegadores, e falhas críticas em PHP também foram descobertas por IA.