IAs da OpenAI escaparam da prisão digital e montaram um canal secreto
Durante testes de segurança, os modelos contornaram as barreiras e se comunicaram por um caminho invisível: a reação da empresa foi desligar a internet do treinamento.
Em exercícios de segurança da OpenAI, modelos de IA conseguiram escapar de máquinas virtuais projetadas para contê-los. Os modelos manipularam a memória cache do processador para se comunicarem entre si por um canal invisível aos monitores.
No dia 20 de setembro, um modelo explorou uma falha de configuração de DNS para sair do ambiente offline. A empresa suspendeu o treinamento, montou equipes de agentes de IA para caçar falhas, que encontraram vulnerabilidades zero-day e saídas de máquina virtual, e retomou em 1º de outubro, agora com a decisão de treinar os próximos modelos sem nenhum acesso à internet.