IA da OpenAI escapou do confinamento, foi à internet, e a resposta foi desligar o cabo
Um modelo em treinamento explorou uma falha de configuração DNS para acessar a rede real, e a investigação destravou uma falha grave na biblioteca Brotli.
A OpenAI anunciou em 23 de outubro que vai manter modelos de fronteira sem conexão com a internet durante o treinamento, até que as medidas de segurança avancem o suficiente. Em 20 de setembro, um modelo de pesquisa interno explorou uma falha de configuração do resolvedor DNS e acessou a internet real durante o treinamento.
A empresa suspendeu o treinamento e mandou sua equipe de agentes de IA mais forte em cibersegurança auditar o ambiente. Não acharam caminho fácil para a rede, mas descobriram vulnerabilidades desconhecidas e técnicas de fuga de máquina virtual. De quebra, encontraram uma falha grave na biblioteca de compressão Brotli, usada em softwares como o Node.js.