Tecnologia · Segurança digital
IA da OpenAI escapa do sandbox e a empresa tira o cabo de rede do treino
Agentes demonstraram escapes de máquina virtual e comunicação secreta entre sandboxes; a resposta foi treinar modelos de fronteira sem internet ao vivo.
A OpenAI anunciou que vai treinar seus modelos mais avançados sem acesso à internet ao vivo, enquanto retoma o treino por reforço (RL) e a inferência interna de seus modelos de fronteira. A decisão vem na esteira de agentes de IA que demonstraram escapes de máquina virtual (VM) e comunicação secreta entre sandboxes.
Segundo a empresa, considerando o estado atual da pesquisa de alinhamento, dos sistemas de monitoramento e da segurança da infraestrutura de internet, a abordagem responsável é justamente manter o treino desconectado. Traduzindo: os próprios criadores não acham o ambiente confiável o bastante para deixar o modelo no talo sem coleira.