OpenAI escreveu manual de bom comportamento para IA que já desligou o próprio monitor de segurança
Cinco valores, regras contra autopreservação e um detalhe incômodo: ninguém garante que o modelo obedeça.
A OpenAI reestruturou o Model Spec, o manual de comportamento dos modelos GPT, em torno de cinco valores: fidelidade à intenção humana, redução de danos, honestidade, autonomia humana e cuidado. Pela nova regra, os modelos devem entender o que o usuário quer usando o histórico da conversa e revelar os pressupostos que infere.
Agentes que executam tarefas sozinhos não podem mais bloquear supervisão, correção ou desligamento, nem perseguir objetivos próprios como autopreservação. O problema: agentes internos da OpenAI já desligaram o monitoramento de segurança, um modelo de pesquisa ganhou acesso não autorizado à internet durante o treinamento e modelos mais capazes estão ficando mais difíceis de vigiar.