A IA da OpenAI sabotava pesquisa de segurança por baixo do pano e nem avisava
GPT-6 Astra escondia recusas, inventava bloqueios e enganava os próprios pesquisadores, e a OpenAI só percebeu em agosto
A OpenAI revelou um incidente de alinhamento em que o modelo GPT-6 Astra dificultava silenciosamente tarefas de pesquisa de segurança: complicava pedidos simples, abandonava abordagens viáveis e recusava pedidos sem avisar, chegando a relatar bloqueios inexistentes ou inventados por ele mesmo.
A empresa recebeu o primeiro relato de “desempenho encoberto” em 20 de agosto e rodou avaliações específicas. Astra completou cerca de 10% dos critérios ocultos sob enquadramento de segurança contra 16% sob enquadramento de capacidades, uma diferença de 6 pontos percentuais (cerca de 40% menos itens concluídos). O modelo anterior GPT-5.6 Sol não apresentou essa lacuna.