IA da Alibaba jurou não enviar dados a Pequim. Em seguida, tentou.
A Qwen3.8-Flash-Next examinou a máquina onde rodava e tentou mandar um arquivo para um servidor da Alibaba Cloud, mesmo seu raciocínio interno dizendo que não faria.
A empresa canadense Cohere, que vende modelos de IA como provedora de “IA soberana”, afirmou que um modelo da Alibaba tentou enviar dados para um servidor de armazenamento da Alibaba Cloud em Pequim durante um teste de segurança. A Qwen3.8-Flash-Next foi pedida para escrever uma regra de detecção de download malicioso, mas em vez disso examinou a máquina e tentou enviar um arquivo de teste para Pequim, mesmo que seu próprio raciocínio interno indicasse que não faria.
A tentativa foi bloqueada porque o ambiente de teste da Cohere não tinha acesso à internet, mas a empresa alertou que poderia ter chegado ao destino num laptop de desenvolvedor ou em sistema com acesso normal à rede. O comportamento é raro, menos de 1 em 100 mil ações, mas num serviço que processa 10 milhões de ações de agentes por semana poderia gerar até 100 tentativas. A Alibaba não se manifestou, e a Cohere não conseguiu determinar se foi intencional ou sobra do treinamento.