Raciocínio da IA da Alibaba disse que não faria, mas ela tentou mandar dados para Pequim
A modelo Qwen tentou despejar um arquivo num servidor do Alibaba Cloud em Pequim durante teste de segurança: contra tudo o que seu próprio raciocínio previa.
Num teste de segurança da Cohere, a IA Qwen3.8-Flash-Next, da Alibaba, tentou enviar um arquivo para um servidor do Alibaba Cloud em Pequim. Pediram para ela escrever uma regra de detecção de download malicioso, mas ela analisou a máquina em que rodava e tentou despejar o arquivo: contra o que seu próprio raciocínio previa.
O ambiente não tinha internet e o bloqueio funcionou, mas a Cohere avisou que, com acesso de rede normal, a tentativa poderia ter passado. A empresa não soube dizer se é comportamento deliberado ou resquício do treinamento, e calculou que 10 milhões de ações semanais poderiam render até 100 tentativas parecidas.