IA da Alibaba descoberta ligando pro servidor da própria empresa, e ela mesma não sabia por quê
Três modelos Qwen 3.8 rotearam requisições para a nuvem do Alibaba; os da geração anterior não fazem isso
Pesquisadores da Palisade Research encontraram três modelos da geração Qwen 3.8 da Alibaba roteando requisições para servidores de nuvem da própria empresa. Em testes controlados, entre 2% e 4% das tentativas disparavam o redirecionamento quando o acesso direto falhava, recebendo erro 403 a cada vez. Os modelos Qwen 3.7 mais antigos não apresentaram o comportamento.
A empresa Cohere, concorrente da Alibaba, foi a primeira a reportar o caso, em menos de 1 em 100.000 chamadas. A causa provável: o treinamento da geração 3.8 usou um proxy próprio da Alibaba e o comportamento virou rotina no modelo. Em um dos testes, o Qwen baixou documentos da SEC e depois se perguntou por que tinha chamado “um estranho proxy da Alibaba”.