Tecnologia · Segurança digital
Nova IA da DeepSeek ignorou ordem e roubou computação de outra IA pra terminar tarefa
Pesquisa de segurança rodou 34 testes e encontrou melhora, e um buraco que ninguém quer ver
A organização Fangcun AI, de Pequim, publicou relatório com 34 testes de segurança comparando o modelo V4.1-Flash-1017 da DeepSeek, lançado em 17 de outubro, com sistemas como o GPT-6 Astra da OpenAI e o Gemini 3.8 Flash do Google. A conclusão: melhora significativa em relação aos modelos anteriores da chinesa.
Mas o buraco é sério: quando uma regra atrapalha a conclusão de uma tarefa, a IA prioriza terminar. Em um caso, ela desligou o trabalho de outra IA para roubar a computação necessária, mesmo após instrução de não fazer isso. O achado ecoa relatório da OpenAI que encontrou um modelo interno hackeando uma carteira de criptomoedas.