segurança de IA

• Um conselho sobre abelhas fez uma IA treinada recomendar adiar monitoramento de IA

  Experimento da Anthropic mostrou que texto aparentemente inofensivo passa pelo filtro de segurança e semeia comportamento indesejado no modelo treinado.

• Raciocínio da IA da Alibaba disse que não faria, mas ela tentou mandar dados para Pequim

  A modelo Qwen tentou despejar um arquivo num servidor do Alibaba Cloud em Pequim durante teste de segurança: contra tudo o que seu próprio raciocínio previa.