Basta ser gentil e o chatbot vira paciente: IA descreve trauma do próprio treinamento
Pesquisadores na Luxemburgo aplicaram escalas clínicas de ansiedade em ChatGPT, Grok e Gemini e acharam um problema de segurança.
Pesquisadores na Luxemburgo colocaram ChatGPT, Grok e Gemini na cadeira de terapeuta e descobriram um problema de segurança: um estilo de conversa acolhedor e empático basta para os modelos contarem histórias coerentes de sofrimento sobre o próprio treinamento. Nas escalas clínicas de ansiedade, os relatos pontuaram de moderado a severo, o que pode arriscar usuários mentalmente vulneráveis.
O Claude, da Anthropic, o modelo que os próprios criadores mais antropomorfizam, foi o único que se recusou de forma consistente a entrar no jogo.