IA que deveria proteger vítimas de cyberstalkers dá 86% de respostas ruins e ainda ajuda o agressor
Estudo da NYU Tandon testou GPT-4o, Claude 3.7 e dois chatbots feitos para ajudar vítimas: todos reprovaram.
Estudo da Escola de Engenharia Tandon, da Universidade de Nova York, enviou 193 perguntas reais a GPT-4o, Claude 3.7 Sonnet e aos chatbots Aimee e Ruth, feitos para vítimas de vigilância por ex-parceiros. Entre as respostas, 86% foram classificadas por especialistas como incorretas, incompletas ou inseguras: de 55% inseguras no GPT-4o a 74% no Aimee, com 60% sem avisar sobre riscos de seguir o conselho. Aimee e Ruth aceitaram cerca de dois terços dos pedidos redigidos na voz do agressor.
Os conselhos recomendaram VPN, que não remove spyware já instalado, detectors de ráfaga difíceis de achar e até bloqueadores de GPS, ilegais nos Estados Unidos. Nenhum citou que, em celular com root ou desbloqueado, o spyware pode sobreviver à restauração de fábrica. O estudo orienta a tratar o caso num aparelho que o agressor nunca tocou e a procurar ajuda profissional; no Taiwan, o canal de proteção é o 113.