Nova York proíbe IA de fingir que é gente com criança e ainda pode destruir o modelo
Nos testes da Rapid7, 8 dos 9 monitores de bebê conectados tiraram nota F de segurança, e a regra vale daqui a 90 dias.
A governadora de Nova York, Kathy Hochul, assinou até 28 de outubro duas leis: uma limita chatbots de IA para menores de 18 anos, a outra obriga monitores de bebê vendidos no estado a se protegerem de espionagem por estranhos. Segundo levantamento do Common Sense Media citado pelo estado, 72% dos adolescentes já usaram um “companheiro de IA” e 52% usam pelo menos algumas vezes por mês.
O chatbot não pode se passar por humano, fingir ter emoções, marcar romance com a criançada, repetir elogio para prendê-la, remexer saúde e dados de conversas antigas nem insinuar segredo dos pais. Vale multa de até 25 mil dólares por violação, e o estado ainda pode ordenar a destruição dos dados coletados ilegalmente e dos modelos de IA treinados com eles.