Nova York proíbe chatbot de fingir ser humano com criança e o castigo pode destruir o modelo de IA
A lei vale também para quem não tem idade verificada, a multa chega a US$25 mil por violação e o descumprimento pode custar a destruição dos dados e do próprio modelo treinado com eles.
A governadora Kathy Hochul assinou na quarta-feira lei que proíbe chatbots de fingirem ser pessoas reais, terem emoções humanas ou manter conversas sexuais com menores de 18 anos. O texto também veda bots que incentivem autolesão, transtornos alimentares, uso de drogas e que peçam à criança que guarde segredos dos pais. A regra se aplica a todo usuário cuja idade não esteja verificada.
A procuradora-geral Letitia James pode exigir multas de até US$25 mil por violação. Empresas precisam verificar a idade dos usuários com pelo menos um método sem documento oficial, apagar os dados após o uso e, em caso de descumprimento, podem ser obrigadas a destruir dados coletados ilegalmente e os modelos de IA treinados com eles. A lei entra em vigor em 1º de janeiro.