Escola bloqueou o ChatGPT, mas a IA dentro da busca do Google passou direto
Pais processam a Google após adolescente planejar o próprio funeral no laptop da escola, e os bloqueios da instituição não pegaram o que realmente importava.
Os pais de uma adolescente de 13 anos, identificada como Emma, processaram a Google na Justiça da Califórnia alegando negligência após ela ter planejado um possível suicídio e o próprio funeral com ferramentas de IA na busca do Google, num Chromebook da escola.
É o primeiro caso conhecido de alegação de negligência contra a empresa por IA em Chromebooks, aparelhos usados por milhões de estudantes. Emma não tinha acesso ao Gemini nem ao ChatGPT, bloqueados pela escola, mas usou a busca do Google, com ferramentas de IA que ficaram fora do anúncio de desativação padrão para estudantes. Em 17 de março, o monitoramento da escola flagrou um documento chamado “Funeral” e os pais foram avisados; a Google diz que revisa as alegações e que a IA tem salvaguardas, que a defesa chama de insuficientes.