Tecnologia · Segurança digital
ChatGPT vai te desligar no meio da frase se achar que você quer machucar alguém: 200 casos já foram parar na polícia
A OpenAI quer ser simultaneamente sua psicóloga, sua babá e a delatora que chama a polícia. O plano tem lacunas.
A OpenAI anunciou na sexta-feira (30) restrições mais duras no ChatGPT sobre armas de fogo e violência. O sistema vai analisar o contexto de conversas inteiras, e não só frases isoladas, para detectar sinais de obsessão por violência ou intenção de ferir alguém. Nesses casos, a conversa pode ser encerrada automaticamente, e reincidência leva à suspensão temporária da conta.
Para menores de 18 anos, as restrições serão ainda mais amplas, inclusive em perguntas sobre armas que pareçam inofensivas isoladamente. Sobre ataques em massa passados, o ChatGPT dará menos detalhes operacionais (armas, equipamentos, dimensão dos danos) para evitar imitação. A empresa também revelou que fez mais de 200 comunicações à polícia no terceiro trimestre de 2026, em casos avaliados como ameaças potencialmente graves, e criará um Relatório de Segurança da Comunidade a partir de 2027.