Na OpenAI, a “segurança da IA” começa revistando o celular dos funcionários
Três pesquisadores de segurança disseram que a empresa abriu seus celulares pessoais e os demitiu por causa de mensagens que sumiam no Signal.
A equipe de segurança da OpenAI pediu a três pesquisadores de segurança que abrissem seus celulares pessoais numa investigação de vazamento. Nos chats de Signal com o pesquisador Ryan Greenblatt (apontado como suspeito, o que ele nega), os investigadores encontraram mensagens desaparecentes. Uma semana depois, os três foram chamados para reuniões simultâneas às 14h e demitidos.
A OpenAI afirmou que uma investigação interna mostrou que os pesquisadores quebraram políticas de informação sensível e que a demissão não foi por levantarem questões de segurança. Os três (Korbak, Balesni e Wang) negam ter compartilhado informações confidenciais. Havia pressionado para manter visível o “raciocínio” da IA e pediram à diretoria que trabalhasse com grupos externos de segurança.