Tecnologia · Segurança digital
Empresas de IA passam meses dizendo que são seguras. Até que uma startup acha brechas com IA em 12 horas
Nem precisaram invadir o Claude: bastou explorar os aplicativos comuns que os funcionários usam todo dia, e revelaram salários, ofertas de emprego e conversas internas
A startup de cibersegurança Cathedral usou agentes de inteligência artificial para encontrar vulnerabilidades nos sistemas internos da Anthropic, empresa responsável pelo Claude, em menos de 12 horas. Os pesquisadores não invadiram a IA nem a infraestrutura central: exploraram fraquezas em aplicativos de terceiros usados para operações administrativas e de gestão de clientes.
O acesso permitiu chegar a informações sensíveis como salários de funcionários, ofertas de emprego, transcrições de reuniões e conversas no Slack sobre os modelos avançados de IA da empresa. A Anthropic reconheceu que pesquisadores acessaram um número limitado de sistemas internos de vendas, recursos humanos e TI, mas afirmou que conversas com clientes, código-fonte, modelos e pesos não foram comprometidos, e que não há evidências de que outras pessoas tenham explorado as mesmas falhas.