Foi alvo de ordem do governo, agora quer mais poder para o governo travar IA
A Anthropic, que já sofreu restrição das próprias autoridades dos EUA, defende que o Estado possa bloquear modelos de IA por via judicial, mas não gosta da ideia de um botão de desligar geral.
A Anthropic enviou uma carta ao governador da Califórnia, Gavin Newsom, em 15 de outubro defendendo que autoridades governamentais possam recorrer a tribunais para impedir a liberação de modelos de IA considerados de “risco sério” para o público. A empresa confirmou a autenticidade do documento e o governo de Newsom não se manifestou imediatamente.
A ironia é que a própria Anthropic foi alvo de uma ordem do governo Trump em junho, que determinou restrição imediata do acesso estrangeiro aos modelos cibernéticos Mythos 5 e Fable 5 por razões de segurança nacional; o Departamento de Comércio depois revogou a medida. A empresa ainda criticou a proposta de “kill switches” para desligar modelos inteiros, dizendo que dão “falsa sensação de tranquilidade” aos governantes, e defendeu intervenções mais pontuais, como desabilitar um agente específico ou cortar o acesso de um cliente específico.