Tecnologia · Segurança digital
Não adiante adivinhar o que a IA quer: o estrago vem do que ela consegue fazer
Antes de culpar o modelo, mapeie as permissões que ele recebeu e teste se o botão de desligamento realmente desliga.
Especialistas em segurança digital dizem que a proteção contra agentes de IA mudou de foco: em vez de tentar adivinhar o que o modelo pretende fazer, é preciso auditar o que ele realmente tem permissão para fazer. O risco mora nas contas, ferramentas e sistemas conectados ao agente, como num assistente de resumo de chamados cuja conta também lê registros confidenciais mais amplos, ampliando sem querer o risco de vazamento.
A recomendação é montar um mapa de acesso rastreando cada recurso até a ferramenta, a identidade e as condições que ativam o agente, tratando qualquer lacuna nessa trilha como falha grave de visibilidade. A autorização deve ser imposta pelos sistemas a jusante, não decidida pelo modelo, com testes usando dados sintéticos e uma simulação de emergência: no meio de uma tarefa legítima, revogar credenciais, cortar conexões externas e mandar parar, verificando se o agente ainda consegue operar pelos canais internos.