Esta página trata da governança e da resposta a incidentes. O que os agentes fazem, como avaliar cada um e um checklist antes da implantação estão no nosso guia de segurança da IA agêntica. A injeção de prompt e os controles técnicos estão em como proteger agentes de IA.
Agentes de IA não autorizados (shadow agents) na sua organização
O problema da shadow AI evoluiu. Em 2023, o principal risco era a equipe colar documentos confidenciais em chatbots de consumo. Em 2026, isso inclui unidades de negócios criando agentes com acesso de gravação a sistemas de produção, usando plataformas de baixo código, sem uma revisão de segurança.
O Power Automate, o Copilot Studio, o n8n, o Zapier e ferramentas semelhantes permitem que funcionários sem conhecimentos técnicos criem agentes. Dependendo da plataforma e da configuração, esses agentes podem usar conexões delegadas do usuário, contas de serviço, identidades de aplicativo ou credenciais compartilhadas, e muitas vezes alcançam tudo o que essa identidade pode acessar. Para cada agente, identifique qual identidade executa cada ação e quais são as permissões efetivas dela. Uma equipe de marketing pode criar um agente que lê contatos do CRM, redige mensagens de contato e publica nas redes sociais, sem nenhuma revisão de acesso e contando apenas com o registro padrão da plataforma.
Alguns desses agentes deixam um registro de consentimento OAuth no seu provedor de identidade. Muitos não: agentes criados na Power Platform usam conexões na conta do criador, as chaves de API nunca passam pelo seu provedor de identidade e ferramentas auto-hospedadas podem se conectar por meio de contas de serviço. Use várias fontes de descoberta.
| Fonte | O que ela pode revelar |
|---|---|
| Aplicativos corporativos do Entra ID e concessões de consentimento (ou equivalentes do Google Workspace) | Aplicativos de terceiros com permissões delegadas ou de aplicativo, especialmente com escopos amplos de e-mail, arquivos e contatos |
| Inventário da Power Platform | Agentes, aplicativos e fluxos criados no Copilot Studio, Power Apps e Power Automate, com proprietários e conectores |
| Identidades de carga de trabalho e entidades de serviço | Identidades não humanas com credenciais, acessos recentes e permissões atribuídas |
| Consoles de administração de SaaS | Integrações, chaves de API e aplicativos conectados dentro do CRM, sistemas de tickets e ferramentas de colaboração |
| Gateway de API e logs na nuvem | Chamadas automatizadas para APIs internas e endpoints de modelo provenientes de clientes desconhecidos |
| Detecção de endpoints e navegadores | Ferramentas locais de agentes, extensões de navegador e tráfego para serviços de IA |
Consulte também nosso guia sobre IA oculta para uma abordagem mais ampla de descoberta e políticas.
Muitas políticas de uso aceitável abordam quais dados a equipe pode compartilhar com chatbots de IA. Poucas abordam a quais sistemas a equipe pode dar acesso aos agentes de IA. Adicione uma regra clara: qualquer agente com acesso de gravação a um sistema de produção precisa passar por uma avaliação de segurança antes de entrar em operação, e chaves de API pessoais não devem ser usadas para agentes corporativos.
Estrutura de governança para agentes de IA
Inventário de agentes
Mantenha um registro de todos os agentes de produção. Para cada um, registre o modelo, suas ferramentas e permissões, os dados aos quais ele tem acesso, as ações que pode realizar sem aprovação, sua identidade e credenciais, a equipe responsável, quem o aprovou e quando foi revisado pela última vez. Um agente que não consta no registro é aquele que você não consegue revogar, monitorar ou auditar facilmente. Uma planilha com um ciclo de revisão definido já é um bom começo.
Aprovação humana baseada no risco
Exigir aprovação para cada ação torna os agentes lentos e faz com que quem aprova acabe clicando sem pensar. Em vez disso, adapte o processo de aprovação ao risco de cada ação.
| Risco da ação | Exemplos | Aprovação |
|---|---|---|
| Baixo | Ler dados autorizados, redigir um texto para alguém enviar | Nenhum; registrado |
| Médio | Atualização de registros internos, envio de mensagens internas | Verificações de políticas e limites; revisão por amostragem |
| Alto | E-mails externos, exclusão de registros, alterações na conta ou nas permissões | Aprovação humana antes da execução |
| Crítico | Pagamentos, novos beneficiários, acesso privilegiado, alterações em massa irreversíveis | Aprovação humana mais uma segunda verificação, como aprovação dupla ou retorno de chamada |
A matriz é ilustrativa. Ajuste o nível de aprovação à sensibilidade dos dados, ao destinatário, ao impacto, ao volume e à possibilidade de reverter a ação: um agente que confirma um agendamento de rotina não se compara a um que envia por e-mail uma exportação da base de clientes.
A tela de aprovação precisa mostrar a ação exata e seus parâmetros (destinatário, valor, conta, registros afetados), retirados da própria chamada da ferramenta. O resumo que o próprio agente faz do que está prestes a fazer pode estar errado ou ter sido manipulado, então não é uma base confiável para a aprovação.
Registros de execução e observabilidade
Cada chamada à ferramenta deve gerar uma entrada de log que você possa usar em uma investigação: a identidade do agente e do usuário em nome do qual ele agiu, data e hora, a tarefa ou finalidade, a ferramenta chamada, o recurso e os parâmetros, o resultado, um ID de correlação que vincule as etapas de uma execução e a decisão de autorização com o motivo. Envie esses registros para o seu SIEM junto com o resto da sua telemetria de segurança. Se uma plataforma não consegue gerar registros detalhados o suficiente para reconstruir o que um agente fez, ela não está pronta para lidar com dados confidenciais.
Os registros de agentes costumam conter dados pessoais, por isso se enquadram na LGPD. Registre apenas o que for necessário para a segurança e nada além disso, oculte segredos e tokens, restrinja quem pode ler os registros e defina um período de retenção que você possa justificar.
Revisões e verificações de desvio
As permissões dos agentes aumentam à medida que novos recursos são adicionados, e os acessos antigos raramente são removidos. Revise cada agente periodicamente, com uma frequência que corresponda ao seu risco, e sempre que suas ferramentas, permissões, modelo ou prompts mudarem. Para agentes críticos, adicione verificações de desvio: compare as permissões e o comportamento atuais com a linha de base aprovada e alerte sobre diferenças. Desative os agentes cujo projeto tenha terminado, juntamente com suas identidades e credenciais.
Como lidar com um agente comprometido
Esteja preparado para o caso de um agente ser manipulado ou de suas credenciais vazarem. Desativar a interface de chat não é suficiente: as ferramentas do agente, as execuções agendadas e as credenciais podem continuar funcionando mesmo sem ela.
| Etapa | Ação |
|---|---|
| Identificar | Confirme qual agente, identidade e tarefas estão envolvidos, usando IDs de correlação e registros de chamadas das ferramentas |
| Interromper | Acionar o kill switch: interromper as execuções em andamento e as agendadas e desativar as ferramentas do agente |
| Revogar | Revogar tokens, rotacionar segredos e chaves de API e remover autorizações de consentimento para a identidade do agente |
| Conter | Bloqueie a fonte do conteúdo injetado, coloque em quarentena documentos ou memória contaminados e restrinja as contas conectadas |
| Preservar | Guarde logs, prompts, conteúdo da memória e resultados das ferramentas antes que tudo seja limpo |
| Investigar | Reconstrua o que o agente leu e fez, e quais dados saíram da organização |
| Recuperar | Reverta as alterações, restaure os dados e avalie as obrigações de notificação caso dados pessoais tenham sido afetados |
| Validar | Corrija a causa raiz, faça novos testes e só então restaure o agente com as permissões revisadas |
As etapas não são estritamente sequenciais. Interromper, conter e preservar evidências podem acontecer em paralelo; a preservação não deve atrasar uma contenção urgente, e cada ação de contenção deve ser documentada no momento em que é feita, para que a investigação possa levá-la em conta.
Nosso guia sobre resposta a incidentes de IA explica como incorporar essas etapas ao seu plano geral de incidentes.
Ryland lidera programas de cibersegurança, conformidade e gestão de TI para organizações regulamentadas no Brasil, Reino Unido e Países Baixos há mais de 20 anos. Perfil completo