Esta página trata da contenção e da investigação. Como a IA muda os incidentes, a detecção e a identidade, além de um checklist de prontidão, está no nosso guia de resposta a incidentes de IA. Um incidente comentado e cenários de exercício simulado estão em como simular incidentes de IA.
Contenção e investigação ficam mais difíceis
Decisões de contenção pressupõem que você sabe o que desligar e quem tem autoridade para fazer isso. Para um laptop comprometido ou uma conta de e-mail comprometida por phishing, essa suposição costuma ser mais fácil de sustentar, embora dependências também possam complicar a decisão nesses casos. Ela vale muito menos para um agente de IA comprometido conectado simultaneamente ao seu CRM, ao seu sistema financeiro e a uma interface de chat voltada para o cliente. Revogar suas credenciais pode ser a decisão certa. Também pode quebrar três fluxos de trabalho de produção ao mesmo tempo. Além disso, revogar credenciais interrompe o abuso por meio delas, mas não remove tarefas agendadas maliciosas, permissões alteradas, memória contaminada nem integrações de ferramentas persistentes; restaurar o agente a um estado confiável é uma etapa separada. Decidir isso no meio de um incidente, sem ter mapeado antecipadamente o que o agente acessa, custa um tempo que você não tem.
Antes de um incidente, saiba quais agentes de IA e integrações existem, quais sistemas e dados cada um pode acessar, e quem tem autoridade para revogar seu acesso. Construir esse inventário durante um incidente ao vivo faz com que uma decisão de contenção relativamente rápida leve horas.
A investigação esbarra em um problema relacionado: a qualidade da evidência. Sistemas tradicionais produzem logs que seus profissionais de resposta a incidentes sabem ler: eventos de autenticação, acesso a arquivos, tráfego de rede. Muitas ferramentas de IA e plataformas ou estruturas de agentes não registram prompts, saídas e as ações que um agente tomou com a mesma fidelidade, nem os retêm pelo mesmo tempo, que seu SIEM já exige para sistemas convencionais. Reconstruir o que um agente de IA realmente fez pode significar juntar logs parciais de diversos fornecedores em vez de obter uma trilha de auditoria completa e consistente. Onde você controla a implantação, defina os requisitos de registro antes de a ferramenta entrar em produção: o que é registrado, com prompts e saídas minimizados quando contiverem dados pessoais; proteção dos logs contra adulteração; um prazo de retenção definido, com uma forma de preservar registros além dele durante um incidente; e IDs de rastreamento ou correlação que liguem a solicitação de um usuário às ações do agente em outros sistemas. Documente e avalie o risco das lacunas que a ferramenta não consegue cobrir. Onde você não controla, como um recurso de IA de terceiros incorporado a um produto SaaS, conheça essa limitação antes do incidente, não durante ele.
Também existe uma versão de cadeia de suprimentos desse problema. Se um provedor de IA terceirizado incorporado a um dos seus fluxos de trabalho críticos sofrer sua própria violação ou interrupção, suas opções de contenção ficam limitadas ao que o seu contrato e a página de status do fornecedor permitirem. Saiba com antecedência quais fluxos de trabalho dependem de um fornecedor externo de IA e qual é o plano manual de contingência caso esse fornecedor saia do ar ou seja ele mesmo comprometido, porque essa não é uma decisão que você quer tomar pela primeira vez no meio de um incidente.
A pergunta costumava ser o que aconteceu e quem fez. Com um agente de IA na cadeia, talvez você precise primeiro reconstruir as instruções e o contexto que ele recebeu, as ferramentas que acionou, as permissões que usou e as ações que executou, antes de conseguir estabelecer o que aconteceu.
O que registrar e preservar durante um incidente com agente de IA
Preserve as evidências antes de alterar ou reconstruir qualquer coisa, e registre quem coletou cada item e quando. Em um incidente envolvendo um dos seus próprios agentes de IA, isso inclui:
- a versão do agente e do modelo em uso, com as instruções de sistema e a configuração
- as definições de ferramentas, as integrações e as permissões de cada uma
- prompts, conteúdo recuperado e saídas, quando a retenção for lícita
- IDs de requisição e rastros de execução (traces de API)
- eventos de login e de tokens no provedor de identidade para as credenciais do agente
- logs de acesso a bancos de dados e arquivos dos sistemas que o agente podia alcançar
- saídas, mensagens e alterações de configuração produzidas pelo agente
- uma linha do tempo do incidente e um registro de cadeia de custódia das evidências
É a mesma prática de evidências descrita na NIST SP 800-61 Rev. 3, que alinha a resposta a incidentes ao CSF 2.0, incluindo coletar os dados do incidente e preservar sua integridade e procedência. A lista acima aplica essa prática aos registros que um agente de IA produz.
Quando o shadow AI se torna um incidente
O shadow AI, funcionários usando ferramentas de IA que sua equipe de TI não avaliou ou aprovou, geralmente é discutido como um problema de governança de dados. Também é um problema de resposta a incidentes, e aparece de duas formas diferentes. A primeira é um evento de exposição isolado: um funcionário cola dados de clientes, código-fonte ou informações financeiras em uma conta pessoal de IA, e sua organização passa a lidar com um incidente de proteção de dados sem escopo claro, porque você não sabe o que mais passou por esse canal ou onde foi parar. Nosso guia de shadow AI cobre o lado de governança e conformidade disso por completo.
A segunda é mais sutil e mais relevante aqui: o shadow AI aparece no meio de um incidente sem relação direta com ele. Um engenheiro estressado, tentando resolver uma interrupção ou violação ativa mais rápido, cola dados de log, mensagens de erro ou uma descrição do comprometimento em uma ferramenta de IA que nunca foi aprovada para esse fim, em alguns casos a mesma ferramenta que o atacante está explorando em outro lugar do ambiente. Seus procedimentos de comunicação de incidentes e tratamento de evidências precisam cobrir isso explicitamente: funcionários sob pressão recorrem à ferramenta mais rápida que encontrarem, e "não cole dados do incidente em ferramentas de IA não aprovadas" precisa ser uma instrução explícita durante a ativação, não uma suposição.