Esta página trata do lado jurídico e de conformidade da shadow AI. Como a shadow AI aparece e quais são os três riscos mais importantes está no nosso guia de shadow AI. Onde ela se esconde e como montar uma resposta que os funcionários sigam está em como encontrar e controlar a shadow AI.
Por que a exposição sob a LGPD é maior do que a maioria imagina
O Artigo 39 é a disposição da LGPD mais negligenciada nas discussões sobre shadow AI. Quando um fornecedor trata dados pessoais em nome da sua organização, ele deve seguir as instruções do controlador, e a ANPD recomenda que essas instruções estejam em contrato, com objeto, duração, natureza e finalidade do tratamento, tipos de dados, categorias de titulares e as obrigações de cada parte.
Um funcionário que entra no ChatGPT com conta pessoal não tem esse acordo com a sua empresa. Você não sabe que o tratamento está acontecendo. Não há limitação de finalidade, salvaguardas combinadas nem prazo de eliminação. A organização é a controladora dos dados pessoais que o funcionário trata no trabalho, e enviá-los a um serviço externo de IA é tratamento, qualquer que seja a intenção.
Quando um fornecedor de IA atua como operador, o Artigo 39 da LGPD exige que ele siga as instruções do controlador, e a ANPD recomenda formalizá-las em contrato. Uma conta pessoal de IA não dá à sua empresa nem contrato nem controle sobre o uso dos dados, e o fornecedor pode atuar como controlador por conta própria. A organização continua responsável pelos dados que controla e pelas medidas de segurança do Artigo 46. Se um envio específico gera sanção ou dever de indenizar depende dos fatos.
Nem todo uso de ferramenta não aprovada é um incidente a comunicar. Um prompt sem dados pessoais levanta questões de confidencialidade, não de LGPD. Quando dados pessoais são enviados sem autorização, trata-se de um incidente de segurança: a Resolução CD/ANPD nº 15/2024 exige comunicar a ANPD e os titulares em até três dias úteis quando o incidente puder acarretar risco ou dano relevante, e manter registro de todos os incidentes por pelo menos cinco anos. Sem visibilidade do uso de IA, você nem consegue fazer essa avaliação.
A ANPD incluiu a inteligência artificial entre os seus temas prioritários e publica orientações sobre IA e proteção de dados. Na Europa, autoridades de proteção de dados da Itália, da Alemanha e da Espanha já abriram investigações ou tomaram medidas relacionadas a ferramentas de IA e dados pessoais, e a Comissão Irlandesa de Proteção de Dados, que supervisiona muitas grandes empresas de tecnologia dos EUA que atuam na UE, mantém a IA no centro da sua agenda.
O que a LGPD, a ISO 27001 e a NIS2 exigem
O Artigo 46 da LGPD exige que controladores e operadores adotem medidas de segurança técnicas e administrativas aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas. Isso inclui saber para onde os dados vão. Depois de um incidente, "não sabíamos que os funcionários usavam essas ferramentas" dificilmente será uma resposta suficiente perante a ANPD.
A NIS2 é uma diretiva europeia e se aplica apenas a entidades dentro do seu escopo na UE, o que pode incluir subsidiárias ou operações europeias de empresas brasileiras. Para essas entidades, o Artigo 21 exige medidas de gestão de riscos que incluem a segurança da cadeia de fornecimento, e isso pode abranger serviços de IA que tratam dados sensíveis. Para as demais, ela serve como referência útil.
A ISO 27001:2022 é baseada em risco. Os controles do Anexo A mais relevantes para ferramentas de IA são o 5.9 (inventário de informações e outros ativos associados), o 5.10 (uso aceitável de informações e outros ativos associados) e o 5.23 (segurança da informação para uso de serviços em nuvem). A norma não exige uma política de IA separada; você pode tratar a IA nas políticas de uso aceitável e de nuvem que já tem. Ela exige que você identifique o risco, decida como tratá-lo e mantenha evidências.
Se você tem ou busca a certificação ISO 27001, espere que os auditores perguntem como o uso de ferramentas de IA aparece na avaliação de riscos, no inventário de ativos e nas regras de uso aceitável. Se o uso de IA for amplo e nada disso o tratar, o auditor pode registrar uma não conformidade; a gravidade depende do risco e das evidências que você apresentar.
O que fazer quando dados já foram enviados a uma IA não aprovada
Em algum momento alguém vai contar, ou o monitoramento vai mostrar, que dados de clientes ou dados pessoais foram parar em uma conta pessoal de IA. Trate o caso como possível incidente e siga esta sequência.
- Levante os fatos: qual ferramenta e conta, quais dados, quantas pessoas ou registros, quando, e se a conta é compartilhada ou sincronizada com outros dispositivos.
- Preserve as evidências antes de apagar qualquer coisa: um registro do que foi enviado, capturas de tela da conversa e os logs relevantes. Colete só o necessário e respeite a privacidade do próprio funcionário.
- Contenha: peça ao funcionário que apague a conversa e, quando o fornecedor permitir, desative o uso para treinamento e limpe o histórico. Verifique os prazos de retenção do fornecedor, porque a exclusão pode não ser imediata.
- Avalie o risco aos titulares: o tipo e a sensibilidade dos dados, o que os termos do fornecedor permitem fazer com eles e a possibilidade de uso indevido.
- Decida sobre a comunicação: se houver dados pessoais e o incidente puder acarretar risco ou dano relevante, comunique a ANPD e os titulares em até três dias úteis (Resolução CD/ANPD nº 15/2024; agentes de tratamento de pequeno porte têm prazo em dobro). Em qualquer caso, registre o incidente e a sua análise e guarde o registro por pelo menos cinco anos.
- Verifique outras obrigações: contratos com clientes, acordos de confidencialidade, reguladores setoriais e seguradoras podem ter prazos próprios de notificação.
- Corrija a causa: ofereça uma alternativa aprovada, atualize a política ou a orientação e trate o funcionário com justiça. Quem é punido por relatar um erro tende a esconder o próximo.