Esta página trata do lado jurídico e de conformidade da shadow AI. Como a shadow AI aparece e quais são os três riscos mais importantes está no nosso guia de shadow AI. Onde ela se esconde e como montar uma resposta que os funcionários sigam está em como encontrar e controlar a shadow AI.
Por que os riscos relacionados à LGPD são maiores do que a maioria imagina
Um fornecedor de IA pode atuar como operador, tratando dados pessoais em nome da sua organização, ou como controlador independente, que decide por conta própria como usa os dados. O papel depende do serviço, do contrato e das configurações, e define quais obrigações se aplicam. O Artigo 39 é a disposição da LGPD mais negligenciada nas discussões sobre shadow AI. Quando um fornecedor trata dados pessoais em nome da sua organização, ele deve seguir as instruções do controlador, e a ANPD recomenda que essas instruções estejam em contrato, com objeto, duração, natureza e finalidade do tratamento, tipos de dados, categorias de titulares e as obrigações de cada parte.
Um funcionário que entra no ChatGPT com conta pessoal não tem esse acordo com a sua empresa. Você não sabe que o tratamento está acontecendo. Não há limitação de finalidade, salvaguardas combinadas nem prazo de eliminação. A organização é a controladora dos dados pessoais que o funcionário trata no trabalho, e enviá-los a um serviço externo de IA é tratamento, qualquer que seja a intenção.
Quando um fornecedor de IA atua como operador, o Artigo 39 da LGPD exige que ele siga as instruções do controlador, e a ANPD recomenda formalizá-las em contrato. Uma conta pessoal de IA não dá à sua empresa nem contrato nem controle sobre o uso dos dados, e o fornecedor pode atuar como controlador por conta própria. A organização continua responsável pelos dados que controla e pelas medidas de segurança do Artigo 46. Se um envio específico gera sanção ou dever de indenizar depende dos fatos.
Nem todo uso de ferramenta não aprovada é um incidente a comunicar. Um prompt sem dados pessoais levanta questões de confidencialidade, não de LGPD. Quando dados pessoais são enviados sem autorização a uma ferramenta externa de IA, trate o caso como possível incidente de segurança e avalie também se houve tratamento ou compartilhamento em desacordo com a LGPD. A classificação depende das circunstâncias: a Resolução CD/ANPD nº 15/2024 exige comunicar a ANPD e os titulares em até três dias úteis quando o incidente puder acarretar risco ou dano relevante, e manter registro de todos os incidentes por pelo menos cinco anos. Sem visibilidade do uso de IA, você nem consegue fazer essa avaliação.
A ANPD incluiu a inteligência artificial entre os seus temas prioritários e publica orientações sobre IA e proteção de dados. Na Europa, autoridades de proteção de dados da Itália, da Alemanha e da Espanha já abriram investigações ou tomaram medidas relacionadas a ferramentas de IA e dados pessoais, e a Comissão Irlandesa de Proteção de Dados, que supervisiona muitas grandes empresas de tecnologia dos EUA que atuam na UE, mantém a IA no centro da sua agenda.
O que a LGPD, a ISO 27001 e a NIS2 exigem
O Artigo 46 da LGPD exige que controladores e operadores adotem medidas de segurança técnicas e administrativas aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas. Isso inclui saber para onde os dados vão. Depois de um incidente, "não sabíamos que os funcionários usavam essas ferramentas" dificilmente será uma resposta suficiente perante a ANPD.
A NIS2 é uma diretiva europeia e se aplica apenas a entidades dentro do seu escopo na UE, o que pode incluir subsidiárias ou operações europeias de empresas brasileiras. Para essas entidades, o Artigo 21 exige medidas de gestão de riscos que incluem a segurança da cadeia de fornecimento, e isso pode abranger serviços de IA que tratam dados sensíveis. Para as demais, ela serve como referência útil.
A ISO 27001:2022 é baseada em risco. Os controles do Anexo A mais relevantes para ferramentas de IA são o 5.9 (inventário de informações e outros ativos associados), o 5.10 (uso aceitável de informações e outros ativos associados) e o 5.23 (segurança da informação para uso de serviços em nuvem). A norma não exige uma política de IA separada; você pode tratar a IA nas políticas de uso aceitável e de nuvem que já tem. Ela exige que você identifique o risco, decida como tratá-lo e mantenha evidências.
Se você tem ou busca a certificação ISO 27001, espere que os auditores perguntem como o uso de ferramentas de IA aparece na avaliação de riscos, no inventário de ativos e nas regras de uso aceitável. Se o uso de IA for amplo e nada disso o tratar, o auditor pode registrar uma não conformidade; a gravidade depende do risco e das evidências que você apresentar.
O que fazer quando dados já foram enviados a uma IA não aprovada
Em algum momento alguém vai contar, ou o monitoramento vai mostrar, que dados de clientes ou dados pessoais foram parar em uma conta pessoal de IA. Trate o caso como possível incidente e siga esta sequência.
- Levante os fatos: qual ferramenta e conta, quais dados, quantas pessoas ou registros, quando, e se a conta é compartilhada ou sincronizada com outros dispositivos.
- Preserve as evidências antes de apagar qualquer coisa: um registro do que foi enviado, capturas de tela da conversa e os logs relevantes. Colete só o necessário e respeite a privacidade do próprio funcionário.
- Contenha: depois de preservar as evidências, peça ao funcionário que apague a conversa e, quando o fornecedor permitir, limpe o histórico, salvo se uma retenção legal (legal hold) ou a investigação exigirem manter os dados. Desativar o uso para treinamento evita usos futuros, mas não exclui o que já foi enviado. Verifique a retenção real do fornecedor, porque a exclusão pode não ser imediata e cópias podem ser mantidas por um período.
- Avalie o risco aos titulares: o tipo e a sensibilidade dos dados, o que os termos do fornecedor permitem fazer com eles e a possibilidade de uso indevido.
- Decida sobre a comunicação: se houver dados pessoais e o incidente puder acarretar risco ou dano relevante, comunique a ANPD e os titulares em até três dias úteis (Resolução CD/ANPD nº 15/2024; agentes de tratamento de pequeno porte têm prazo em dobro). Em qualquer caso, registre o incidente e a sua análise e guarde o registro por pelo menos cinco anos.
- Verifique outras obrigações: contratos com clientes, acordos de confidencialidade, reguladores setoriais e seguradoras podem ter prazos próprios de notificação.
- Corrija a causa: ofereça uma alternativa aprovada, atualize a política ou a orientação e trate o funcionário com justiça. Quem é punido por relatar um erro tende a esconder o próximo.