Esta página cobre as etapas 4 a 6 do nosso framework de governança de IA. Ela parte do registro de ferramentas e da classificação de risco montados nas etapas 1 a 3, em inventário de IA, classificação de risco e política de uso aceitável. Fornecedores, incidentes e regulação vêm nas etapas 7 a 10.
Etapa 4: Obrigações da LGPD
A LGPD aplica-se a qualquer tratamento de IA que envolva dados pessoais. As obrigações que surgem com maior frequência na prática são:
Os indivíduos têm o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. Se um sistema de IA tomar decisões exclusivamente automatizadas sobre candidatos a emprego, capacidade de crédito, elegibilidade para seguros ou concessão de benefícios sem intervenção humana significativa, o Artigo 20 pode ser aplicável. A revisão humana significativa deve realmente influenciar o resultado: apenas referendar uma recomendação da IA não atende ao requisito. O Artigo 20 deve ser analisado em conjunto com a base legal aplicável ao tratamento de dados pessoais. Ambas as análises devem ser realizadas separadamente. Documente sua avaliação sobre a aplicabilidade do Artigo 20 a cada ferramenta de IA de alto risco e mantenha essa documentação.
Um RIPD deve ser realizado quando o tratamento puder gerar riscos às liberdades civis e aos direitos fundamentais dos titulares. O uso de IA que envolva criação de perfis, dados pessoais sensíveis, decisões automatizadas com efeitos significativos ou monitoramento em larga escala pode exigir uma avaliação de impacto. Realize uma avaliação para toda ferramenta de IA de alto risco antes da implementação. Para ferramentas de risco médio, uma avaliação de impacto é uma boa prática mesmo quando não for estritamente exigida. Consulte nosso guia de requisitos de RIPD para um framework detalhado.
O tratamento de dados pessoais por meio de uma ferramenta de IA exige uma base legal nos termos da LGPD, e o tratamento de dados pessoais sensíveis exige o atendimento às condições específicas previstas na lei. Seus avisos de privacidade devem informar os indivíduos quando a IA processar seus dados de forma relevante. Se você utiliza ferramentas de IA que processam dados de funcionários, atualize o aviso de privacidade destinado aos funcionários. Se processa dados de clientes por meio de IA, atualize o aviso de privacidade destinado aos clientes.
Esses são conceitos distintos, avaliados segundo frameworks diferentes. Uma avaliação de impacto é necessária quando o tratamento puder resultar em alto risco para os indivíduos: uma avaliação de risco à proteção de dados. Isso não é o mesmo que classificar um sistema de IA como de "alto risco" segundo o Regulamento Europeu de IA, que utiliza critérios diferentes com base no domínio de aplicação. Uma ferramenta com classificação de baixo risco segundo o Regulamento Europeu de IA ainda pode exigir uma avaliação de impacto sob a LGPD se envolver criação de perfis em larga escala, dados pessoais sensíveis ou decisões automatizadas com efeitos significativos sobre indivíduos.
Transferências internacionais de dados
A maioria dos fornecedores de IA generativa processa dados nos Estados Unidos. Verifique o acordo de tratamento de dados do fornecedor para confirmar qual mecanismo de transferência está em vigor: decisão de adequação, cláusulas contratuais padrão (SCCs) ou regras corporativas vinculantes. Se o fornecedor oferecer apenas SCCs sem um aditivo compatível com a UE, obtenha esclarecimentos por escrito antes de utilizar a ferramenta para dados pessoais.
Etapa 5: Incorpore supervisão humana aos fluxos de trabalho
A supervisão humana só é significativa quando a pessoa que revisa um resultado de IA possui as informações e o tempo necessários para fazer um julgamento real. Um fluxo de trabalho no qual um gerente clica em "aprovar" uma avaliação de RH gerada por IA em menos de um minuto não é supervisão. É uma responsabilidade transformada em processo.
Para cada fluxo de trabalho de impacto que utiliza IA, defina:
- Quem revisa o resultado da IA e o que a revisão deve abranger
- Quais informações são necessárias para esse julgamento, incluindo qualquer contexto ao qual a IA não teve acesso
- O que podem alterar antes que a decisão seja registrada e como as alterações são documentadas
- Como a decisão e o envolvimento da IA são registrados para o caso de uma contestação ou auditoria posterior
- Quem o indivíduo pode contatar para solicitar uma revisão humana de uma decisão que o afetou
A exigência de registro é particularmente importante. Se uma decisão de recrutamento ou uma decisão sobre uma solicitação de crédito for contestada, você precisa ser capaz de demonstrar o que a IA produziu, o que o revisor alterou e quem tomou a decisão final. Processos verbais deixam sua organização exposta.
Na implementação do Microsoft 365 Copilot, a supervisão está menos relacionada a decisões individuais e mais aos controles de acesso aos dados: quais dados o Copilot pode apresentar, quem pode ver o quê e se sites do SharePoint com permissões excessivas ficam visíveis para funcionários que não deveriam ter acesso a esse conteúdo.
Etapa 6: Controles de segurança para IA
As ferramentas de IA introduzem riscos de segurança para os quais a maioria dos controles existentes não foi projetada. Governar a IA sem governar seu perfil de segurança deixa uma lacuna significativa, especialmente à medida que as organizações conectam IA a dados internos, APIs e processos de negócio.
Controle de acesso e menor privilégio
Ferramentas corporativas de IA: especialmente aquelas integradas ao seu ambiente Microsoft 365, CRM ou sistemas de arquivos: apresentam dados com base no que o usuário pode acessar. Se suas permissões do SharePoint forem amplas demais, o Copilot apresentará documentos que o usuário não deveria ver. Audite as permissões nos sistemas conectados antes de habilitar ferramentas de IA que possam consultá-los. Aplique o princípio do menor privilégio: os usuários devem acessar apenas os dados necessários para sua função, e não tudo o que sua conta tecnicamente permite.
Injeção de prompt
Injeção de prompt é um ataque no qual instruções maliciosas incorporadas ao conteúdo processado pela IA fazem com que ela execute ações não intencionais ou vaze informações. Em implementações de IA voltadas para clientes: chatbots, processamento de e-mails assistido por IA, análise de documentos: um invasor pode criar uma entrada que substitui as instruções do sistema. As medidas de mitigação incluem validação dos resultados, ambientes de execução em sandbox, limitação da capacidade da IA de executar ações autônomas e registro de todas as entradas e saídas para revisão.
Vazamento de dados e conteúdo sensível em prompts
Os funcionários rotineiramente incluem mais informações nos prompts de IA do que pretendiam. Credenciais, dados pessoais, nomes de clientes, valores financeiros e documentos confidenciais de estratégia aparecem nos prompts sem que o usuário considere para onde esses dados vão. O treinamento reduz a frequência, mas os controles técnicos são mais importantes: classifique os dados em repouso, restrinja quais categorias de dados podem ser acessadas por aplicações habilitadas para IA e configure políticas de DLP para sinalizar ou bloquear prompts que contenham padrões sensíveis.
Shadow AI e integrações não autorizadas
Shadow AI não é um problema de descoberta pontual. Novas ferramentas são lançadas constantemente, contas de funcionários mudam e extensões de navegador se acumulam. Varreduras periódicas do ambiente SaaS, análise do tráfego de saída e um canal claro para que os funcionários sinalizem ferramentas de IA que desejam utilizar fazem parte da gestão contínua de Shadow AI. Funcionários que não conseguem obter rapidamente a aprovação de uma ferramenta irão utilizá-la mesmo assim e não contarão a ninguém.
Riscos da cadeia de suprimentos e dos modelos
Modelos fundacionais que alimentam ferramentas comerciais de IA podem ser atualizados sem aviso, alterando seu comportamento, resultados ou características de tratamento de dados. Plugins de IA e integrações de terceiros ampliam a confiança para partes adicionais que sua diligência devida original não contemplou. Revise a lista de suboperadores nos acordos de tratamento de dados dos fornecedores, monitore as notas de versão dos fornecedores em busca de mudanças relevantes e teste o comportamento dos resultados da IA após atualizações significativas de modelos em fluxos de trabalho críticos.
Registro de logs e detecção de incidentes
Registre o uso das ferramentas de IA: quem usou o quê, quando e, quando possível, com quais dados. Os logs permitem investigar incidentes, atender requisitos de auditoria e detectar padrões anormais, como volumes incomuns de dados sendo processados ou acessos de contas inesperadas. Garanta que a retenção dos logs esteja alinhada aos requisitos de resposta a incidentes e regulatórios, normalmente por no mínimo 12 meses.