Esta página trata de encontrar a shadow AI e colocá-la sob controle. O que é a shadow AI e quais são os três riscos mais importantes está no nosso guia de shadow AI. A exposição sob a LGPD e o que fazer após um vazamento estão em shadow AI e a LGPD.
Onde a shadow AI se esconde além do óbvio
Quando se fala em shadow AI, a primeira imagem costuma ser o ChatGPT. A superfície real é maior e mais difícil de mapear.
- Extensões de navegador: Assistentes de escrita, complementos de transcrição e extensões semelhantes podem ler o que o usuário digita ou vê no navegador, conforme as permissões concedidas. Muitas já incluem recursos de IA generativa, e uma extensão com permissões amplas pode ver textos digitados em sistemas internos.
- Recursos de IA dentro de ferramentas SaaS já em uso: Notion AI, Slack AI, os recursos de IA do HubSpot, o Magic Write do Canva e muitos outros adicionam IA a plataformas que a equipe já usa. É comum supor que a aprovação da plataforma cobre o recurso de IA. Verifique se o recurso está ativado, quais suboperadores usa, onde os dados são tratados e se o contrato atual o cobre.
- Acesso de consumidor a ferramentas corporativas: O Microsoft 365 Copilot Chat oferece proteção de dados corporativos quando o funcionário entra com a conta de trabalho do Entra ID. Com uma conta pessoal da Microsoft, a mesma pessoa usa o Copilot para consumidores, sob termos de consumidor, mesmo que a empresa pague pelo Microsoft 365 Copilot.
- Dispositivos pessoais: Quem é dono do aparelho e se ele é gerenciado são questões diferentes. Um celular ou notebook pessoal não gerenciado fica fora do alcance da maioria dos controles corporativos de DLP e de filtragem web, enquanto um aparelho pessoal inscrito na sua gestão de dispositivos (BYOD) pode dar alguma visibilidade por meio de aplicativos gerenciados e perfis de trabalho. O trabalho remoto e híbrido torna o uso em aparelhos não gerenciados mais comum.
- Ferramentas de voz e reunião: Serviços de transcrição de reuniões por IA, como Fireflies, Otter.ai e semelhantes, gravam e processam o áudio das reuniões, às vezes com discussões comercialmente sensíveis. Verifique quem pode ativá-los e onde as gravações ficam armazenadas.
Recursos de IA incorporados em ferramentas SaaS já aprovadas precisam de revisão própria. Notion AI, Slack AI ou o assistente do HubSpot podem usar suboperadores, locais de tratamento ou prazos de retenção diferentes dos do produto principal. A aprovação da ferramenta só cobre o recurso de IA depois que você o revisar e documentar a decisão.
O tipo de conta muda o risco
| Forma de acesso | Situação típica | O que verificar |
|---|---|---|
| Conta pessoal de consumidor | Nenhum contrato com a sua organização; valem os termos de consumidor do fornecedor; as conversas podem ser usadas para melhorar modelos, salvo se o usuário desativar a opção | Tratar como não aprovada para dados pessoais ou confidenciais |
| Conta corporativa ou empresarial com identidade de trabalho | Contrato com a sua organização; treinamento com seus dados em geral desativado por padrão; controles administrativos e registros, mas termos contratuais, registros, retenção e controles administrativos variam conforme o fornecedor e o plano | Termos de tratamento de dados, retenção, localização, suboperadores, configurações administrativas |
| Recurso de IA dentro de uma ferramenta SaaS aprovada | Coberto pelo contrato atual apenas se os termos do fornecedor se estenderem ao recurso | Se o recurso está ativado, suboperadores, termos de IA separados |
| Acesso por API integrado aos seus sistemas | Regido pelo contrato da API; os principais fornecedores em geral não treinam com dados da API por padrão | Retenção, registros, mecanismo de transferência, quem mantém a integração |
| Modelo hospedado localmente | Os dados ficam no seu ambiente se a implantação for configurada assim | Origem e licença do modelo, controle de acesso, atualizações, registros |
Como construir uma resposta à shadow AI que os funcionários vão seguir
A reação instintiva é bloquear. Bloquear sem oferecer alternativa tende a levar o uso para dispositivos pessoais, fora do alcance dos seus controles. As pessoas usam essas ferramentas porque elas ajudam no trabalho, e vão continuar usando se não houver uma opção aprovada. Isso não significa nunca bloquear: equilibre alternativas aprovadas, monitoramento, restrições e medidas de cumprimento, e bloqueie de imediato os usos de alto risco, como enviar dados pessoais sensíveis ou código-fonte a um serviço não avaliado.
Um programa de shadow AI que funciona na prática tem sete componentes, mais ou menos em ordem de prioridade. Defina um responsável e uma data de revisão, porque as ferramentas mudam mais rápido do que a maioria das políticas.
- Política de uso aceitável de IA: Um documento curto e claro que diga quais ferramentas são aprovadas, quais dados podem ser usados em cada uma, como pedir uma ferramenta nova ou uma exceção e o que fazer quando um recurso de IA aparece em uma ferramenta já usada. Mantenha-o em uma ou duas páginas, com uma lista clara de ferramentas aprovadas.
- Lista de ferramentas aprovadas com orientação por nível de dados: Nem todos os dados têm a mesma sensibilidade. Dê à equipe uma regra simples: informações públicas podem ir para a ferramenta X; informações internas podem ir para a ferramenta Y com conta corporativa; dados pessoais, informações confidenciais de clientes e código-fonte não entram em nenhuma ferramenta de IA sem aprovação específica. Regras claras eliminam o palpite que hoje leva a decisões erradas.
- Classificação de dados: A equipe não consegue decidir bem o que inserir em ferramentas de IA se não souber o que é sensível. Um esquema de classificação simples, com exemplos claros, é pré-requisito para que a política de uso aceitável funcione.
- Alternativas corporativas: Dê à equipe acesso a ferramentas que atendam aos seus requisitos de governança, como o Microsoft 365 Copilot ou o Copilot Chat com contas de trabalho, uma implantação corporativa do Claude ou do ChatGPT, ou outros produtos que tratem dados sob contrato escrito, com regras adequadas de retenção e localização. Isso elimina boa parte do motivo para usar contas pessoais.
- DLP e monitoramento de serviços de IA: Ferramentas de prevenção contra perda de dados e de filtragem web podem detectar o tráfego para serviços de IA conhecidos e, se configuradas, alertar ou bloquear quando houver dados sensíveis. Monitorar funcionários também é tratamento de dados pessoais: mantenha o monitoramento proporcional, informe a equipe sobre o que é monitorado e por quê, e avalie a necessidade de um relatório de impacto à proteção de dados. Nenhuma dessas fontes revela todos os agentes ou recursos de IA embutidos em SaaS: registros de consentimento e filtragem web não enxergam recursos de IA dentro de ferramentas aprovadas, agentes locais nem o tráfego de aparelhos não gerenciados, por isso combine-as com a auditoria de SaaS e com relatos da equipe.
- Auditoria de recursos de IA nas ferramentas SaaS: Revise as ferramentas do seu ambiente de aplicações SaaS em busca de recursos de IA adicionados ou em desenvolvimento. Identifique quais têm implicações de privacidade e atualize os contratos ou as regras de uso aceitável. Os fornecedores adicionam recursos de IA o tempo todo, então esta é uma tarefa contínua.
- Conscientização regular, e não um curso anual apenas para cumprir uma formalidade: Comunicações curtas, ligadas a casos de uso reais, alcançam a equipe melhor do que um módulo anual. Vincule as atualizações às mudanças nas ferramentas aprovadas e facilite que as pessoas relatem um erro sem medo de punição.