Esta página trata de encontrar a shadow AI e colocá-la sob controle. O que é a shadow AI e quais são os três riscos mais importantes está no nosso guia de shadow AI. A exposição sob a LGPD e o que fazer após um vazamento estão em shadow AI e a LGPD.
Onde a shadow AI se esconde além do óbvio
Quando se fala em shadow AI, a primeira imagem costuma ser o ChatGPT. A superfície real é maior e mais difícil de mapear.
- Extensões de navegador: Assistentes de escrita, complementos de transcrição e extensões semelhantes podem ler o que o usuário digita ou vê no navegador, conforme as permissões concedidas. Muitas já incluem recursos de IA generativa, e uma extensão com permissões amplas pode ver textos digitados em sistemas internos.
- Recursos de IA dentro de ferramentas SaaS já em uso: Notion AI, Slack AI, os recursos de IA do HubSpot, o Magic Write do Canva e muitos outros adicionam IA a plataformas que a equipe já usa. É comum supor que a aprovação da plataforma cobre o recurso de IA. Verifique se o recurso está ativado, quais suboperadores usa, onde os dados são tratados e se o contrato atual o cobre.
- Acesso de consumidor a ferramentas corporativas: O Microsoft 365 Copilot Chat oferece proteção de dados corporativos quando o funcionário entra com a conta de trabalho do Entra ID. Com uma conta pessoal da Microsoft, a mesma pessoa usa o Copilot para consumidores, sob termos de consumidor, mesmo que a empresa pague pelo Microsoft 365 Copilot.
- Dispositivos pessoais: Ferramentas de IA usadas em celulares e notebooks pessoais ficam fora do alcance da maioria dos controles corporativos de DLP e de filtragem web. O trabalho remoto e híbrido torna isso mais comum.
- Ferramentas de voz e reunião: Serviços de transcrição de reuniões por IA, como Fireflies, Otter.ai e semelhantes, gravam e processam o áudio das reuniões, às vezes com discussões comercialmente sensíveis. Verifique quem pode ativá-los e onde as gravações ficam armazenadas.
Recursos de IA incorporados em ferramentas SaaS já aprovadas precisam de revisão própria. Notion AI, Slack AI ou o assistente do HubSpot podem usar suboperadores, locais de tratamento ou prazos de retenção diferentes dos do produto principal. A aprovação da ferramenta só cobre o recurso de IA depois que você o revisar e documentar a decisão.
O tipo de conta muda o risco
| Forma de acesso | Situação típica | O que verificar |
|---|---|---|
| Conta pessoal de consumidor | Nenhum contrato com a sua organização; valem os termos de consumidor do fornecedor; as conversas podem ser usadas para melhorar modelos, salvo se o usuário desativar a opção | Tratar como não aprovada para dados pessoais ou confidenciais |
| Conta corporativa ou empresarial com identidade de trabalho | Contrato com a sua organização; treinamento com seus dados em geral desativado por padrão; controles administrativos e registros | Termos de tratamento de dados, retenção, localização, suboperadores, configurações administrativas |
| Recurso de IA dentro de uma ferramenta SaaS aprovada | Coberto pelo contrato atual apenas se os termos do fornecedor se estenderem ao recurso | Se o recurso está ativado, suboperadores, termos de IA separados |
| Acesso por API integrado aos seus sistemas | Regido pelo contrato da API; os principais fornecedores em geral não treinam com dados da API por padrão | Retenção, registros, mecanismo de transferência, quem mantém a integração |
| Modelo hospedado localmente | Os dados ficam no seu ambiente se a implantação for configurada assim | Origem e licença do modelo, controle de acesso, atualizações, registros |
Como construir uma resposta à shadow AI que os funcionários vão seguir
A reação instintiva é bloquear. Bloquear sem oferecer alternativa tende a levar o uso para dispositivos pessoais, fora do alcance dos seus controles. As pessoas usam essas ferramentas porque elas ajudam no trabalho, e vão continuar usando se não houver uma opção aprovada.
Um programa de shadow AI que funciona na prática tem sete componentes, mais ou menos em ordem de prioridade. Defina um responsável e uma data de revisão, porque as ferramentas mudam mais rápido do que a maioria das políticas.
- Política de uso aceitável de IA: Um documento curto e claro que diga quais ferramentas são aprovadas, quais dados podem ser usados em cada uma, como pedir uma ferramenta nova ou uma exceção e o que fazer quando um recurso de IA aparece em uma ferramenta já usada. Mantenha-o em uma ou duas páginas, com uma lista clara de ferramentas aprovadas.
- Lista de ferramentas aprovadas com orientação por nível de dados: Nem todos os dados têm a mesma sensibilidade. Dê à equipe uma regra simples: informações públicas podem ir para a ferramenta X; informações internas podem ir para a ferramenta Y com conta corporativa; dados pessoais, informações confidenciais de clientes e código-fonte não entram em nenhuma ferramenta de IA sem aprovação específica. Regras claras eliminam o palpite que hoje leva a decisões erradas.
- Classificação de dados: A equipe não consegue decidir bem o que inserir em ferramentas de IA se não souber o que é sensível. Um esquema de classificação simples, com exemplos claros, é pré-requisito para que a política de uso aceitável funcione.
- Alternativas corporativas: Dê à equipe acesso a ferramentas que atendam aos seus requisitos de governança, como o Microsoft 365 Copilot ou o Copilot Chat com contas de trabalho, uma implantação corporativa do Claude ou do ChatGPT, ou outros produtos que tratem dados sob contrato escrito, com regras adequadas de retenção e localização. Isso elimina boa parte do motivo para usar contas pessoais.
- DLP e monitoramento de serviços de IA: Ferramentas de prevenção contra perda de dados e de filtragem web podem detectar o tráfego para serviços de IA conhecidos e, se configuradas, alertar ou bloquear quando houver dados sensíveis. Monitorar funcionários também é tratamento de dados pessoais: mantenha o monitoramento proporcional, informe a equipe sobre o que é monitorado e por quê, e avalie a necessidade de um relatório de impacto à proteção de dados.
- Auditoria de recursos de IA nas ferramentas SaaS: Revise as ferramentas do seu ambiente de aplicações SaaS em busca de recursos de IA adicionados ou em desenvolvimento. Identifique quais têm implicações de privacidade e atualize os contratos ou as regras de uso aceitável. Os fornecedores adicionam recursos de IA o tempo todo, então esta é uma tarefa contínua.
- Conscientização regular, e não um curso anual apenas para cumprir uma formalidade: Comunicações curtas, ligadas a casos de uso reais, alcançam a equipe melhor do que um módulo anual. Vincule as atualizações às mudanças nas ferramentas aprovadas e facilite que as pessoas relatem um erro sem medo de punição.