Esta página cobre as etapas 4 a 7 do nosso guia de implementação de IA. Ela parte de um objetivo definido e de um caso de uso priorizado, que você estabelece nas etapas 1 a 3, em como escolher casos de uso de IA e avaliar a prontidão dos dados. Testes, implantação e monitoramento vêm nas etapas 8 a 12.
Etapa 4: Selecione a tecnologia, a arquitetura e o fornecedor
A maioria das organizações que implementa seu primeiro caso de uso de IA escolhe entre um recurso de IA nativo em uma plataforma que já usa, um produto de um fornecedor especializado e uma construção sob medida sobre uma API de modelo de fundação. Cada uma tem um perfil diferente de custo, velocidade e controle.
Uma observação sobre arquitetura
Qualquer que seja a rota escolhida, determine cedo como o sistema é montado: onde os dados ficam em relação ao modelo, se o componente de IA chama outros sistemas internos ou APIs externas por conta própria, e onde o ponto de controle humano da Etapa 11 se encaixa nessa cadeia. Um recurso nativo da plataforma geralmente já decide isso por você. Um produto de fornecedor especializado ou uma construção sob medida não, e uma arquitetura que dá ao componente de IA acesso de leitura ou escrita a mais sistemas do que o caso de uso realmente precisa é a forma mais fácil de transformar um piloto delimitado em um piloto sem limites. Mantenha a superfície de integração tão estreita quanto o objetivo exigir, e amplie depois apenas diante de uma necessidade específica e fundamentada.
Qualquer que seja a rota escolhida, as perguntas de due diligence sobre fornecedores do nosso guia de governança de IA continuam totalmente aplicáveis: onde os dados são processados, o que acontece com eles no encerramento do contrato e quais certificações de segurança o fornecedor possui. Acrescente duas perguntas específicas de implementação: qual o desempenho do produto do fornecedor em uma amostra dos seus próprios dados, não os dados da demonstração, e como é o caminho de saída se você precisar migrar da ferramenta assim que um processo depender dela.
Etapa 5: Avalie os riscos
Trate isso como uma avaliação proporcional ao nível real de risco do caso de uso, não como uma checklist a ser cumprida da mesma forma para todo projeto, independentemente do porte. Um caso de uso interno de baixo risco precisa de uma verificação mais leve do que um caso de uso que afeta clientes ou os direitos de indivíduos.
Com que frequência o sistema precisa acertar para que o caso de uso valha a pena implantar, e o que acontece quando erra? Um assistente de rascunho que erra 5% das vezes é aceitável porque um humano revisa o resultado. Um sistema de decisão automatizada que erra 5% das vezes em escala é um problema completamente diferente.
A implementação introduz uma nova superfície de ataque: uma integração de API, um chatbot que processa entradas não confiáveis, um sistema conectado a dados internos aos quais antes não tinha acesso? Os controles de segurança da seção de segurança do nosso guia de governança de IA se aplicam diretamente aqui.
O caso de uso processa dados pessoais de uma forma nova? Se sim, uma avaliação de impacto conforme o Artigo 38 da LGPD provavelmente é exigida antes da entrada em produção, não depois. Veja a Etapa 6 abaixo.
Quando o resultado do sistema afeta indivíduos de forma diferente conforme quem eles são, teste resultados desiguais entre grupos relevantes antes da entrada em produção, com uma amostra representativa grande o suficiente para detectar uma diferença significativa.
Você consegue explicar, em termos que um stakeholder não técnico ou um regulador aceitaria, por que o sistema produziu um determinado resultado? Se a resposta for "não sabemos completamente", isso limita substancialmente para quais casos de uso o sistema é adequado.
Se o sistema pode executar uma ação por conta própria, enviar um e-mail, atualizar um registro, chamar outro sistema, em vez de apenas produzir texto ou uma recomendação sobre a qual um humano deve agir, trate-o como uma implementação de risco substancialmente mais alto, independentemente de quão bem ele performe. Defina exatamente quais ações ele pode executar sem supervisão, quais ações sempre exigem aprovação humana prévia e o que acontece se receber uma tarefa que exija uma ferramenta ou nível de acesso que ninguém concedeu explicitamente. Um sistema agêntico que adquire silenciosamente mais alcance do que o caso de uso pretendia é um risco maior do que um sistema que ocasionalmente erra uma resposta.
Etapa 6: Confirme os requisitos legais e regulatórios
Confirme isso antes de construir, não depois de existir um protótipo funcional e o jurídico levantar objeções para as quais ninguém reservou tempo. Duas perguntas cobrem a maioria dos projetos de implementação: o caso de uso exige um Relatório de Impacto à Proteção de Dados Pessoais sob a LGPD, e o Regulamento Europeu de IA se aplica.
Se o caso de uso processa dados pessoais e envolve criação de perfis, decisões automatizadas com efeitos significativos ou monitoramento em larga escala de pessoas, um RIPD é exigido pelo Artigo 38 da LGPD antes da entrada em produção. Quanto ao Regulamento Europeu de IA, ele normalmente só entra em jogo se sua organização tiver clientes na UE, operações na Europa ou atender indivíduos na UE; nesse caso, avalie o caso de uso contra os níveis de risco do regulamento, especialmente quando envolver recrutamento, concessão de crédito ou outro domínio de alto risco do Anexo III. Nosso guia de governança de IA aborda tanto as obrigações da LGPD quanto a aplicabilidade do Regulamento Europeu de IA em detalhe completo, incluindo o cronograma de implementação atual.
Etapa 7: Execute um piloto controlado
Um piloto não é uma entrada em produção disfarçada sob outro nome. Ele precisa de um escopo delimitado, um limiar de sucesso acordado previamente e um plano de reversão acordado previamente, não improvisado se algo der errado.