- Sistemas de IA de alto risco precisam de gestão de riscos, governança de dados, documentação técnica, registro automático de eventos, informação aos implantadores, supervisão humana e precisão, robustez e cibersegurança
- A avaliação de conformidade, a declaração de conformidade UE, a marcação CE e, na maioria dos casos, o registro na base de dados da UE são obrigações do fornecedor
- Os implantadores devem seguir as instruções de uso, atribuir supervisão humana competente, monitorar o funcionamento, informar os trabalhadores e conservar por pelo menos seis meses os logs sob seu controle
- Não presuma que o fornecedor está cuidando da conformidade: peça agora a declaração de conformidade UE, as instruções de uso e um plano para chegar a dezembro de 2027
Esta página trata do que implementar para a IA de alto risco: os requisitos, a divisão de obrigações entre fornecedor e implantador e um plano de quatro semanas. O cronograma de fiscalização, o que o Anexo III abrange e a estrutura de multas estão no nosso cronograma de fiscalização do EU AI Act.
O que os sistemas de IA de alto risco devem ter implementado até dezembro de 2027
Os sistemas de IA de alto risco devem operar dentro de uma estrutura documentada e auditável. Os Artigos 9 a 15 definem os requisitos técnicos, e o regulamento acrescenta obrigações próprias do fornecedor, como a avaliação de conformidade e o registro.
Os fornecedores, ou seja, as organizações que desenvolvem e comercializam os sistemas, têm a responsabilidade principal de incorporar esses requisitos. Os implantadores devem operar dentro das restrições estabelecidas pelos fornecedores e cumprir suas próprias obrigações relativas ao uso e ao monitoramento.
Os requisitos e obrigações principais são:
- Sistema de gestão de riscos. Um processo contínuo e documentado para identificar e mitigar riscos ao longo do ciclo de vida do sistema de IA. Os fornecedores devem mantê-lo e atualizá-lo à medida que o sistema evolui, e não tratá-lo como um exercício pontual.
- Governança de dados. Documentação dos dados de treinamento, validação e teste usados para construir o sistema. Os dados devem ser relevantes, suficientemente representativos e, tanto quanto possível, livres de erros e completos, e o fornecedor deve examinar possíveis vieses.
- Documentação técnica. Um dossiê técnico detalhado que descreve o projeto, o desenvolvimento e as capacidades do sistema. As autoridades nacionais de supervisão podem solicitar este dossiê a qualquer momento.
- Registro automático de eventos. O sistema deve permitir o registro automático de eventos (logs) ao longo da sua vida útil, com rastreabilidade adequada à finalidade, para que seja possível identificar situações de risco e monitorar o funcionamento.
- Transparência e informação aos implantadores. Os fornecedores devem fornecer aos implantadores documentação que lhes permita compreender o sistema, utilizá-lo corretamente e cumprir as suas próprias obrigações nos termos do regulamento.
- Supervisão humana. Sistemas de IA de alto risco devem permitir revisão e intervenção humana. Uma pessoa deve poder intervir, corrigir ou interromper o sistema. Decisões totalmente automatizadas sem supervisão humana não estão em conformidade com a maioria das categorias de alto risco.
- Precisão, robustez e cibersegurança. Os sistemas devem atender aos limites de precisão definidos, resistir às tentativas adversárias de manipular as saídas e proteger os dados que processam.
- Avaliação de conformidade, declaração UE e marcação CE. Estas são obrigações do fornecedor, separadas dos requisitos técnicos: ele deve concluir a avaliação de conformidade, emitir a declaração de conformidade UE, apor a marcação CE e, na maioria dos casos, registrar o sistema na base de dados da UE antes de colocá-lo no mercado ou em serviço.
A maior parte da base de dados da UE para sistemas de alto risco é pública, mas há exceções: sistemas de infraestrutura crítica são registrados em nível nacional, e os de biometria, aplicação da lei e migração ficam numa seção não pública. Implantadores que são órgãos públicos também precisam registrar o uso. Solicite aos seus fornecedores que confirmem o registro e forneçam declarações de conformidade válidas antes de dezembro de 2027.
Suas obrigações como implantador e o que cabe ao seu fornecedor de IA
O regulamento estabelece uma distinção clara entre fornecedores e implantadores. Compreender onde essa distinção se situa evita tanto a duplicação de esforços quanto lacunas na sua conformidade.
Os fornecedores são responsáveis por: integrar a gestão de riscos e a governança de dados no sistema, criar e manter a documentação técnica, garantir que o sistema gere registros automáticos de eventos, conservar a documentação por 10 anos, emitir a declaração de conformidade da UE, registrar o sistema na base de dados de IA da UE e dar aos usuários instruções claras de utilização.
Os implantadores são responsáveis por: usar o sistema de acordo com as instruções do fornecedor, atribuir a supervisão humana a pessoas com competência e autoridade, garantir que os dados de entrada sob seu controle sejam pertinentes, monitorar o funcionamento e comunicar riscos ou incidentes graves ao fornecedor e às autoridades, informar os trabalhadores antes de usar IA de alto risco no local de trabalho, realizar a avaliação de impacto sobre direitos fundamentais quando o Artigo 27 a exigir (órgãos públicos, prestadores de serviços públicos e quem usa IA para avaliar crédito ou precificar seguros de vida e saúde) e conservar por pelo menos seis meses os logs gerados automaticamente que estiverem sob seu controle.
Muitas ferramentas de IA não foram desenvolvidas levando em consideração a conformidade com o EU AI Act. Se o seu fornecedor ainda não tem declaração de conformidade UE nem as instruções de uso exigidas, solicite um plano de adequação com responsáveis e prazos. As organizações que identificarem as lacunas precocemente terão tempo para corrigi-las; aquelas que esperarem até meados de 2027 não terão essa oportunidade.
Não presuma que seu fornecedor de IA esteja cuidando da conformidade. Nem todo fornecedor, dentro ou fora da UE, terá a documentação pronta a tempo. Solicite evidências agora. "Estamos trabalhando nisso" não é uma posição defensável quando a fiscalização começar.
Construindo sua base de conformidade com IA
Com dezembro de 2027 como prazo final do Anexo III, as organizações têm tempo para construir um programa de conformidade adequado. O adiamento do Digital Omnibus não é motivo para postergar o trabalho. Padrões harmonizados estão surgindo e a data de dezembro de 2027 é definitiva. As organizações que começarem agora podem inventariar, classificar, contratar fornecedores e documentar a supervisão sem a pressão de um prazo iminente.
Semana 1: Construa seu inventário de IA
Faça a mesma pergunta a todas as unidades de negócio: que software vocês utilizam para tomar ou recomendar decisões sobre pessoas? Inclua plataformas de RH, ferramentas de recrutamento, sistemas de CRM com pontuação de leads ou de crédito, software de gestão de força de trabalho, ferramentas de detecção de fraudes e sistemas de encaminhamento de atendimento ao cliente. Para cada ferramenta, registre o fornecedor, o caso de uso, a possível categoria do Anexo III, as categorias de dados pessoais processados, se o sistema é usado na UE ou produz resultados usados na UE e quem é o responsável interno.
Semana 2: classifique e priorize
Para cada sistema de IA em seu inventário, determine se ele atende à definição de alto risco do Anexo III. Um chatbot que encaminha consultas de clientes não se qualifica. Um sistema que classifica candidatos a vagas de emprego ou avalia a elegibilidade de clientes para empréstimos, sim. Registre o motivo de cada classificação. Se o fornecedor invocar a exceção do Artigo 6(3), peça a avaliação documentada. Priorize os sistemas de alto risco para ação imediata. Envolva sua equipe jurídica ou de compliance para confirmar as classificações em caso de dúvida.
Semana 3: contate os fornecedores e revise a documentação
Contate cada fornecedor de um sistema de IA de alto risco e solicite a declaração de conformidade UE (ou o cronograma para emiti-la), as instruções de uso exigidas pelo Artigo 13, a confirmação do registro na base de dados da UE quando aplicável e o plano do fornecedor para chegar a dezembro de 2027. Registre por escrito todas as comunicações com o fornecedor. Se um fornecedor não puder fornecer esses documentos, leve a questão internamente e decida se o uso contínuo dessa ferramenta está de acordo com sua tolerância ao risco.
Semana 4: documente a supervisão humana, os logs e os incidentes
Para cada sistema de IA de alto risco em uso, descreva o processo de supervisão humana: quem revisa os resultados da IA, como podem anular o sistema e como essas decisões de anulação são registradas. Informe por escrito aos funcionários afetados onde qualquer sistema monitora ou avalia seu desempenho. Defina como os logs gerados pelo sistema serão conservados por pelo menos seis meses e como incidentes graves serão comunicados ao fornecedor e à autoridade. Designe um responsável específico para a conformidade contínua de cada sistema.
Onde concentrar seus esforços agora
O prazo de dezembro de 2027 é definitivo e as obrigações não são opcionais. O adiamento do Digital Omnibus refletiu padrões técnicos inacabados, não uma flexibilização dos requisitos. Conformidade significa operar ferramentas de IA com documentação, supervisão e responsabilidade, não abandoná-las.
A inação acarreta dois riscos distintos. Os órgãos reguladores podem multar sua organização assim que a fiscalização começar. Se uma decisão apoiada por IA prejudicar um indivíduo e você não puder demonstrar as salvaguardas adequadas, você estará sujeito à responsabilidade civil, além das penalidades regulatórias.
Dezembro de 2027 dá à maioria das organizações tempo suficiente para construir um programa maduro. Comece pela base: um inventário de IA classificado de acordo com o Anexo III, documentação de conformidade do fornecedor confirmada, procedimentos de supervisão humana documentados e logs conservados. Essa base sustenta a boa governança, independentemente de quando as autoridades agirem.
- Faça um inventário completo de IA em todas as áreas do negócio
- Classifique cada uso de IA de acordo com o Anexo III e confirme o escopo com assessoria jurídica ou de conformidade
- Solicite por escrito a documentação de conformidade da UE a todos os fornecedores de sistemas de IA de alto risco
- Documente os procedimentos de supervisão humana para todas as ferramentas de IA de alto risco atualmente em uso
- Notifique os funcionários por escrito quando sistemas de IA avaliarem ou monitorarem o desempenho deles
- Conserve os logs gerados pelos sistemas de alto risco por pelo menos seis meses e defina como comunicar incidentes graves
- Verifique quais obrigações do Artigo 50 recaem sobre você: avisos em chatbots e marcação de conteúdo sintético (fornecedores) e divulgação de deepfakes (implantadores); o artigo já está em vigor
- Atribua um responsável nomeado para cada sistema de IA de alto risco e agende uma data de revisão para garantir a conformidade contínua