Esta página cobre as práticas proibidas e as regras de alto risco do nosso guia do EU AI Act, que também explica os quatro níveis de risco, o cronograma de implementação e o que fazer agora. Transparência, modelos de GPAI e multas estão em transparência do Artigo 50, modelos de GPAI e multas.
Práticas proibidas de IA
As proibições originais do Artigo 5º estão em vigor desde 2 de fevereiro de 2025. Cada uma tem um critério jurídico preciso e, em alguns casos, exceções; por isso, verifique se uma ferramenta se enquadra no texto do artigo, em vez de se basear no resumo abaixo.
- Técnicas manipuladoras ou enganosas: IA que usa técnicas subliminares, manipuladoras ou enganosas para distorcer significativamente o comportamento de forma a causar, ou que seja razoavelmente provável que cause, dano significativo.
- Exploração de vulnerabilidades: IA que explora vulnerabilidades relacionadas à idade, deficiência ou a uma situação social ou econômica específica para distorcer significativamente o comportamento e causar dano significativo.
- Pontuação social: IA que avalia ou classifica pessoas ou grupos com base em seu comportamento social ou características pessoais, quando a pontuação resultante leva a um tratamento prejudicial em contextos não relacionados, ou a um tratamento injustificado ou desproporcional. A proibição não se limita às autoridades públicas; ela se aplica também a organizações privadas.
- Previsão de risco criminal por meio de perfis: IA que avalia o risco de uma pessoa cometer um crime com base exclusivamente em perfis ou traços de personalidade, em vez de fatos objetivos e verificáveis ligados à atividade criminosa.
- Coleta não direcionada de imagens faciais: IA que cria ou amplia bancos de dados de reconhecimento facial por meio da coleta não direcionada de imagens da internet ou de imagens de câmeras de segurança.
- Reconhecimento de emoções no trabalho e na educação: IA que infere as emoções das pessoas no local de trabalho ou em instituições de ensino, exceto quando usada por motivos médicos ou de segurança.
- Categorização biométrica por atributos sensíveis: IA que categoriza indivíduos a partir de dados biométricos para deduzir raça, opiniões políticas, filiação sindical, crenças religiosas ou filosóficas, vida sexual ou orientação sexual, com uma exceção limitada para conjuntos de dados obtidos legalmente no âmbito da aplicação da lei.
- Identificação biométrica remota em tempo real para fins de aplicação da lei: identificação ao vivo em espaços de acesso público para fins de aplicação da lei, permitida apenas para objetivos estritamente definidos, mediante autorização prévia e garantias. Trata-se de uma regra de aplicação da lei, não de uma proibição geral do reconhecimento facial.
Novas proibições a partir de 2 de dezembro de 2026
O Digital Omnibus acrescentou duas práticas ao Artigo 5, com vigência a partir de 2 de dezembro de 2026. A primeira abrange sistemas de IA que geram ou manipulam imagens, vídeos, áudios ou conteúdos semelhantes realistas que retratem uma pessoa identificável em partes íntimas ou em atividades sexualmente explícitas sem o seu consentimento, visando as chamadas ferramentas de "nudificação". A segunda abrange a IA usada para gerar material de abuso sexual infantil. Ambas vêm com definições e exclusões específicas no texto da lei, então quem fornece um gerador de imagens ou vídeos deve analisá-las em relação ao próprio produto antes de dezembro.
Plataformas de engajamento de funcionários, ferramentas de produtividade que analisam expressões faciais ou tom de voz e tecnologias de RH que classificam trabalhadores por meio de sinais biométricos podem se enquadrar nas proibições relacionadas ao reconhecimento de emoções ou à classificação biométrica. Analise essas ferramentas com base no texto exato do Artigo 5.
IA de alto risco: Anexo III e Anexo I
Existem dois caminhos para a categoria de alto risco. O Anexo III lista as áreas de uso, e o Digital Omnibus adiou as obrigações para esses sistemas até 2 de dezembro de 2027. Pelo Anexo I, o Artigo 6(1) abrange sistemas de IA que sejam produtos ou componentes de segurança de produtos cobertos pela legislação de harmonização da UE indicada no Anexo I, como máquinas ou dispositivos médicos, quando também forem atendidos os critérios aplicáveis de avaliação de conformidade por terceiros; essas obrigações agora valem a partir de 2 de agosto de 2028. As datas originais de agosto de 2026 e agosto de 2027 não se aplicam mais. O enquadramento depende da finalidade prevista e das condições legais, não apenas do setor em que a IA é utilizada.
A inclusão no Anexo III, por si só, não determina a classificação. De acordo com o Artigo 6, parágrafo 3, um sistema do Anexo III não é de alto risco se não representar um risco significativo de dano e não influenciar de forma significativa o resultado das decisões, por exemplo, quando realiza uma tarefa processual restrita, aprimora o resultado de um trabalho já concluído por uma pessoa, detecta padrões nas decisões sem substituir a avaliação humana ou realiza uma tarefa preparatória. O fornecedor deve documentar essa avaliação. Um sistema do Anexo III que crie perfis de pessoas físicas é sempre de alto risco.
Um exemplo prático: uma ferramenta de triagem de currículos que classifica ou filtra candidatos e influencia de forma significativa quem é chamado para entrevista é de alto risco pelo Anexo III (emprego). Uma ferramenta administrativa que apenas resume documentos já selecionados por um recrutador, sem classificar candidatos nem orientar a decisão, pode se enquadrar na exceção do Artigo 6(3), desde que o fornecedor documente a avaliação. Se qualquer uma das ferramentas criar perfis dos candidatos, a exceção não se aplica e o sistema é de alto risco.
O que os implantadores de IA de alto risco precisam fazer
Se a sua organização usa um sistema de IA de alto risco, suas obrigações nos termos do Artigo 26 são distintas das do fornecedor. O fornecedor cuida da concepção, da documentação técnica e da avaliação de conformidade. Você é responsável pela forma como o sistema é usado.
- Use-o de acordo com as instruções: tome medidas técnicas e organizacionais adequadas para utilizar o sistema de acordo com as instruções de uso do fornecedor. Alterar o sistema ou sua finalidade pode mudar sua situação jurídica. De acordo com o Artigo 25, o implantador passa a ser tratado como fornecedor de um sistema de alto risco, com as obrigações correspondentes, se colocar seu nome ou marca registrada nesse sistema (sem prejuízo de acordos contratuais que distribuam as obrigações de outra forma), fizer uma modificação substancial que o mantenha de alto risco ou alterar a finalidade pretendida de um sistema de forma que ele se torne de alto risco. Cada alteração precisa ser avaliada caso a caso; a configuração normal, dentro das instruções do fornecedor, em geral não tem esse efeito.
- Designe supervisão humana: confie a supervisão a pessoas com a competência, o treinamento, a autoridade e o apoio necessários. O artigo 14 exige que os sistemas de alto risco sejam projetados para uma supervisão eficaz, proporcional ao risco. Isso não significa que cada resultado precise de aprovação manual, mas que sua equipe deve ser capaz de monitorar, intervir e interromper o sistema quando necessário. A legislação de proteção de dados acrescenta suas próprias regras sobre decisões baseadas exclusivamente no processamento automatizado.
- Monitore e relate: monitore o funcionamento do sistema e informe o fornecedor e, quando necessário, a autoridade de fiscalização de mercado sobre riscos e incidentes graves.
- Guarde os registros: guarde os registros que o sistema gera automaticamente, na medida em que estejam sob seu controle, por um período adequado à finalidade pretendida e por pelo menos seis meses, a menos que outra lei da UE ou nacional disponha de outra forma (Artigo 26(6)). Isso é diferente da retenção de documentação de dez anos exigida do fornecedor.
- Informar os trabalhadores: antes de colocar um sistema de alto risco em uso no local de trabalho, informe os representantes dos trabalhadores e os trabalhadores afetados.
- Avaliação de impacto sobre os direitos fundamentais, quando necessário: o Artigo 27 exige uma FRIA (Avaliação de Impacto sobre os Direitos Fundamentais) de órgãos regidos pelo direito público, entidades privadas que prestam serviços públicos e de quem implementa sistemas para avaliação de credibilidade e pontuação de crédito, ou para avaliação de risco e precificação em seguros de vida e saúde. Isso não se aplica a todos os implantadores privados de IA de alto risco. Quando houver dados pessoais envolvidos, coordene isso com a avaliação de impacto sobre a proteção de dados (DPIA) exigida pelo GDPR.
O que perguntar a um fornecedor de IA de alto risco
Antes de comprar ou implementar um sistema de alto risco, peça as instruções de uso, as limitações conhecidas, as medidas de supervisão humana, os registros que o sistema gera e o plano do fornecedor para cumprir as obrigações que entram em vigor a partir de dezembro de 2027. Dependendo do cronograma e do tipo de sistema, verifique a declaração de conformidade da UE, a marcação CE e qualquer exigência de registro. Nem toda a documentação técnica é destinada aos clientes, e as regras de registro variam de acordo com o tipo de sistema e a finalidade; por isso, concentre-se no que você precisa para usar o sistema de forma legal.
de 2027
de 2028