Deepfakes de voz e fraude do CEO: como a clonagem de voz por IA mira a autorização de pagamentos

Como funciona o ataque

A fraude por comprometimento de e-mail comercial (BEC, na sigla em inglês) tem se baseado na falsificação de identidade há anos: um e-mail falso do "CEO" instruindo a equipe financeira a transferir fundos. Os ataques de deepfake de voz adicionam áudio gerado por IA a essa base de engenharia social, removendo a última salvaguarda em que muitas equipes financeiras confiam: "Eu reconheceria a voz dele"

A barreira técnica é baixa. Modelos de síntese de voz de código aberto e serviços comerciais podem produzir uma voz clonada convincente a partir de três a cinco minutos de áudio de treinamento. Para executivos de empresas de capital aberto, esse áudio está disponível em teleconferências de resultados, apresentações em conferências e entrevistas na mídia. Para executivos de empresas menores, postagens em vídeo no LinkedIn, webinars gravados e vídeos promocionais da empresa fornecem a mesma matéria-prima.

O ataque segue um roteiro previsível. O golpista contata um membro da equipe financeira, se passando pelo CEO ou CFO, e explica que uma aquisição sensível, uma questão regulatória ou uma disputa com um fornecedor exige um pagamento urgente hoje. O destinatário é solicitado a ignorar as etapas normais de aprovação, dada a natureza confidencial do assunto. Autoridade, urgência e sigilo atuam em conjunto para suprimir o instinto de verificação.

Casos que demonstram o padrão

Em 2019, o CEO de uma subsidiária de energia do Reino Unido recebeu um telefonema de alguém que ele acreditava ser o diretor executivo da matriz alemã da empresa. A voz, o sotaque e os padrões de fala do interlocutor eram convincentes. Ele transferiu aproximadamente £200.000 para um fornecedor na Hungria em menos de uma hora. O dinheiro passou por uma série de contas e nunca foi recuperado. Este foi o primeiro caso relatado publicamente de clonagem de voz por IA usada em uma fraude BEC (Business Email Compromise).

Em 2024, o CEO da WPP, Mark Read, foi alvo de uma tentativa de usurpação de identidade em uma reunião do Teams, utilizando um clone de voz do WhatsApp e imagens de vídeo disponíveis publicamente. Os participantes foram solicitados a fornecer informações pessoais e transferir fundos. A suspeita aumentou, os participantes verificaram suas identidades por meio de um canal separado e a tentativa falhou. Mesmo assim, a configuração representou uma escalada significativa em relação aos ataques que utilizavam apenas telefone: uma voz clonada combinada com vídeo compartilhado da tela.

No caso mais prejudicial financeiramente relatado, um funcionário do setor financeiro de uma multinacional em Hong Kong participou de uma videoconferência na qual o diretor financeiro e vários colegas apareceram na tela e lhe disseram para autorizar múltiplas transferências, totalizando aproximadamente US$ 25 milhões. Todas as pessoas na chamada eram deepfakes. O funcionário contatou a sede da empresa por um canal separado dias depois, e foi então que a fraude foi descoberta.

Por que as equipes de finanças são o alvo específico

Os funcionários da área financeira trabalham em ambientes onde rapidez, respeito à autoridade e confidencialidade são valores profissionais normais. Um CEO pedindo que eles lidem com algo com urgência e discrição se encaixa no padrão de comunicação executiva rotineira. Os fraudadores exploram as normas profissionais, não a ingenuidade.

Os golpistas também criam pressão de tempo para impedir a verificação: "A transferência precisa ser concluída antes do fechamento dos mercados", "Estou em uma reunião e preciso que isso seja feito em 30 minutos", "Explicarei tudo depois". Transações urgentes legítimas podem resistir a uma ligação de retorno de dois minutos para um número conhecido.

O que você deve treinar sua equipe para observar

Treine a equipe financeira e operacional em um ponto fundamental: o reconhecimento de voz não é mais um método de autenticação confiável. Saber o que procurar não impede a fraude se a única resposta disponível for "isso parece estranho, mas a voz está certa"

• Canal de contato inesperado. Um CEO ligando de um celular pessoal, WhatsApp ou número desconhecido é um sinal, não uma prova, mas suficiente para acionar a verificação de retorno de chamada.
• Solicitação para ignorar o processo normal. Ignorar a dupla autorização, usar uma conta diferente ou processar um pagamento sem uma ordem de compra ou contrato são todos motivos para pausar e verificar.
• Instruções de sigilo. "Não conte a ninguém sobre isso ainda" é um dos indicadores mais consistentes de engenharia social em todos os tipos de fraude.
• Pressão de tempo. Pagamentos urgentes legítimos resistem a um retorno de chamada de 90 segundos. A resistência a esse atraso é em si um sinal.
• Anomalias de áudio sutis. A síntese de voz atual ocasionalmente produz micropausas, ritmo não natural ou inconsistências no áudio de fundo. Esses sinais não são confiáveis por si só, mas podem reforçar suspeitas levantadas por outros sinais.

Controles que previnem fraudes em pagamentos

O treinamento em detecção é importante, mas não é suficiente por si só. Os controles que previnem fraudes de forma confiável são procedimentais, não perceptivos.

Confirmação de retorno de chamada para um número corporativo conhecido

Quando uma solicitação de pagamento chega por qualquer canal, o membro da equipe financeira deve encerrar a chamada e retornar a ligação para o solicitante usando um número que conste no diretório da empresa ou nos registros oficiais, nunca um número fornecido durante a chamada ou em uma mensagem anexa. Esse controle simples teria evitado todas as fraudes de pagamento com deepfake de voz documentadas até o momento. Estabeleça isso como uma política rígida, não apenas uma diretriz, e faça-a ser aplicada mesmo quando o solicitante questionar o atraso.

Dupla autorização acima de um determinado limite

Nenhuma pessoa deve autorizar um pagamento acima de um limite definido sem a aprovação de um segundo responsável que verifique a solicitação por meio de um canal separado. Defina o limite suficientemente baixo para detectar a maioria das tentativas de fraude, que normalmente visam valores suficientemente grandes para justificar o esforço, mas suficientemente pequenos para evitar a revisão automática.

Uma palavra-código para pedidos incomuns

Algumas organizações fornecem aos executivos um código verbal para usar quando fazem solicitações que se desviam do procedimento padrão. Os funcionários concordam com ele antecipadamente e nunca o compartilham digitalmente. Um executivo que não o utiliza ao solicitar uma exceção sinaliza que a solicitação pode não ser genuína. O controle praticamente não requer infraestrutura, apenas um acordo prévio e um breve briefing.

Documentação do processo de pagamento

O registro da cadeia de autorização para cada pagamento, incluindo solicitações informais, cria um rastro documental que dificulta a ocultação de fraudes. As equipes financeiras que conseguem demonstrar quem autorizou o quê e por qual canal detectam solicitações fraudulentas antes que sejam concluídas.

Onde a IA torna isso mais difícil

A qualidade da síntese de voz está melhorando mais rapidamente do que a tecnologia de detecção. As ferramentas atuais de detecção de áudio por IA apresentam taxas significativas de falsos positivos em condições reais, o que as torna pouco confiáveis como filtro de primeira linha. A detecção de deepfakes em tempo real integrada à infraestrutura de telefonia já existe, mas ainda não foi amplamente implementada em empresas.

Os controles processuais são a melhor defesa atual. Organizações que dependem da tecnologia para identificar deepfakes antes que cheguem aos funcionários estão exigindo mais do que a tecnologia pode oferecer. Organizações que incorporaram procedimentos de verificação independentes da detecção da fraude evitam perdas, independentemente do quão convincente a voz sintética se torne.

Ferramentas que detectam voz sintética em tempo real

Diversas plataformas comerciais agora oferecem detecção específica para deepfakes de voz, com a adoção crescendo mais rapidamente no setor de serviços financeiros. Cada uma adota uma abordagem técnica diferente e apresenta suas próprias limitações.

• Pindrop Pulse. O Pindrop Pulse analisa 1.380 características de áudio por chamada, abrangendo propriedades acústicas e indicadores de vivacidade. Os principais bancos dos EUA o utilizam em larga escala, e a Pindrop relata uma precisão acima de 99% em modelos de voz sintética conhecidos. A principal limitação é que esse número se aplica apenas aos modelos com os quais o Pindrop já foi treinado. Quando um invasor usa um modelo de clonagem de voz novo ou personalizado, as taxas de detecção caem até que o Pindrop seja retreinado com os novos dados. Esse atraso pode levar semanas ou meses.
• Nuance Gatekeeper. O Nuance Gatekeeper compara a voz do chamador com uma impressão vocal armazenada para a identidade alegada, em vez de analisar o áudio em busca de artefatos de síntese. O Lloyds Banking Group e o HSBC o utilizam em suas operações de central de atendimento. Se um invasor ligar alegando ser um executivo interno e a impressão vocal não corresponder, o sistema sinaliza a chamada para revisão. O controle funciona melhor quando você já registrou as impressões vocais de seus executivos, o que requer uma etapa de pré-cadastro.
• Resemble Detect. O Resemble Detect é um classificador baseado em API que opera em tempo real com latência inferior a 100 milissegundos. Equipes corporativas podem integrá-lo aos fluxos de trabalho de chamadas sem grandes alterações na infraestrutura de telefonia. Ao contrário das plataformas voltadas para bancos, qualquer equipe pode conectá-lo por meio de uma API padrão.
• Microsoft Azure AI Content Safety (áudio). Parte do conjunto de IA responsável do Azure, esta ferramenta inclui análise de áudio destinada a detectar fala sintética. A Microsoft treinou seus modelos em inglês, o que limita a precisão da ferramenta em chamadas em outros idiomas ou com sotaques fortes. A latência varia conforme a região, o que afeta a capacidade da ferramenta de sinalizar uma chamada antes que uma decisão de pagamento seja tomada.
• Verificação com intervenção humana. Nenhuma plataforma de detecção no mercado é suficientemente confiável para servir como único controle. Uma chamada de retorno para um número pré-registrado, mantida independente do canal pelo qual a solicitação chegou, impede a fraude, independentemente da qualidade da clonagem de voz. Essa etapa processual continua sendo o controle individual mais eficaz, independentemente da ferramenta que você utilize em conjunto.

Todas as ferramentas de detecção atuais compartilham uma fraqueza estrutural: dependem de modelos de voz conhecidos. Cada fornecedor treina seus modelos com áudio sintético que coletou ou licenciou. Um modelo criado para burlar um desses sistemas terá um desempenho superior até que o fornecedor o treine novamente. A defesa em profundidade, que combina ferramentas de detecção com controles procedimentais rigorosos, é a única arquitetura viável.

Por que a ameaça está se acelerando

A barreira técnica para a clonagem de voz caiu mais rápido do que a maioria das equipes de segurança esperava. Há três anos, produzir um clone convincente exigia recursos computacionais substanciais e horas de treinamento com áudio. Hoje, plataformas como ElevenLabs e Descript geram um clone de voz funcional a partir de 30 a 60 segundos de áudio. Teleconferências sobre resultados financeiros e postagens em vídeo no LinkedIn fornecem aos atacantes material bruto suficiente sem a necessidade de contato com o alvo.

O custo deixou de ser uma barreira significativa. Os serviços comerciais de API geram clones convincentes por menos de £10. Isso torna o direcionamento em massa viável: um atacante pode criar clones de voz de executivos em dezenas de organizações e executar campanhas em grande escala.

Ferramentas de conversão de voz em tempo real eliminam a necessidade de áudio pré-gravado. Versões de código aberto disponíveis no Hugging Face permitem que o atacante fale ao microfone enquanto o software converte a fala para corresponder à voz do alvo. Em uma chamada normal, o pequeno atraso de processamento é imperceptível. O atacante não precisa de nada além de um software gratuito e um microfone.

Os modelos multilíngues ampliaram a ameaça para fraudes transfronteiriças. Os sistemas atuais clonam sotaque e entonação, não apenas padrões fonêmicos, o que significa que um atacante não precisa mais falar o idioma do alvo para produzir uma personificação convincente. Consequentemente, operações internacionais de fraude envolvendo CEOs são mais fáceis de serem realizadas.

O momento da chamada faz parte do ataque. Campanhas de engenharia social visam as manhãs de segunda-feira e os períodos de fechamento de trimestres financeiros, quando a pressão do tempo para aprovações de pagamento faz parte do dia de trabalho. Os atacantes de deepfake de voz seguem o mesmo padrão porque a urgência no ambiente faz com que a verificação pareça um obstáculo.

Os dados da UK Finance contextualizam a dimensão financeira do problema. No primeiro semestre de 2024, as fraudes em pagamentos autorizados custaram às vítimas no Reino Unido 213,7 milhões de libras. As fraudes iniciadas por voz representam uma parcela desse valor e sua participação está crescendo à medida que as ferramentas para gerá-las se tornam mais baratas e acessíveis.

Para uma visão mais ampla de como a tecnologia deepfake está afetando a verificação de identidade, consulte nosso guia sobre deepfakes e fraude de identidade.