Estão os Bancos Preparados para a Fraude de Voz por IA?

A voz gerada por IA mudou a economia da fraude. O que antes exigia um impostor habilidoso, um roteiro convincente ou um número de telefone comprometido agora pode ser tentado em larga escala com ferramentas que soam alarmantemente humanas.

E o que é ainda mais preocupante, eles têm o setor financeiro diretamente em suas miras. No início de 2024, um funcionário de finanças da empresa de engenharia Arup participou de uma chamada de vídeo aparentemente rotineira com o CFO e vários colegas da empresa. As vozes eram familiares, os rostos reconhecíveis e o pedido parecia plausível o suficiente para passar pela verificação básica. No final da chamada, ela havia autorizado $25 milhões em transferências. As pessoas que ela acreditava estar conversando, incluindo o CFO da empresa, foram posteriormente relatadas como tendo sido deepfakes gerados por IA.

Para as instituições financeiras, o risco não se limita a aprovações de pagamento internas. O mesmo colapso da confiança pode se desenrolar em toda a autenticação de clientes, escalonamento de centros de chamadas, verificações de fraude e jornadas de recuperação de contas.

Os golpistas exploraram a relativa anonimidade das chamadas telefônicas para cometer fraude por décadas. Com a IA, no entanto, o esforço necessário agora se tornou trivial, e os resultados são muito mais convincentes. Para os bancos e as fintechs, essa convergência está resultando em um mapa inexplorado de riscos.

Há uma realidade mais desconfortável por baixo disso. Mesmo enquanto os atacantes procuram por maneiras de entrar, a infraestrutura de IA que as instituições financeiras estão implantando para modernizar seu suporte ao cliente está tornando a fraude mais fácil de cometer à vista de todos.

A chamada que soa como se pertencesse

Antes da IA, a fraude de voz era relativamente fácil de identificar. As chamadas robô soavam planas e seguiam um roteiro, e as tentativas de vishing dependiam de operadores humanos seguindo folhas de chamada. Na maioria dos casos, a escala era limitada pela qualidade do golpista que tentava a engenharia social. Com treinamento adequado e um pouco de senso comum, o pessoal geralmente podia identificar os sinais.

A IA mudou isso, quase colapsando a barreira técnica para a impersonação. Com suficiente prompting, a IA pode soar extremamente humana, completa com inflexão, emoção e falhas que você esperaria de uma pessoa real. Piorando as coisas, as ferramentas de IA que podem copiar vozes estão disponíveis em plataformas comerciais e repositórios de código aberto.

O McAfee Labs descobriu que três segundos de áudio são suficientes para uma ferramenta de IA produzir um clone de voz com 85% de precisão. Dez segundos de gravação podem impulsionar esse número acima de 95%. O material de origem está em todos os lugares: posts de mídia social, saudações de correio de voz, gravações de conferências, chamadas de lucro ou vídeos do LinkedIn.

As ferramentas de conversão de voz em tempo real se tornaram amplamente disponíveis em 2024, o que significa que os atacantes de hoje não precisam mais de um clipe pré-gravado. Eles podem simplesmente falar em um microfone, e a saída soará como quem eles estão tentando impersonar.

O caso Arup é instrutivo: a funcionária de finanças tinha dúvidas, mas a presença de vozes e rostos familiares na chamada anulou-as, e decidiu confiar em seus olhos e ouvidos. No mesmo ano, os investigadores de Hong Kong descobriram uma operação separada que havia clonado a voz de um gerente financeiro para executar um $18,5 milhões de golpe de criptomoeda.

Uma voz familiar, descobriu-se, é uma voz confiável, e a IA tornou essa suposição uma perigosa para abrigar.

As falhas de autenticação estão se tornando oportunidades de fraude

As instituições financeiras já estão respondendo a ameaças externas. O gasto empresarial em ferramentas de governança e conformidade para IA é previsto para crescer de $2,2 bilhões em 2025 para $9,5 bilhões até 2035, um sinal de como o mercado está levando isso a sério.

Mas o risco mais consequente não está surgindo fora de suas paredes. Os bancos e as fintechs estão incorporando a IA em seu suporte ao cliente, construindo sistemas de IVR assistidos por IA, autenticação biométrica de voz e fluxos de chamadas agênticas que lidam com transações sem agentes humanos. Esses esforços visam melhorar a experiência do cliente e reduzir o trabalho humano, mas quando esses sistemas falham, eles deixam um ponto fraco que os atores ameaçadores encontram muito fácil de explorar.

Erros de roteamento, contexto perdido entre escalonamentos e sistemas de autenticação que se comportam de maneira imprevisível parecem problemas de experiência do cliente e são registrados como tal.

Mas esses problemas de CX podem se transformar em algo pior a jusante. Um cliente que está bloqueado pela biometria de voz raramente relatará. Em vez disso, é provável que ele ligue de volta, encontre uma maneira de falar com um agente humano e pressione-o para contornar os protocolos que esses sistemas foram projetados para impor.

O problema maior é que um atacante que impersona um cliente pode fazer o mesmo. As instituições financeiras estão bem cientes disso. De fato, 91% dos bancos dos EUA estão reavaliando suas estratégias de autenticação biométrica de voz em face dos riscos de clonagem de IA.

A reavaliação não resolverá esses problemas. Uma instituição cuja autenticação de voz regularmente falha para clientes legítimos já criou as condições que um hacker determinado precisa para explorar o sistema. Afinal, um hacker não precisa encontrar uma vulnerabilidade técnica quando a fricção na jornada do cliente lhe permite uma maneira de entrar.

As empresas precisam mudar sua perspectiva, não sua pilha de segurança

As ferramentas que podem detectar vozes sintéticas geradas por IA estão melhorando, mas um ator ameaçador que está sondando os sistemas de um banco em busca de vulnerabilidades não está procurando por um único ponto de falha. Eles estão procurando áreas onde os sistemas tropeçam e perdem um ao outro, onde os sistemas de autenticação falham em passar sinais claramente. Uma melhor detecção na periferia não pode fechar essa lacuna.

O que pode ajudar é reavaliar como os líderes tratam a infraestrutura de voz. Assim como qualquer parte de sua pilha de software, a infraestrutura de voz requer o mesmo nível de escrutínio que as defesas perimetrais.

Na prática, tal postura de segurança exigirá testes funcionais e de resiliência em toda a gama de condições que os sistemas de IVR, autenticação biométrica e outros sistemas de voz enfrentarão em produção: áudio de baixa qualidade, diferentes sotaques e ruídos de fundo, escalonamentos de borda e cenários de limite de autenticação onde os chamadores legítimos estão apenas fora dos limites de aceitação do sistema.

A resposta não é um exercício de certificação única. Os bancos precisam de validação contínua da jornada de voz completa, desde o roteamento do IVR e a autenticação biométrica até a escalada, transferência e caminhos de fallback. Não importa com que frequência os sistemas de voz sejam atualizados, as táticas de fraude naturalmente evoluirão para encontrar fissuras em quaisquer defesas que encontrem. Um sistema que passa na validação no momento do deployment deve ser testado frequentemente e repetidamente em condições do mundo real para garantir que ainda é seguro, mesmo que seu desempenho tenha evoluído.

Vale notar que o teste contínuo em larga escala virá com considerações orçamentárias. Há também a tensão inerente entre mover-se rapidamente (implantando novas capacidades para permanecer competitivo) e validar sistemas minuciosamente antes que eles interajam com clientes reais e enfrentem tentativas de fraude reais.

Enquanto é difícil resolver essa tensão limpa, ela deixa claro o custo de pular a validação: uma falha no seu sistema que os clientes frustrados já encontraram um caminho para contornar é um ponto fraco, independentemente de como sua empresa categoriza.

As melhores jornadas do cliente estão se tornando uma defesa contra a fraude

Os riscos externos e internos descritos acima não são problemas separados com soluções diferentes. A fricção produzida por jornadas de cliente pouco confiáveis está criando lacunas comportamentais que a engenharia social está projetada para explorar.

Esse é um problema solucionável, mas apenas se as instituições perceberem que o impacto de uma experiência de cliente ruim pode alcançar além da simples retenção ou receita. Os bancos não resolverão a fraude de voz por IA tratando-a apenas como um problema de detecção. Eles também precisam remover a ambiguidade, a fricção e os pontos de falha dentro de suas próprias jornadas de voz. Em uma era em que uma voz familiar não pode mais ser confiável por padrão, a confiabilidade da jornada em si se torna parte do modelo de segurança.