¿Están los bancos preparados para el fraude de voz de IA?

La voz generada por IA ha cambiado la economía del fraude. Lo que antes requería un impersonador habilidoso, un guión convincente o un número de teléfono comprometido ahora puede ser intentado a gran escala con herramientas que suenan alarmantemente humanas.

Y lo que es aún más preocupante, tienen al sector financiero directamente en su punto de mira. A principios de 2024, un trabajador de finanzas de la empresa de ingeniería Arup se unió a lo que parecía ser una llamada de video rutinaria con el director financiero de la empresa y varios colegas. Las voces eran familiares, los rostros reconocibles y la solicitud parecía lo suficientemente plausible como para pasar la revisión básica. Al final de la llamada, había autorizado $25 millones en transferencias. Las personas que creía que estaba hablando, incluido el director financiero de la empresa, fueron reportadas más tarde como haber sido deepfakes generados por IA.

Para las instituciones financieras, el riesgo no se limita a las aprobaciones de pagos internos. El mismo colapso de la confianza puede producirse en la autenticación del cliente, la escalada del centro de llamadas, las verificaciones de fraude y los procesos de recuperación de cuentas.

Los estafadores han explotado la relativa anonimidad de las llamadas telefónicas para cometer fraude durante décadas. Sin embargo, con la IA, el esfuerzo requerido ahora se ha vuelto trivial, y los resultados son mucho más convincentes. Para los bancos y las fintech, esa convergencia está resultando en un mapa de riesgos inexplorado.

Hay una realidad más incómoda debajo de esto. Incluso mientras los atacantes buscan formas de infiltrarse, la infraestructura de IA que las instituciones financieras están desplegando para modernizar su soporte al cliente está facilitando el fraude en plain sight.

La llamada que suena como si perteneciera

Antes de la IA, el fraude de voz era relativamente fácil de identificar. Las llamadas automatizadas sonaban planas y seguían un guión, y los intentos de vishing dependían de operadores humanos que seguían hojas de llamadas. En la mayoría de los casos, la escala estaba limitada por la calidad del estafador que intentaba la ingeniería social. Con una capacitación adecuada y un poco de sentido común, el personal podía identificar los signos.

La IA ha cambiado eso al nearly colapsar la barrera técnica para la impersonación. Con suficiente estimulación, la IA puede sonar extremadamente humana, completa con inflexión, emoción y defectos que esperarías de una persona real. Lo que empeora las cosas, las herramientas de IA que pueden copiar voces están disponibles en plataformas comerciales y repositorios de código abierto.

McAfee Labs encontró que tres segundos de audio son suficientes para que una herramienta de IA produzca un clon de voz con 85% de precisión. Diez segundos de grabación pueden hacer que esa cifra supere el 95%. El material de origen está en todas partes: publicaciones en redes sociales, saludos de correo de voz, grabaciones de conferencias, llamadas de ganancias o videos de LinkedIn.

Las herramientas de conversión de voz en tiempo real se volvieron ampliamente disponibles en 2024, lo que significa que los atacantes de hoy en día ya no necesitan un clip pregrabado. Simplemente pueden hablar en un micrófono, y la salida sonará como quienquiera que estén tratando de impersonar.

El caso de Arup es instructivo: el trabajador de finanzas tenía dudas, pero la presencia de voces y rostros familiares en la llamada los superó, pero decidió confiar en sus ojos y oídos. Ese mismo año, los investigadores de Hong Kong descubrieron una operación separada que había clonado la voz de un gerente financiero para ejecutar un $18.5 millones de estafa de criptomonedas.

Una voz familiar, resulta que es una voz de confianza, y la IA ha hecho que esa suposición sea peligrosa de albergar.

Los fallos de autenticación se están convirtiendo en oportunidades de fraude

Las instituciones financieras ya están respondiendo a las amenazas externas. El gasto empresarial en herramientas de gobernanza y cumplimiento para IA se prevé que crezca de $2.2 mil millones en 2025 a $9.5 mil millones para 2035, un indicador de lo serio que es el mercado con respecto a esto.

Pero el riesgo más consecuente no surge fuera de sus paredes. Los bancos y las fintech están incorporando la IA en su pila de soporte al cliente, construyendo sistemas de IVR asistidos por IA, autenticación de biometría de voz y flujos de llamadas agénticos que manejan transacciones sin agentes humanos. Esfuerzos dirigidos a mejorar la experiencia del cliente y reducir el trabajo humano, pero cuando estos sistemas fallan, dejan un punto débil que los actores amenazantes encuentran demasiado fácil de explotar.

Los errores de enrutamiento, el contexto que se pierde entre las escaladas y los sistemas de autenticación que se comportan de manera impredecible parecen problemas de experiencia del cliente y se registran como tales.

Pero estos problemas de CX pueden convertirse en algo peor aguas abajo. Un cliente que está bloqueado por la biometría de voz rara vez lo reportará. En cambio, es probable que vuelva a llamar, encuentre una forma de hablar con un agente humano y presione para que omitan los protocolos que esos sistemas fueron diseñados para hacer cumplir.

El problema más grande es que un atacante que impersona a un cliente también puede hacerlo. Las instituciones financieras están bastante al tanto de esto. De hecho, 91% de los bancos de EE. UU. están replanteando sus estrategias de autenticación de biometría de voz a la luz de los riesgos de clonación de voz de IA.

La reconsideración no resolverá estos problemas. Una institución cuya autenticación de voz falla regularmente a los clientes legítimos ya ha creado las condiciones que un hacker determinado necesita para explotar el sistema. Después de todo, un hacker no necesita encontrar una vulnerabilidad técnica cuando la fricción en el viaje del cliente le permite una forma de entrada.

Las empresas necesitan cambiar su perspectiva, no su pila de seguridad

Las herramientas que pueden detectar voces sintéticas generadas por IA están mejorando, pero un actor amenazante que está sondeando los sistemas de un banco en busca de vulnerabilidades no está buscando un solo punto de falla. Están buscando áreas donde los sistemas tropiezan y se pierden, donde los sistemas de autenticación fallan al pasar señales de manera clara. Una mejor detección en el perímetro no puede cerrar esa brecha.

Lo que puede ayudar es reconsiderar cómo los líderes tratan la infraestructura de voz. Al igual que con cualquier parte de su pila de software, la infraestructura de voz requiere el mismo nivel de escrutinio que las defensas perimetrales.

En la práctica, tal postura de seguridad requerirá tanto pruebas funcionales como de resistencia en las condiciones que los sistemas de IVR, autenticación de biometría y otros sistemas de voz enfrentarán en producción: audio de baja calidad, acentos y ruidos de fondo diferentes, escaladas de casos límite y escenarios de límites de autenticación donde los llamantes legítimos están justo fuera de los umbrales de aceptación del sistema.

La respuesta no es un ejercicio de certificación de una sola vez. Los bancos necesitan una validación continua del viaje de voz completo, desde el enrutamiento de IVR y la autenticación de biometría hasta la escalada, la transferencia y los caminos de fallback. No importa con qué frecuencia se actualicen los sistemas de voz, las tácticas de fraude evolucionarán naturalmente para encontrar grietas en las defensas que encuentren. Un sistema que pasa la validación en la implementación debe ser probado con frecuencia y repetidamente en condiciones del mundo real para asegurarse de que siga siendo seguro incluso si su rendimiento ha evolucionado.

Es digno de destacar que las pruebas continuas a gran escala vendrán con consideraciones presupuestarias. También hay una tensión inherente entre moverse rápidamente (desplegar nuevas capacidades para mantenerse competitivos) y validar los sistemas de manera exhaustiva antes de que interactúen con clientes reales y enfrenten intentos de fraude reales.

Mientras que es difícil resolver esa tensión de manera limpia, hace claro el costo de saltarse la validación: un fallo en su sistema que los clientes frustrados ya han encontrado la manera de sortear es un punto débil, independientemente de cómo su empresa lo categorice.

Los mejores viajes del cliente se están convirtiendo en una defensa contra el fraude

Los riesgos externos e internos descritos anteriormente no son problemas separados con soluciones diferentes. La fricción producida por viajes del cliente poco fiables está creando brechas de comportamiento que la ingeniería social está diseñada para explotar.

Ese es un problema soluble, pero solo si las instituciones se dan cuenta de que el impacto de una mala experiencia del cliente puede alcanzar más allá de la simple retención o los ingresos. Los bancos no resolverán el fraude de voz de IA tratándolo solo como un problema de detección. También necesitan eliminar la ambigüedad, la fricción y los puntos de falla dentro de sus propios viajes de voz. En una era en la que una voz familiar ya no puede ser confiable por defecto, la confiabilidad del viaje en sí se convierte en parte del modelo de seguridad.