Imagina esto: Estás en el trabajo, enfocado en una fecha límite ajustada, cuando recibes una llamada de lo que parece ser el número de teléfono de tu madre. La voz al otro lado es inconfundiblemente la suya, calmada y amorosa, pero con un matiz inusual de urgencia. Te dice que ha tenido problemas serios mientras está de vacaciones en París y necesita tu ayuda financiera de inmediato para resolver las cosas. Sabes que ella está en París, y los detalles que te proporciona, hasta el nombre de su hotel, hacen que la llamada sea aún más convincente. Sin pensarlo dos veces, transfieres el dinero, solo para descubrir más tarde que tu madre nunca hizo esa llamada; fue un sistema de IA avanzado que imitó perfectamente su voz y fabricó un escenario detallado. Te recorren escalofríos al darte cuenta de lo que acaba de suceder.

Este escenario, que antes era pura ciencia ficción, ahora es una realidad emergente. El amanecer de las tecnologías de IA como los grandes modelos de lenguaje (LLM) ha traído avances increíbles. Sin embargo, una amenaza significativa se cierne: las estafas impulsadas por IA. El potencial de estafas sofisticadas impulsadas por inteligencia artificial es una amenaza nueva en el horizonte del progreso tecnológico. Mientras que las estafas telefónicas han sido una preocupación desde la invención del teléfono, la integración generalizada de grandes modelos de lenguaje (LLM) en todos los aspectos de la comunicación digital ha elevado las apuestas de manera dramática. A medida que abrazamos el potencial de la IA, es crucial que también fortalezcamos nuestras defensas contra estas amenazas cada vez más sofisticadas.

El Paisaje Actual de las Estafas Telefónicas

Los delincuentes han estado intentando engañar a personas inocentes para que transfieran dinero o divulguen información sensible durante años, pero a pesar de la prevalencia de las estafas telefónicas, muchas de estas estafas son relativamente poco sofisticadas, confiando en operadores humanos que leen guiones. Sin embargo, incluso con esta limitación, las estafas telefónicas siguen siendo una empresa criminal lucrativa.

Según la Comisión Federal de Comercio de EE. UU., en 2022 solo, los estadounidenses perdieron más de $8.800 millones debido a estafas, con una parte significativa atribuida a estafas telefónicas, lo que significa que incluso en su forma actual, menos avanzada, muchas de estas tácticas todavía funcionan en personas vulnerables. ¿Qué sucede cuando evolucionan?

El Futuro Impulsado por IA de las Estafas

El paisaje de las estafas telefónicas está a punto de sufrir un cambio dramático con la aparición de varias tecnologías clave:

Grandes Modelos de Lenguaje (LLM)

Estos sistemas de IA pueden generar texto similar al humano y participar en conversaciones naturales. Cuando se aplican a las estafas, los LLM podrían crear guiones muy convincentes y adaptables, lo que hace que sea mucho más difícil para las posibles víctimas identificar la estafa.

Generación de Recuperación Mejorada (RAG)

Esta tecnología permite que los sistemas LLM accedan y utilicen vastas cantidades de información en tiempo real. Los estafadores pueden crear un perfil de una persona en función de su información pública, como sus cuentas sociales. También pueden utilizar técnicas de ingeniería social en sus amigos y familiares para recopilar información más profunda. Esto les dará acceso a información como la identidad del objetivo, información laboral o incluso actividades recientes. Luego pueden utilizar RAG para proporcionar a los LLM el contexto necesario, lo que hace que sus enfoques parezcan increíblemente personalizados y legítimos.

Generación de Audio Sintético

Plataformas como Resemble AI y Lyrebird están a la vanguardia en la creación de voces realistas generadas por IA. Estas tecnologías son capaces de producir audio personalizado y similar al humano, que se puede utilizar en diversas aplicaciones, desde asistentes virtuales hasta servicio al cliente automatizado y creación de contenido. Empresas como ElevenLabs están empujando los límites más allá al permitir a los usuarios crear voces sintéticas que pueden replicar estrechamente las suyas, lo que permite un nuevo nivel de personalización y compromiso en las interacciones digitales.

Generación de Video Sintético

Empresas como Synthesia ya están demostrando el potencial para crear contenido de video realista con avatares generados por IA. En los próximos años, esta tecnología podría permitir que los estafadores imiten a amigos o familiares, o creen personajes completamente ficticios para llamadas de video, introduciendo un nivel de realismo físico previamente imposible en la estafa.

Sincronización de Labios de IA

Empresas emergentes como Sync Labs están desarrollando tecnología de sincronización de labios avanzada que puede coincidir con audio generado con metraje de video. Esto podría usarse para crear videos de deepfakes muy convincentes de figuras históricas, políticos, celebridades y prácticamente todos los demás, lo que hace que la línea entre la realidad y el engaño sea aún más borrosa.

La combinación de estas tecnologías pinta un cuadro bastante preocupante. Imagina una llamada de estafa donde la IA puede adaptar su conversación en tiempo real, armada con información personal sobre el objetivo, y incluso transitar a una llamada de video con una persona que parece real cuyos labios se mueven en perfecta sincronía con la voz generada. El potencial de engaño es verdaderamente enorme.

La Necesidad de Medidas de Seguridad Mejoradas

A medida que estas estafas impulsadas por IA se vuelven más sofisticadas, los métodos de verificación de identidad y autenticidad tendrán que competir con los avances de la IA. Habrá que haber avances regulatorios y tecnológicos para mantener el mundo en línea seguro.

Mejoras Regulatorias

Leyes de Privacidad de Datos más Estrictas: Implementar leyes de privacidad de datos más rigurosas restringiría la cantidad de información personal disponible para que los estafadores la exploten. Estas leyes podrían incluir requisitos más estrictos para la recopilación de datos, protocolos de consentimiento de usuario mejorados y sanciones más severas por violaciones de datos.

Nube Privada para los Modelos de IA más Potentes: Las regulaciones podrían exigir que los modelos de IA más potentes se alojen en infraestructuras de nube seguras y privadas en lugar de estar abiertamente disponibles. Esto limitaría el acceso a las tecnologías más avanzadas, lo que haría que sea más difícil para los actores maliciosos usarlas para estafas. (por ejemplo: https://security.apple.com/blog/private-cloud-compute/)

Colaboración Internacional en Regulaciones de IA: Dada la naturaleza global de la tecnología de IA, la colaboración internacional en estándares regulatorios podría ser beneficiosa. Establecer un organismo global responsable de crear y hacer cumplir regulaciones internacionales de IA podría ayudar a abordar los delitos relacionados con la IA que cruzan fronteras.

Campañas de Concienciación Pública: Los gobiernos y los organismos regulatorios deben invertir en campañas de concienciación pública para educar a los ciudadanos sobre los riesgos potenciales de las estafas de IA y cómo protegerse. La conciencia es un paso crucial para empoderar a las personas y las organizaciones para implementar las medidas de seguridad necesarias.

Las regulaciones actuales de IA son insuficientes para prevenir estafas, y el desafío de la regulación futura se complica por la naturaleza de código abierto de muchas tecnologías potentes. Esta apertura permite que cualquiera acceda y modifique estas tecnologías para sus propios fines. Como resultado, junto con regulaciones más fuertes, se necesitan avances en tecnologías de seguridad.

Detección de Datos Sintéticos

Detección de Audio Sintético: Mientras que los estafadores emplean la IA, también deben hacerlo nuestras defensas. Empresas como Pindrop están desarrollando sistemas impulsados por IA que pueden detectar audio sintético en tiempo real durante las llamadas telefónicas. Su tecnología analiza más de 1.300 características del audio de una llamada para determinar si proviene de una persona real o de un sistema de IA sofisticado.

Detección de Video Sintético: La detección de video sintético es otro frente en esta batalla. Empresas como Deepware están a la vanguardia en el desarrollo de tecnologías para detectar video sintético. La plataforma de Deepware utiliza algoritmos de aprendizaje automático avanzados para analizar inconsistencias sutiles en los datos de video, como movimientos no naturales, iluminación irregular y anomalías de píxeles que a menudo están presentes en el contenido generado por IA. Al identificar estas discrepancias, la tecnología de Deepware puede determinar si un video es genuino o ha sido manipulado, ayudando a proteger a las personas y las organizaciones de ser engañadas por estafas y campañas de desinformación basadas en video sofisticadas.

Avances en la Autenticación de Identidad

Hay varias formas en desarrollo para confirmar la identidad de un usuario y una o más de estas se convertirán en mainstream en los próximos años para hacer que Internet sea más seguro.

Autenticación de Dos Pasos para Conversaciones Remotas: La autenticación de dos factores (2FA) sigue siendo un componente fundamental de la comunicación segura. Bajo este método, cada llamada telefónica o correo electrónico desencadenaría un mensaje de texto con un código de verificación único, similar a los registros de correo electrónico actuales. Aunque la 2FA es efectiva para la autenticación básica, sus limitaciones significan que no se puede confiar en ella en todos los contextos, lo que hace necesaria el desarrollo de métodos más avanzados para garantizar la seguridad integral de Internet que puedan funcionar en segundo plano.

Autenticación Multifactorial Basada en Comportamiento: Más allá de verificar la identidad al comienzo de una llamada, los sistemas de seguridad futuros pueden analizar continuamente el comportamiento a lo largo de una interacción. Empresas como BioCatch utilizan biometría del comportamiento para crear perfiles de usuario en función de cómo las personas interactúan con sus dispositivos. Esta tecnología puede detectar anomalías en el comportamiento que podrían indicar que un estafador está utilizando información robada, incluso si han pasado las verificaciones iniciales de autenticación.

Autenticación Basada en Biometría: Empresas como Onfido están a la vanguardia de la tecnología de verificación de identidad biométrica, ofreciendo herramientas de verificación de identidad impulsadas por IA que detectan deepfakes sofisticados y otras formas de fraude de identidad. Su sistema utiliza una combinación de verificación de documentos y análisis biométrico para asegurarse de que la persona al otro lado de una llamada o chat de video sea realmente quien dice ser.

Autenticación Avanzada Basada en Conocimiento: Los sistemas de autenticación futuros pueden incorporar preguntas dinámicas y generadas por IA basadas en la huella digital de un usuario y sus actividades recientes. Por ejemplo, Prove, una empresa especializada en identidad centrada en el teléfono, está desarrollando soluciones que aprovechan la inteligencia del teléfono y el análisis de comportamiento para verificar identidades. Su tecnología puede analizar patrones en cómo una persona usa su dispositivo para crear una “firma de identidad” única que es significativamente más difícil para los estafadores replicar.

Autenticación de Verificación de Identidad Basada en Blockchain: La tecnología blockchain ofrece un método descentralizado y a prueba de manipulaciones para la verificación de identidad. Empresas como Civic están pioneras en sistemas de verificación de identidad basados en blockchain que permiten a los usuarios controlar su información personal mientras proporcionan autenticación segura. Estos sistemas crean un registro verificable e inmutable de la identidad de una persona, ideal para gestionar transacciones de alto riesgo.

Conclusión

La convergencia de LLM, RAG, generación de audio sintético, generación de video sintético y sincronización de labios es algo así como una espada de doble filo. Mientras que estos avances tienen un potencial enorme para aplicaciones positivas, también plantean riesgos significativos cuando se utilizan como armas por los estafadores.

Esta carrera armamentística continua entre expertos en seguridad y ciberdelincuentes subraya la necesidad de innovación y vigilancia constantes en el campo de la seguridad digital. Solo podemos aprovechar los beneficios de estas herramientas poderosas y mitigar su potencial para dañar si reconocemos y nos preparamos para estos riesgos.

La regulación integral, la educación sobre estas nuevas formas de estafas, la inversión en medidas de seguridad de vanguardia y, quizás lo más importante, una saludable dosis de escepticismo por parte de cada uno de nosotros cuando interactuamos con entidades desconocidas en línea o por teléfono serán esenciales para navegar por este nuevo panorama.