Deepfakes y IA: Perspectivas del Informe de Inteligencia y Seguridad de Voz de Pindrop 2024

El rápido avance de la inteligencia artificial (IA) ha traído importantes beneficios y cambios transformadores en diversas industrias. Sin embargo, también ha introducido nuevos riesgos y desafíos, particularmente en lo que respecta al fraude y la seguridad. Los deepfakes, un producto de la IA generativa, se están volviendo cada vez más sofisticados y suponen una amenaza sustancial para la integridad de los sistemas de seguridad basados en la voz.

Los hallazgos del Informe de Inteligencia y Seguridad de Voz de Pindrop 2024 resaltan el impacto de los deepfakes en varios sectores, los avances tecnológicos que impulsan estas amenazas y las soluciones innovadoras que se están desarrollando para combatirlas.

El auge de los deepfakes: una espada de doble filo

Los deepfakes utilizan algoritmos de aprendizaje automático avanzados para crear contenido de audio y video sintético muy realista. Si bien estas tecnologías tienen aplicaciones emocionantes en el entretenimiento y los medios, también presentan serios desafíos de seguridad. Según el informe de Pindrop, los consumidores estadounidenses están más preocupados por el riesgo de deepfakes y clones de voz en el sector bancario y financiero, con un 67,5% que expresa una preocupación significativa.

Impacto en las instituciones financieras

Las instituciones financieras son particularmente vulnerables a los ataques de deepfakes. Los estafadores utilizan voces generadas por IA para impersonar a individuos, obtener acceso no autorizado a cuentas y manipular transacciones financieras. El informe revela que hubo un número récord de compromisos de datos en 2023, con un total de 3.205 incidentes, un aumento del 78% con respecto al año anterior. El costo promedio de una violación de datos en Estados Unidos ahora asciende a $9,5 millones, y los centros de contacto soportan la mayor parte de las consecuencias de seguridad.

Un caso notable involucró el uso de una voz deepfake para engañar a una empresa con sede en Hong Kong para que transfiriera $25 millones, lo que destaca el potencial devastador de estas tecnologías cuando se utilizan con malas intenciones.

Amenazas más amplias a los medios y la política

Más allá de los servicios financieros, los deepfakes también suponen riesgos significativos para las instituciones de los medios y la política. La capacidad de crear contenido de audio y video falso convincente se puede utilizar para difundir información falsa, manipular la opinión pública y socavar la confianza en los procesos democráticos. El informe señala que el 54,9% de los consumidores están preocupados por la amenaza de los deepfakes a las instituciones políticas, mientras que el 54,5% se preocupa por su impacto en los medios.

En 2023, la tecnología de deepfakes se vio implicada en varios incidentes de alto perfil, incluido un ataque de robocall que utilizó una voz sintética del presidente Biden. Estos incidentes subrayan la urgencia de desarrollar mecanismos de detección y prevención robustos.

Avances tecnológicos que impulsan los deepfakes

La proliferación de herramientas de IA generativa, como ChatGPT de OpenAI, Bard de Google (GOOGL ) y Bing AI de Microsoft (MSFT ), ha reducido significativamente las barreras para crear deepfakes. Hoy en día, más de 350 sistemas de IA generativa se utilizan para diversas aplicaciones, incluidos Eleven Labs, Descript, Podcastle, PlayHT y Speechify. El modelo VALL-E de Microsoft, por ejemplo, puede clonar una voz a partir de un clip de audio de solo tres segundos.

Estos avances tecnológicos han hecho que los deepfakes sean más baratos y fáciles de producir, lo que ha aumentado su accesibilidad tanto para usuarios benignos como para actores maliciosos. Para 2025, Gartner predice que el 80% de las ofertas de IA conversacional incorporarán IA generativa, en comparación con el 20% en 2023.

Combatiendo los deepfakes: innovaciones de Pindrop

Para abordar la creciente amenaza de los deepfakes, Pindrop ha introducido varias soluciones de vanguardia. Una de las más destacadas es la Garantía de deepfakes de Pindrop Pulse, una garantía de primera en su tipo que reembolsa a los clientes elegibles si el conjunto de productos de Pindrop no detecta un deepfake o fraude de voz sintético. Esta iniciativa tiene como objetivo brindar tranquilidad a los clientes mientras impulsa las capacidades de detección de fraude.

Soluciones tecnológicas para mejorar la seguridad

El informe de Pindrop destaca la eficacia de su tecnología de detección de vida, que analiza llamadas telefónicas en vivo en busca de características espectro-temporales que indiquen si la voz en la llamada es “en vivo” o sintética. En pruebas internas, la solución de detección de vida de Pindrop resultó ser un 12% más precisa que los sistemas de reconocimiento de voz y un 64% más precisa que los humanos para identificar voces sintéticas.

Además, Pindrop emplea una prevención de fraude y autenticación de múltiples factores integrada, que aprovecha la voz, el dispositivo, el comportamiento, los metadatos del portador y las señales de vida para mejorar la seguridad. Este enfoque en capas aumenta significativamente la barrera para los estafadores, lo que hace cada vez más difícil que tengan éxito.

Tendencias futuras y preparación

Mirando hacia adelante, el informe prevé que el fraude de deepfakes seguirá aumentando, lo que supondrá un riesgo de $5 mil millones para los centros de contacto en Estados Unidos solo. La creciente sofisticación de los sistemas de texto a voz, combinada con la tecnología de voz sintética de bajo costo, presenta desafíos continuos.

Para mantenerse por delante de estas amenazas, Pindrop recomienda técnicas de detección de riesgos tempranos, como la detección de suplantación de ID de llamada y la detección continua de fraude, para monitorear y mitigar las actividades fraudulentas en tiempo real. Al implementar estas medidas de seguridad avanzadas, las organizaciones pueden protegerse mejor contra el panorama en constante evolución de la fraude impulsada por la IA.

Conclusión

La aparición de los deepfakes y la IA generativa representa un desafío significativo en el campo de la fraude y la seguridad. El Informe de Inteligencia y Seguridad de Voz de Pindrop 2024 subraya la necesidad urgente de soluciones innovadoras para combatir estas amenazas. Con avances en la detección de vida, la autenticación de múltiples factores y las estrategias de prevención de fraude comprehensivas, Pindrop se encuentra a la vanguardia de los esfuerzos para garantizar la seguridad y la confianza en las interacciones basadas en la voz. A medida que el paisaje tecnológico sigue evolucionando, también deben evolucionar nuestros enfoques para garantizar la seguridad y la confianza en la era digital.