Deepfakes e inteligencia artificial: información del informe de seguridad e inteligencia de voz 2024 de Pindrop

El rápido avance de la inteligencia artificial (IA) ha generado importantes beneficios y cambios transformadores en diversas industrias. Sin embargo, también ha introducido nuevos riesgos y desafíos, particularmente cuando se trata de fraude and EN LINEA. Deepfakes, un producto de IA generativa, son cada vez más sofisticados y plantean una amenaza sustancial a la integridad de sistemas de seguridad basados ​​en voz.

Los hallazgos de Informe de seguridad e inteligencia de voz 2024 de Pindrop, destacan el impacto de los deepfakes en varios sectores, los avances tecnológicos que impulsan estas amenazas y las soluciones innovadoras que se están desarrollando para combatirlas.

El auge de los deepfakes: un arma de doble filo

Los deepfakes utilizan tecnología avanzada algoritmos de aprendizaje automático para crear muy realista contenido de audio y video sintético. Si bien estas tecnologías tienen aplicaciones interesantes en el entretenimiento y los medios, también presentan serios desafíos de seguridad. Según el informe de Pindrop, los consumidores estadounidenses están más preocupados por el riesgo de deepfakes y clones de voz en el sector bancario y financiero, y el 67.5% expresa una preocupación significativa.

Impacto en las instituciones financieras

Las instituciones financieras son particularmente vulnerables a los ataques deepfake. Los estafadores utilizan voces generadas por IA para hacerse pasar por personas, obtener acceso no autorizado a cuentas y manipular transacciones financieras. El informe revela que hubo una cantidad récord de vulneraciones de datos en 2023, con un total de 3,205 incidentes, un aumento del 78 % con respecto al año anterior. El costo promedio de una violación de datos en los Estados Unidos asciende ahora a 9.5 millones de dólares, y los centros de contacto son los más afectados por las consecuencias de la seguridad.

Un caso notable involucró el uso de un Voz deepfake para engañar a una empresa con sede en Hong Kong para que transfiera 25 millones de dólares, destacando el potencial devastador de estas tecnologías cuando se utilizan de forma maliciosa.

Amenazas más amplias a los medios y la política

Más allá de los servicios financieros, Los deepfakes también plantean riesgos importantes para los medios y las instituciones políticas.. La capacidad de crear contenido de audio y vídeo falso y convincente puede utilizarse para difundir información errónea, manipular la opinión pública y socavar la confianza en los procesos democráticos. El informe señala que al 54.9% de los consumidores les preocupa la amenaza de los deepfakes a las instituciones políticas, mientras que al 54.5% les preocupa su impacto en los medios.

En 2023, la tecnología deepfake estuvo implicada en varios incidentes de alto perfil, incluido un Ataque de llamada automática que utilizó una voz sintética del presidente Biden. Estos incidentes subrayan la urgencia de desarrollar mecanismos sólidos de detección y prevención.

Avances tecnológicos que impulsan los deepfakes

La proliferación de herramientas de inteligencia artificial generativa, como ChatGPT de OpenAI, Bard de Google y Bing AI de Microsoft, ha reducido significativamente las barreras para la creación de deepfakes. En la actualidad, se utilizan más de 350 sistemas de IA generativa para diversas aplicaciones, incluidas Eleven Labs, Descript, Podcastle, PlayHT y Speechify. El modelo VALL-E de Microsoft, por ejemplo, puede clonar una voz a partir de sólo un clip de audio de tres segundos.

Estos avances tecnológicos han hecho que los deepfakes sean más baratos y más fáciles de producir, aumentando su accesibilidad tanto para usuarios benignos como para actores maliciosos. Para 2025, Gartner predice que el 80% de las ofertas de IA conversacional incorporarán IA generativa, frente al 20% en 2023..

Luchando contra los deepfakes: las innovaciones de Pindrop

Para abordar la creciente amenaza de los deepfakes, Pindrop ha introducido varias soluciones de vanguardia. Uno de los más notables es el Garantía Pulse Deepfake, una garantía única en su tipo que reembolsa a los clientes elegibles si el paquete de productos de Pindrop no detecta un fraude profundo u otro fraude de voz sintética. Esta iniciativa tiene como objetivo brindar tranquilidad a los clientes y, al mismo tiempo, ampliar las capacidades de detección de fraude.

Soluciones tecnológicas para mejorar la seguridad

El informe de Pindrop destaca la eficacia de su tecnología de detección de vida, que analiza las llamadas telefónicas en vivo en busca de características espectrotemporales que indican si la voz en la llamada es "en vivo" o sintética. En pruebas internas, se descubrió que la solución de detección de vida de Pindrop era un 12 % más precisa que los sistemas de reconocimiento de voz y un 64 % más precisa que los humanos a la hora de identificar voces sintéticas.

Además, Pindrop emplea autenticación y prevención de fraude multifactor integrada, aprovechando la voz, el dispositivo, el comportamiento, los metadatos del operador y las señales de vida para mejorar la seguridad. Este enfoque de múltiples niveles eleva significativamente el listón para los defraudadores, lo que les hace cada vez más difícil tener éxito.

Tendencias futuras y preparación

Mirando hacia el futuro, el informar pronósticos que el fraude deepfake seguirá aumentando, lo que representa un riesgo de 5 mil millones de dólares para los centros de contacto solo en los EE. UU. La creciente sofisticación de los sistemas de conversión de texto a voz, combinada con la tecnología de voz sintética de bajo costo, presenta desafíos continuos.

Para adelantarse a estas amenazas, Pindrop recomienda técnicas de detección temprana de riesgos, como la detección de falsificaciones de identificadores de llamadas y la detección continua de fraude, para monitorear y mitigar las actividades fraudulentas en tiempo real. Al implementar estas medidas de seguridad avanzadas, las organizaciones pueden protegerse mejor contra el panorama cambiante del fraude impulsado por la IA.

Conclusión

La aparición de los deepfakes y la IA generativa representa un desafío importante en el campo del fraude y la seguridad. El Informe de seguridad e inteligencia de voz 2024 de Pindrop subraya la necesidad urgente de soluciones innovadoras para combatir estas amenazas. Con avances en detección de vida, autenticación multifactor y estrategias integrales de prevención de fraude, Pindrop está a la vanguardia de los esfuerzos para asegurar el futuro de las interacciones basadas en voz. A medida que el panorama tecnológico continúa evolucionando, también deben hacerlo nuestros enfoques para garantizar la seguridad y la confianza en la era digital.