Les deepfakes et l’IA : Insights du Rapport 2024 de Pindrop sur l’intelligence vocale et la sécurité

L’avancement rapide de l’intelligence artificielle (IA) a apporté des avantages et des changements transformateurs importants dans diverses industries. Cependant, il a également introduit de nouveaux risques et défis, en particulier en ce qui concerne la fraude et la sécurité. Les deepfakes, un produit de l’IA générative, deviennent de plus en plus sophistiqués et représentent une menace importante pour l’intégrité des systèmes de sécurité basés sur la voix.

Les résultats du Rapport 2024 de Pindrop sur l’intelligence vocale et la sécurité mettent en évidence l’impact des deepfakes sur divers secteurs, les progrès technologiques qui les alimentent et les solutions innovantes développées pour les combattre.

L’essor des deepfakes : une épée à double tranchant

Les deepfakes utilisent des algorithmes d’apprentissage automatique avancés pour créer du contenu audio et vidéo synthétique très réaliste. Même si ces technologies ont des applications passionnantes dans le divertissement et les médias, elles présentent également de graves défis en matière de sécurité. Selon le rapport de Pindrop, les consommateurs américains sont les plus inquiets pour le risque de deepfakes et de clones vocaux dans le secteur bancaire et financier, avec 67,5 % exprimant une inquiétude importante.

Impact sur les institutions financières

Les institutions financières sont particulièrement vulnérables aux attaques de deepfakes. Les fraudeurs utilisent des voix générées par l’IA pour se faire passer pour des individus, accéder sans autorisation à des comptes et manipuler des transactions financières. Le rapport révèle qu’il y a eu un nombre record de violations de données en 2023, totalisant 3 205 incidents, soit une augmentation de 78 % par rapport à l’année précédente. Le coût moyen d’une violation de données aux États-Unis s’élève désormais à 9,5 millions de dollars, les centres de contact supportant l’essentiel des conséquences en matière de sécurité.

Un cas notable a impliqué l’utilisation d’une voix deepfake pour tromper une entreprise basée à Hong Kong et la convaincre de transférer 25 millions de dollars, mettant en évidence le potentiel dévastateur de ces technologies lorsqu’elles sont utilisées de manière malveillante.

Menaces plus larges pour les médias et la politique

Au-delà des services financiers, les deepfakes représentent également des risques importants pour les institutions médiatiques et politiques. La capacité de créer du contenu audio et vidéo faux convaincant peut être utilisée pour diffuser des informations fausses, manipuler l’opinion publique et miner la confiance dans les processus démocratiques. Le rapport note que 54,9 % des consommateurs sont inquiets pour la menace que les deepfakes représentent pour les institutions politiques, tandis que 54,5 % s’inquiètent de leur impact sur les médias.

En 2023, la technologie des deepfakes a été impliquée dans plusieurs incidents de premier plan, notamment une attaque de robocall utilisant une voix synthétique du président Biden. De tels incidents soulignent l’urgence de développer des mécanismes de détection et de prévention solides.

Progrès technologiques qui alimentent les deepfakes

La prolifération d’outils d’IA générative, tels que ChatGPT d’OpenAI, Bard de Google (GOOGL ) et Bing AI de Microsoft (MSFT ), a considérablement abaissé les barrières à la création de deepfakes. Aujourd’hui, plus de 350 systèmes d’IA générative sont utilisés pour diverses applications, notamment Eleven Labs, Descript, Podcastle, PlayHT et Speechify. Le modèle VALL-E de Microsoft, par exemple, peut cloner une voix à partir d’un extrait audio de seulement trois secondes.

Ces progrès technologiques ont rendu les deepfakes moins chers et plus faciles à produire, augmentant leur accessibilité aux utilisateurs benins et malveillants. D’ici 2025, Gartner prévoit que 80 % des offres d’IA conversationnelle intégreront l’IA générative, contre 20 % en 2023.

Combattre les deepfakes : les innovations de Pindrop

Pour répondre à la menace croissante des deepfakes, Pindrop a introduit plusieurs solutions de pointe. L’une des plus notables est la garantie Deepfake Pulse, une garantie sans précédent qui rembourse les clients éligibles si la suite de produits de Pindrop ne parvient pas à détecter un deepfake ou une autre fraude vocale synthétique. Cette initiative vise à offrir une tranquillité d’esprit aux clients tout en poussant les limites des capacités de détection de la fraude.

Solutions technologiques pour améliorer la sécurité

Le rapport de Pindrop met en évidence l’efficacité de sa technologie de détection de liveness, qui analyse les appels téléphoniques en direct pour des caractéristiques spectro-temporelles qui indiquent si la voix sur l’appel est “en direct” ou synthétique. Lors de tests internes, la solution de détection de liveness de Pindrop s’est révélée 12 % plus précise que les systèmes de reconnaissance vocale et 64 % plus précise que les humains pour identifier les voix synthétiques.

En outre, Pindrop utilise une prévention de la fraude et une authentification multi-facteurs intégrées, en exploitant la voix, le dispositif, le comportement, les métadonnées du transporteur et les signaux de liveness pour améliorer la sécurité. Cette approche multi-couches élève considérablement la barre pour les fraudeurs, les rendant de plus en plus difficiles à réussir.

Tendances futures et préparation

En regardant vers l’avenir, le rapport prévoit que la fraude des deepfakes continuera de croître, représentant un risque de 5 milliards de dollars pour les centres de contact aux États-Unis seulement. La sophistication croissante des systèmes de parole à texte, combinée à la technologie de parole synthétique à faible coût, présente des défis persistants.

Pour rester en tête de ces menaces, Pindrop recommande des techniques de détection précoce des risques, telles que la détection de l’usurpation d’identité de l’appelant et la détection continue de la fraude, pour surveiller et atténuer les activités frauduleuses en temps réel. En mettant en œuvre ces mesures de sécurité avancées, les organisations peuvent mieux se protéger contre le paysage évolutif de la fraude alimentée par l’IA.

Conclusion

L’émergence des deepfakes et de l’IA générative représente un défi important dans le domaine de la fraude et de la sécurité. Le Rapport 2024 de Pindrop sur l’intelligence vocale et la sécurité souligne la nécessité urgente de solutions innovantes pour combattre ces menaces. Avec les progrès de la détection de liveness, de l’authentification multi-facteurs et des stratégies de prévention de la fraude globales, Pindrop est à la pointe des efforts pour sécuriser l’avenir des interactions basées sur la voix. À mesure que le paysage technologique continue d’évoluer, nos approches pour assurer la sécurité et la confiance dans l’ère numérique doivent également évoluer.