Imaginez cela : vous êtes au travail, concentré sur une échéance serrée, lorsque vous recevez un appel d’un numéro qui semble être celui de votre mère. La voix à l’autre bout du fil est incontestablement la sienne, calme et aimante, mais avec une pointe d’urgence inhabituelle. Elle vous dit qu’elle a rencontré des problèmes graves pendant ses vacances à Paris et qu’elle a besoin de votre aide financière immédiatement pour régler les choses. Vous savez qu’elle est à Paris, et les détails qu’elle fournit, jusqu’au nom de son hôtel, rendent l’appel encore plus convaincant. Sans hésiter, vous transférez l’argent, pour découvrir plus tard que votre mère n’a jamais passé cet appel ; c’était un système d’IA avancé qui imitait parfaitement sa voix et fabriquait un scénario détaillé. Des frissons vous parcourrent l’épine dorsale lorsque vous réalisez ce qui vient de se passer.

Ce scénario, autrefois pure fiction scientifique, est maintenant une réalité émergente. L’aube des technologies d’IA comme les grands modèles de langage (LLM) a apporté des avancées incroyables. Cependant, une menace significative plane : les arnaques propulsées par l’IA. Le potentiel de scams sophistiqués alimentés par l’intelligence artificielle est une nouvelle menace à l’horizon du progrès technologique. Alors que les arnaques téléphoniques ont été une préoccupation depuis l’invention du téléphone, l’intégration généralisée des grands modèles de langage (LLM) dans tous les aspects de la communication numérique a considérablement élevé les enjeux. Alors que nous embrassons le potentiel de l’IA, il est crucial que nous renforcions également nos défenses contre ces menaces de plus en plus sophistiquées.

Le Paysage Actuel des Arnaques Téléphoniques

Les criminels ont tenté de tromper des individus insouciants pour leur faire transférer de l’argent ou divulguer des informations sensibles pendant des années, mais malgré la prévalence des arnaques téléphoniques, beaucoup de ces arnaques sont relativement peu sophistiquées, s’appuyant sur des opérateurs humains qui lisent des scripts. Cependant, même avec cette limitation, les arnaques téléphoniques continuent d’être une entreprise criminelle lucrative.

Selon la Commission fédérale du commerce des États-Unis, en 2022 seul, les Américains ont perdu plus de 8,8 milliards de dollars en raison de fraudes, dont une partie importante est attribuée aux arnaques téléphoniques, ce qui signifie que même dans leur forme actuelle, moins avancée, beaucoup de ces tactiques fonctionnent encore sur des individus vulnérables. Que se passera-t-il lorsqu’elles évolueront ?

L’Avenir des Arnaques Propulsées par l’IA

Le paysage des arnaques téléphoniques est sur le point de subir un changement dramatique avec l’avènement de plusieurs technologies clés :

Les Grands Modèles de Langage (LLM)

Ces systèmes d’IA peuvent générer du texte ressemblant à celui des humains et engager des conversations naturelles. Lorsqu’ils sont appliqués aux arnaques, les LLM pourraient créer des scripts très convaincants et adaptables, rendant plus difficile pour les victimes potentielles d’identifier l’arnaque.

La Génération Assistée par Récupération (RAG)

Cette technologie permet aux systèmes LLM d’accéder et d’utiliser de vastes quantités d’informations en temps réel. Les arnaqueurs peuvent créer un profil d’une personne en fonction de ses informations publiques disponibles, telles que ses comptes sociaux. Ils peuvent également utiliser des techniques d’ingénierie sociale sur leurs amis et leur famille pour recueillir des informations plus approfondies. Cela leur donnera accès à des informations telles que l’identité de la cible, les informations sur son travail ou même ses activités récentes. Ils peuvent ensuite utiliser le RAG pour fournir aux LLM le contexte nécessaire, ce qui rend leurs approches très personnalisées et légitimes.

La Génération d’Audio Synthétique

Des plateformes comme Resemble AI et Lyrebird sont à la pointe de la création de voix réaliste générées par l’IA. Ces technologies sont capables de produire de l’audio personnalisé et ressemblant à celui des humains, qui peut être utilisé dans diverses applications, allant des assistants virtuels au service client automatisé et à la création de contenu. Des entreprises comme ElevenLabs poussent les limites plus loin en permettant aux utilisateurs de créer des voix synthétiques qui peuvent reproduire de près leur propre voix, permettant un nouveau niveau de personnalisation et d’interaction dans les échanges numériques.

La Génération de Vidéo Synthétique

Des entreprises comme Synthesia démontrent déjà le potentiel de création de contenu vidéo réaliste avec des avatars générés par l’IA. Dans les années à venir, cette technologie pourrait permettre aux arnaqueurs d’usurper l’identité d’amis ou de membres de la famille ou de créer des personnages entièrement fictifs pour des appels vidéo, introduisant un niveau de réalisme physique précédemment impossible dans l’arnaque.

La Synchronisation Labiale par l’IA

Des startups comme Sync Labs développent des technologies de synchronisation labiale avancées qui peuvent faire correspondre l’audio généré à des séquences vidéo. Cela pourrait être utilisé pour créer des vidéos de deep-fake très convaincantes de personnages historiques, de politiciens, de célébrités et pratiquement de tous les autres, brouillant encore plus la frontière entre la réalité et la tromperie.

La combinaison de ces technologies peint un tableau plutôt inquiétant. Imaginez un appel d’arnaque où l’IA peut adapter la conversation en temps réel, armée d’informations personnelles sur la cible, et même basculer vers un appel vidéo avec une personne qui semble réelle et dont les lèvres bougent en parfaite synchronisation avec la voix générée. Le potentiel de tromperie est vraiment énorme.

La Nécessité de Mesures de Sécurité Renforcées

Alors que ces arnaques propulsées par l’IA deviennent plus sophistiquées, les méthodes de vérification d’identité et d’authenticité devront suivre les progrès de l’IA. Il faudra des avancées réglementaires ainsi que technologiques pour maintenir la sécurité du monde en ligne.

Améliorations Réglementaires

Des lois plus strictes sur la protection des données : la mise en œuvre de lois plus rigoureuses sur la protection des données restreindrait la quantité d’informations personnelles disponibles pour les arnaqueurs. Ces lois pourraient inclure des exigences plus strictes pour la collecte de données, des protocoles de consentement améliorés et des peines plus sévères pour les violations de données.

Un nuage privé pour les modèles d’IA les plus puissants : les réglementations pourraient exiger que les modèles d’IA les plus puissants soient hébergés sur des infrastructures cloud privées et sécurisées plutôt que d’être mis à disposition ouverte. Cela limiterait l’accès aux technologies les plus avancées, rendant plus difficile pour les acteurs malveillants de les utiliser pour des arnaques. (par exemple : https://security.apple.com/blog/private-cloud-compute/)

Collaboration internationale sur les réglementations de l’IA : étant donné la nature mondiale de la technologie d’IA, une collaboration internationale sur les normes réglementaires pourrait être bénéfique. L’établissement d’un organisme mondial responsable de la création et de l’application de réglementations internationales sur l’IA pourrait aider à lutter contre les crimes liés à l’IA à travers les frontières.

Campagnes de sensibilisation du public : les gouvernements et les organismes réglementaires devraient investir dans des campagnes de sensibilisation du public pour éduquer les citoyens sur les risques potentiels des arnaques d’IA et sur la façon de se protéger. La sensibilisation est une étape cruciale pour permettre aux individus et aux organisations de mettre en œuvre les mesures de sécurité nécessaires.

Les réglementations actuelles de l’IA sont insuffisantes pour prévenir les arnaques, et le défi de la réglementation future est aggravé par la nature open source de nombreuses technologies puissantes. Cette ouverture permet à quiconque d’accéder et de modifier ces technologies à ses propres fins. Par conséquent, aux côtés de réglementations plus strictes, des avancées dans les technologies de sécurité sont nécessaires.

Détection de Données Synthétiques

Détection d’audio synthétique : alors que les arnaqueurs utilisent l’IA, nos défenses doivent également évoluer. Des entreprises comme Pindrop développent des systèmes alimentés par l’IA qui peuvent détecter l’audio synthétique en temps réel pendant les appels téléphoniques. Leur technologie analyse plus de 1 300 caractéristiques d’un appel audio pour déterminer s’il provient d’une personne réelle ou d’un système d’IA sophistiqué.

Détection de vidéo synthétique : la détection de vidéo synthétique : tout comme l’audio, la vidéo peut également être manipulée par l’IA, posant des menaces significatives sous la forme de deep-fake et d’autres contenus vidéo synthétiques. Des entreprises comme Deepware sont à la pointe du développement de technologies pour détecter la vidéo synthétique. La plateforme Deepware utilise des algorithmes d’apprentissage automatique avancés pour analyser les inconsistencies subtiles dans les données vidéo, telles que des mouvements non naturels, des éclairages irréguliers et des anomalies de pixels qui sont souvent présents dans le contenu généré par l’IA. En identifiant ces discordances, la technologie de Deepware peut déterminer si une vidéo est authentique ou a été manipulée, aidant ainsi à protéger les individus et les organisations contre les arnaques et les campagnes de désinformation basées sur des vidéos sophistiquées.

Avancées dans l’Authentification d’Identité

Il existe diverses méthodes en développement pour confirmer l’identité d’un utilisateur, et l’une ou plusieurs de ces méthodes deviendront mainstream dans les années à venir pour rendre Internet plus sûr.

L’authentification à deux facteurs pour les conversations à distance : l’authentification à deux facteurs (2FA) reste un élément fondamental de la communication sécurisée. Selon cette méthode, chaque appel téléphonique ou courriel déclencherait un message texte avec un code de vérification unique, similaire aux inscriptions de messagerie actuelles. Bien que la 2FA soit efficace pour l’authentification de base, ses limites signifient qu’elle ne peut pas être considérée comme fiable dans tous les contextes, nécessitant le développement de méthodes plus avancées pour assurer une sécurité globale sur Internet qui peut fonctionner en arrière-plan.

L’authentification multifacteur basée sur le comportement : au-delà de la simple vérification d’identité au début d’un appel, les futurs systèmes de sécurité pourraient analyser en continu le comportement tout au long de l’interaction. Des entreprises comme BioCatch utilisent des biométriques de comportement pour créer des profils d’utilisateur en fonction de la façon dont les individus interagissent avec leurs appareils. Cette technologie peut détecter des anomalies dans le comportement qui pourraient indiquer qu’un arnaqueur utilise des informations volées, même s’il a réussi les vérifications d’authentification initiales.

L’authentification basée sur les biométriques : des entreprises comme Onfido sont à la pointe de la technologie de vérification d’identité biométrique, offrant des outils de vérification d’identité alimentés par l’IA qui détectent les deep-fake sophistiqués et d’autres formes de fraude d’identité. Leur système utilise une combinaison de vérification de documents et d’analyse biométrique pour s’assurer que la personne à l’autre bout de l’appel ou de la conversation vidéo est bien celle qu’elle prétend être.

L’authentification avancée basée sur les connaissances : les futurs systèmes d’authentification pourraient incorporer des questions dynamiques et générées par l’IA en fonction de l’empreinte numérique d’un utilisateur et de ses activités récentes. Par exemple, Prove, une entreprise spécialisée dans l’identité centrée sur le téléphone, développe des solutions qui exploitent l’intelligence du téléphone et l’analyse du comportement pour vérifier les identités. Leur technologie peut analyser les modèles d’utilisation d’un appareil pour créer une « signature d’identité » unique qui est nettement plus difficile pour les arnaqueurs à reproduire.

L’authentification basée sur la blockchain : la technologie blockchain offre une méthode décentralisée et sécurisée pour la vérification d’identité. Des entreprises comme Civic sont pionnières dans les systèmes de vérification d’identité basés sur la blockchain qui permettent aux utilisateurs de contrôler leurs informations personnelles tout en fournissant une authentification sécurisée. Ces systèmes créent un enregistrement vérifiable et immuable de l’identité d’une personne, idéal pour la gestion de transactions à haut risque.

Conclusion

La convergence des LLM, du RAG, de la génération d’audio synthétique, de la génération de vidéo synthétique et de la synchronisation labiale par l’IA est un peu une épée à double tranchant. Alors que ces avancées ont un potentiel énorme pour des applications positives, elles posent également des risques importants lorsqu’elles sont utilisées par des arnaqueurs.

Cette course aux armements permanente entre les experts en sécurité et les cybercriminels souligne la nécessité d’une innovation et d’une vigilance continues dans le domaine de la sécurité numérique. Nous pouvons travailler à exploiter les avantages de ces outils puissants tout en atténuant leur potentiel de nuisance, à condition de reconnaître et de nous préparer à ces risques.

Une réglementation complète, l’éducation sur ces nouvelles formes d’arnaque, l’investissement dans des mesures de sécurité de pointe et, peut-être plus important encore, une dose saine de scepticisme de chacun d’entre nous lors de l’interaction avec des entités inconnues en ligne ou par téléphone seront essentielles pour naviguer dans ce nouveau paysage.