Les banques sont-elles prêtes à faire face à la fraude vocale par IA ?

La voix générée par IA a changé l’économie de la fraude. Ce qui nécessitait autrefois un imposteur habile, un scénario convaincant ou un numéro de téléphone compromis peut maintenant être tenté à grande échelle avec des outils qui sonnent de manière alarmante humaine.

Et ce qui est encore plus inquiétant, ils ont le secteur financier droit dans leur ligne de mire. Au début de 2024, un employé de la finance de l’entreprise d’ingénierie Arup a rejoint ce qui semblait être une conférence vidéo de routine avec le directeur financier de l’entreprise et plusieurs collègues. Les voix étaient familières, les visages reconnaissables, et la demande semblait suffisamment plausible pour passer un examen de base. À la fin de l’appel, elle avait autorisé 25 millions de dollars en transferts. Les personnes qu’elle croyait parler, y compris le directeur financier de l’entreprise, ont été signalées plus tard comme ayant été des deepfakes générés par IA. 

Pour les institutions financières, le risque n’est pas limité aux approbations de paiement internes. L’effondrement de la confiance peut se produire à travers l’authentification des clients, l’escalade des centres d’appels, les contrôles de fraude et les parcours de récupération de comptes. 

Les escrocs ont exploité l’anonymat relatif des appels téléphoniques pour commettre des fraudes depuis des décennies. Avec l’IA, cependant, l’effort requis est maintenant devenu trivial, et les résultats sont beaucoup plus convaincants. Pour les banques et les fintechs, cette convergence se traduit par une carte de risques inexplorée.

Il y a une réalité plus inconfortable sous-jacente à cela. Même si les attaquants cherchent des moyens d’y accéder, l’infrastructure d’IA que les institutions financières déployer pour moderniser leur support client rend la fraude plus facile à commettre à la vue de tous. 

L’appel qui sonne comme s’il appartenait

Avant l’IA, la fraude vocale était relativement facile à identifier. Les appels automatisés sonnaient plats et suivaient un scénario, et les tentatives de vishing reposaient sur des opérateurs humains suivant des feuilles d’appel. Dans la plupart des cas, l’échelle était limitée par la qualité de l’escroc qui tentait l’ingénierie sociale. Avec une formation adéquate et un peu de bon sens, le personnel pouvait généralement repérer les signes.

 L’IA a changé cela en effondrant presque la barrière technique pour l’usurpation d’identité. Avec suffisamment de sollicitations, l’IA peut sonner extrêmement humaine, complète avec des inflexions, des émotions et des défauts que l’on attendrait d’une personne réelle. Et pour aggraver les choses, les outils d’IA qui peuvent copier les voix sont facilement disponibles sur des plateformes commerciales et des référentiels open-source. 

McAfee Labs a constaté que trois secondes d’audio suffisent pour qu’un outil d’IA produise un clone de voix avec 85% de précision. Dix secondes d’enregistrement peuvent faire passer ce chiffre au-dessus de 95%. Le matériau source est partout : publications sur les médias sociaux, salutations de messagerie vocale, enregistrements de conférence, appels de résultats ou vidéos LinkedIn. 

Les outils de conversion vocale en temps réel sont devenus largement disponibles en 2024, ce qui signifie que les attaquants n’ont plus besoin d’un clip enregistré. Ils peuvent simplement parler dans un microphone, et la sortie sonnera comme celle de la personne qu’ils tentent d’usurper.

L’affaire Arup est instructive : l’employée de la finance avait des doutes, mais la présence de voix et de visages familiers sur l’appel les a supplantés, mais a décidé de faire confiance à ses yeux et à ses oreilles. La même année, les enquêteurs de Hong Kong ont découvert une opération distincte qui avait cloné la voix d’un directeur financier pour exécuter un 18,5 millions de dollars d’arnaque de cryptomonnaie. 

Une voix familière, il s’avère, est une voix de confiance, et l’IA a rendu cette hypothèse dangereuse à entretenir.

Les échecs d’authentification deviennent des opportunités de fraude

Les institutions financières répondent déjà aux menaces externes. Les dépenses des entreprises en outils de gouvernance et de conformité pour l’IA devraient augmenter de 2,2 milliards de dollars en 2025 à 9,5 milliards de dollars d’ici 2035, un signal de la manière dont le marché prend au sérieux ce problème.

 Mais le risque le plus conséquent ne provient pas de l’extérieur de leurs murs. Les banques et les fintechs intègrent l’IA dans leur pile de support client, construisant des systèmes IVR assistés par IA, une authentification biométrique vocale et des flux d’appel agents qui gèrent les transactions sans agents humains. Ces efforts visent à améliorer l’expérience client et à réduire la main-d’œuvre humaine, mais lorsque ces systèmes échouent, ils laissent un point faible que les acteurs menaçants trouvent trop facile à exploiter.

Les erreurs de routage, le contexte qui se perd entre les escalades et les systèmes d’authentification qui se comportent de manière imprévisible ressemblent à des problèmes d’expérience client et sont consignés comme tels. 

 Mais ces problèmes d’expérience client peuvent se transformer en quelque chose de pire en aval. Un client qui est verrouillé par la biométrie vocale ne signalera rarement cela. Au lieu de cela, il est probable qu’il appellera à nouveau, trouvera un moyen de parler à un agent humain et le pressera pour contourner les protocoles mêmes que ces systèmes ont été conçus pour faire respecter. 

Le problème plus important est qu’un attaquant qui usurpe l’identité d’un client peut le faire aussi. Les institutions financières sont bien conscientes de cela. En fait, 91% des banques américaines réexaminent leurs stratégies d’authentification biométrique vocale à la lumière des risques de clonage d’IA.

 La réévaluation ne résoudra pas ces problèmes. Une institution dont l’authentification vocale échoue régulièrement pour les clients légitimes a déjà créé les conditions mêmes qu’un pirate déterminé a besoin pour exploiter le système. Après tout, un pirate n’a pas besoin de trouver une vulnérabilité technique lorsqu’une friction dans le parcours client lui permet de trouver un moyen d’y accéder. 

Les entreprises doivent changer leur perspective, et non leur pile de sécurité

Les outils qui peuvent détecter les voix synthétiques générées par IA s’améliorent, mais un acteur menaçant qui sonde les systèmes d’une banque à la recherche de vulnérabilités ne cherche pas un point de défaillance unique. Ils cherchent des domaines où les systèmes butent et se manquent, où les systèmes d’authentification échouent à transmettre des signaux clairement. Une meilleure détection à la périphérie ne peut pas combler cette lacune.

 Ce qui peut aider, c’est réévaluer la manière dont les dirigeants traitent l’infrastructure vocale. Comme pour n’importe quelle partie de votre pile logicielle, l’infrastructure vocale nécessite le même niveau d’examen que les défenses de périmètre. 

Dans la pratique, une telle posture de sécurité nécessitera à la fois des tests fonctionnels et de résilience à travers les conditions que les systèmes IVR, l’authentification biométrique et d’autres systèmes vocaux seront confrontés en production : faible qualité audio, différents accents et bruits de fond, escalades de cas limite et scénarios de limite d’authentification où les appelants légitimes sont juste à l’extérieur des seuils d’acceptation du système. 

 La réponse n’est pas un exercice de certification unique. Les banques ont besoin d’une validation continue de l’ensemble du parcours vocal, de la routage IVR et de l’authentification biométrique à l’escalade, au transfert et aux chemins de repli. Quelle que soit la fréquence à laquelle les systèmes vocaux sont mis à jour, les tactiques de fraude évolueront naturellement pour trouver des failles dans les défenses qu’elles rencontrent. Un système qui passe la validation lors du déploiement doit être testé fréquemment et à plusieurs reprises dans des conditions du monde réel pour s’assurer qu’il est toujours sécurisé, même si ses performances ont évolué.

 Il est important de noter que les tests continus à grande échelle seront accompagnés de considérations budgétaires. Il y a également la tension inhérente entre agir rapidement (déployer de nouvelles capacités pour rester compétitif) et valider soigneusement les systèmes avant qu’ils interagissent avec de vrais clients et fassent face à de véritables tentatives de fraude. 

Même si il est difficile de résoudre cette tension de manière claire, cela rend clair le coût de la suppression de la validation : une défaillance dans votre système que les clients frustrés ont déjà trouvé un moyen de contourner est un point faible, quel que soit le moyen par lequel votre entreprise le catégorise. 

Des parcours client améliorés deviennent une défense contre la fraude

Les risques externes et internes décrits ci-dessus ne sont pas des problèmes distincts avec des solutions différentes. La friction produite par des parcours client peu fiables crée des lacunes comportementales que l’ingénierie sociale est conçue pour exploiter. 

 C’est un problème soluble, mais seulement si les institutions réalisent que l’impact d’une mauvaise expérience client peut aller au-delà de la simple rétention ou des revenus. Les banques ne résoudront pas la fraude vocale par IA en la traitant comme un problème de détection uniquement. Ils doivent également supprimer l’ambiguïté, la friction et les points de défaillance à l’intérieur de leurs propres parcours vocaux. À une époque où une voix familière ne peut plus être considérée comme fiable par défaut, la fiabilité du parcours lui-même devient partie du modèle de sécurité.