Votre pile de fraude a été conçue pour des adversaires humains

Depuis 30 ans, le CAPTCHA n’a rempli qu’une seule fonction: faire échouer une machine à un test qu’une personne réussit sans réfléchir. Cette fonction est terminée. Des chercheurs, testant des solveurs automatisés contre les défis d’images reCAPTCHA v2 de Google, ont rapporté un taux de réussite de 100 %, contre environ 68 % à 71 % dans des travaux antérieurs, et n’ont trouvé aucune différence significative entre le nombre de défis qu’un bot devait résoudre et celui qu’un humain a résolu.

Si l’on considère le CAPTCHA comme un substitut d’une catégorie entière de contrôles reposant sur le même principe— que certaines tâches sont triviales pour un humain et difficiles pour une machine, et que réussir la tâche prouve que vous êtes humain— il est temps de revoir les paramètres de contrôle. Les agents d’IA ont discrètement effacé ce principe dans la reconnaissance d’images, le remplissage de formulaires et la navigation à étapes multiples, et la plupart des équipes de risque n’ont pas encore reconstruit leur pile en réponse.

Calibré contre le mauvais ennemi

Chaque règle d’une pile de fraude mature était ajustée contre un adversaire spécifique, qu’il s’agisse d’un humain usurpant un autre humain ou d’une ferme de bots usurpant de nombreux humains à la fois. Les contrôles de vitesse détectent quelqu’un qui ouvre des comptes plus rapidement qu’une personne ne pourrait le faire raisonnablement. Les règles de réutilisation d’appareils détectent quelqu’un qui recycle du matériel entre plusieurs identités. Toutes deux ont été construites autour des limites humaines, du temps physique nécessaire pour remplir un formulaire et du coût pratique d’achat de nouveaux appareils.

Les mêmes limites ne contraignent pas un agent d’IA comme elles nous contraignent, les humains. Il peut remplir un formulaire en le temps qu’un humain met à lire le premier champ, et il peut être provisionné, utilisé une fois, puis jeté à un coût proche de zéro. Le trafic automatisé représente désormais plus de 53 % de tout le trafic web, en hausse par rapport à 51 % l’année précédente, tandis que l’activité humaine est tombée à 47 % et continue de diminuer. Plus d’un quart des attaques de bots (27 %) ciblent désormais directement les API, contournant complètement l’interface utilisateur pour fonctionner à la vitesse d’une machine, et les services financiers à eux seuls ont absorbé 24 % de toutes les attaques de bots et 46 % des incidents de prise de contrôle de comptes en 2025. Les règles basées sur le rythme humain n’auraient jamais pu détecter une classe de trafic qui n’a aucun rythme.

Où les fissures apparaissent

L’instinct initial de l’industrie a été de combattre l’IA avec davantage d’IA, en traitant un modèle boîte noire comme une solution miracle contre un adversaire boîte noire. Cet instinct aggrave le problème en soi. Un modèle de fraude qui ne peut pas expliquer sa propre décision est presque impossible à défendre devant un régulateur, un client ou un auditeur interne une fois que cette décision est contestée, et un modèle opaque entraîné à détecter une menace opaque augmente l’opacité plutôt que de la résoudre. La défendabilité ici n’est pas une simple nicité philosophique— elle signifie également pouvoir démontrer la gouvernance du modèle: quel modèle est en production, ce qui a changé par rapport à la version précédente, quelles données ont servi à l’entraîner, qui a approuvé la modification et pourquoi. Un système conçu pour mettre à jour automatiquement le modèle d’IA n’a jamais été pensé pour générer ce type de traçabilité.

Une autre défense nécessaire pour distinguer le légitime du malicieux est l’intelligence en couches: profondeur de signal à travers suffisamment de dimensions indépendantes pour qu’une identité fabriquée, un compte détourné ou un mule financier n’aient plus d’endroits où se cacher. Chaque dimension supplémentaire représente une opportunité distincte de détecter une incohérence, un élément d’infrastructure de fraude partagée ou un comportement qui ne correspond pas à la personne enregistrée. Aucun signal unique ne doit porter tout le poids de la décision. Plus le contexte est large, plus un indice isolé et ambigu devient quelque chose sur lequel une équipe de fraude peut réellement s’appuyer. 

Ce même principe s’applique que la décision soit prise par une personne ou par un modèle. Un moteur de risque IA n’est pas plus intelligent que les données qui lui sont fournies. En retirer la moitié des dimensions vous obtenez un système qui raisonne avec une confiance totale à partir de la moitié de l’image, et cela est tout aussi vrai pour un modèle d’apprentissage automatique évaluant une transaction en millisecondes que pour un analyste traitant un dossier à la main. Cela devient plus vrai, pas moins, à mesure que davantage de décisions sont transférées à des systèmes agentiques qui prennent la décision sans aucune personne dans la boucle. La profondeur du contexte n’est pas seulement la façon de détecter un agent commettant une fraude. C’est la condition préalable pour faire confiance à la décision d’un agent, quel qu’en soit le sujet.

Alimentez ce contexte dans un modèle dont le raisonnement reste lisible, plutôt que dans un système boîte noire unique qui devine l’intention à partir d’un seul signal, et la décision cesse d’être simplement précise. Elle devient défendable. Cette distinction compte davantage face aux agents IA qu’elle ne le faisait face aux réseaux de fraude humaine, car un agent laisse un type de trace différent. Il ne gigote pas, n’hésite pas et ne commet pas les petites erreurs que les biométriques comportementales étaient conçues pour détecter. Il laisse plutôt une empreinte— à l’ère des identifiants qu’il utilise et de la cohérence d’un historique d’appareil qui s’étend ou non au-delà de la transaction devant vous. Il exécute discrètement un outil d’accès à distance en arrière‑plan pendant que les identifiants d’une autre personne sont dépensés. Rien de tout cela ne nécessite de lire un visage. Il suffit de pouvoir lire les détails complets de la session à l’aide d’un large ensemble de signaux.

Le signe humain qui n’est plus là

Nulle part le recalibrage n’est plus urgent que dans la vérification d’identité, où les équipes de fraude ont construit toute une discipline autour de la détection de signes humains, tels qu’un taux de clignement anormal, une synchronisation labiale incohérente ou un artefact texturé sur une photo. Les outils de deepfake ont comblé la plupart de ces lacunes, et les criminels n’ont plus besoin de créer ces outils eux‑mêmes.

Évaluation mondiale des menaces de fraude financière d’Interpol, publié en mars, a constaté que la fraude financière a drainé plus de 442 milliards de dollars de l’économie mondiale en 2025, la fraude renforcée par l’IA étant désormais environ 4,5 fois plus rentable que les méthodes traditionnelles. Le rapport identifie des opérations de « deepfake-as-a-service » sur des places de marché du dark web vendant des kits d’identité synthétique, complets avec des avatars vidéo générés par IA, des clones vocaux et des données biométriques, permettant à un attaquant de créer un clone numérique convaincant à partir de seulement 10 secondes d’audio prélevées sur une publication de réseau social.

Le signal fiable n’a jamais été le document d’identité. C’est la continuité: le passé numérique d’une identité réelle s’accumule sur des années d’activité de compte ordinaire et de comportements, le type d’historique qu’une identité synthétique, ou un agent la représentant, n’a pas le temps de construire. Un système qui ne recherche qu’un document d’identité falsifié continuera d’échouer. Un système qui recherche un historique manquant a une cible plus difficile à falsifier.

Rééquipement pour un adversaire différent

Tout cela n’est pas une invitation à la panique, ni une affirmation que la fraude humaine a disparu. Ce n’est pas le cas. C’est une démonstration qu’une pile entièrement réglée sur les limites, le rythme et les signes humains possède un point aveugle structurel exactement là où les agents IA opèrent, et que ce point aveugle ne se comblera pas de lui‑même. Chacune de ces vérifications, testée isolément, peut encore donner un résultat propre. Ce n’est que lorsque ces vérifications sont combinées, à travers suffisamment de dimensions indépendantes, que le schéma qu’une vérification isolée était conçue à manquer devient visible.

Les systèmes d’IA agentiques peuvent désormais planifier et exécuter de façon autonome une campagne de fraude complète, de la reconnaissance à la demande de rançon, largement sans aucun opérateur humain dans la boucle. La solution n’est pas une règle ajoutée à l’ancienne pile. C’est un principe reconstruit. Le test n’est plus de savoir si quelque chose ressemble à un fraudeur humain— il s’agit de savoir s’il y a jamais eu un véritable humain derrière.