Un opérateur, des milliers de fausses histoires d’amour : la nouvelle économie de la fraude par IA

Quand les entreprises technologiques parlent de sécurité, elles se concentrent généralement sur les menaces externes, comme les fuites de données, les infrastructures vulnérables ou le vol d’identifiants. Mais, pour les entreprises dont l’activité repose sur les interactions humaines, l’une des menaces les plus graves peut se trouver au cœur même du produit, dans les comptes que les utilisateurs croient appartenir à de vraies personnes. C’est particulièrement pertinent pour les sites et applications de rencontre, où les gens communiquent des informations personnelles, consacrent du temps à des conversations et nouent des liens affectifs avec des inconnus. Les conséquences de la fraude dépassent les liens affectifs noués avec des inconnus. Elles affectent la confiance que les utilisateurs accordent à la plateforme et aux personnes qu’ils y rencontrent.

Selon une étude publiée par Sumsub en 2026, 84 % des utilisateurs britanniques d’applications de rencontre interrogés estimaient que les contenus générés par l’IA rendaient plus difficile de faire confiance à des partenaires potentiels ou de réussir à trouver quelqu’un, contre 64 % en 2025. Par ailleurs, 61 % avaient eux-mêmes été victimes de tromperie par l’intermédiaire de faux profils, ou connaissaient quelqu’un à qui cela était arrivé. Ces résultats reflètent la perception des consommateurs, et non la prévalence réelle des comptes frauduleux. Ils révèlent néanmoins un problème pour un secteur dont la réussite dépend de la volonté des gens d’interagir avec des inconnus. L’IA réduit le coût des interactions fictives, ce qui pose un défi fondamental aux entreprises dont l’activité repose sur de véritables interactions humaines.

Comment l’IA a modifié l’économie de la fraude

Les arnaques sentimentales ne sont pas nouvelles. Depuis des décennies, les fraudeurs utilisent des photos volées, de fausses identités et des conversations scénarisées. Ce qui a changé, c’est le coût et la complexité de la mise en œuvre de ces stratagèmes à grande échelle. Auparavant, gérer des milliers de profils convaincants exigeait d’importantes ressources humaines : les escrocs devaient mener les conversations, se souvenir de détails personnels, conserver des identités cohérentes et répondre aux utilisateurs pendant de longues périodes. L’IA générative a considérablement réduit cette charge opérationnelle.

En septembre 2026, Anthropic a publié une enquête sur un réseau de plus de 20 applications de rencontre trompeuses exploitées par un studio basé en Chine. Sur une période de deux semaines, les chercheurs ont recensé plus de 4 700 interactions de personnes générées par l’IA avec au moins 25 000 personnes et environ 2,36 millions de messages générés. L’opération associait des conversations générées par l’IA à l’intervention d’employés qui prenaient en charge les échanges nécessitant une véritable personne, notamment les appels vidéo en direct. Les applications dissimulaient la nature automatisée du service tout en présentant aux utilisateurs ce qui semblait être de véritables occasions de faire des rencontres. Il s’agissait d’applications conçues pour tromper, et non de faux profils opérant au sein de plateformes de rencontre établies. Cette affaire montre toutefois à quel point l’IA peut réduire les ressources nécessaires pour fabriquer des interactions humaines convaincantes.

Pour les plateformes de rencontre légitimes, des technologies similaires représentent un défi croissant. Des photos générées, des messages automatisés, des identités volées et des outils conçus pour contourner les systèmes de vérification peuvent servir à créer et à gérer des comptes frauduleux. Le problème ne se limite plus à repérer les profils suspects. Les plateformes doivent faire face à des attaques toujours plus sophistiquées, alors que leur coût de production continue de baisser. Cela modifie également l’économie de l’exploitation d’un service de rencontre. La confiance est à la fois un enjeu lié au produit et un enjeu commercial.

La fraude entraîne des coûts commerciaux qui vont au-delà de la modération. Les faux comptes génèrent des inscriptions, des mentions « J’aime » et des conversations qui semblent légitimes dans les données analytiques du produit, ce qui peut fausser les signaux utilisés par les algorithmes de recommandation et les tests A/B. Il y a aussi un aspect commercial : les utilisateurs qui continuent de tomber sur de faux profils risquent de moins engager la conversation, d’être moins actifs ou de moins dépenser. L’ampleur de cet effet varie toutefois selon la plateforme et doit être mesurée plutôt que supposée. Dans les services de rencontre, la lutte contre la fraude relève donc de l’économie du produit et ne constitue pas seulement une fonction de sécurité ; à mesure que l’IA réduit le coût de production des activités artificielles, distinguer les interactions authentiques de celles qui sont fabriquées devient une décision fondamentale pour le produit.

Le dilemme de la direction : sécurité ou croissance

Renforcer la vérification semble être une réponse évidente à une fraude toujours plus sophistiquée. En pratique, la décision est plus complexe : chaque étape supplémentaire du processus d’inscription crée des frictions. Exiger des pièces d’identité, une vérification biométrique ou des contrôles répétés peut empêcher certaines formes d’abus, mais aussi décourager les utilisateurs légitimes de terminer leur inscription. Cela a un effet direct sur le coût d’acquisition. Si le même budget marketing permet d’inscrire et d’activer moins d’utilisateurs, le coût d’acquisition par inscription finalisée augmente.

Pour les applications de rencontre, les conséquences peuvent dépasser le parcours d’inscription. Contrairement à de nombreux autres produits grand public, les plateformes de rencontre dépendent de la densité du réseau local : pour que la mise en relation fonctionne, les utilisateurs doivent pouvoir compter sur un nombre suffisant de partenaires potentiels actifs et pertinents dans une zone géographique donnée. Un processus de vérification qui limite inutilement les inscriptions légitimes peut donc ralentir le développement du réseau local, réduire les possibilités de rencontre et nuire à la fidélisation. Dans le même temps, laisser des comptes frauduleux actifs entraîne d’autres coûts : consommation de ressources informatiques, charge de modération, recommandations faussées et baisse de la confiance des utilisateurs. Une sécurité excessive peut rendre un produit difficile à utiliser. Une sécurité insuffisante peut le rendre impossible à croire.

La prévention de la fraude doit être envisagée comme une décision liée au produit et à l’activité de l’entreprise, et non comme une fonction technique isolée. Une approche fondée sur le risque combine des protections de base à l’inscription avec l’analyse comportementale, les signaux liés aux appareils, la surveillance des contenus et une vérification renforcée en cas d’activité suspecte. Malgré cela, réussir une vérification ne suffit pas à rendre un utilisateur digne de confiance, car prouver sa présence ne prouve pas ses intentions. L’efficacité doit être évaluée au regard de plusieurs critères pris ensemble, notamment les performances de détection, les faux positifs, la rapidité des mesures d’application, les coûts de vérification, la conversion et la fidélisation. Une meilleure détection qui restreint à tort de nombreux utilisateurs légitimes n’est pas un meilleur résultat pour l’entreprise. La confidentialité ajoute une difficulté supplémentaire, car l’analyse des communications ou la collecte de signaux d’identité supplémentaires exigent de la transparence, la minimisation des données et des contrôles d’accès stricts. La question n’est pas de savoir combien de comptes frauduleux une plateforme peut bloquer, mais dans quelle mesure elle réduit les risques tout en préservant une expérience de qualité pour les utilisateurs légitimes.

Au-delà de la vérification : le rôle de la communauté

À mesure que les conversations générées par l’IA deviennent plus convaincantes, une question se pose autour du produit. Les plateformes de rencontre doivent-elles se concentrer uniquement sur les interactions numériques, ou aussi multiplier les occasions pour qu’elles se prolongent dans le monde réel ? Chez Fledge, nous explorons un modèle qui associe des mises en relation fondées sur la compatibilité à des événements en présentiel et à des expériences communautaires, afin que le passage de la découverte algorithmique à une rencontre en personne se fasse naturellement. Un événement ne prouve pas qu’une personne est digne de confiance et ne remplace pas la vérification, mais il apporte un contexte social que les profils et les conversations ne peuvent pas reproduire. Nous y voyons une piste prometteuse, et non une réponse à elle seule à la fraude liée à l’IA.

L’IA devrait aider les gens à trouver des partenaires compatibles, soutenir la modération et détecter les comportements suspects, et non fabriquer l’apparence de relations. La réussite devrait donc être évaluée au-delà du nombre d’utilisateurs actifs, de mises en relation et du taux de conversion, en prenant aussi en compte la qualité des interactions, leur authenticité et les résultats que les utilisateurs recherchent réellement. Une plateforme qui suscite beaucoup d’engagement, mais peu de liens authentiques, risque d’optimiser le mauvais résultat.

La confiance, un avantage concurrentiel

L’IA continuera de renforcer à la fois les fraudeurs et les plateformes qui les combattent, et aucune solution technique unique ne sera probablement suffisante. La protection nécessitera une adaptation continue, plusieurs niveaux de détection et une évaluation responsable et prudente des arbitrages commerciaux. Mais le défi dépasse la cybersécurité. La confiance façonne la qualité du produit, la croissance du réseau, le comportement des utilisateurs et les revenus à long terme ; à mesure que les faux engagements deviennent moins coûteux, les interactions authentiques prennent davantage de valeur. Dans les rencontres, la confiance n’est pas une fonctionnalité de sécurité ; encore une fois, la confiance est le produit. Les plateformes de nouvelle génération pourraient moins miser sur la multiplication des interactions que sur la création d’un environnement où les utilisateurs peuvent avoir confiance dans leur authenticité.