L’IA peut nous aider à identifier de vraies personnes, pas à les remplacer

Une image truquée trompe même les yeux les plus perspicaces, mais le comportement factice que la plateforme voit ne devrait pas.

Depuis vingt ans, l’industrie des rencontres en ligne enseigne la sécurité des utilisateurs comme une simple liste de contrôle. Nous conseillons aux utilisateurs de scruter la photo, de vérifier la cohérence de l’histoire de la personne, ou d’exiger un appel vidéo avant d’accepter de se rencontrer. Ces recommandations, autrefois la référence en matière de sécurité numérique, sont aujourd’hui complètement obsolètes.La preuve définitive est arrivée dans une étude de février 2025 d’iProov, fournisseur leader de biométrie. Les chercheurs ont demandé à 2 000 participants au Royaume-Uni et aux États‑Unis d’étiqueter divers éléments — à la fois images et vidéos — comme réels ou synthétiques. Les résultats étaient étonnants : seuls deux participants n’ont commis aucune erreur. Cela ne représente que 0,1 % des personnes testées, ce qui signifie que les 1 998 autres ont fait au moins une faute. Une confiance élevée combinée à un taux d’erreur élevé constitue un mélange dangereux pour les consommateurs. Et les fraudeurs sont plus que prêts à en profiter.Selon le Rapport sur la fraude d’identité 2026 d’Entrust, les deepfakes représentent aujourd’hui une tentative de fraude biométrique sur cinq. Les selfies truqués ont augmenté de 58 % en 2025, et les attaques par injection ont progressé de 40 % d’une année sur l’autre. S’attendre à ce qu’un utilisateur ordinaire surpasse un modèle d’IA générative très avancé en perception visuelle est une abdication de responsabilité ; cela transfère le risque directement de la plateforme au client.

La fraude ne consiste plus à détecter de fausses images

La réalité est que les outils de détection actuels échouent parce qu’ils effectuent des tests au niveau de l’objet, un à la fois. Un test vérifie si une image spécifique a été générée par l’IA. Un autre détermine si un document est falsifié, tandis qu’un troisième examine si le texte d’un message a été rédigé par une machine. Le problème est que chacun de ces tests se dégrade rapidement. À mesure que les modèles génératifs progressent et améliorent continuellement la qualité des sorties, les réponses antérieures et les méthodes de détection deviennent obsolètes presque du jour au lendemain.

Une approche bien meilleure remplace l’apparence à signal unique par l’ajustement conjoint de nombreux signaux. Notre méthode évalue les relations entre diverses dimensions de la présence d’un utilisateur. Une dimension du signal est l’apparence d’un appareil pour notre système. Une autre est l’origine de la session de l’utilisateur. Une troisième est le comportement réel du compte. Tout cela conduit à une révision humaine lorsque le système signale des indicateurs de fraude potentielle.

Le Bureau des Nations Unies contre la drogue et le crime, dans son Évaluation de la menace du crime organisé transnational pour l’Asie du Sud‑Est 2026, a estimé les pertes dues aux escroqueries en ligne en 2025 entre 88,3 milliards $US et 114,1 milliards $US dans les zones rapportées uniquement. La fraude industrielle à cette échelle repose sur la rapidité et le volume. Toute information isolée peut être facilement falsifiée, mais falsifier tout de façon cohérente — à travers de multiples comptes continuellement supprimés par la plateforme — devient bien trop lourd à maintenir. Chaque couche de friction que nous introduisons augmente le coût par compte de l’activité frauduleuse jusqu’à ce que leur marge bénéficiaire atteigne zéro.

C’est là que l’IA justifie réellement son utilité. Bien que la détection de falsifications se soit améliorée grâce aux nouvelles technologies, la capacité accrue à identifier les facteurs concomitants indiquant une fraude — et conduisant à une intervention plus précoce — est bien meilleure pour nos utilisateurs. Lorsque les indicateurs d’un utilisateur sont discordants, sa véritable intention est révélée. Un membre honnête, un fraudeur et un visiteur avec un autre objectif peuvent tous partager des photos identiques et des lignes d’ouverture quasi identiques. Cependant, leurs indicateurs combinés différeront et raconteront une histoire complètement différente. La façon dont les gens répondent, la rapidité de leur réponse, la manière dont ils font évoluer la conversation, ce qu’ils demandent et quelles conversations sont abandonnées peignent tous un tableau. L’identité peut être un mensonge généré à la perfection, mais le comportement révélera toujours de mauvaises intentions.

L’asymétrie d’information : les plateformes savent ce que les utilisateurs ignorent

La Federal Trade Commission a rapporté en 2026 que les pertes liées aux escroqueries romantiques en 2025 a augmenté de 22 % par rapport à 2024, atteignant environ 1,5 milliard $. 60 % ont déclaré que leur premier contact provenait d’une plateforme de médias sociaux.

Il existe un énorme fossé d’information dans notre secteur. Les plateformes voient les mêmes catégories de signaux, mais elles peuvent très probablement voir aussi le pays de connexion et l’âge du compte, par exemple. Tout ce que voient les membres, c’est un sourire et un paragraphe soigneusement rédigé qui intègre habilement un élément de leur profil. Les plateformes ont le pouvoir d’agir sur ces données cachées, en les utilisant pour créer un environnement plus sûr, ou de les divulguer afin que les membres puissent réagir en conséquence. Malheureusement, la plupart de l’industrie ne fait ni l’un ni l’autre.

L’inaction de l’industrie est souvent liée aux compromis complexes relatifs à la confidentialité des utilisateurs. La moitié coûteuse de cette équation consiste à passer à l’action. Il existe deux voies pour instaurer la confiance : la voie lente est la réputation, et la voie rapide est la vérification. La vérification crée de la friction. L’industrie veut massivement la rapidité, le volume et peu de friction, ce qui explique sa sous‑vérification chronique.

Cependant, des solutions émergent. Un préprint d’août 2024 sur arXiv a proposé « personhood credentials ». Les 32 auteurs provenant d’institutions telles qu’OpenAI, Microsoft, MIT, Oxford et Harvard ont proposé un justificatif préservant la vie privée qui permet à quelqu’un de prouver à un service qu’il est une vraie personne sans révéler son identité sous‑jacente. Leur argument est que les CAPTCHA sont insuffisants et que la détection d’anomalies s’érode rapidement face à une IA capable. Ils ont raison. Les rencontres sont l’un des domaines où les conséquences de cette érosion se font le plus sentir, car le produit de base vendu est la confiance elle‑même.

Élaborer une meilleure norme communautaire

Les mêmes signaux qui aident à identifier un comportement potentiellement criminel peuvent également servir à repérer d’autres types de mauvaises actions. L’intention de lecture va bien au‑delà de la simple prévention de la fraude. Tous les acteurs malveillants d’un site ne sont pas des criminels. Un utilisateur désagréable ne viole pas forcément la loi, et une relation traitée comme une transaction n’est pas nécessairement une fraude. Traiter les gens avec mépris ne conduit pas à une inculpation fédérale. Mais ces comportements dégradent profondément la communauté. Pire encore, ils sont trop souvent invisibles aux systèmes qui reposent entièrement sur les signalements des membres pour leurs programmes d’application.

L’industrie a traditionnellement tracé la ligne au niveau de l’illégalité : filtrer la fraude et les mineurs, supprimer ce que la loi exige strictement, et laisser le reste comme une affaire entre adultes consentants. Je ne connais aucun autre site de rencontres qui utilise l’IA pour identifier les comportements transactionnels et les arrêter activement. Notre fonctionnalité Stop@Send évalue le message sortant de l’expéditeur au moment de l’envoi. Elle recherche un sens plus profond plutôt que de simplement comparer le contenu à une liste statique de mots‑clés. La plupart du temps, la réponse est une explication remise à l’expéditeur, lui indiquant précisément pourquoi le message est inapproprié pour la communauté.

Cela n’est bien sûr pas gratuit. Interrompre les conversations des membres crée des frictions, ce qui, sans surprise, représente un coût que nous choisissons activement d’assumer. Mais nos standards sont mieux définis par ce qui est réellement autorisé sur notre plateforme, et non par ce qui est publié sur une page de directives communautaires non appliquées. Une plateforme qui ne gêne pas un acteur malveillant n’a aucune raison de se qualifier de communauté.

Le défi pour l’industrie

Le marché actuel se précipite pour que l’IA remplace les personnes : nous voyons l’essor des compagnons IA, des profils générés par IA et des agents de flirt. Je suis fermement convaincu que cette direction est une impasse. Elle optimise uniquement l’engagement sans rien livrer d’autre. Notre approche est fondamentalement différente. Nous utilisons l’IA pour éliminer les acteurs malveillants, tenir les membres responsables les uns envers les autres, et les aider à se traiter mutuellement de manière à favoriser des relations significatives et réelles dans le monde réel.

Les listes de signaux d’alerte à éviter ont perdu de leur valeur. Les signaux qui permettaient autrefois d’identifier les escrocs sont exactement les caractéristiques que les modèles génératifs ont appris à éliminer, créant une course aux armements à laquelle nous sommes perpétuellement enfermés. En dehors de la première règle — ne jamais envoyer d’argent à quelqu’un que vous ne connaissez pas et n’avez pas rencontré en personne, règle que tout le monde devrait suivre — la question clé ne porte plus sur la photographie. Elle porte sur la plateforme, et sur ce qu’elle fait avec ce qu’elle sait que ses utilisateurs ignorent.

Une plateforme qui répond bien à ce défi conçoit activement la confiance. Une plateforme qui ne le fait pas demande à ses membres de fournir davantage d’efforts avec un taux de succès de 0,1 % simplement pour se protéger.

Je lance ce défi à chaque plateforme, y compris la mienne. J’attends des réponses honnêtes et complètes. La technologie permettant de combler cet écart existe dès maintenant. La fraude persiste parce que l’arrêter signifie renoncer à la croissance massive générée par la porte d’entrée gigantesque de l’inscription sans effort. Il s’agit d’une décision commerciale plutôt que d’une limitation technique. Et les plateformes qui prennent la bonne décision détiennent le seul atout qui compte dans cette discussion : la confiance de leurs membres.