Ce que les faux gains de Polymarket révèlent sur le consensus manufacturé à l’ère de l’IA

En juin, le Wall Street Journal a rapporté que Polymarket avait payé des créateurs, principalement des étudiants, pour filmer eux-mêmes en train de placer des paris sur des sites web construits pour ressembler exactement à la plateforme réelle, avec certains des vidéos montrant des gains qui n’avaient jamais vraiment eu lieu.

Polymarket a ensuite embauché un réseau de “monteurs” pour reposter les vidéos jusqu’à ce que cela ressemble à une vague organique de personnes devenant riches grâce à la plateforme. Sur un ensemble de 118 vidéos, les créateurs ont célébré près de 900 000 dollars de gains qui, si les paris avaient réellement été placés, auraient perdu plus de 166 000 dollars, et la campagne complète a couvert 1 105 vidéos, aucune desquelles ne reflétait un véritable échange.

La plupart des réactions se sont concentrées sur l’idée de publicité fausse, et c’est une description juste, mais cela ne répond pas aux questions plus utiles de savoir comment Polymarket a été découvert et si ce type de campagne passera inaperçu à l’avenir. L’entreprise a finalement été découverte parce que ce type de campagne reposait sur des humains, et les humains laissent une trace. Mais l’IA change cela. Le coût de fabrication d’un récit en ligne convaincant diminue rapidement, et notre capacité à le détecter diminue avec lui.

Un modèle qui fonctionnait avec des personnes, à un qui n’en a pas besoin

La campagne de Polymarket a fonctionné parce qu’elle semblait organique. Les créateurs ont publié à partir de leurs propres comptes comme s’ils enregistraient leur propre expérience, et les extraits se sont propagés jusqu’à ce que cela ressemble à une vague d’enthousiasme réel plutôt qu’à une opération payante. Les créateurs payés ne représentent que la moitié de ce qui a fait fonctionner cela, et l’autre moitié, moins visible mais tout aussi essentielle, était l’engagement factice.

Il n’est pas une coïncidence que ces vidéos aient attiré 140 millions de vues sur TikTok, YouTube et Instagram de la part de créateurs qui, en temps normal, ne recevaient que quelques centaines de vues par publication. Une portée comme celle-ci nécessite généralement de gonfler une vidéo avec des likes, des commentaires et des vues artificiels, généralement via des bots ou des comptes coordonnés, jusqu’à ce que le moteur de recommandation de la plateforme confonde cela avec quelque chose que les gens veulent vraiment regarder. Les créateurs payés seuls rarement produisent ce type de levier, c’est pourquoi Polymarket a probablement joué les deux cartes à la fois.

Ce qui a rendu cela coûteux et finalement traçable, c’est qu’il s’est déroulé par l’intermédiaire de personnes à chaque étape. Des sites factices ont dû être construits et hébergés, des créateurs ont dû être payés, et une entreprise a dû être embauchée pour gérer le réseau de republication, et chaque étape a laissé un registre que les journalistes d’investigation ont pu suivre jusqu’à la source.

L’IA supprime cette contrainte, puisque des personas synthétiques, des vidéos générées et des voix clonées peuvent produire la même illusion d’enthousiasme organique sans paie, contrat ou trace papier. Les mécanismes restent les mêmes. Ce qui disparaît, c’est le besoin pour quiconque signe quoi que ce soit ou reçoive un virement pour que cela se produise.

Ce changement modifie également l’échelle du problème. Le volume de contenu profondément faux en ligne est passé d’environ 500 000 en 2023 à environ 8 millions en 2025, et une fois que le contenu fabriqué croît si rapidement, il cesse d’être une intrusion occasionnelle dans un flux et commence à devenir une part significative de ce qui constitue le flux.

La ligne entre ce qui est mis en scène et ce qui est réel ne tient pas

La plupart des dirigeants pensent encore aux récits en ligne en termes binaires, où c’est soit mis en scène, soit authentique. Mais la proposition de Polymarket, selon laquelle n’importe qui peut gagner gros en trading sur leur plateforme, a commencé comme fabriquée et a encore gagné en crédibilité avec de vrais utilisateurs une fois que suffisamment de personnes l’ont vu, cru et agi en conséquence. À ce stade, l’origine du récit cesse d’être le fait pertinent, et une histoire qui commence comme fabrication peut encore produire des conséquences entièrement réelles une fois qu’elle prend pied. Des recherches récentes ont montré que les humains peuvent distinguer le contenu généré par l’IA du contenu authentique seulement 51% du temps, proche d’un lancer de pièce, ce qui signifie que pour la plupart des gens, voir quelque chose sur leur flux est encore suffisant pour y croire.

Polymarket a transformé la confusion ingénieuse en frais de trading. Diriger les mêmes mécanismes vers une élection ou toute question publique contestée, et l’IA rend ce type de manipulation facile à exécuter à grande échelle, avec des enjeux passant de revenus perdus à qui le public fait confiance et à la façon dont il vote.

Pourquoi les outils de surveillance habituels manquent cela

La plupart de la surveillance de réputation a été conçue pour suivre un Internet basé sur le texte, en regardant les mentions, les mots clés et les hashtags, mais la perception se forme désormais à l’intérieur de la vidéo à court format et à l’intérieur des systèmes de recommandation qui décident de ce qui est visible. Les outils conçus pour analyser les légendes et les fils de discussion n’ont jamais été conçus pour lire le ton, le contexte visuel ou la crédibilité de la personne à l’écran, et rien de tout cela n’est des informations optionnelles. C’est l’histoire elle-même narrée dans la vidéo.

La génération de vidéos par l’IA est également devenue suffisamment bonne, suffisamment rapide, pour produire une vidéo convaincante de presque n’importe quoi sans nécessiter un studio ou un budget de production. Quiconque exécute l’une de ces campagnes sait déjà mieux que de ne pas étiqueter la marque ou utiliser un langage recherchable, ce qui signifie que les signaux qui portent réellement le récit, le ton, la crédibilité du créateur, la réaction de la communauté, restent invisibles pour un système basé sur les mots clés par conception.

L’ancienne approche consistant à enquêter après les faits, en suivant la piste papier comme l’a fait le Wall Street Journal avec Polymarket, ne sera pas non plus à la hauteur, car ce type de reconstruction dépend de l’humain laissant une piste dans un premier temps. Enlever les humains de la boucle, et il n’y a plus de piste à suivre, c’est pourquoi la détection nécessite de regarder le modèle au fur et à mesure qu’il se forme plutôt que de reconstruire la fraude après qu’elle se soit déjà propagée.

Polymarket a été découvert parce qu’il avait encore besoin de personnes

Personne ne devrait être choqué que une entreprise ait fabriqué son propre hype. C’est un livre de disinformation standard qui a été utilisé pendant des années, et Polymarket a été découvert spécifiquement parce que sa version du livre fonctionnait encore avec des humains, laissant une piste que les journalistes pouvaient suivre.

La prochaine version de cette campagne n’aura pas besoin de tout cela. Une fois que le coût de fabrication d’un consensus tombe proche de zéro, la capacité de faire la différence entre ce qui est réel et ce qui est fabriqué cesse d’être une capacité agréable à avoir et devient la chose dont dépend chaque décision en aval, sur qui faire confiance, ce qu’il faut croire et comment réagir.