Was die gefälschten Siege von Polymarket über das hergestellte Konsens in der Ära KI enthüllen

Im Juni berichtete die Wall Street Journal , dass Polymarket Kreative, meist Studenten, bezahlt hatte, um sich selbst dabei zu filmen, wie sie Wetten auf Websites platzieren, die genauso wie die echte Plattform aussehen, und einige der Videos zeigten Gewinne, die tatsächlich nie stattfanden.

Polymarket heuerte dann ein Netzwerk von “Clippern” an, um die Footage so lange neu zu posten, bis es wie eine organische Welle von Menschen aussah, die mit der Plattform reich wurden. Insgesamt 118 Videos feierten Kreative Gewinne von fast 900.000 Dollar, die, wenn die Wetten tatsächlich platziert worden wären, mehr als 166.000 Dollar verloren hätten, und die gesamte Kampagne umfasste 1.105 Videos, none of which reflected an actual trade.

Die meisten Reaktionen konzentrierten sich auf die Idee der falschen Werbung, und das ist eine faire Beschreibung, aber es bleibt hinter den nützlicheren Fragen zurück, wie Polymarket erwischt wurde und ob eine solche Kampagne in Zukunft unentdeckt bleiben wird. Das Unternehmen wurde letztendlich erwischt, weil eine solche Kampagne auf Menschen basierte, und Menschen hinterlassen eine Spur. Aber KI verändert das. Die Kosten für die Herstellung einer überzeugenden Online-Erzählung sinken rapide, und unsere Fähigkeit, sie zu erkennen, sinkt gleichzeitig.

Ein Modell, das auf Menschen basierte, gegen eines, das sie nicht benötigt

Polymarkets Kampagne funktionierte, weil sie organisch aussah. Kreative posteten von ihren eigenen Konten, als ob sie ihre eigene Erfahrung aufzeichneten, und die Clips verbreiteten sich, bis es sich wie eine echte Welle von Begeisterung anfühlte, anstatt wie eine bezahlte Operation. Bezahlte Kreative machen nur die Hälfte davon aus, was funktioniert hat, und die andere Hälfte, weniger sichtbar, aber ebenso wichtig, war die gefälschte Interaktion.

Es ist kein Zufall, dass diese Videos 140 Millionen Aufrufe auf TikTok, YouTube und Instagram von Kreativen erzielten, die normalerweise nur ein paar hundert Aufrufe pro Beitrag erzielten. Eine solche Reichweite erfordert normalerweise, dass ein Video mit künstlichen Likes, Kommentaren und Aufrufen aufgepumpt wird, typischerweise durch Bots oder koordinierte Konten, bis die Empfehlungs-Engine der Plattform es für etwas hält, das die Menschen wirklich sehen wollen. Bezahlte Kreative allein produzieren selten eine solche Steigerung, was der Grund ist, warum Polymarket wahrscheinlich beide Strategien gleichzeitig anwendete.

Was teuer und letztendlich nachweisbar war, war, dass es durch Menschen bei jedem Schritt lief. Gefälschte Seiten mussten gebaut und gehostet werden, Kreative mussten bezahlt werden, und ein Unternehmen musste beauftragt werden, um das Netzwerk der Neuveröffentlichungen zu managen, und jeder dieser Schritte hinterließ eine Spur, die investigative Journalisten zurückverfolgen konnten.

KI entfernt diese Einschränkung, da synthetische Personen, generierte Videos und geklonte Stimmen die gleiche Illusion von organischer Begeisterung ohne Gehalt, Vertrag oder Papierspur erzeugen können. Die Mechanik bleibt dieselbe. Was verschwindet, ist die Notwendigkeit, dass jemand etwas unterschreibt oder einen Wire-Transfer erhält, um es zu ermöglichen.

Diese Veränderung verändert auch das Ausmaß des Problems. Die Online-Deepfake-Menge stieg von etwa 500.000 im Jahr 2023 auf etwa 8 Millionen im Jahr 2025, und sobald gefälschter Inhalt so schnell wächst, hört er auf, eine gelegentliche Störung in einem Feed zu sein, und beginnt, einen bedeutenden Anteil dessen zu bilden, was den Feed ausmacht.

Die Grenze zwischen inszeniert und echt hält nicht

Die meisten Führungskräfte denken immer noch in binären Begriffen über Online-Erzählungen nach, wo es entweder inszeniert oder echt ist. Aber Polymarkets Pitch, dass jeder groß gewinnen kann, indem er auf ihrer Plattform handelt, begann als hergestellte Erzählung und gewann dennoch an Fahrt, als genug Menschen es sahen, glaubten und entsprechend handelten. Zu diesem Zeitpunkt hört die Herkunft der Erzählung auf, das relevante Faktum zu sein, und eine Geschichte, die als Fälschung beginnt, kann dennoch vollkommen reale Konsequenzen produzieren, wenn sie Fuß fasst. Eine kürzliche Studie fand heraus, dass Menschen KI-generierten Inhalt von authentischem Inhalt nur 51% der Zeit unterscheiden können, was nahezu einem Münzwurf entspricht, was bedeutet, dass für die meisten Menschen das Sehen von etwas in ihrem Feed ausreicht, um es zu glauben.

Polymarket verwandelte konstruierte Verwirrung in Handelsgebühren. Wenn man dieselben Mechanismen auf eine Wahl oder jedes umstrittene öffentliche Thema anwendet, macht KI es leicht, eine solche Manipulation im großen Maßstab durchzuführen, wobei die Einsätze von verlorenem Umsatz zu dem wechseln, wem die Öffentlichkeit vertraut und wie sie abstimmt.

Warum die üblichen Überwachungstools dies verpassen

Die meisten Ruf-Überwachungen wurden entwickelt, um eine textbasierte Internet-Ära zu verfolgen, bei der nach Erwähnungen, Schlüsselwörtern und Hashtags gesucht wurde, aber die Wahrnehmung bildet sich jetzt innerhalb von Kurzvideos und innerhalb der Empfehlungssysteme, die entscheiden, was gesehen wird. Tools, die entwickelt wurden, um Untertitel und Kommentarthreads zu scannen, waren nie darauf ausgelegt, Ton, visuellen Kontext oder die Glaubwürdigkeit der Person auf dem Bildschirm zu lesen, und keines davon ist optional. Es ist die Geschichte selbst, die innerhalb des Videos erzählt wird.

Die KI-Video-Generierung hat auch eine Qualität erreicht, die es ermöglicht, eine überzeugende Szene von fast allem zu produzieren, ohne dass ein Studio oder ein Produktionsbudget erforderlich ist. Jeder, der eine solche Kampagne durchführt, weiß bereits, dass es besser ist, den Markennamen nicht zu verwenden oder suchbare Sprache zu verwenden, was bedeutet, dass die Signale, die die Erzählung tatsächlich tragen, Ton, visueller Kontext, Erzähler-Glaubwürdigkeit, Community-Reaktion, für ein keyword-basiertes System unsichtbar bleiben.

Der alte Ansatz, nachträglich zu untersuchen, der Spur zu folgen, wie die Wall Street Journal es bei Polymarket getan hat, wird nicht funktionieren, weil diese Art der Rekonstruktion davon abhängt, dass Menschen eine Spur hinterlassen. Wenn man die Menschen aus der Schleife nimmt, bleibt keine Spur übrig, die man verfolgen kann, was der Grund ist, warum die Erkennung dieser Kampagnen erfordert, das Muster zu beobachten, während es sich bildet, anstatt den Betrug nachträglich zu rekonstruieren.

Polymarket wurde erwischt, weil es noch immer auf Menschen angewiesen war

Niemand sollte überrascht sein, dass ein Unternehmen seine eigene Hype herstellte. Das ist ein Standard-Playbook für Desinformation, das seit Jahren im Einsatz ist, und Polymarket wurde erwischt, weil seine Version des Playbooks noch immer auf Menschen basierte, was eine Spur hinterließ, die ein Reporter verfolgen konnte.

Die nächste Version dieser Kampagne wird all das nicht benötigen. Sobald die Kosten für die Herstellung von Konsens nahe null sinken, wird die Fähigkeit, echte von hergestellten Erzählungen zu unterscheiden, von einer netten Funktion zu der Sache werden, auf die jede nachgelagerte Entscheidung, über die zu vertrauen ist, was zu glauben ist und wie zu reagieren ist, angewiesen ist.