Hvad Polymarkets falske sejre afslører om fabrikeret konsensus i AI-æraen

I juni rapporterede Wall Street Journal, at Polymarket havde betalt skabere, primært studerende, for at filme sig selv, mens de satte ind på websites, der var bygget til at se ud som den rigtige platform, og nogle af videoerne viste sejre, der aldrig faktisk skete.

Polymarket hyrede derefter et netværk af “clippere” til at dele optagelserne, indtil det så ud som en organisk bølge af mennesker, der blev rige på platformen. Over en samling af 118 videoer fejrede skabere næsten 900.000 dollars i gevinster, der, hvis væddemålene faktisk var blevet sat, ville have tabt mere end 166.000 dollars, og den fulde kampagne dækkede 1.105 videoer, ingen af dem reflekterede en reel handel.

Det meste af reaktionen har fokuseret på idéen om falsk reklame, og det er en fair beskrivelse, men det stopper kort af de mere nyttige spørgsmål om, hvordan Polymarket blev fanget, og om den slags kampagne vil blive opdaget i fremtiden. Selskabet blev fanget, fordi denne type kampagne afhængigt af mennesker, og mennesker efterlader en spor. Men AI ændrer det. Omkostningerne ved at fabrikere en overbevisende online-narrativ falder hurtigt, og vores evne til at fange det falder lige så hurtigt.

En model, der kører på mennesker, op imod en, der ikke har brug for dem

Polymarkets kampagne virkede, fordi den så organisk ud. Skabere postede fra deres egne konti, som om de optog deres egen oplevelse, og klipperne spredte sig, indtil det føltes som en ægte bølge af entusiasme snarere end en betalt operation. Betalte skabere står kun for halvdelen af, hvad der gjorde det virke, og den anden halvdel, mindre synlig, men lige så essentiel, var falsk engagement.

Det er ikke en tilfældighed, at disse videoer trak 140 millioner visninger på TikTok, YouTube og Instagram fra skabere, der ellers havde et gennemsnit på få hundred visninger pr. post. En række som den kræver normalt, at en video pumpes med kunstige likes, kommentarer og visninger, typisk gennem bots eller koordinerede konti, indtil platformens anbefalingsmotor fejlagtigt tror, det er noget, folk virkelig vil se. Betalte skabere alene producerer sjældent den slags lift, hvilket er, hvorfor Polymarket næsten med sikkerhed kørte begge plays på samme tid.

Hvad gjorde det dyrt og ultimativt sporbar, var, at det kørte gennem mennesker på hvert trin. Falske sites skulle bygges og hostes, skabere skulle betales, og et firma skulle hyres til at styre netværket af klipper, og hvert af disse trin efterlod en optagelse, som investigative journalister kunne følge tilbage til kilden.

AI fjerner den begrænsning, da syntetiske personaer, genererede videoer og klonede stemmer kan producere den samme illusion af organisk entusiasme uden en lønningsliste, en kontrakt eller en papirspor. Mekanikken forbliver den samme. Hvad forsvinder, er behovet for, at nogen skal underskrive noget eller modtage en bankoverføring for at gøre det ske.

Denne ændring ændrer også skalaen af problemet. Online deepfake-volumen gik fra omkring 500.000 i 2023 til omkring 8 millioner i 2025, og når fabrikeret indhold vokser så hurtigt, stopper det med at være en lejlighedsvis indtrængen i en feed og begynder at blive en betydelig andel af, hvad der udgør feeden.

Grænsen mellem iscenesat og ægte holder ikke

De fleste chefer tænker stadig på online-narrativer i binære termer, hvor det enten er iscenesat eller ægte. Men Polymarkets pitch, at alle kan vinde stort på deres platform, startede med at være fabrikeret og fik alligevel fodfæste hos rigtige brugere, når nok mennesker så det, troede på det og handlede efter det. På det tidspunkt stopper oprindelsen af narrativen med at være den relevante faktor, og en historie, der starter som fabrikation, kan stadig producere helt ægte konsekvenser, når den får fodfæste. Nylig forskning fandt, at mennesker kan skelne AI-genereret indhold fra ægte indhold kun 51% af tiden, tæt på en møntkast, hvilket betyder, at for de fleste mennesker er det stadig nok at se noget på deres feed for at tro på det.

Polymarket omdannede fabrikeret forvirring til handelsgebyrer. Ret den samme mekanik mod et valg eller enhver omdiskuteret offentlig sag, og AI gør det slags manipulation let at køre i stor skala, med indsatsen flyttende sig fra tabt omsætning til, hvem offentligheden stoler på, og hvordan de stemmer.

Hvorfor de sædvanlige overvågningsværktøjer ikke fanger dette

De fleste rygteovervågningsværktøjer blev bygget til at spore en tekst-baseret internet, hvor man ser efter nævnelser, nøgleord og hashtags, men perception dannes nu inden for kortformvideo og inden for anbefalingssystemerne, der bestemmer, hvad der ses. Værktøjer bygget til at scanne undertekster og kommentartråde var aldrig bygget til at læse tone, visuel kontekst eller den person, der er på skærmen, og ingen af det er valgfrit information mere. Det er selv historien fortalt inden for videoen.

AI-video-generering er også blevet godt nok, hurtigt nok, til, at producere en overbevisende klip af næsten alt ikke længere kræver et studie eller en produktionsbudget. Enhver, der kører en af disse kampagner, ved allerede bedre end at mærke mærket eller bruge søgbart sprog, hvilket betyder, at signalerne, der faktisk bærer narrativen, tone, skaberkredibilitet, fællesskabsreaktion, forbliver usynlige for et nøgleordsbaseret system ved design.

Den gamle tilgang til at undersøge efter faktum, følge papirsporet, som Wall Street Journal gjorde med Polymarket, skal heller ikke skaleres, fordi den slags rekonstruktion afhænger af, at mennesker efterlader en spor. Fjern menneskerne fra løkken, og der er ingen spor tilbage at følge, hvilket er, hvorfor det kræver at se efter mønsteret, mens det dannes, snarere end at genskabe svindelen, efter den allerede har spredt sig.

Polymarket blev fanget, fordi det stadig havde brug for mennesker

Ingen burde være chokeret over, at et selskab fabrikerede sin egen hype. Det er en standard desinformationsspil, der har været i brug i år, og Polymarket blev fanget specifikt, fordi deres version af spillet stadig kørte på mennesker, efterladende en spor, en reporter kunne følge tilbage til kilden.

Næste version af denne kampagne har ikke brug for noget af det. Når omkostningerne ved at fabrikere konsensus falder nær zero, stopper evnen til at skelne mellem ægte og fabrikeret med at være en nice-to-have-funktion og bliver det, alle downstream-beslutninger afhænger af, om hvem at stole på, hvad at tro, og hvordan at reagere.