Hva Polymarkets falske seiere avslører om fabrikkert konsensus i AI-æraen

I juni rapporterte Wall Street Journal at Polymarket hadde betalt skapere, hovedsakelig studenter, for å filme seg selv mens de plasserte bet på nettsteder som var bygget for å se ut som den ekte plattformen, og noen av videoene viste seire som aldri faktisk skjedde.

Polymarket leide deretter en nettverk av “klippere” for å dele videoene til det så ut som en organisk bølge av mennesker som ble rike på plattformen. Over en samling av 118 videoer, feiret skaperne nærmere 900 000 dollar i gevinster som, hvis betene faktisk hadde blitt plassert, ville ha tapt mer enn 166 000 dollar, og hele kampanjen dekket 1 105 videoer, ingen av dem reflekterte en faktisk handel.

Det meste av reaksjonen har fokusert på ideen om falsk reklame, og det er en rimelig beskrivelse, men det stopper kort av de mer nyttige spørsmålene om hvordan Polymarket ble fanget, og om en slik kampanje vil bli oppdaget i fremtiden. Selskapet ble ultimate fanget fordi en slik kampanje avhenger av mennesker, og mennesker etterlater en spor. Men AI endrer dette. Kostnaden av å fabrikke en overbevisende nett-narrativ er falt raskt, og vår evne til å fange det faller like fort med det.

En modell som kjører på mennesker, mot en som ikke trenger dem

Polymarkets kampanje virket fordi den så ut som organisk. Skaperne postet fra sine egne kontoer som om de filmet sin egen erfaring, og klippene spredte seg til det føltes som en ekte bølge av entusiasme snarere enn en betalt operasjon. Betalte skapere står bare for halvparten av hva som gjorde dette virke, og den andre halvparten, mindre synlig men like essensiell, var fabrikkert engasjement.

Det er ikke en tilfeldighet at disse videoene trakk inn 140 millioner visninger på TikTok, YouTube og Instagram fra skapere som ellers hadde et gjennomsnitt på noen hundre visninger per innlegg. En rekkevisning som dette vanligvis krever pumping av en video med kunstig likes, kommentarer og visninger, vanligvis gjennom boter eller koordinerte kontoer, til platformatets anbefalingsmotor feilaktig tar det for noe folk virkelig ønsker å se. Betalte skapere alene produserer sjelden en slik løft, som er hvorfor Polymarket nesten sikkert kjørte begge spill samtidig.

Hva gjorde dette dyrt, og ultimate sporbar, er at det kjørte gjennom mennesker på hvert trinn. Falske nettsteder måtte bygges og vertes, skapere måtte betales, og et firma måtte hyres for å håndtere gjengivelsesnettverket, og hvert av disse trinnene etterlot en rekord som undersøkende journalister kunne følge tilbake til kilden.

AI fjerner denne begrensningen, siden syntetiske personer, generert video og klonet stemmer kan produsere samme illusjon av organisk entusiasme uten en lønn, en kontrakt eller en papirspor. Mekanikken forblir den samme. Hva som forsvinner er behovet for noen å signere noe eller ta en bankoverføring for å gjøre det skje.

Denne skiftet endrer også skalaen på problemet. Online deepfake volum gikk fra omtrent 500 000 i 2023 til omtrent 8 millioner i 2025, og når fabrikkert innhold vokser så raskt, stopper det å være en sjelden intrusjon i en feed og begynner å bli en betydelig andel av hva som utgjør feeden.

Grensen mellom iscenesatt og ekte holder ikke

De fleste ledere tenker fortsatt på nett-narrativer i binære termer, hvor det enten er iscenesatt eller ekte. Men Polymarkets pitch, at noen kan vinne stort på deres plattform, startet av fabrikkert og fikk likevel grep på ekte brukere når nok mennesker så det, trodde på det og handlet etter det. På det punktet stopper opphavet av narrativen å være den relevante faktoren, og en historie som begynner som fabrikasjon kan likevel produsere helt ekte konsekvenser når den får grep. Nylig forskning fant at mennesker kan skille AI-generert innhold fra ekte innhold kun 51% av tiden, nær en myntkast, hvilket betyr at for de fleste mennesker er å se noe på deres feed nok til å tro på det.

Polymarket omdannet konstruert forvirring til handelsgebyrer. Peke samme mekanismer mot et valg eller noen kontroversielle offentlige spørsmål, og AI gjør det lett å kjøre en slik manipulering i skala, med innsatsene som går fra tapte inntekter til hvem offentligheten stoler på og hvordan de stemmer.

Hvorfor de vanlige overvåkingsverktøyene missar dette

De fleste omdømmeovervåkninger ble bygget for å spore en tekst-basert internett, og å se etter omtaler, nøkkelord og hashtagger, men oppfatning dannes nå innen kortform-video og innen anbefalingssystemene som bestemmer hva som sees. Verktøy bygget for å scanne undertekster og kommentartråder var aldri bygget for å lese tone, visuell kontekst eller troverdigheten til personen på skjermen, og ingen av dette er valgfritt informasjon lenger. Det er historien selv fortalt innen videoen.

AI-video-generering har også blitt god nok, raskt nok, til å produsere en overbevisende klipp av nesten hva som helst uten å kreve en studio eller en produksjonsbudsjett. Alle som kjører en slik kampanje vet allerede bedre enn å merke varemerket eller bruke søkbart språk, hvilket betyr at signalene som faktisk bærer narrativen, tone, skaper-troverdighet, samfunnsreaksjon, forblir usynlige for et nøkkelord-basert system av design.

Den gamle tilnærmingen til å undersøke etter faktum, og å følge papirsporet som Wall Street Journal gjorde med Polymarket, vil heller ikke skala, fordi en slik rekonstruksjon avhenger av at mennesker etterlater en spor i første omgang. Fjern menneskene fra løkken, og det er ingen spor igjen å følge, hvilket er hvorfor det å oppdage dette krever å se etter mønsteret mens det dannes snarere enn å rekonstruere svindelen etter at den allerede har spredt seg.

Polymarket ble fanget fordi det fortsatt trengte mennesker

Ingen bør være overrasket over at et selskap fabrikerte sin egen hype. Dette er en standard desinformasjons-håndbok som har vært i bruk i år, og Polymarket ble fanget spesifikt fordi deres versjon av håndboken fortsatt kjørte på mennesker, og etterlot en spor som en reporter kunne følge tilbake til kilden.

Neste versjon av denne kampanjen vil ikke trenge noen av det. Når kostnaden av å fabrikke konsensus faller nær null, blir evnen til å skille ekte fra fabrikkert ikke lenger en fin-til-ha-egenskap, men det som hver nedstrøms beslutning, om hvem å stole på, hva å tro, og hvordan å reagere, avhenger av.