Vad Polymarkets falska vinster avslöjar om tillverkad konsensus i AI-eran

I juni rapporterade Wall Street Journal att Polymarket hade betalat skapare, mestadels collegestudenter, för att filma sig själva när de placerade bet på webbplatser som såg ut exakt som den riktiga plattformen, och vissa av videorna visade vinster som aldrig faktiskt inträffade.

Polymarket anställde sedan ett nätverk av “klippare” för att dela videorna tills det såg ut som en organisk våg av människor som blev rika på plattformen. Över en uppsättning av 118 videor firade skaparna nästan 900 000 dollar i vinster som, om insatserna faktiskt hade gjorts, skulle ha förlorat mer än 166 000 dollar, och hela kampanjen omfattade 1 105 videor, ingen av dem reflekterade en faktisk handel.

De flesta reaktioner har fokuserat på idén om falsk reklam, och det är en rimlig beskrivning, men det stoppar kort för de mer användbara frågorna om hur Polymarket blev fångad och om den typen av kampanj kommer att gå obemärkt i framtiden. Företaget blev till slut fångat eftersom den typen av kampanj byggde på människor, och människor lämnar en spår. Men AI förändrar det. Kostnaden för att tillverka en övertygande online-berättelse sjunker snabbt, och vår förmåga att upptäcka det sjunker precis lika snabbt.

En modell som körde på människor, mot en som inte behöver dem

Polymarkets kampanj fungerade eftersom den såg ut som en organisk kampanj. Skaparna publicerade från sina egna konton som om de spelade in sin egen upplevelse, och klippen spreds tills det kändes som en äkta våg av entusiasm snarare än en betald operation. Betalda skapare stod bara för hälften av vad som gjorde det här fungera, och den andra hälften, mindre synlig men lika viktig, var falsk engagemang.

Det är ingen tillfällighet att dessa videor drog in 140 miljoner visningar på TikTok, YouTube och Instagram från skapare som annars hade ett fåtal hundra visningar per inlägg. En sådan räckvidd kräver vanligtvis att en video pumpas med artificiella gillanden, kommentarer och visningar, vanligtvis genom botar eller samordnade konton, tills plattformens rekommendationssystem misstar det för något som människor verkligen vill se. Betalda skapare ensam producerar sällan den typen av lyft, vilket är varför Polymarket nästan säkert körde båda spel samtidigt.

Vad som gjorde det här dyrt och slutligen spårbar var att det körde genom människor på varje steg. Falska webbplatser måste byggas och värdas, skapare måste betalas, och ett företag måste anställas för att hantera ompubliceringsnätverket, och varje steg lämnade en post som undersökande journalister kunde följa tillbaka till källan.

AI tar bort den begränsningen, eftersom syntetiska personer, genererad video och klonade röster kan producera samma illusion av organisk entusiasm utan en lönelista, ett kontrakt eller en pappersspår. Mekanismen förblir densamma. Vad som försvinner är behovet av att någon ska skriva under något eller ta emot en banköverföring för att göra det hända.

Den förändringen förändrar också omfattningen av problemet. Online deepfake volym gick från cirka 500 000 år 2023 till cirka 8 miljoner år 2025, och när tillverkad innehåll växer så snabbt slutar det vara en tillfällig intrång i en feed och börjar bli en meningsfull andel av vad som utgör feeden.

Gränsen mellan iscensatt och äkta håller inte

De flesta chefer tänker fortfarande på online-berättelser i binära termer, där det antingen är iscensatt eller äkta. Men Polymarkets pitch, att vem som helst kan vinna stort på deras plattform, började som tillverkad och fick ändå fäste hos riktiga användare när tillräckligt många såg det, trodde på det och agerade på det. Vid den punkten slutar ursprunget till berättelsen att vara den relevanta faktorn, och en berättelse som börjar som tillverkning kan fortfarande producera helt äkta konsekvenser när den får fäste. Nylig forskning fann att människor kan skilja AI-genererat innehåll från äkta innehåll endast 51% av tiden, nära en myntkast, vilket betyder att för de flesta människor är att se något på sin feed fortfarande tillräckligt för att tro på det.

Polymarket förvandlade konstruerad förvirring till handelsavgifter. Rikta samma mekanismer mot ett val eller någon kontroversiell offentlig fråga, och AI gör det lätt att köra den typen av manipulation i stor skala, med insatser som flyttas från förlorad inkomst till vem allmänheten litar på och hur de röstar.

Varför de vanliga övervakningsverktygen missar detta

De flesta ryktesövervakningar byggdes för att spåra en textbaserad internet, och titta på omnämnanden, nyckelord och hashtagg, men uppfattning bildas nu inom kortformad video och inom rekommendationssystemen som bestämmer vad som visas. Verktyg byggda för att skanna rubriker och kommentartrådar byggdes aldrig för att läsa ton, visuell kontext eller den person som är på skärmen trovärdighet, och ingen av den informationen är valfri information längre. Det är berättelsen i sig själv berättad inom videon.

AI-videogenerering har också blivit tillräckligt bra, tillräckligt snabbt, för att producera en övertygande klipp av nästan allt, utan att behöva en studio eller en produktionsbudget. Någon som kör en av dessa kampanjer vet redan bättre än att märka varumärket eller använda sökbar språk, vilket betyder att signalerna som faktiskt bär berättelsen, ton, skaparens trovärdighet, communityreaktion, förblir osynliga för ett nyckelordsbaserat system av design.

Den gamla metoden att undersöka efteråt, följa pappersspåret som Wall Street Journal gjorde med Polymarket, kommer inte att fungera heller, eftersom den typen av rekonstruktion beror på att människor lämnar en spår. Ta bort människor från loopen, och det finns inget spår kvar att följa, vilket är varför upptäckt kräver att man tittar på mönstret medan det formas snarare än att rekonstruera bedrägeriet efter att det redan har spridits.

Polymarket blev fångad eftersom de fortfarande behövde människor

Ingen borde vara chockad över att ett företag tillverkade sin egen hype. Det är en standard desinformationshandbok som har använts i år, och Polymarket blev fångad specifikt eftersom deras version av handboken fortfarande körde på människor, och lämnade en spår som en reporter kunde följa tillbaka till källan.

Nästa version av den här kampanjen kommer inte att behöva något av det. När kostnaden för att tillverka konsensus sjunker nära noll, blir förmågan att skilja på riktigt och tillverkat en nödvändig funktion som varje nedströmsbeslut, om vem man ska lita på, vad man ska tro, och hur man ska reagera, beror på.