Co se falešné výhry Polymarketu vypovídají o vyrobeném konsensu v éře umělé inteligence

V červnu informoval Wall Street Journal o tom, že Polymarket platil tvůrcům, většinou studentům, za to, aby natočili videa, na nichž se sami vidí, jak umístí sázky na webové stránky, které vypadají přesně jako skutečná platforma, a některá z těchto videí ukazovala výhry, které se ve skutečnosti nestaly.

Pak Polymarket najal síť “střihačů”, aby tyto záběry přeposílali, dokud to nevypadalo jako vlna lidí, kteří bohatnou díky této platformě. Z celkových 118 videí oslavovali tvůrci zhruba 900 000 dolarů ve výhrách, které, kdyby byly skutečně vsazeny, by ztratily více než 166 000 dolarů, a celá kampaň zahrnovala 1 105 videí, z nichž žádná neodrážela skutečnou transakci.

Většina reakcí se soustředila na myšlenku falešné reklamy, a to je spravedlivé označení, ale zastavilo se to před tím, než se dostalo k užitečným otázkám, jak Polymarket byl odhalen, a zda taková kampaň bude v budoucnu odhalena. Společnost byla nakonec odhalena, protože tato kampaň závisela na lidech, a lidé zanechávají stopu. Ale umělá inteligence mění to. Náklad na výrobu přesvědčivé online narace se rychle snižuje, a naše schopnost ji odhalit se snižuje stejným tempem.

Model, který běžel na lidech, proti tomu, který je nepotřebuje

Kampaň Polymarketu fungovala, protože vypadala organicky. Tvůrci zveřejňovali ze svých vlastních účtů, jako by zaznamenávali svou vlastní zkušenost, a klipy se šířily, dokud to nevypadalo jako skutečná vlna nadšení spíše než placená operace. Placení tvůrci představovali pouze polovinu toho, co dělalo kampaň fungovat, a druhá polovina, méně viditelná, ale stejně důležitá, byla falešná interakce.

Nejde o náhodu, že tato videa přitáhla 140 milionů zobrazení na TikToku, YouTube a Instagram od tvůrců, kteří jinak průměrně měli několik set zobrazení na příspěvek. Takový dosah obvykle vyžaduje umělé zvýšení počtu zobrazení, lajků a komentářů, obvykle pomocí botů nebo koordinovaných účtů, dokud algoritmus platformy nerozpozná, že se jedná o něco, co lidé skutečně chtějí sledovat. Samotní placení tvůrci zřídka produkují takový růst, a proto Polymarket téměř jistě použil obě taktiky najednou.

To, co to učinilo drahým a nakonec stoprocentně odhalitelným, bylo to, že to fungovalo skrze lidi na každém kroku. Falešné stránky musely být vytvořeny a hostovány, tvůrci museli být placeni, a firma musela být najata, aby spravovala síť přeposílání, a každý z těchto kroků zanechal stopu, kterou mohli investigativní novináři sledovat zpět k zdroji.

Umělá inteligence odstraňuje toto omezení, protože syntetické osobnosti, generované video a klonované hlasy mohou produkovat stejnou iluzi organického nadšení bez mzdy, smlouvy nebo písemné stopy. Mechanismus zůstává stejný. Co zmizí, je potřeba, aby někdo něco podepsal nebo obdržel bankovní převod, aby se to stalo.

Tento posun také mění rozsah problému. Objem online deepfake se zvýšil z přibližně 500 000 v roce 2023 na přibližně 8 milionů v roce 2025, a jakmile se vyrobený obsah zvýší tak rychle, přestává to být příležitostným vstupem do kanálu a začíná to být významnou součástí toho, co tvoří kanál.

Linie mezi inscenovaným a skutečným se nerozlišuje

Většina výkonných ředitelů stále myslí na online narace v binárních termínech, kde je to buď inscenované nebo skutečné. Ale nabídka Polymarketu, že kdokoli může vyhrát velké peníze obchodováním na jejich platformě, začala jako vyrobená a přesto získala trakci u skutečných uživatelů, jakmile enough lidí to vidělo, uvěřilo tomu a jednalo podle toho. V té době přestává být původ narace relevantním faktem, a příběh, který začíná jako fabulace, může stále produkovat zcela skutečné důsledky, jakmile to získá trakci. Nedávný výzkum ukázal, že lidé mohou rozlišit AI-generovaný obsah od autentického obsahu pouze 51% času, blízko k hádání, což znamená, že pro většinu lidí stačí vidět něco ve svém kanálu, aby tomu věřili.

Polymarket proměnil konstruovanou záměnu v obchodovací poplatky. Směřujte stejnou mechaniku na volby nebo jakoukoli spornou veřejnou otázku, a umělá inteligence činí tento druh manipulace snadno spustitelným v rozsahu, se změnami od ztracených příjmů k tomu, komu veřejnost důvěřuje a jak hlasuje.

Proč běžné monitorovací nástroje tohle přehlížejí

Většina monitorování reputace byla postavena na textovém internetu, sledujících zmínky, klíčová slova a hashtagy, ale vnímání se nyní tvoří uvnitř krátkých videí a uvnitř doporučujících systémů, které rozhodují, co se zobrazí. Nástroje postavené na procházení titulků a diskusních vláken nebyly postaveny na čtení tónu, vizuálního kontextu nebo důvěryhodnosti osoby na obrazovce, a nic z toho není volitelnou informací. Je to sama příběh vyprávěný uvnitř videa.

Generace videa pomocí umělých inteligencí se také dostatečně zlepšila, aby produkce přesvědčivého klipu téměř čehokoli již nevyžadovala studio nebo produkční rozpočet. Každý, kdo běží jednu z těchto kampaní, již ví lépe, než aby označil značku nebo použil vyhledávací jazyk, což znamená, že signály, které skutečně nesou naraci, tón, důvěryhodnost tvůrce, komunitní reakce, zůstanou neviditelné pro systém založený na klíčových slovech.

Starý přístup, který spočívá v šetření po faktu, následování písemné stopy, jak to udělal Wall Street Journal s Polymarketem, nebude fungovat, protože taková rekonstrukce závisí na tom, že lidé zanechávají stopu. Odstraňte lidi z smyčky, a nebude žádná stopa, kterou by se dalo sledovat, a proto detekce vyžaduje sledování vzoru, jak se tvoří, spíše než rekonstrukci podvodu poté, co se již rozšířil.

Polymarket byl odhalen, protože stále potřeboval lidi

Nikdo by neměl být překvapen, že společnost vyrobila svou vlastní reklamu. To je standardní playbook dezinformací, který se používá již roky, a Polymarket byl odhalen specificky, protože jeho verze playbooku stále běžela na lidech, zanechávajících stopu, kterou mohl novinář sledovat.

Další verze této kampaně nebude potřebovat nic z toho. Jakmile se náklad na výrobu konsensu sníží téměř na nulu, schopnost rozlišit skutečné od vyrobeného přestane být příjemnou funkcí a stane se tím, na čem závisí každá rozhodnutí, kdo důvěřovat, co věřit a jak reagovat.