Co czym ujawniają fałszywe zwycięstwa Polymarketu w sprawie sztucznie wytworzonej zgody w erze AI

W czerwcu Wall Street Journal zgłosił, że Polymarket płacił twórcom, głównie studentom, za nagrywanie się, gdy stawiali zakłady na stronach internetowych, które wyglądały dokładnie jak prawdziwa platforma, a niektóre z tych filmów pokazywały wygrane, które w rzeczywistości nie miały miejsca.

Następnie Polymarket zatrudnił sieć “klipperów”, aby ponownie opublikować te filmy, aż wyglądało to jak organiczna fala ludzi, którzy zarabiali na platformie. Wśród 118 filmów twórcy świętowali blisko 900 000 dolarów w wygranych, które, gdyby zakłady zostały rzeczywiście postawione, straciłyby ponad 166 000 dolarów, a cała kampania objęła 1 105 filmów, z których żaden nie odzwierciedlał rzeczywistego obrotu.

Większość reakcji koncentrowała się na idei fałszywej reklamy, i to jest słuszne określenie, ale nie dochodzi do sedna bardziej przydatnych pytań, jak Polymarket został złapany i czy tego rodzaju kampania będzie niezauważalna w przyszłości. Firma ostatecznie została złapana, ponieważ tego rodzaju kampania opierała się na ludziach, a ludzie pozostawiają ślad. Ale AI zmienia to. Koszt wytworzenia przekonywującej narracji internetowej spada szybko, a nasza zdolność do jej wykrycia spada wraz z nim.

Model, który działał na ludziach, wobec tego, który nie potrzebuje ich

Kampania Polymarketu działała, ponieważ wyglądała na organiczną. Twórcy publikowali na swoich kontach, jakby nagrywali swoje własne doświadczenia, a klipy rozprzestrzeniały się, aż wyglądało to jak prawdziwa fala entuzjazmu, a nie płatna operacja. Płatni twórcy stanowią tylko połowę tego, co sprawiło, że to działało, a druga połowa, mniej widoczna, ale równie istotna, to fałszywe zaangażowanie.

To nie jest przypadkowe, że te filmy przyciągnęły 140 milionów wyświetleń na TikToku, YouTube i Instagram od twórców, którzy zwykle mieli tylko kilkaset wyświetleń na post. Zasięg taki zwykle wymaga pompowania filmu sztucznymi polubieniami, komentarzami i wyświetleniami, zwykle za pomocą botów lub skoordynowanych kont, aż silnik rekomendacji platformy myli to z czymś, co ludzie naprawdę chcą obejrzeć. Płatni twórcy rzadko produkuje taki wzrost, dlatego Polymarket prawdopodobnie prowadził obie akcje jednocześnie.

To, co uczyniło to drogim i ostatecznie możliwym do wykrycia, to to, że działało przez ludzi na każdym etapie. Fałszywe strony musiały być zbudowane i hostowane, twórcy musieli być opłaceni, a firma musiała być zatrudniona do zarządzania siecią ponownych publikacji, a każdy z tych kroków pozostawił ślad, który dziennikarze śledczy mogli śledzić aż do źródła.

AI usuwa ten ogranicznik, ponieważ syntetyczne osoby, wygenerowane filmy i sklonowane głosy mogą produkować ten sam złudzenie organicznego entuzjazmu bez wynagrodzenia, umowy lub papierowego śladu. Mechanika pozostaje taka sama. To, co znika, to potrzeba kogoś, kto musi coś podpisać lub otrzymać przelew, aby to się stało.

To przejście również zmienia skalę problemu. Objętość internetowych deepfake wzrosła z około 500 000 w 2023 roku do około 8 milionów w 2025 roku, a gdy sfabrykowane treści rosną tak szybko, przestają być okazjonalnym wtargnięciem do kanału i zaczynają stanowić znaczącą część tego, co tworzy kanał.

Granica między sfabrykowanym a prawdziwym nie jest już ważna

Większość dyrektorów nadal myśli o narracjach internetowych w binarnych kategoriach, gdzie albo są one sfabrykowane, albo autentyczne. Ale propozycja Polymarketu, że każdy może wygrać duże pieniądze, handlując na ich platformie, zaczęła się od sfabrykowania i nadal zyskała popularność wśród prawdziwych użytkowników, gdy wystarczająco wielu ludzi to zobaczyło, uwierzyło i zareagowało. W tym momencie pochodzenie narracji przestaje być istotnym faktem, a historia, która zaczyna się od sfabrykowania, może nadal produkować całkowicie prawdziwe konsekwencje, gdy się rozprzestrzenia. Ostatnie badania wykazały, że ludzie mogą odróżnić treści generowane przez AI od autentycznych tylko 51% czasu, co jest bliskie rzutowi monetą, co oznacza, że dla większości ludzi widzenie czegoś na ich kanale jest wystarczające, aby w to uwierzyć.

Polymarket przekształcił sfabrykowany chaos w opłaty za transakcje. Skieruj tę samą mechanikę na wybory lub jakąkolwiek sporną kwestię publiczną, a AI sprawia, że tego rodzaju manipulacja jest łatwa do przeprowadzenia na dużą skalę, a stawka przechodzi od utraconych dochodów do tego, komu publiczność ufa i jak głosuje.

Dlaczego zwykłe narzędzia monitorowania nie wykrywają tego

Większość monitorowania reputacji zostało zbudowane, aby śledzić internet oparty na tekście, obserwując wzmianki, słowa kluczowe i hashtagi, ale percepcja tworzy się teraz w krótkich filmach i w systemach rekomendacji, które decydują, co jest widoczne. Narzędzia zbudowane do skanowania napisów i wątków komentarzy nie były zaprojektowane do czytania tonu, kontekstu wizualnego ani wiarygodności osoby na ekranie, a żadne z tych informacji nie jest już opcjonalne. To jest sama historia opowiedziana w filmie.

Generowanie filmów AI jest już wystarczająco dobre i szybkie, aby produkować przekonywujący klip niemal wszystkiego bez studia lub budżetu produkcyjnego. Każdy, kto prowadzi tego rodzaju kampanię, wie lepiej, niż używać znaczników marki lub języka wyszukiwalnego, co oznacza, że sygnały, które naprawdę przenoszą narrację, ton, wiarygodność twórcy, reakcja społeczności, pozostają niewidoczne dla systemu opartego na słowach kluczowych.

Stary sposób postępowania, polegający na śledzeniu po fakcie, śledzeniu śladu, jak to zrobił Wall Street Journal z Polymarketem, nie będzie już działał, ponieważ ten rodzaj rekonstrukcji opiera się na tym, że ludzie pozostawiają ślad. Usunięcie ludzi z pętli oznacza, że nie ma już śladu do śledzenia, dlatego wykrywanie tego wymaga obserwowania wzorca, gdy się tworzy, a nie odtwarzania oszustwa po jego już rozprzestrzenieniu się.

Polymarket został złapany, ponieważ nadal potrzebował ludzi

Nikt nie powinien być zaskoczony, że firma sfabrykowała własny hype. To standardowy podręcznik dezinformacji, który był używany przez lata, a Polymarket został złapany specjalnie, ponieważ jego wersja podręcznika nadal działała na ludziach, pozostawiając ślad, który reporter mógł śledzić.

Następna wersja tej kampanii nie będzie już tego wymagać. Gdy koszt wytworzenia zgody spadnie do zera, zdolność do odróżnienia prawdziwego od sfabrykowanego przestaje być przydatną funkcjonalnością i staje się tym, na czym każda dalsza decyzja, o tym, komu ufać, co wierzyć i jak reagować, zależy.