Mitä Polymarketin väärät voitot paljastavat valmistetun konsensuksen AI-aikakaudella

Kesäkuussa Wall Street Journal raportoi, että Polymarket oli maksanut luojille, pääasiassa yliopiston ikäisille, kuvata itsensä sivustoilla, jotka näyttivät täsmälleen aidolta alustalta, ja joissakin videoissa näytettiin voittoja, jotka eivät todellisuudessa tapahtuneet.

Polymarket palkkasi sitten verkon “leikkaajia” jakamaan kuvaa, kunnes se näytti aidolta aalloilta ihmisten rikastumisesta alustalla. 118 videon joukossa luojat juhlivat lähes 900 000 dollarin voittoja, jotka, jos panokset olisivat todella tehty, olisivat hävinneet yli 166 000 dollaria, ja koko kampanja kattoi 1 105 videota, joista yksikään ei heijastanut todellista kauppaa.

Suurin osa reaktiosta on keskittynyt väärän mainonnan ideaan, ja se on oikea kuvaus, mutta se jää lyhyeksi kysymyksistä, miten Polymarket sai kiinni, ja saadaanko tällainen kampanja tulevaisuudessa havaitsematta. Yritys sai lopulta kiinni, koska tällainen kampanja perustui ihmisiin, ja ihmiset jättävät jälkensä. Mutta AI muuttaa sitä. Uskottavan online-kertomuksen valmistamisen kustannus laskee nopeasti, ja meidän kykymme havaita se laskee samalla.

Malli, joka toimi ihmisten avulla, vastaan malli, joka ei tarvitse heitä

Polymarketin kampanja toimi, koska se näytti aidolta. Luojat julkaisivat omilta tileiltään kuin he olisivat tallentaneet oman kokemuksensa, ja klipit levisivät, kunnes se tuntui aidolta aalloilta innostusta eikä palkatusta operaatiosta. Palkatut luojat käsittävät vain puolet siitä, mikä teki tämän toimivaksi, ja toinen puoli, vähemmän näkyvä mutta yhtä välttämätön, oli väärä kanssakäyminen.

Näiden videoiden kerääminen 140 miljoonaa näyttökertaa TikTokissa, YouTubessa ja Instagramissa luojilta, jotka muuten keskimäärin saivat vain muutaman sadan näyttökerran julkaisuun, ei ole sattumaa. Tällainen ulottuvuus vaatii yleensä pumpaamista videota keinotekoisilla tykkäyksillä, kommentteilla ja näyttökertoilla, tyypillisesti boteilla tai koordinoitujen tilejen kautta, kunnes alustan suositusmoottori luulee sen olevan jotain, mitä ihmiset todella haluavat katsoa. Palkatut luojat yksin harvoin tuottavat tällaista nostoa, joten Polymarket käytti melko varmasti molempia strategioita yhtä aikaa.

Mikä teki tämän kalliiksi ja lopulta jäljitettyksi, oli se, että se toimi ihmisten kautta jokaisessa vaiheessa. Väärät sivustot piti rakentaa ja isännöidä, luojille piti maksaa, ja yritys piti palkata hallinnoimaan uudelleenjulkaisuverkostoa, ja jokainen näistä vaiheista jätti jälkensä, jonka tutkivat journalistit pystyivät seuraamaan takaisin lähteeseen.

AI poistaa tämän rajoituksen, koska synteettiset henkilöhahmot, generoitu video ja klooniäänet voivat tuottaa saman illuusion aidosta innostuksesta ilman palkollista, sopimusta tai paperijälkeä. Mekaniikka pysyy samana. Mitä katoaa, on tarve kenellekään allekirjoittaa mitään tai vastaanottaa pankkisiirtoa, jotta se tapahtuisi.

Tämä muutos muuttaa myös ongelman mittakaavaa. Online-deepfake määrä kasvoi noin 500 000:sta vuonna 2023 noin 8 miljoonaan vuoteen 2025 mennessä, ja kun valmistettu sisältö kasvaa nopeasti, se lakkauttaa olemasta satunnainen intruusio syötteessä ja alkaa muodostua merkittäväksi osaksi siitä, mitä syötteessä muodostuu.

Raja väärän ja aidon välillä ei pidä

Useimmat johtajat ajattelevat edelleen online-kertomuksia binäärisissä termeissä, jossa se on joko lavastettu tai aito. Mutta Polymarketin tarjous, jonka mukaan kuka tahansa voi voittaa paljon rahaa heidän alustallaan, alkoi valmistetusta ja sai silti jalansijaa todellisilla käyttäjillä, kunnes riittävästi ihmisiä näki sitä, uskoi siihen ja toimi sen mukaan. Silloin kertomuksen alkuperä lakkauttaa olemasta relevantti faktori, ja tarina, joka alkaa valmistettuna, voi silti tuottaa täysin todellisia seurauksia, kun se saa jalansijaa. Viimeaikaiset tutkimukset osoittavat, että ihmiset voivat erottaa AI-generoituja sisältöjä aidoista sisällöistä vain 51%:ssa tapauksista, lähellä kolikkoa, mikä tarkoittaa, että useimmat ihmiset uskovat siihen, mitä he näkevät syötteessään.

Polymarket muutti suunnitellun sekaannuksen kaupankäyntimaksuiksi. Kohdista sama mekaniikkaa vaaliin tai mihin tahansa kiistanalaiseen julkiseen asiaan, ja AI tekee tämänkaltaisen manipulaation helpoksi suorittaa suuressa mittakaavassa, ja panokset siirtyvät menetetystä tulosta siihen, kuka julkinen luottaa ja miten he vastaavat.

Miksi tavalliset seurantatyökalut eivät havaitse tätä

Useimmat maineen seurantatyökalut on rakennettu seuraamaan tekstipohjaista internettiä, jossa seurataan mainintoja, avainsanoja ja hashtaggejä, mutta käsitys muodostuu nykyään lyhyissä videoissa ja suositussysteemeissä, jotka päättävät, mitä näytetään. Työkalut, jotka on rakennettu lukemaan otsikoita ja kommenttiwikkejä, eivät ole suunniteltu lukemaan sävyä, visuaalista kontekstia tai ruudulla olevan henkilön luotettavuutta, eikä mikään näistä ole enää vapaaehtoista tietoa. Se on itse kertomus, joka kerrotaan videossa.

AI-videogeneraatio on myös saavuttanut riittävän hyvän tasoon, jotta uskottavan klipin tuottaminen melkein mitä tahansa ei enää vaadi studiota tai tuotantobudjettia. Kuka tahansa, joka pyörittää tällaista kampanjaa, tietää jo, ettei kannata merkitä brändiä tai käyttää haettavia kieli- tai avainsanoja, mikä tarkoittaa, että signaalit, jotka todella kantavat kertomusta, sävy, luojan luotettavuus, yhteisöreaktio, pysyvät näkymättöminä avainsana-pohjaiselle järjestelmälle suunnitellusti.

Vanha lähestymistapa, jossa tutkitaan asiaa jälkikäteen, seurataan paperijälkeä siitä, miten Wall Street Journal teki Polymarketin kanssa, ei skaalautuukaan, koska tällainen rekonstruktio riippuu siitä, että ihmiset jättävät jälkensä. Poista ihmiset silmukasta, ja jälkeä ei ole enää seurattavissa, mikä tekee tämän havaitsemisen vaativaksi kertomuksen muodostumisen aikana eikä sen jälkeen, kun se on jo levinnyt.

Polymarket sai kiinni, koska se tarvitsi edelleen ihmisiä

Kukaan ei pitäisi olla yllättynyt siitä, että yritys valmisti oman hypeensä. Se on standardi-disinformaatio- pelikirja, jota on käytetty vuosia, ja Polymarket sai kiinni nimenomaan, koska heidän versionsa pelikirjasta edelleen pyöri ihmisten voimin, jättäen jälkensä, jonka toimittaja pystyi seuraamaan lähteeseen.

Seuraava versio tästä kampanjasta ei tarvitse mitään tätä. Kun konsensuksen valmistamisen kustannus laskee lähes nollaan, kyky erottaa aito ja valmistettu lakkauttaa olemasta mukava ominaisuus ja tulee asiaksi, josta jokainen alasvirtainen päätös, kukaan luottaa, mitä uskoo ja miten vastaa, riippuu.