Sean Gourley, Primerin CEO ja perustaja – Haastattelusarja

Sean Gourley on Primerin CEO ja perustaja, joka tarjoaa teollisuusluokan luonnollisen kielen prosessointia (NLP) sovelluksia hallituksille, rahoituslaitoksille, Fortune 50 -yrityksille ja monille muille organisaatioille.

Yksi Primerin tärkeimmistä käyttötavoista on auttaa ihmisiä havaitsemaan, ymmärtämään ja reagoimaan harhaanjohtavien kampanjoihin. Primer on hankkinut Yonderin parantamaan kykyään torjua harhaanjohtavia hyökkäyksiä.

Tapaamme Seanin keskustellaksemme harhaanjohtavista tiedoista ai4-konferenssissa Las Vegasissa. Sean on aarreaitta tietoa harhaanjohtavista kampanjoista ja hallituksen propagandasta. Alla on haastattelumme.

Mikä alun perin kiinnosti sinua oppimaan ja ymmärtämään koko harhaanjohtavan ekosysteemin?

Puhuin hieman siitä, miten kiinnostuin algoritmien maailmasta, jotka yrittivät ymmärtää, mitä maailmassa tapahtui, ja sitten käydä kauppaa siitä. Se oli mielenkiintoista. Tämä oli vuonna 2012, ja me olimme havainnoimassa melua.

Heidän lukemansa asiat olivat väärin, kun he tulkitsivat signaaleja väärin. Sitten tuli twiitti, joka väitti, että AP oli hakkeroinut. Heidän Twitter-tilinsä sanoi: “Breaking: Valkoisen talon räjähdys, Barack Obama loukkaantui.” Sitten markkinat menettivät noin 130 miljardia dollaria twiitin vuoksi. En tiedä, oliko se tarkoitus ajaa markkinoita, luoda hämmennystä vai tehdä jotain muuta, mutta se oli yhteys siihen aikaan, ja minä olin kuin “Vau.” Se oli kuin perhosen siivenisku, joka luo vaikutuksen, koska se hyödyntää joukkoa algoritmisia toimijoita, jotka eivät ole kovin älykkäitä.

Näin sen, ja se sai minut kaivamaan ja aloittamaan etsimisen… Ja näin, että oli paljon meksikolaisia botteja, meksikolaisia tilejä, jotka väittivät, että toimittajat eivät kuolleet huumekartellien toiminnassa. Tämä oli vuonna 2013, ja minä olin kuin “Oi Jumala, sinulla on ei-valtiolliset toimijat, huumekartellit, jotka osallistuvat tähän, luodakseen kertomuksen taistelun. Ja näyttää siltä, että he voittavat.” Ja minä olin kuin “Nämä eivät edes ole valtiollisia toimijoita.” Ja silloin minä sanoin itselleni: “Mitä jos valtiollinen toimija saa käsiinsä tämän? Miltä se näyttäisi ja mitä se tekisi?” Ja sitten minä julkaisin artikkelin Wired-lehdessä vuonna 2015. Se oli kirjoitettu vuoden 2014 lopulla, mutta se oli vuoden 2015 ennusteista. Ja minä sanoin: “Tämä on vuosi, jolloin botit ottavat vallan ja ohjaavat vaaleja.”

Ja se tuli toteen, ja se oli enemmän kuin minä alun perin ajattelin. Mutta se oli vain näkemäni teknologian kaari. Samalla me näimme, miten primitiivisiä nämä teknologiat olivat. Se oli melko primitiivinen. Kaikki tämä alkoi tulla yhteen, ja me päädyimme tähän tilaan, jossa voit hallita kertomuksia vain toistamalla tietoa syötteistä, joita nyt kulutat.

Uskotko, että on ollut vaalit, jotka on vaikuttanut tai jotka voivat vaikuttaa tällaisiin harhaanjohtaviin tietoihin?

Minä määrittelen tämän kapeasti, joka on se, että harhaanjohtavat tiedot eivät ole oikein. Minä ajattelen, että se on liian kapea. Meidän on laajennettava sitä, kuka hallitsee kertomuksia. Tällä hetkellä kertomus voi olla tosi, mutta se ei välttämättä ole tärkeää.

Voimme ottaa tarinan, jos olet huolissasi rikoksista, ja me voimme lähettää kaikki rikokset kaikille kanaville, ja sinä tulet takaisin ja ajattelet, että kaupungissasi on ollut hurja rikosaalto, jota et aiemmin ollut tietoinen. Ja kaikki mitä olet tehnyt, on vain lähettänyt kaikki aiemmin ilmoitetut rikokset järjestelmään. Nyt sinä alat uskoa, että rikokset ovat paljon korkeammat kuin ne todella ovat. Ne eivät ole muuttuneet, mutta sinä olet altistunut niille enemmän. Se ei ole se, onko rikos tapahtunut vai ei, vaan se, taistelevatko he sinun huomiostasi.

Se on yksi osa. Me jäämme kiinni siihen, tapahtuiko se vai ei? Niin kuin se olisi taistelu. Mutta taistelu on todella ihmisille. Onko sinulla käsitys, aiheuttavatko rokotukset 37 pisteen älykkyysosamman muutoksen, tai etkö sinulla ole aiemmin uskottu, että rokotukset ja älykkyys liittyvät toisiinsa. Jos minä sanon sinulle, että ne lisäävät älykkyysosamman, sinä olet nyt kolme kertaa todennäköisempi uskomaan siihen, kuin jos joku tulee ja sanoo, että rokotukset aiheuttavat älykkyysosamman laskun. Kuka tulee ensin, sillä on paras mahdollisuus saada sinut uskomaan siihen, jos sinulla ei aiemmin ollut mielipidettä siitä.

Onko se ihmisen aivojen vinouma, joka on altis tälle?

Se on ihmisen aivojen vinouma. Toinen asia, jopa jos tiedät, että tieto on väärä, jos sinä olet altistunut sille, sinä olet todennäköisempi uskomaan siihen, vaikka tiedät sen olevan väärä. On toisto, ensimmäinen tieto, jota et aiemmin ollut mielipidettä, ja toinen asia, jonka tiedämme, on, että jos sinä saa sen riippumattomista lähteistä, sinä luotat siihen enemmän, ja jos sinä saa sen ystävien verkostostasi, sinä luotat siihen enemmän, se on suostumusmenetelmä. Ja me tiedämme, että noin 25% on käänteispiste, jos 25% ihmisistä alkaa uskoa johonkin, se luo valtavan käänteispisteen, jossa 75% tai 80% ihmisistä alkaa uskoa siihen.

Se kaikki tulee yhteen maailmassa, jossa mielipiteet muodostuvat, ja ryhmien konsensuksen mekanismi. On alatutkimusala fysiikassa, joka on tietokonefysiikkaa, joka on tutkinut tätä, ja voit mennä kirjallisuuteen ja ymmärtää nämä mielipiteiden muodostumisen, leviämisen ja omaksumisen mallit.

Voit suunnitella nämä järjestelmät, jos haluat. Ja se on, mitä ihmiset alkavat tehdä. En usko, että he ovat olleet kovin monimutkaisia. Mutta katso, Kiina on tekoälysupervalta. He tietävät, että voittaja siinä on saava dominointi etua sotilaallisesti kenelle tahansa, joka on toisella sijalla. Kiina tulee pyrkimään tekoälyn osien kehittämiseen hyvin aggressiivisesti. Toiseksi on mikropiirien valmistuksen ja edistyneiden GPU:den merkitys, joita Taiwanilla on. Ja minä ajattelen, että jos Kiina saa ne, he ovat erittäin vahvassa asemassa tekoälykilpailussa.

Jos Kiina ottaa sen voimalla, on hyvä mahdollisuus, että he tuhoavat nämä kyvyt, tai ne tuhoutuvat Taiwanin toiminnassa, ja kukaan ei niitä saa. Mikä olisi ok, Kiinalle. Olisi suuri globaali häiriö, mutta se ei välttämättä luonut suurta ongelmaa Kiinalle. Jos he voivat ottaa sen kokonaisuutena, se on valtava etu heille. Ja tapa, jolla he tekevät sen, on se, mitä olemme nähneet Hongkongissa, “Olet todella meidän kanssamme.” Ja he vakuuttavat muun maailman, että he ovat todella meidän kanssamme. Ja jos yrität erota siitä uskomuksesta tai mielipiteestä, siitä seuraa taloudellisia tai muita ongelmia. Mitä Kiina tekee, on maailmanlaajuinen vaikuttamisoperaatio vakuuttaa maailma, että Taiwan on osa Kiinaa, vakuuttaa taiwanilaiset, että he ovat osa Kiinaa. Ja jos he voivat tehdä sen, niin Kiina saa kakun ja syö sen.

Missä me näemme sen, on Kiinan projekti narratiivisia vaikuttamisoperaatioita vakuuttaa maailma, että Taiwan on osa Kiinaa. Ja se on tunnustettu Yhdysvaltain edustajainhuoneen tiedustelukomiteassa. He ovat koonneet tiedustelulain, jossa he ovat maininneet erityisesti menetelmiä Kiinan vaikuttamisoperaatioiden havaitsemiseksi Karibialla, Etelä-Amerikassa, Keski-Amerikassa.

Se on erityinen kutsu tiedusteluyhteisölle työskennellä tämän parissa. Tiedustelulaki mainitsee myös kyvyn omaksua tekoälyä, kyvyn käyttää kaupallisia valmiita teknologioita ja kyvyn käyttää koodittomia ympäristöjä näihin organisaatioihin. On ollut joitakin hyvin rakentavia asioita, jotka ovat tulleet Capitol Hilliltä. Joitakin avoimia ja luettavissa olevia asioita on ollut mielenkiintoista Kiinan harhaanjohtavien kampanjoiden torjunnasta, erityisesti Etelä-Amerikassa, Keski-Amerikassa ja Karibialla.

Kuinka suuren roolin luulet, että suosittelijamoottorit kuten YouTube, Facebook (META ), Twitter ja TikTok pelaavat harhaanjohtavien kertomusten vahvistamisessa?

Yksi asia, jonka tiedämme Kiinasta, on, että he estivät Facebookin pääsyn maahan. Facebook tuli Kiinaan vuonna 2012. Mark Zuckerberg sanoi: “Minä aion opiskella mandariinia. Se on kaikki Kiinan vuoksi.” Kiina sanoi: “Me annamme sinun tulla ja sitten hyvästi.”

Koska Kiina sanoi: “Helvetti, me emme anna amerikkalaisen yhtiön hallita meidän väestömme tietovirtoja. Me olemme työskennelleet kovasti, kiitos, hallitaksemme tietoa, jonka meidän väestömme saa. Tämä on se, mitä me teemme. Me olemme hyviä siinä. Me annamme sinun tulla, me opimme sinusta. Mutta sen jälkeen sinä olet poissa.” Niin Facebook ei ole siellä.

Kiinan kommunistinen puolue teki selkeän päätöksen siitä, miten he halusivat hallita tietoa. Nyt, autoritaarisena hallituksena, sinulla on se valta. “Sinä et ajattele näitä ajatuksia. Sinä et sano näitä asioita. Sinä et tee sitä.” Liberaalina demokratiana meidän on osallistuttava keskusteluun ja ideoiden vaihtoon suhteellisen vapaassa ja avoimessa tilassa. On tiettyjä rajoituksia, mutta ne ovat reunalla. Kiina pystyi hallitsemaan tietoa. Yhdysvallat ei voi samaa laajuutta, koska se on demokratia. Meidän on annettava sotkun tietojen taistella itsensä kanssa. Mikä on suuri epäsymmetria järjestelmässä. “Haluatko ottaa osaa keskusteluun? No, me korromme sen. Et voi tehdä sitä meille, koska meillä on hyvä lukko meidän tietojärjestelmissä.”

Luulen, että se on jotain, mitä meidän on kamppailtava tämän kanssa. Ja se on ensimmäinen kertomuksen protokolla, joka on nopeasti tunnistaa, onko tietojen operaatio suoritettu alustalla, hälyttää se järjestelmille, vähintään on rajoittaa tietojen leviämistä, mutta myös, jos ei-robotverkkoja, poista ne nopeasti. Suosittelijan puolesta… Se ei ole, minä sanon, käytetty pahantahtoisesti Yhdysvaltain yrityksissä. En usko, että se on siellä. Voisiko se olla käytetty pahantahtoisesti ulkomaisella yrityksellä? Kyllä, potentiaalisesti. Jos olisit sodassa jonkun kanssa, ja heillä oli valvontaa tietoverkossa, joka syötti kertomuksia sinun väestösi, luottaisitko heihin olla reiluja ja puolueettomia?

Me tiedämme jo, mitä on tapahtunut VK: n ja Venäjän kanssa, joka on sosiaalisen median alusta. He sanoivat: “Et saa laittaa kuolleiden ihmisten kuvia, joita olemme tappaneet Ukrainassa. Se on kielletty. Ja me rakennamme tietomuurin estämään länsimaiden verkkotietojen leviämisen verkkoihimme.” Mitä tapahtuu, kun konflikti alkaa, on, että ihmiset rakentavat esteitä, jotka sanovat, “Et saa vaikuttaa meidän väestöömme.”

Luulen, että se on oppikirjamainen, se kesti noin kolme tai neljä viikkoa VK: lle tehdä se. Siinä oli ikkuna, jossa luulen, että se oli suhteellisen avoin, mutta sitten he sulkevat sen, koska he tajusivat, ettei heidän kannata antaa heidän väestönsä nähdä vahinkoa, jonka ohjukset ja hyökkäykset aiheuttavat siviiliväestölle Ukrainassa, ehkä he eivät halua taistella enää.

Luulen, että yksi asia, josta olemme kaikki yllättyneitä Ukrainasta, on, miten vahvasti he tulivat takaisin. En usko, että olemme väärässä ajatellessamme, että se olisi voinut olla hyvin nopea sota, jos Ukrainan ihmiset olisivat lopettaneet aseiden käytön. Mutta mitä tapahtui, oli vastakkainen. He tulivat takaisin maahan, ottivat Kalashnikovinsa ja alkoivat taistella. Ja se oli, koska kertomus kääntyi, ja se kääntyi joistakin avainasioista. Kiovan aave, Käärmeen saari, nainen, jolla oli auringonkukansiemenet sotilaan taskussa ja sanoi, “Kun kuolet, auringonkukat tulevat.” Nämä hetket, meemit, ne resonoivat väestössä.

Nyt paljon niistä ei ollut totta. Tai ne oli valmistettu. Kiovan aave ja Käärmeen saari selviytyivät, mutta heidät esiteltiin marttyyreina, jotka sanoivat, “P**skaa”, ja heidät tapettiin. Se oli tietojen sota par excellence, joka loi taisteluhengen, ei vain Ukrainassa, vaan myös Naton jäsenmaissa ja Yhdysvalloissa, ja heillä oli Ukrainan liput lentävinä ja sanoivat, “Meidän on osallistuttava tähän.” Se ei välttämättä ollut tapahtua. Helppoin sota voittaa on se, jossa vastustaja ei halua taistella. Ja se oli veto ja uhkapeli, jonka Venäjä ja Putin tekivät, ja hän oli väärässä. Hän oli väärässä, koska emme koskaan nähneet vaikuttamisoperaatiota, joka oli palannut voittamaan kertomuksen sodan, kuten Ukrainassa ennen.

Luulen, että aliarvioimme tietojen operaatioiden voimaa. Luulen, että Kiina on ollut hyvin tarkkaavainen, ja luulen, että me näemme sen toteutuvan. Ja me näemme sen toteutuvan, kuten Taiwanin ja muiden maiden suhteen. Ja Yhdysvallat, luulen, että heidän on osallistuttava, heidän on hankittava samat taidot torjumaan tietojen operaatioita.

Onko sinulla jotain viimeisiä sanoja, jotka haluat jakaa Primeristä?

Olemme mukana tässä tehtävässä auttaaksemme Yhdysvaltoja ja sen liittolaisia tuomaan parhaat teknologiat taistelijoiden käsiin, ja luulen, että meidän on houkuteltava enemmän teknologiayrityksiä liittymään tähän taisteluun.

Kiitos tästä valaistushaastattelusta, lukijat, jotka haluavat oppia enemmän, kehotetaan vierailemaan Primer-sivustolla.