Sean Gourley, CEO și Fondator al Primer – Seria de Interviuri

Sean Gourley este CEO și fondator al Primer, o întreprindere care oferă aplicații de procesare a limbajului natural (NLP) de nivel industrial pentru agenții guvernamentale, instituții financiare, companii din Fortune 50 și multe alte organizații.

Unul dintre principalele cazuri de utilizare ale Primer este de a ajuta oamenii să detecteze, să înțeleagă și să răspundă la campaniile de dezinformare. Într-un efort de a îmbunătăți aceste servicii, Primer a achiziționat recent Yonder pentru a-și consolida capacitatea de a combate atacurile de dezinformare.

Ne-am întâlnit cu Sean pentru a discuta despre dezinformare la recenta conferință Ai4 care a avut loc la Las Vegas. Sean este o comoară de informații cu privire la campaniile de dezinformare și propaganda guvernamentală. Mai jos este interviul nostru.

Ce v-a atras inițial să învățați și să înțelegeți întregul ecosistem al dezinformării?

Așa că, am vorbit puțin despre tranzacționarea la frecvență înaltă și a fost interesant. Eram în căutarea unui spațiu de algoritmi care încercau să înțeleagă dacă s-a întâmplat ceva în lume și apoi să tranzacționeze pe baza acestei informații. Și era primitiv. Acesta a fost în 2012 și noi eram în căutarea zgomotului.

Ei obțineau lucruri greșite atunci când le citeau sau le interpretau greșit semnalele. Și apoi a apărut un tweet care pretindea că AP a fost spart. Și contul lor de Twitter a spus: “Breaking: explozie la Casa Albă, Barack Obama rănit.” Și apoi piața a luat această informație și a scăzut, pierzând aproximativ 130 de miliarde de dolari din cauza acelui tweet. Acum nu știu dacă a fost intenționat să conducă o piață, dacă a fost intenționat să creeze haos sau dacă a fost intenționat să facă ceva, dar a fost doar acea legătură înapoi la acea vreme, am fost ca: “Wow”. Este ca fluturarea aripilor unei fluturi și crearea unui impact, deoarece este o exploatare a setului de actori algoritmi care nu sunt foarte deștepți.

Așa că am văzut asta și asta m-a făcut să mă adâncesc și apoi am început să caut… Și am văzut că există o mulțime de boturi mexicane, conturi mexicane care pretindeau că jurnaliștii nu au fost uciși de cartelurile de droguri. Și asta a fost, ca în 2013. Și am fost ca: “Dumnezeule, ai non-actori de stat, cartelurile de droguri, care se angajează în acest lucru pentru a crea o bătălie narativă. Și pare că ei câștigă.” Și am fost ca: “Aceștia nu sunt chiar actori de stat.” Și în acel moment am spus: “Ei bine, ce s-ar întâmpla dacă un actor de stat ar obține controlul asupra acestuia? Ce ar arăta și ce ar face?” Și apoi am publicat un articol în Wired în 2015. A fost de fapt scris la sfârșitul anului 2014, dar a fost despre previziuni pentru 2015. Și am spus: “Acesta va fi anul în care boturile vor prelua și vor controla alegerile.”

Și a devenit incredibil de prezicător, deoarece acel articol a fost mai mult decât am crezut eu inițial. Dar a fost doar văzând această arc de tehnologie. Pe de altă parte, am văzut și cât de rudimentară a fost această tehnologie. A fost foarte primitivă. Așa că toate acestea au început să se adune și apoi am ajuns în acest spațiu în care ne aflăm, care este wow, puteți controla narative doar prin expunerea repetată la informații din fluxurile pe care le consumați acum.

Credeti că a existat vreodată o alegere care a fost influențată sau care poate fi influențată de acest tip de dezinformare?

Încadrarea acestei întrebări într-un sens aici. Primul lucru este că am luat o abordare foarte îngustă la acest lucru, care este dezinformarea nu este reală. Și cred că asta este prea îngust. Trebuie să o extindem la cine controlează narativele. Acum, o narativă poate fi foarte bine reală, dar poate să nu fie atât de importantă.

Puteți lua o poveste dacă vă îngrijorați de crimă și puteți să o transmiteți masiv pe toate canalele și veți reveni prin asta și veți crede că orașul dvs. a trecut printr-o undă de crimă mai groaznică decât oricând. Și tot ce ați făcut a fost să luați toate crimele care au fost raportate vreodată și să le puneți în sistemul dvs.

Acum veți începe să credeți că crimele sunt mult mai mari decât sunt în realitate. Nu s-a schimbat nimic, dar ați fost expus mai mult la asta. Așa că asta nu este dacă s-a întâmplat sau nu, ci dacă a fost lupta pentru atenția dvs. Așa că asta este o parte. Ne încurcăm în această întrebare dacă s-a întâmplat sau nu. Ca și cum asta ar fi bătălia. Dar bătălia este de fapt pentru punctele de vedere ale oamenilor. Așa că, asta este o parte.

Cea de-a doua parte a acestui lucru este, cât de mult puteți influența aceste lucruri? Ei bine, dacă nu aveți o percepție despre dacă vaccinurile cauzează pierderea a 37 de puncte de coeficient intelectual sau dacă nu ați avut anterior o convingere că vaccinurile și inteligența sunt legate. Dacă vă spun că da, veți fi de trei ori mai probabil să credeți asta, decât dacă cineva vine și vă spune că vaccinurile cauzează scăderea coeficientului dvs. intelectual. Așa că, cine vine cu primul mesaj are șansa cea mai bună de a vă face să credeți în acea convingere, dacă nu ați avut anterior o părere despre asta.

Așa că este vorba de o părtinire în creierul uman care este vulnerabilă la asta?

Este o părtinire în creierul uman. A doua parte, chiar dacă știți că informația este falsă, dacă sunteți expuși la ea, sunteți mai probabil să o credeți, chiar dacă știți că este falsă. Așa că, există o repetiție a informației. Există primul mesaj atunci când nu ați avut anterior o părere despre asta. Și apoi există o altă parte pe care o știm, și anume că, dacă o aveți de la surse independente, o veți încrede mai mult. Și dacă o aveți de la oameni care sunt în rețeaua dvs. de prieteni, o veți încrede mai mult, devine o metodă de afiliere. Și știm că, în jur de 25%, este un punct de cotitură, dacă 25% din oameni încep să creadă în asta, creează un punct de cotitură masiv prin care apoi este foarte probabil ca 75% sau 80% din oameni să înceapă să creadă în asta.

Așa că, toate acestea se reduc la lumea formării opiniei și la mecanica modului în care grupurile ajung la un consens. Există o sub-ramură a fizicii, care este fizica computațională, care a studiat asta și puteți merge în literatură și puteți înțelege aceste modele de formare, propagare și adoptare a opiniei.

Puteți ingineriza aceste sisteme dacă doriți, și asta este ceea ce oamenii încep să facă. Nu cred că au fost foarte sofisticați. Dar, uitați-vă, China este o superputere AI. Ei știu că, cel care va câștiga această cursă va avea un avantaj militar dominant asupra celui care va fi pe locul doi. Așa că, China va urmări componentele inteligenței artificiale foarte agresiv. A doua parte a acestui lucru este prominența producției de cipuri și a GPU-urilor avansate, pe care Taiwan le are. Și cred că, dacă China se uită la asta și ar putea să aibă laboratoarele de fabricație, facilitățile și fonderiile din Taiwan, ar fi într-o poziție foarte dominantă într-o cursă a inteligenței artificiale.

Acum, dacă China ia asta prin forță, există o șansă ca să distrugă aceste capacități sau să fie distruse de Taiwan și nimeni nu le are. Ceea ce ar fi în regulă, la un anumit nivel, pentru China. Ar fi o perturbare globală mare, dar nu ar crea neapărat o problemă pentru China, dacă s-ar întâmpla asta.

Însă, dacă pot să o ia întreagă, atunci aceea este o avantajoasă masivă pentru ei. Și modul în care o fac este, așa cum am văzut în Hong Kong, este modul în care “Sunteți cu adevărat parte din noi.” Și convinge restul lumii că ei sunt cu adevărat parte din noi. Și, dacă încercați să vă împotriviți acestei convingeri sau opinii, atunci vor exista probleme economice sau de altă natură. Așa că, ceea ce face China este o operațiune de influență globală pentru a convinge lumea că Taiwan face parte din China, pentru a convinge poporul taiwanez că fac parte din China. Și, dacă pot face asta, atunci, brusc, China are tortul și îl poate mânca.

Unde vom vedea asta este că China va proiecta operațiuni de influență pentru a convinge lumea că Taiwan face parte din China. Și asta este recunoscută de Comitetul de Informații al Camerei. În timp ce au pus la punct Legea de Autorizare a Informațiilor, au chemat, în mod specific, metode pentru detectarea operațiunilor de influență chineză în Caraibe, America de Sud, America Centrală.

Asta este un apel specific pentru comunitatea de informații pentru a lucra la asta. Legea de Autorizare a Informațiilor a chemat, de asemenea, adoptarea inteligenței artificiale, capacitatea de a utiliza tehnologii comerciale și capacitatea de a implementa medii fără cod în aceste organizații. Au existat câteva lucruri constructive care au venit de pe deal. Unele piese au fost deschise și disponibile pentru citit și au fost foarte interesante despre combaterea campaniilor de dezinformare chineză, în special în țările din America de Sud, America Centrală și Caraibe.

Cât de mult credeți că motoarele de recomandare, cum ar fi YouTube, Facebook (META ), Twitter și TikTok, au de jucat în amplificarea acestei narative false?

Un lucru pe care îl știm despre China este că au oprit Facebook să intre. Facebook a intrat în China. În 2012, Mark Zuckerberg a fost ca: “Voi învăța mandarina. Este totul despre China.” China a fost ca: “Vă vom lăsa să intrați și apoi vă vom spune la revedere.”

Pentru că China a fost ca: “Nu vom lăsa o companie americană să controleze fluxurile de informații ale populației noastre. Am lucrat foarte mult, mulțumim, pentru a controla informațiile pe care populația noastră le primește. Acesta este ceea ce facem. Suntem foarte buni la asta. Vă vom lăsa să intrați, vă vom învăța de la voi. Dar, după aceea, vă vom spune la revedere.” Așa că, acum Facebook nu mai este acolo.

Deci, Partidul Comunist Chinez a luat o decizie foarte clară cu privire la modul în care dorește să controleze informațiile. Acum, ca un regim autoritar, aveți acest control. “Nu veți gândi aceste idei. Nu veți spune aceste lucruri. Nu veți face asta.” Ca o democrație liberală, trebuie să ne implicăm în capacitatea de a dezbate și de a schimba idei într-un spațiu relativ liber și deschis. Există anumite limite, dar ele sunt la margini. Așa că, China, cred, a controlat informațiile. Statele Unite nu pot face asta în aceeași măsură, există o democrație. Trebuie să lăsăm informațiile să se lupte singure. Ceea ce ne face vulnerabili la astfel de atacuri de informații. Există o mare asimetrie în sistem. “Vreți să permiteți libertatea de discuție? Ei bine, vom corupe asta. Nu puteți face asta nouă, pentru că am controlat foarte bine sistemele noastre de informații.”

Cred că asta este ceva cu care vom lupta de-a lungul timpului. Și prima parte a acestui lucru este să identificăm rapid dacă o operațiune de informații este în curs de desfășurare pe platformă, să alertăm sistemele, cel puțin, să limităm difuzarea acestei informații, dar și să oprim rețelele de boti, dacă există. Partea de recomandare a acestui lucru… Acesta nu a fost, aș zice, folosit în mod malign de companiile americane. Nu cred că asta este unde se află. Ar putea fi folosit în mod malign de o companie externă? Da, potențial. Dacă ați fi în război cu cineva și ei aveau controlul asupra unei rețele de informații care alimenta narative către populația dvs., ați încrede în ei să fie corecți și imparțiali?

Ei bine, știm deja ce s-a întâmplat cu VK și Rusia, care este rețeaua socială. Ei au spus: “Nu veți pune imagini cu oameni morți pe care i-am ucis în Ucraina. Acesta este interzis. Și vom pune un zid de informații pentru a opri difuzarea informațiilor din rețelele occidentale în rețelele noastre.” Așa că, ceea ce se întâmplă când începe un conflict, este că oamenii ridică bariere care spun: “Nu veți avea controlul asupra populației noastre.”

Cred că lucrul de manual, a durat poate trei sau patru săptămâni pentru VK să facă asta. A existat o fereastră în care cred că a fost relativ deschis, dar apoi au închis-o, pentru că și-au dat seama că, dacă nu controlați narativa în populația dvs. și dacă le permiteți să vadă daunele pe care atacurile le-au avut asupra populației civile din Ucraina, poate că nu vor mai vrea să lupte.

Cred că una dintre lucrurile care ne-au surprins pe toți cu Ucraina a fost cât de puternic au revenit. Și nu cred că am fost greșiți în a crede că ar fi putut fi un război foarte scurt, dacă oamenii din Ucraina și-ar fi pus armele jos. Dar ceea ce s-a întâmplat a fost contrariul. Ei s-au întors în țară, au luat Kalashnikovurile și au început să lupte. Și asta s-a întâmplat pentru că narativa s-a schimbat, și s-a schimbat pe câteva lucruri cheie. Fantoma din Kiev, Insula Șarpe, femeia cu semințe de floarea-soarelui în buzunarele soldatului și spunând: “Când vei muri, florile de floarea-soarelui vor veni.” Aceste momente, meme-urile, au rezonat prin acea populație.

Acum, multe dintre ele nu erau chiar adevărate. Sau erau fabricate. Fantoma din Kiev și Insula Șarpe au fost amplificate. Ei au supraviețuit, dar au fost prezentați ca martiri care au spus: “F*** you,” și au fost uciși. Acesta a fost un război de informații excelent care a creat un spirit de luptă, nu numai în Ucraina, ci și în țările membre NATO și în Statele Unite, și au făcut ca steagurile Ucrainei să fie arborate și să spună: “Trebuie să ne îngrijorăm de asta.” Acesta nu a trebuit să fie cazul. Cel mai ușor război de câștigat este acela în care opoziția nu vrea să lupte. Și asta a fost pariul și războiul pe care rușii l-au făcut, și Putin l-a făcut, și el a greșit. Și el a greșit pentru că nu am văzut niciodată o operațiune de influență care să fi revenit și să fi câștigat un război narativ ca cel pe care l-am văzut în Ucraina. Și a fost excelent.

Cred că subestimăm puterea operațiunilor de informații. Cred că China a fost foarte atentă și cred că vom vedea asta. Și o vedem deja, în ceea ce privește Taiwanul și ceea ce restul lumii crede despre asta. Și Statele Unite, cred, dacă vor să se implice, trebuie să aibă aceleași abilități pentru a combate operațiunile de informații.

Există vreun cuvânt final pe care doriți să-l împărtășiți despre Primer?

Suntem implicați în această misiune de a ajuta Statele Unite și aliații săi să aducă cea mai bună tehnologie pentru a pune în mâinile luptătorilor și cred că dorim ca mai multe companii de tehnologie să vină și să se alăture acestui război.

Mulțumim pentru acest interviu luminos, cititorilor care doresc să afle mai multe sunt îndemnați să viziteze Primer.