Sean Gourley, administrerende direktør og grundlægger af Primer – Intervju-serie

Sean Gourley er administrerende direktør og grundlægger af Primer, en virksomhed, der tilbyder industrielle Natural Language Processing (NLP)-applikationer til regeringsinstitutioner, finansielle institutioner, Fortune 50-virksomheder og mange andre organisationer.

En af de primære anvendelsesområder for Primer er at hjælpe mennesker med at opdage, forstå og reagere på desinformationskampagner. I et forsøg på at forbedre disse tjenester har Primer nyligt erhvervet Yonder for at forbedre deres evne til at bekæmpe desinformationsangreb.

Vi satte os ned med Sean for at diskutere misinformationskampagner på det seneste Ai4-konference, der blev afholdt i Las Vegas. Sean er en skatkiste af information om misinformationskampagner og regeringspropaganda. Her er vores interview.

Hvad var det, der oprindeligt tiltrak dig til at lære og forstå det hele misinformationssystem?

Jeg talte lidt om high-frequency-handel, og det var interessant. Jeg gennemgik det hele og fandt, at der var et helt rum af algoritmer, der forsøgte at forstå, om noget var sket i verden, og derefter handle på det. Og det var primitivt. Dette var tilbage i 2012, og vi fik fat i støj.

De fik tingene forkert, når de læste det, eller misfortolkede signaler. Og så kom der en tweet, der angiveligt var fra AP, der havde været hacked. Og deres Twitter-konto sagde: “Breaking: Eksplosion i Det Hvide Hus, Barack Obama såret.” Og så tog markedet den information og faldt, tabte omkring 130 milliarder dollars på grund af den tweet. Nu ved jeg ikke, om det var ment til at drive markedet, eller om det var ment til at skabe kaos, eller om det var ment til at gøre noget andet, men det var bare den forbindelse tilbage dengang, jeg var som: “Wow.” Det er som en sommerfugl, der flapper med vingerne og skaber en sådan effekt, fordi det udnytter den samling af algorithmiske aktører, der ikke er særlig smarte.

Jeg så det, og det fik mig til at grave dybere og derefter begyndte jeg at se… Og jeg så, at der var en hel del mexicanske bots, mexicanske konti, der påstod, at journalister ikke var blevet dræbt af narkokarteller. Og dette var, ligesom, 2013. Og jeg var som: “Gud bevare, du har ikke-statlige aktører, narkokarteller, der engagerer sig i denne sag for at skabe en narrativ kamp. Og det ser ud til, at de vinder.” Og jeg var som: “Disse er ikke engang statsaktører.” Og på det tidspunkt sagde jeg: “Hvad nu, hvis en statsaktør får fat i dette? Hvad ville det se ud til, og hvad ville det gøre?” Og derefter offentliggjorde jeg en artikel i Wired i 2015. Det var faktisk skrevet ved udgangen af 2014, men det handlede om forudsigelser for 2015. Og jeg sagde: “Dette vil være året, hvor bots tager over og kontrollerer valg.”

Og det blev utrolig profetisk, da artiklen kom frem, måske endda mere end jeg selv havde tænkt. Men det var bare at se denne bue af teknologi. På samme tid så vi også, hvor rudimentært mange af disse teknologier var. Det var ret primitivt. Så alt dette begyndte at komme sammen, og derefter endte vi i den type rum, som vi er i nu, som er wow, du kan kontrollere narrativer bare gennem gentagen eksponering for information fra de feeds, du forbruger nu.

Tror du, at der har været et valg, der er blevet påvirket eller at et fremtidigt valg måske kan blive påvirket af denne type misinformationskampagner?

Indramning af dette i en vis forstand her. Først er vi gået ind i en meget snæver måde på dette, som er, at misinformationskampagner ikke er virkelige. Og jeg tror, at det er for snævt. Vi skal udvide det til, hvem der kontrollerer narrativer. Lige nu kan en narrativ meget vel være virkelig, men den kan ikke være så vigtig.

Vi kan tage en historie, hvis du er bekymret for kriminalitet, og vi kan bare masseudsende alle kriminalitetsrapporter til alle kanaler, og du vil komme tilbage til dette og tro, at din by har gennemgået den værste kriminalitetsbølge, den nogensinde har set. Og alt, du har gjort, er bare at tage hver enkelt kriminalitetsrapport, der tidligere ikke var på din radar, og putte det ind i dit system.

Nu vil du begynde at tro, at kriminaliteten er meget højere, end den faktisk er. Den er ikke ændret, men du er mere eksponeret for den. Så dette er ikke, om kriminaliteten skete eller ej, det er, om den kæmpede for din opmærksomhed. Så dette er en del af det.

Den anden del af det her er, hvor meget kan du påvirke dette? Nu, hvis du ikke har en opfattelse af, om vacciner giver dig 37 point færre i IQ, eller hvis du ikke tidligere havde en overbevisning om, at vacciner og intelligens var forbundet. Hvis jeg fortalte dig, at de gjorde, ville du nu være tre gange mere sandsynlig for at tro på det, end hvis nogen kom tilbage og fortalte dig, at vacciner gjorde, at din IQ faldt. Så hvem der kommer først med meddelelsen, har den bedste chance for, at du holder fast i den overbevisning, hvis du tidligere ikke havde en mening om noget.

Så er det bias i hjernen, der er sårbart over for dette?

Det er bias i hjernen. Den anden del, selv hvis du ved, at informationen er falsk, hvis du er eksponeret for den, er du mere sandsynlig for at tro på den, selv hvis du ved, at den er falsk. Så der er denne gentagne information. Der er den første del af informationen, når du tidligere ikke havde en mening om. Og så er der den anden del, som vi ved, er, hvis du har det fra uafhængige kilder, stoler du på det mere. Og hvis du har det fra mennesker, der er i dit vennekreds, stoler du på det mere, det bliver en tilknytningsmetode. Og vi ved, at omkring 25% er et vendepunkt, hvis 25% af mennesker begynder at tro på noget, skaber det et massivt vendepunkt, hvorved det derefter bliver meget sandsynligt, at 75% eller 80% af mennesker vil begynde at tro på det.

Så alt dette kommer ned til verden af opfattelsesdannelse og mekanismerne for, hvordan grupper når til enighed. Der er en underafdeling af fysik, der hedder beregningsfysik, der har studeret dette, og du kan gå ind i litteraturen og forstå disse modeller for, hvordan opfattelser dannes, forplantes og adopteres.

Man kan designe disse systemer, hvis man ønsker det, og det er, hvad folk er begyndt at gøre. Jeg tror ikke, de har været særlig sofistikerede. Men se, Kina er en AI-supermagt. De ved, at vinderen af denne kamp vil have en meget dominerende militær fordel over, hvem der kommer på andenpladsen i den kamp. Så Kina vil forfølge komponenterne af kunstig intelligens meget aggressivt. Den anden del af det er fremhævelsen af chip-fabrikation og avancerede GPU’er, som Taiwan har. Og jeg tror, hvis Kina ser på det, og de kunne have fabrikationslaboratorier, faciliteter og fonde af Taiwan, ville de være i en meget, meget dominerende position i en AI-kamp.

Nu, hvis Kina tager det med magt, er der en god chance for, at de ødelægger disse evner, eller at de bliver ødelagt af Taiwan, og ingen har dem. Hvad ville det være godt for Kina? Der ville være en enorm forstyrrelse globalt, men det ville ikke nødvendigvis skabe et så stort problem for Kina, hvis det skete.

Men hvis de kan tage det hele, så er det en massiv fordel for dem. Og måden at gøre det på er, som vi har set i Hongkong, er, hvordan, du ved, “Du er virkelig en del af os.” Og de overbeviser resten af verden om, at de er en del af os. Og hvis du prøver at gå imod den overbevisning eller mening, så vil der være økonomiske eller andre problemer. Så det, Kina er engageret i, er en global påvirkningsoperation for at overbevise verden om, at Taiwan er en del af Kina, for at overbevise taiwanesiske mennesker om, at de er en del af Kina. Og hvis de kan gøre det, så har Kina kagen og kan spise den også.

Så hvor vi vil se det, er Kina vil projicere narrative informationsoperationer for at overbevise verden om, at Taiwan er en del af Kina. Og det bliver anerkendt af Repræsentanternes Hus’ Intelligence-udvalg. Da de har samlet deres Intelligence Authorization Act, har de udpeget bestemte metoder til at détectere kinesiske påvirkningsoperationer i Caribien, Sydamerika, Mellemamerika.

Det er en specifik opkald til efterretningsfællesskabet til at arbejde på dette. Intelligence Authorization Act har også udpeget evnen til at antage kunstig intelligens, evnen til at bruge kommercielle, standard-teknologier og evnen til at udrulle ingen-kode-miljøer i disse organisationer. Der har været nogle rigtig konstruktive ting, der er kommet fra Kongressen. Nogle stykker er åbne og tilgængelige at læse, og de har været meget interessante omkring bekæmpelse af kinesiske misinformationskampagner, især i lande i Sydamerika, Mellemamerika og Caribien.

Hvor stor en rol tror du, at anbefalingsmotorer som YouTube, Facebook (META ), Twitter og TikTok har i forstærkningen af denne falske narrativ?

En ting, vi ved om Kina, er, at de stoppede Facebook fra at komme ind. Facebook gik ind i Kina. I 2012 var Mark Zuckerberg som: “Jeg vil lære mandarin. Det handler om Kina.” Kina var som: “Vi vil lade dig ind, og så farvel.”

Fordi Kina var som: “Vi vil ikke lade en amerikansk virksomhed kontrollere informationsfeedsene for vores befolkning. Vi har arbejdet meget hårdt for at kontrollere den information, vores befolkning får. Dette er, hvad vi gør. Vi er meget gode til det. Vi vil lade dig ind, vi vil lære af dig. Men efter det, er du væk.” Så nu er Facebook ikke der.

Så det kinesiske kommunistparti tog en meget tydelig beslutning om, hvordan de ville kontrollere information. Nu, som en autoritær regering, har du den kontrol. “Du vil ikke tænke disse ideer. Du vil ikke sige disse ting. Du vil ikke gøre det.” Som en liberal demokrati, må vi engagere os i evnen til debat og udveksling af ideer i et relativt frit og åbent rum. Der er visse begrænsninger, men de er helt ude ved kanten. Så Kina, tror jeg, kunne kontrollere information. USA kan ikke på samme måde, der er en demokrati. Vi må lade informationskampenes rod udspille sig selv. Hvilket er, hvorfor vi er blevet sårbare over for disse typer informationsangreb. Der er en stor asymmetri i systemet. “Du vil aktivere diskussionsfrihed? Vi vil korrumperere det. Du kan ikke gøre det samme for os, fordi vi har en meget god låsning af vores informationsystemer.”

Jeg tror, at det er noget, vi vil kæmpe med igennem dette. Og det er første protokol, og det er at identificere hurtigt, om deres informationsoperation er i gang på platformen, advare om det til systemerne, og det mindste er at begrænse diffusionen af den information, men også, hvis der er ikke-bot-netværk, tage dem ned hurtigt. Anbefalingsdelen af dette… Det har ikke, jeg ville sige, været brugt ondsindet af amerikanske virksomheder. Jeg tror ikke, det er, hvor det er. Kunne det være brugt ondsindet af en ekstern virksomhed? Ja, potentielt. Hvis du var i krig med nogen, og de havde kontrol over et informationsnetværk, der fødede narrativer til din befolkning, ville du stole på dem til at være fair og upartisk?

Nu ved vi allerede, hvad der er sket med VK og Rusland, som er det sociale netværk. De sagde: “Du vil ikke få billeder af døde mennesker, som vi har dræbt i Ukraine. Det er bare forbudt. Og vi vil opføre en informationsmur for at stoppe diffusionen af information fra de vestlige netværk til vores netværk.” Så hvad sker der, når en konflikt starter, er folk, der opfører barrierer, der siger: “Du vil ikke have kontrol over vores befolknings påvirkning.”

Jeg tror, at det er en lærebogssag, det tog måske tre eller fire uger for VK at gøre det. Der var et vindue, hvor jeg tror, det var relativt åbent, men derefter lukkede de det ned, fordi de indså, at hvis du ikke kontrollerer narrativen i din befolkning, og hvis du lader dem se skaden, som missilerne og angrebene har på den civile befolkning i Ukraine, måske vil de ikke ønske at kæmpe mere.

Jeg tror, at en af de ting, vi alle er overraskede over med Ukraine, er, hvor stærkt de kom tilbage og frem. Og jeg tror ikke, vi var forkerte i at tro, at det kunne have været en meget hurtig krig, hvis folk fra Ukraine lagde våbnene. Men hvad skete, var det modsatte. De kom tilbage i landet, tog Kalashnikov-geværerne og begyndte at kæmpe. Og det var, fordi narrativen flippede, og det flippede på nogle nøgleting. Spøgelset i Kiev, Slangeøen, kvinden med solsikkefrø i lommen på soldaten og sige, “Når du dør, vil solsikkerne komme.” Disse øjeblikke, memes, resonerede gennem den befolkning.

Nu var mange af dem ikke faktisk sande. Eller de var fabrikeret. Spøgelset i Kiev og Slangeøen var forstærket. De overlevede, men de blev kastet som martyrer, der sagde, “F*** dig,” og blev dræbt. Dette var en informationskrig par excellence, der skabte en kæmpende ånd, ikke kun i Ukraine, men også i NATO-lande og USA for at have Ukraine-flag vajende rundt og sige, “Vi skal bekymre os om dette.” Det behøvede ikke at være tilfældet. Den letteste krig at vinde er en, hvor modstanden ikke vil kæmpe. Og det var det væddemål og den indsats, russerne gjorde, og Putin gjorde, og han var forkert. Og han var forkert, fordi vi aldrig havde set en påvirkningsoperation, der var kommet tilbage for at vinde en narrativ krig som vi havde set med Ukraine før. Og det var fremragende.

Jeg tror, at vi undervurderer kraften af informationsoperationer. Jeg tror, at Kina har været meget opmærksom på det, og jeg tror, at vi vil se det spille sig ud. Og vi ser det spille sig ud, i forhold til Taiwan, og hvad resten af verden synes om det. Og USA, tror jeg, hvis de vil engagere sig, må have samme sæt af færdigheder til at bekæmpe informationsoperationer.

Er der nogen sidste ord, du ønsker at dele om Primer?

Vi er engageret i denne mission for at hjælpe med at støtte USA og dets allierede til at bringe den bedste teknologi til at sætte i hænderne på krigskæmperne, og jeg tror, at vi ønsker mere teknologi-virksomheder til at komme og slutte sig til denne kamp.

Tak for dette oplysende interview, læsere, der ønsker at lære mere, opfordres til at besøge Primer.