Sean Gourley, CEO & zakladatel Primeru – Interview Series

Sean Gourley je CEO & zakladatel Primeru, podniku, který poskytuje průmyslově špičkové aplikace zpracování přirozeného jazyka (NLP) pro vládní agentury, finanční instituce, společnosti Fortune 50 a mnoho dalších organizací.

Jedním z hlavních použití Primeru je pomoci lidem detekovat, rozumět a reagovat na kampaně dezinformací. V rámci zlepšení těchto služeb Primer nedávno získal Yonder, aby zvýšil svou schopnost bojovat proti útokům dezinformací.

Usedli jsme si s Seanem, abychom diskutovali o dezinformacích na nedávné konferenci Ai4, která se konala v Las Vegas. Sean je pokladnice informací týkajících se kampaní dezinformací a vládní propagandy. Níže je náš rozhovor.

Co vás původně přitáhlo k učení a pochopení celého ekosystému dezinformací?

Tak jsem mluvil trochu o high-frequency tradingu a bylo to zajímavé. Procházel jsem tím a tam byla celá řada algoritmů, které se snažily pochopit, zda se ve světě něco stalo, a pak na to obchodovat. A to bylo primitivní. To bylo v roce 2012 a my jsme zachytili pouze šum.

Byly chyby, když to četly, nebo špatně interpretované signály. A pak přišel tweet, který údajně pocházel z AP, a jejich účet na Twitteru řekl: “Breaking: Výbuch v Bílém domě, Barack Obama zraněn.” A poté trh ztratil asi 130 miliard dolarů kvůli tomu tweetu. Nevím, zda to bylo určeno k ovlivnění trhu, zda to bylo určeno k vyvolání chaosu, nebo zda to bylo určeno k něčemu jinému, ale to byla prostě ta spojitost, kterou jsem viděl v té době, a řekl jsem: “Wow.” Je to jako když motýl máchne křídly a vytváří takový dopad, protože využívá sadu algoritmických aktérů, kteří nejsou opravdu chytří.

Viděl jsem to a to mě přimělo k hlubšímu zkoumání. Viděl jsem, že existuje celá řada mexických botů, mexických účtů, které tvrdily, že novináři nebyli zavražděni drogovými kartely. A to bylo v roce 2013. A řekl jsem: “Bože, máte nestátní aktéry, drogové kartely, které se zapojují do této věci, aby vytvořily bitvu o narativ. A vypadá to, že vyhrávají.” A řekl jsem: “Tito nejsou ani státní aktéři.” A v té době jsem si řekl: “Co by se stalo, kdyby státní aktér získal kontrolu nad touto věcí? Jak by to vypadalo a co by to dělalo?” A poté jsem v roce 2015 publikoval článek ve Wired. Byl napsán na konci roku 2014, ale šlo o předpovědi pro rok 2015. A řekl jsem: “Tento rok budou boti ovládat a kontrolovat volby.”

A stalo se to neuvěřitelně prorockým, protože ten článek se udál, možná ještě více, než jsem původně myslel. Ale to bylo prostě vidět tu křivku technologie. Na stejné straně jsme také viděli, jak primitivní byla většina těchto technologií. Byla to poměrně primitivní věc. Takže všechno tohle začalo dávat smysl a my jsme se dostali do tohoto prostoru, ve kterém je možné ovládat narativy jednoduše prostřednictvím opakovaného vystavení informacím z kanálů, které nyní konzumujete.

Domníváte se, že existovala volba, která byla ovlivněna tímto typem dezinformací, nebo že budoucí volby mohou být ovlivněny?

Rámec této otázky je úzký. Za prvé, vezmeme si úzký pohled na to, co je dezinformace. A myslím, že to je příliš úzké. Musíme to rozšířit na to, kdo ovládá narativy. Nyní může narativ být velmi reálný, ale nemusí být důležitý.

Můžeme vzít příběh, pokud se obáváte zločinu, a můžeme ho masivně vysílat do všech kanálů, a vrátíte se k tomu a budete si myslet, že váš měst má právě prošel nejhorší vlnou zločinu, jakou kdy viděl. A všechno, co jste udělali, bylo, že jste vzali každý jednotlivý zločin, který byl dříve mimo vaši radar, a vložili jste ho do svého systému.

Nyní budete začínat věřit, že zločin je mnohem vyšší, než ve skutečnosti je. Nic se nezměnilo, ale jste vystaveni více informacím o něm. Takže to není otázka, zda se zločin udál, nebo ne. Je to otázka, zda se o něj bojuje o vaši pozornost. Takže to je jedna část.

Druhá část je, kolik můžete ovlivnit tyto věci? No, pokud nemáte názor na to, zda vakcíny způsobují ztrátu 37 bodů IQ, nebo zda jste dříve nevěděli, zda vakcíny a inteligence jsou spojeny. Pokud vám někdo řekne, že ano, budete třikrát více pravděpodobně věřit tomu, než kdyby vám někdo řekl, že vakcíny způsobují ztrátu IQ. Takže ten, kdo přichází s první zprávou, má nejlepší šanci, že budete držet ten názor, pokud jste dříve neměli žádný názor na něco.

Je to tedy předpojatost lidského mozku, která je zranitelná vůči tomuto?

Je to předpojatost lidského mozku. Druhá věc, i když víte, že informace jsou falešné, pokud jste vystaveni jim, budete je více pravděpodobně věřit, i když víte, že jsou falešné. Takže je tu opakování informací. Je tu první kus informací, když jste dříve neměli žádný názor. A další věc, kterou víme, je, že pokud máte informace z nezávislých zdrojů, důvěřujete jim více. A pokud máte informace od lidí ve vaší síti přátel, důvěřujete jim více, stává se to metodou afiliace. A víme, že kolem 25% je bod zlomu, pokud 25% lidí začne věřit něčemu, vytváří se masivní bod zlomu, při kterém je velmi pravděpodobné, že 75% nebo 80% lidí bude věřit tomu.

Takže všechno tohle se týká světa formování názorů a mechaniky, jak skupiny dospějí k konsensu. Existuje sub-odvětví fyziky, které se nazývá výpočetní fyzika, a které studuje toto. Můžete jít do literatury a pochopit tyto modely, jak se názory formují, šíří a přijímají.

Můžete inženýrsky navrhnout tyto systémy, pokud chcete. A to je to, co lidé začínají dělat. Nemyslím si, že jsou zatím velmi sofistikovaní. Ale podívejte se, Čína je supervelmocí v oblasti umělé inteligence. Vědí, že vítěz této soutěže bude mít velmi dominantní vojenskou výhodu nad kýmkoli, kdo bude na druhém místě. Takže Čína bude velmi agresivně sledovat složky umělé inteligence. Druhá část je prominence výroby čipů a pokročilých GPU, kterou má Tchaj-wan. A myslím, že pokud by Čína získala kontrolu nad tím, byla by ve velmi dominantní pozici v soutěži umělé inteligence.

Nyní, pokud Čína získá Tchaj-wan silou, existuje dobrá šance, že zničí ty schopnosti, nebo že budou zničeny Tchaj-wanem a nikdo je nebude mít. Který by byl v pořádku pro Čínu. Bylo by tam obrovské globální narušení, ale nemuselo by to nutně vytvořit tolik problémů pro Čínu, pokud by se to stalo.

Ovšem pokud by mohli získat Tchaj-wan celý, pak by to byla obrovská výhoda pro ně. A způsobem, jakým to udělat, je, jak jsme viděli v Hongkongu, “Jste opravdu součástí nás.” A přesvědčí zbytek světa, že jsou opravdu součástí vás. A pokud se pokusíte nesouhlasit s tím názorem nebo míněním, pak budou existovat ekonomické nebo jiné problémy. Takže Čína se zapojuje do globální operace vlivu, aby přesvědčila svět, že Tchaj-wan je součástí Číny, aby přesvědčila tchajwanský lid, že jsou součástí Číny. A pokud to mohou udělat, pak mají koláč a mohou si ho také vychutnat.

Kde uvidíme, že to bude, je Čína, která bude projektovat operace vlivu, aby přesvědčila svět, že Tchaj-wan je součástí Číny. A to je uznáváno výborem pro zpravodajství Sněmovny reprezentantů. Jako součást zákona o autorizaci zpravodajství výbor uvedl, že metody pro detekci čínských operací vlivu v Karibiku, Střední Americe a Jižní Americe.

To je konkrétní výzva pro zpravodajskou komunitu, aby pracovala na tomto. Zákon o autorizaci zpravodajství také uvedl, že je třeba přijmout umělé inteligence, použít komerční technologie a nasadit prostředí bez kódu do těchto organizací. Bylo tam několik opravdu konstruktivních věcí, které přišly z Kongresu. Některé části jsou otevřené a dostupné ke čtení a byly velmi zajímavé o boji proti čínským kampaním dezinformací, zejména v zemích Jižní Ameriky, Střední Ameriky a Karibiku.

Jak velkou roli, podle vás, hrají doporučující motory, jako je YouTube, Facebook (META ), Twitter a TikTok, v amplifikaci této falešné narace?

Jedna věc, kterou víme o Číně, je, že zastavila Facebook, aby vstoupil do Číny. Facebook vstoupil do Číny v roce 2012. Mark Zuckerberg řekl: “Chci se naučit mandarínštinu. Je to všechno o Číně.” Čína řekla: “Dobře, můžeme vás pustit dovnitř a potom se sbohem.”

Protože Čína řekla: “K čertu, že bychom dovolili americké společnosti ovládat informační kanály naší populace. Pracovali jsme velmi tvrdě, děkuji vám, aby ovládli informace, které naše populace dostává. To je to, co děláme. Jsme v tom velmi dobří. Pustíme vás dovnitř, naučíme se od vás. Ale potom jste pryč.” Takže Facebook není tam.

Takže Komunistická strana Číny (KSČ) učinila velmi jasné rozhodnutí o tom, jak chtěla ovládat informace. Nyní, jako autoritativní režim, máte tu kontrolu. “Nemůžete myslet na tyto myšlenky. Nemůžete říkat tyto věci. Nemůžete dělat to.” Jako liberální demokracie, musíme se zapojit do schopnosti debaty a výměny nápadů v relativně svobodném a otevřeném prostoru. Existují určitá omezení, ale jsou na okrajích. Takže Čína, myslím, dokázala ovládat informace. USA nemohou totéž, je to demokracie. Musíme nechat informační válku vyřešit sama sebe. Která je asymetrická. “Chcete povolit svobodnou diskusi? Dobře, my ji zkorumpujeme. Nemůžete to udělat nám, protože máme velmi dobré uzamčení našich informačních systémů.”

Myslím, že to je něco, s čím budeme zápasit. A je to první protokol, a to je rychle identifikovat, zda je informační operace spuštěna na platformě, upozornit na to systémy, alespoň je omezit, aby se informace nešířily, a také odstranit nebotové sítě, pokud existují. Doporučující strana této věci… To nebylo, myslím, použito škodlivě americkými společnostmi. Nemyslím si, že to je tam. Mohlo by to být použito škodlivě externí společností? Ano, potenciálně. Pokud byste byli ve válce se někým, kdo měl kontrolu nad informační sítí, která krmila narativy vaší populaci, důvěřovali byste jim, aby byli féroví a nezaujatí?

Nevíme už, co se stalo s VK a Ruskem, které je sociální sítí. Řekli: “Nemůžete umístit žádné obrázky mrtvých lidí, které jsme zabili na Ukrajině. To je prostě zakázáno. A my postavíme informační zeď, aby se zastavila difuze informací ze západních sítí do našich sítí.” Tak co se stane, když začne konflikt, lidé postaví bariéry, které říkají: “Nemůžete mít kontrolu nad našimi informacemi.”

Myslím, že to je věc, která nás všechny překvapila na Ukrajině, jak silně se vrátili. A nemyslím, že jsme byli špatní, když jsme mysleli, že by to mohla být velmi rychlá válka, pokud by lidé z Ukrajiny položili zbraně. Ale co se stalo, bylo opak. Vrátili se do země, vzali do rukou Kalashnikovy a začali bojovat. A to bylo proto, že se narativ otočil, a otočil se na některých klíčových věcech. Duch Kyjeva, Hadí ostrov, žena se slunečnicemi v kapse vojáka a říkající: “Když zemřete, slunečnice porostou.” Tyto momenty, memy, rezonovaly skrze tu populaci.

Nyní mnoho z nich nebylo vlastně pravdivé. Nebo byla vyrobena. Duch Kyjeva a Hadí ostrov byly zesíleny. Přestože přežili, byli vykresleni jako mučedníci, kteří řekli: “F*** you,” a byli zabiti. To byla informační válka par excellence, která vytvořila bojový duch, nejen na Ukrajině, ale také v zemích NATO a ve Spojených státech, aby ukrajinské vlajky létaly kolem a říkaly: “Musíme se starat o tohle.” To nemuselo být nutně tak. Nejlehčí válka, kterou lze vyhrát, je ta, ve které se opozice nechce bojovat. A to byla sázka a hazard, který Rusko a Putin udělali, a byli špatní. A byli špatní, protože jsme nikdy neviděli informační operaci, která by se vrátila a vyhrála válku o narativ, jako jsme viděli na Ukrajině. A to bylo excelente.

Myslím, že podceňujeme sílu informačních operací. Myslím, že Čína byla velmi pozorná a myslím, že uvidíme, jak to bude hrát. A uvidíme to, co se týká Tchaj-wanu a toho, co si o tom myslí zbytek světa. A USA, myslím, že pokud chtějí zapojit, potřebují mít stejné sady dovedností, aby bojovaly proti informačním operacím.

Jsou nějaké poslední slova, která jste chtěli sdílet o Primeru?

Jsme zapojeni do této mise, abychom pomohli podpořit USA a jejich spojence, aby přinesli nejlepší technologie do rukou bojovníků, a myslím, že chceme, aby se k této bitvě připojily více technologické společnosti.

Děkuji vám za tento osvětlující rozhovor, čtenáři, kteří chtějí se dozvědět více, jsou vyzýváni, aby navštívili Primer.