Шон Гурлі, генеральний директор та засновник Primer – Серія інтерв’ю

Шон Гурлі є генеральним директором та засновником Primer, підприємства, яке надає промислові додатки обробки природної мови (NLP) для урядових агенцій, фінансових інститутів, компаній Fortune 50 та багатьох інших організацій.

Одним з основних випадків використання Primer є допомога людям виявляти, розуміти та реагувати на кампанії дезінформації. У рамках покращення цих послуг Primer最近 придбав Yonder, щоб покращити свою здатність протидіяти атакам дезінформації.

Ми зустрілися з Шоном, щоб обговорити дезінформацію на недавній конференції Ai4, яка відбулася в Лас-Вегасі. Шон є скарбницею інформації щодо кампаній дезінформації та урядової пропаганди. Нижче наведено нашу розмову.

Що спочатку привернуло вашу увагу до вивчення та розуміння всієї екосистеми дезінформації?

Так, я говорив трохи про високочастотну торгівлю, і це було цікаво. Я переглядав це. Там був весь простір алгоритмів, які намагалися зрозуміти, чи відбулося щось у світі, а потім торгувати на цьому. І це було примітивним. Це було в 2012 році, і ми підхопили шум.

Вони помилялися, коли читали це, або неправильно тлумачили сигнали. А потім з’явився твіт, який нібито був від AP, і їхній обліковий запис у Twitter сказав: “Breaking: вибух у Білому домі, Барак Обама поранений”. І тоді ринок впав, втративши близько 130 мільярдів доларів через цей твіт. Тепер я не знаю, чи було це призначено для впливу на ринок, чи це було призначено лише для створення хаосу, чи це було призначено зробити щось інше, але це було просто зв’язок на той момент, і я був як: “Вау”. Це як метелик, який маше крильми і створює такий вплив, оскільки це використовує набір алгоритмічних акторів, які насправді не дуже розумні.

Я побачив це, і це змусило мене копатися глибше, і тоді я почав шукати… І побачив, що там був цілий ряд мексиканських ботів, мексиканських облікових записів, які стверджували, що журналісти не були вбиті наркокартелями. І це було близько 2013 року. І я був як: “О боже, у вас є недержавні актори, наркокартелі, які займаються цим, щоб створити битву за нарратив. І це виглядає так, ніби вони виграють”. І я був як: “Це навіть не державні актори”. І на той момент я сказав: “Ну, а що, якщо державний актор отримає це в руки? Як це виглядатиме, і що це зробить?” І тоді я опублікував статтю в Wired у 2015 році. Це було насправді написано в кінці 2014 року, але це було про передбачення для 2015 року. І я сказав: “Це буде рік, коли боти візьмуть під контроль вибори”.

І це стало неймовірно проникливим, оскільки ця стаття пройшла, можливо, навіть більше, ніж я спочатку подумав. Але це було просто бачення цього типу дуги технології. З одного боку, ми також бачили, наскільки примітивними були ці технології. Це було досить примітивним. Тому все це почало збиратися, і тоді ми потрапили в цей простір, який ми зараз маємо, тобто ви можете контролювати нарративи просто через повторну експозицію інформації з потоків, які ви зараз споживаєте.

Ви вважаєте, що було вибори, які були під впливом або які можуть бути під впливом цього типу дезінформації в майбутньому?

Формулюючи це назад у певному сенсі. Спочатку ми прийняли дуже вузький погляд на це, який полягає в тому, що дезінформація не реальна. І я думаю, що це занадто вузько. Нам потрібно розширити це до питання, хто контролює нарративи. Наразі нарратив міг би бути реальним, але він може не бути таким важливим.

Ми можемо взяти історію, якщо ви турбуєтеся про злочинність, і ми можемо просто масивно транслювати всі злочини усім каналам, і ви повернетеся через це і подумаєте, що ваше місто пережило найгіршу хвилю злочинності, яку воно коли-небудь бачило. І все, що ви зробили, це просто взяли кожен злочин, який коли-небудь був повідомлений, який раніше не був на вашій радарі, і ввели його в вашу систему.

Тепер ви будете починати вірити, що злочинність значно вища, ніж це насправді є. Це не змінилося, але ви більше піддаєтеся впливу цього. Тому це не питання про те, чи відбулося це чи ні, а питання про те, чи бореться це за вашу увагу. Тому це одна частина цього.

Друга частина цього полягає в тому, наскільки сильно ви можете впливати на це. Ну, якщо у вас немає переконання про те, чи вакцини спричиняють втрату 37 пунктів IQ, або якщо ви раніше не мали переконання про те, чи вакцини та інтелект пов’язані. Якщо я сказав би вам, що вони це роблять, ви будете в три рази більш схильні вірити в це, ніж якщо хтось повернеться і скаже вам, що вакцини спричиняють втрату IQ. Тому хто приходить з першим повідомленням, має найкращий шанс того, що ви будете дотримуватися цього переконання, якщо ви раніше не мали думки про щось.

Чи це упередженість у людському мозку, яка вразлива до цього?

Це упередженість у людському мозку. Друга частина полягає в тому, що навіть якщо ви знаєте інформацію як хибну, якщо ви піддаєтеся впливу цієї інформації, ви більш схильні вірити в неї, навіть якщо ви знаєте її як хибну. Тому існує повторення інформації. Є перше повідомлення, коли ви раніше не мали думки про щось. А інша частина, яку ми знаємо, полягає в тому, що якщо ви маєте це від незалежних джерел, ви довіряєте цьому більше. І якщо ви маєте це від людей, які знаходяться у вашій мережі друзів, ви довіряєте цьому більше, це стає методологією афілійованості. І ми знаємо, що близько 25% є точкою розгортання, якщо 25% людей починають вірити в щось, це створює величезну точку розгортання, після якої дуже ймовірно, що 75% або 80% людей почнуть вірити в це.

Тому все це зводиться до світу формування думок, механіки того, як групи приходять до консенсусу. Є підгалузь фізики, яка займається цим, комп’ютерна фізика, яка вивчає це, і ви можете зайти в літературу та зрозуміти ці моделі того, як думки формуються, поширюються та приймаються.

Ви можете інженерно створити ці системи, якщо ви так вирішите, і це те, що люди починають робити. Я не думаю, що вони були дуже складними. Але подивіться, Китай є супердержавою у сфері ІІ. Вони знають, що переможець у цій гонці отримає величезну військову перевагу над тим, хто займає друге місце в цій гонці. Тому Китай буде дуже агресивно переслідувати складові штучного інтелекту. Друга частина цього полягає в важливості виробництва мікросхем та сучасних графічних процесорів, яких має Тайвань. І я думаю, якщо Китай дивиться на це, і вони могли б мати фабрики, об’єкти та фабрики Тайваню, вони будуть у дуже домінуючій позиції в гонці штучного інтелекту.

Тепер, якщо Китай візьме це силою, існує велика ймовірність того, що вони знищать ці можливості, або вони будуть знищені Тайванем і ніхто не матиме їх. Що буде добре для Китаю. Буде величезна глобальна дестабілізація, але це не створить великої проблеми для Китаю, якщо це станеться.

Однак, якщо вони можуть взяти це цілим, це буде величезна перевага для них. І способом зробити це є те, що ми бачили в Гонконзі, тобто “Ви насправді частина нас”. І ви переконуєте решту світу в тому, що вони насправді частина вас. І якщо ви спробуєте дисентувати проти цієї віри чи думки, тоді будуть економічні або інші проблеми. Тому Китай займається глобальною операцією впливу, щоб переконати світ в тому, що Тайвань є частиною Китаю, щоб переконати тайванців в тому, що вони частина Китаю. І якщо вони можуть зробити це, тоді Китай матиме торт і зможе його з’їсти.

Тому де ми побачимо це, Китай буде проєктувати інформаційні операції впливу, щоб переконати світ в тому, що Тайвань є частиною Китаю. І це визнається Комітетом з розвідки Палати представників.既然 вони створили Закон про авторизацію розвідки, вони викликали конкретні методи для виявлення китайських операцій впливу в Карибському басейні, Південній Америці, Центральній Америці.

Це конкретний виклик для розвідувального співтовариства працювати над цим. Закон про авторизацію розвідки також викликав можливість采用 штучного інтелекту, можливість використання комерційних технологій та можливість розгортання безкодових середовищ у цих організаціях. Було деяке дуже конструктивне, що вийшло з пагорба. Деякі частини відкриті та доступні для читання, і вони були дуже цікавими щодо боротьби з китайськими кампаніями дезінформації, особливо в країнах Південної Америки, Центральної Америки та Карибського басейну.

Як велику роль, на вашу думку, мають рекомендаційні двигуни, такі як YouTube, Facebook (META ), Twitter та TikTok, у посиленні цієї хибної розповіді?

Одна річ, яку ми знаємо про Китай, полягає в тому, що вони зупинили Facebook від входу. Facebook увійшов до Китаю. У 2012 році Марк Цукерберг був як: “Я буду вивчати мандарин. Це все про Китай”. Китай був як: “Ми вам дозволимо увійти, і тепер прощавай”.

Бо Китай був як: “Ну, до дiяка, ми дозволимо американській компанії контролювати інформаційні потоки нашого населення. Ми працювали дуже важко, щоб контролювати інформацію, яку отримує наше населення. Це те, що ми робимо. Ми дуже хороші в цьому. Ми вам дозволимо увійти, ми навчимося у вас. Але після цього, ви пішли”. Тому тепер Facebook не є там.

Тому Китай зробив дуже чітке рішення щодо контролю інформації. Тепер, як авторитарний режим, у вас є цей контроль. “Ви не будете думати ці ідеї. Ви не будете говорити ці речі. Ви не будете робити це”. Як ліберальна демократія, ми повинні займатися можливістю дебатів та обміну ідеями у відносно вільному та відкритому просторі. Є певні обмеження, але вони знаходяться на краях. Тому Китай, я думаю, зміг контролювати інформацію. США не можуть зробити цього в такій же мірі, оскільки це демократія. Ми повинні займатися свободою дискусії, і це те, чому ми стали вразливими до цих типів інформаційних атак. Є велика асиметрія в системі. “Ви хочете дозволити свободу дискусії? Ну, ми це зіпсуємо”. Ви не можете зробити це з нами, оскільки ми маємо дуже хороші блокування наших інформаційних систем.

Я думаю, що це те, з чим ми будемо боротися через це. І це перший протокол, тобто швидко визначити, чи інформаційна операція проводиться на платформі, попередити про це системам, а мінімум – обмежити розповсюдження цієї інформації, але також, якщо є не-ботнетові мережі, швидко їх знешкодити. Рекомендаційна частина цього… Це не було використано зловісно американськими компаніями. Я не думаю, що це те, де це є. Чи може це бути використано зловісно зовнішньою компанією? Так, потенційно. Якщо ви на війні з хтось, і вони контролюють інформаційну мережу, яка годує нарративи вашому населенню, довірили б ви їм бути чесними та безсторонніми?

Ну, ми вже знаємо, що відбулося з VK та Росією, тобто соціальною мережею. Вони сказали: “Ну, ви не будете розміщувати жодних зображень мертвих людей, яких ми вбили в Україні. Це просто заборонено. І ми будемо розгортати інформаційний бар’єр, щоб зупинити розповсюдження інформації з західних мереж у наші мережі”. Тому що відбувається, коли конфлікт починається, люди встановлюють бар’єри, які кажуть: “Ви не будете мати контроль над впливом на наше населення”.

Я думаю, що один з речей, які нас усіх здивували щодо України, полягає в тому, наскільки сильно вони повернулися. І я не думаю, що ми були неправильні, думаючи, що це могла бути дуже швидка війна, якщо люди з України поклали свої зброю. Але що відбулося, було протилежним. Вони повернулися до країни, підняли калашникови та почали боротися. І це було тому, що нарратив змінився, і він змінився на деяких ключових речах. Привид Києва, острів Зміїний, жінка з соняшниковими насіннями в кишені солдата і кажучи: “Коли ви помрете, соняшники прийдуть”. Ці моменти, меми, вони резонували через це населення.

Тепер багато з них не були насправді правдивими. Або вони були виготовлені. Привид Києва та острів Зміїний були посилені. Вони вижили, але вони були представлені як мученики, які сказали: “Ф*** вам”, і були вбиті. Це була інформаційна війна пар excellence, яка створила бойовий дух, не тільки в Україні, але також у країнах-членах НАТО та США, щоб мали українські прапори, що літають навколо, і кажуть: “Нам потрібно турбуватися про це”. Це не мало б бути так. Найлегша війна для перемоги була б тією, де опозиція не хоче боротися. І це була ставка та ризик, які зробили росіяни, і Путін, і він був неправильним. І він був неправильним, оскільки ми ніколи не бачили інформаційної операції, яка повернула б нарративну війну, як ми бачили це з Україною раніше. І це було чудово.

Я думаю, що ми недооцінюємо силу інформаційних операцій. Я думаю, що Китай був дуже уважним до цього. І я думаю, що ми побачимо це. І ми бачимо це щодо Тайваню, і того, що решта світу думає про це. І США, я думаю, якщо вони хочуть займатися цим, їм потрібно мати ті самі навички, щоб протидіяти інформаційним операціям.

Чи є якісь останні слова, які ви хотіли б поділитися про Primer?

Ми займаємося цією місією, щоб допомогти США та їхнім союзникам привнести найкращу технологію, щоб поставити її в руки воїнів, і я думаю, що ми хочемо більше технологічних компаній, щоб прийти та приєднатися до цього бою.

Дякуємо за цю просвітню розмову, читачам, які бажають дізнатися більше, рекомендуємо відвідати Primer.