Шон Гурли, генеральный директор и основатель Primer – Интервью

Шон Гурли является генеральным директором и основателем Primer, предприятия, которое предоставляет промышленные решения для приложений обработки естественного языка (NLP) для государственных агентств, финансовых учреждений, компаний Fortune 50 и многих других организаций.

Одним из основных случаев использования Primer является помощь людям в обнаружении, понимании и реагировании на кампании дезинформации. В рамках усилий по улучшению этих услуг Primer недавно приобрел Yonder, чтобы повысить свою способность бороться с атаками дезинформации.

Мы встретились с Шоном, чтобы обсудить дезинформацию на недавней конференции Ai4, которая прошла в Лас-Вегасе. Шон является сокровищницей информации о кампаниях дезинформации и государственной пропаганде. Ниже приведено наше интервью.

Что изначально привлекло вас к изучению и пониманию всей экосистемы дезинформации?

Я немного говорил о высокочастотной торговле, и это было интересно. Я смотрел на это пространство алгоритмов, пытающихся понять, произошло ли что-то в мире, и затем торговать на этом. И это было примитивно. Это было в 2012 году, и мы получали шум.

Они получали вещи неправильно, когда они их читали, или неправильно интерпретировали сигналы. А затем появился твит, якобы от AP, который был взломан. И их аккаунт в Twitter сказал: “Срочное: Взрыв в Белом доме, Барак Обама ранен.” И затем рынок отреагировал на эту информацию и потерял около 130 миллиардов долларов из-за этого твита. Теперь я не знаю, был ли этот твит предназначен для того, чтобы повлиять на рынок, или он был предназначен просто для создания хаоса, или он был предназначен для чего-то другого, но это было просто то соединение в то время, когда я был как: “Вау”. Это было как бабочка, хлопающая крыльями и создающая такой эффект, потому что она использует набор алгоритмических акторов, которые на самом деле не очень умны.

Я увидел это, и это заставило меня копать глубже, и затем я начал смотреть… И я увидел, что было целое количество мексиканских ботов, мексиканских аккаунтов, которые утверждали, что журналисты не были убиты картелями. И это было, типа, 2013 года. И я был как: “О боже, у вас есть не государственные акторы, картелями, которые занимаются этой вещью, чтобы создать битву за нарратив. И кажется, они выигрывают.” И я был как: “Эти не даже государственные акторы.” И в тот момент я как-то сказал: “Ну, что если государственный актор получит руки на это? Как это будет выглядеть и что это сделает?” И затем я опубликовал статью в Wired в 2015 году. Это было фактически написано в конце 2014 года, но это было о прогнозах для 2015 года. И я сказал: “Это будет год, когда боты возьмут под контроль и будут контролировать выборы.”

И это стало невероятно проницательным, поскольку эта статья прошла, возможно, даже больше, чем я изначально думал. Но это было просто видение этой дуги технологии. С другой стороны, мы также видели, насколько примитивными были многие из этих технологий. Это было довольно примитивно. Итак, все это начало собираться вместе, и затем мы получили это пространство, в котором мы оказались, которое было как “вау, вы можете контролировать нарративы просто через повторную экспозицию информации из лент, которые вы потребляете сейчас”.

Думаете ли вы, что был выбор, который был повлиян или который может быть повлиян таким типом дезинформации?

Формулируя это назад в некотором смысле. Во-первых, мы взяли очень узкий подход к этому, который заключается в том, что дезинформация не реальна. И я думаю, что это слишком узко. Нам нужно расширить это до того, кто контролирует нарративы. Сейчас нарратив может быть очень реальным, но он может не быть тем, что важно.

Мы можем взять историю, если вы беспокоитесь о преступности, и мы можем просто массово транслировать все преступления всем каналам, и вы придете обратно через это и подумаете, что ваш город только что прошел через самую ужасную волну преступности, которую он когда-либо видел. И все, что вы сделали, это просто взяли каждое преступление, которое когда-либо было сообщено, которое ранее не было на вашем радаре, и положили его в вашу систему.

Теперь вы начнете верить, что преступность намного выше, чем она на самом деле есть. Она не изменилась, но вы были подвержены ей больше. Итак, это не то, произошло ли это или нет, это то, боролись ли за ваше внимание. Итак, это одна часть. Мы попадаем в это, произошло ли это или нет, как будто это битва. Но битва на самом деле за мироощущение людей. Итак, это одна сторона этого.

Вторая часть этого заключается в том, сколько вы можете повлиять на это. Ну, если у вас нет восприятия того, вызывают ли вакцины потерю 37 пунктов IQ или если вы не имели раньше убеждения, что вакцины и интеллект связаны. Если я вам скажу, что они это делают, вы будете в три раза более склонны верить в это, чем если кто-то скажет вам, что вакцины вызывают потерю IQ. Итак, кто приходит с первым сообщением, имеет лучший шанс того, что вы будете придерживаться этого убеждения, если вы не имели раньше мнения о чем-то.

Итак, это предвзятость в человеческом мозге, которая уязвима для этого?

Это предвзятость в человеческом мозге. Вторая часть, даже если вы знаете информацию как ложную, если вы подвергаетесь ей, вы более склонны верить в нее, даже если вы знаете ее как ложную. Итак, есть повторение информации. Есть первая часть информации, когда вы не имели раньше мнения о чем-то. И затем есть другая часть, которую мы знаем, это то, что если вы получаете ее от независимых источников, вы доверяете ей больше. И если вы получаете ее от людей, которые находятся в вашей сети друзей, вы доверяете ей больше, это становится методологией аффилиации. И мы знаем, что около 25% является точкой бифуркации, если 25% людей начинают верить в что-то, это создает огромную точку бифуркации, после которой 75% или 80% людей начнут верить в это.

Итак, все это сводится к миру формирования мнений и механике того, как группы приходят к консенсусу. Есть подотрасль физики, которая изучает это, и вы можете пойти в литературу и понять эти модели того, как мнения формируются, распространяются и принимаются.

Вы можете проектировать эти системы, если вы так выбираете, и это то, что люди начинают делать. Я не думаю, что они были очень изощренными. Но посмотрите, Китай – это суперсила ИИ. Они знают, что победитель этой гонки получит огромное военное преимущество над тем, кто займет второе место. Итак, Китай будет преследовать компоненты искусственного интеллекта очень агрессивно. Вторая часть этого – это значение производства микросхем и передовых GPU, которые есть у Тайваня. И я думаю, если Китай смотрит на это и может иметь фабрики, объекты и производственные линии Тайваня, они будут в очень доминирующей позиции в гонке ИИ.

Теперь, если Китай возьмет это силой, есть хороший шанс, что они в конечном итоге уничтожат эти возможности или они будут уничтожены Тайванем и никто не будет иметь их. Что было бы хорошо на некотором уровне для Китая. Там будет огромный глобальный дисбаланс, но это не обязательно создаст такую большую проблему для Китая, если это произойдет.

Однако, если они могут взять это целиком, то это будет огромное преимущество для них. И способом сделать это, как мы видели в Гонконге, это как “Вы действительно часть нас”. И вы убеждаете остальной мир, что они действительно часть вас. И если вы попытаетесь не согласиться с этим убеждением или мнением, то будут экономические или другие проблемы. Итак, в чем Китай участвует, это глобальная операция по влиянию, чтобы убедить мир, что Тайвань является частью Китая, чтобы убедить тайваньцев, что они часть Китая. И если они могут сделать это, то у них будет торт и они смогут его съесть.

Итак, где мы увидим это, это Китай будет проецировать информационные операции, чтобы убедить мир, что Тайвань является частью Китая. И это признается Комитетом по разведке Палаты представителей. Когда они собрали свой Закон об авторизации разведки, они конкретно назвали методы обнаружения китайских операций по влиянию в Карибском бассейне, Центральной Америке и Южной Америке.

Это конкретный вызов для разведывательного сообщества работать над этим. Закон об авторизации разведки также назвал возможность принять искусственный интеллект, возможность использовать коммерческие технологии и возможность развернуть среды без кода в этих организациях. Там было некоторое очень конструктивное, что пришло с Холма. Некоторые части открыты и доступны для чтения, были очень интересными о борьбе с китайскими кампаниями дезинформации, особенно в странах Южной Америки, Центральной Америки и Карибского бассейна.

Какую роль, по вашему мнению, играют рекомендательные движки, такие как YouTube, Facebook (META ), Twitter и TikTok, в усилении этой ложной нарративы?

Одна вещь, которую мы знаем о Китае, это то, что они остановили Facebook от входа. Facebook вошел в Китай. В 2012 году Марк Цукерберг был как: “Я собираюсь выучить китайский. Все о Китае.” Китай был как: “Мы позволим вам войти, и теперь прощайтесь.”

Потому что Китай был как: “Ну, к черту, мы не собираемся позволять американской компании контролировать информационные ленты нашего населения. Мы работали очень усердно, спасибо, чтобы контролировать информацию, которую наше население получает. Это то, что мы делаем. Мы очень хороши в этом. Мы позволим вам войти, мы научимся у вас. Но после этого вы уйдете.” Итак, теперь Facebook не там.

Итак, КПК (Коммунистическая партия Китая) приняла очень четкое решение о том, как они хотели контролировать информацию. Теперь, как авторитарный режим, у вас есть этот контроль. “Вы не будете думать эти идеи. Вы не будете говорить эти вещи. Вы не будете делать это.” Как либеральная демократия, мы должны участвовать в способности к дебатам и обмену идеями в относительно свободном и открытом пространстве. Там есть определенные ограничения, но они находятся на краях. Итак, Китай, я думаю, смог контролировать информацию. США не могут сделать это в той же степени, есть демократия. Нам приходится позволять информационному хаосу бороться самому с собой. Что является причиной, по которой мы стали уязвимыми для этих типов информационных атак. Там большая асимметрия в системе. “Вы хотите включить свободу обсуждения? Ну, мы будем коррумпировать это. Вы не можете сделать это с нами, потому что у нас очень хорошие блокировки наших информационных систем.”

Я думаю, что это то, с чем мы будем бороться через это. И это первая часть протокола, и это быстро определить, проводится ли информационная операция на платформе, предупредить об этом системам, и как минимум это предупреждение должно ограничить распространение этой информации, но также, если есть не бот-сети, быстро их уничтожить. Рекомендательная часть этого… Это не было использовано злонамеренно компаниями США. Я не думаю, что это то, где это. Может ли оно быть использовано злонамеренно внешней компанией? Да, потенциально. Если вы находитесь в войне с кем-то, и у них есть контроль над информационной сетью, которая подает нарративы вашему населению, доверите ли вы им быть справедливыми и беспристрастными?

Ну, мы уже знаем, что произошло с VK и Россией, которая является социальной сетью. Они сказали: “Ну, вы не будете размещать изображения мертвых людей, которых мы убили на Украине. Это просто запрещено. И мы будем ставить информационную стену, чтобы остановить распространение информации из западных сетей в наши сети.” Итак, что происходит, когда начинается конфликт, люди ставят барьеры, которые говорят: “Вы не будете иметь контроль над нашим населением.”

Итак, я думаю, что учебник, это заняло может быть три или четыре недели для VK, чтобы сделать это. Там был窗, где я думаю, это было относительно открыто, но затем они закрыли это, потому что они поняли, что если вы не контролируете нарратив в вашем населении, и если вы позволите им увидеть ущерб, который наши ракеты и атаки наносят гражданскому населению на Украине, может быть, они не захотят больше бороться.

Я думаю, одна из вещей, которые мы все удивились об Украине, это то, насколько сильно они вернулись и боролись. И я не думаю, что мы были ошибочны, думая, что это может быть очень быстрая война, если люди на Украине положили оружие. Но то, что произошло, было противоположным. Они вернулись в страну, взяли в руки Калашниковы и начали бороться. И это было потому, что нарратив изменился, и он изменился на некоторых ключевых вещах. Призрак Киева, Змеиный остров, женщина с семенами подсолнуха в кармане солдата и говорящая: “Когда вы умрете, подсолнухи вырастут.” Эти моменты, мемы, они резонировали через это население.

Теперь много из них не были фактически правдой. Или они были созданы. Призрак Киева и Змеиный остров были усилены. Они выжили, но они были представлены как мученики, которые сказали: “Ф*** вам”, и были убиты. Это была информационная война par excellence, которая создала боевой дух, не только на Украине, но и в странах НАТО и США, чтобы иметь украинские флаги, летая вокруг и говорящие: “Нам нужно заботиться об этом.” Это не должно было быть так. Самая легкая война, которую можно выиграть, это та, где оппозиция не хочет бороться. И это была ставка и игра, которую русские сделали, и Путин сделал, и он был ошибочен. И он был ошибочен, потому что мы никогда не видели информационную операцию, которая вернулась, чтобы выиграть войну за нарратив, как мы видели с Украиной раньше. И это было отлично.

Я думаю, мы недооцениваем силу информационных операций. Я думаю, Китай был очень внимательно и я думаю, мы увидим это. И мы видим это, в отношении Тайваня и того, что остальной мир думает об этом. И США, я думаю, если они хотят участвовать, им нужно иметь те же навыки, чтобы бороться с информационными операциями.

Есть ли какие-либо последние слова, которые вы хотели бы поделиться о Primer?

Мы участвуем в этой миссии, чтобы помочь поддержать США и их союзников, чтобы принести лучшую технологию, чтобы положить в руки воина, и я думаю, мы хотим больше технологических компаний, чтобы присоединиться к этой борьбе.

Спасибо за это просвещающее интервью, читатели, которые хотят узнать больше, приглашаются посетить Primer.