Как ИИ Facebook Распространяет Дезинформацию и Угрожает Демократии

Дэн Тункеланг, который руководил исследованиями ИИ в LinkedIn, заявил: «Момент, когда рекомендации имеют силу влиять на решения, они становятся целью для спамеров, мошенников и других людей с не совсем благородными мотивами».

Это дилемма, с которой сталкиваются социальные медиа-компании, такие как Facebook. Facebook использует неявную обратную связь, чтобы отслеживать клики, просмотры и другие измеримые поведения пользователей. Это используется для разработки того, что называется «движком рекомендаций», системой ИИ, которая имеет окончательную власть над решением, какой контент видит пользователь и когда.

Facebook оптимизировал свою систему рекомендаций, чтобы максимизировать вовлеченность пользователей, которая измеряется количеством времени, проведенного на платформе Facebook. Максимизация времени имеет приоритет над любой другой переменной, включая качество или точность рекомендованного контента.

Система разработана для вознаграждения сенсационных заголовков, которые вовлекают пользователей, эксплуатируя когнитивные предубеждения, даже если эти заголовки написаны российскими троллями с целью разделения общества или влияния на политические выборы.

Как Facebook Использует ИИ

Существует недостаток осведомленности о том, как Facebook использует ИИ для решения, какой контент видят и взаимодействуют с ним пользователи. Сначала необходимо понять, что такое подтверждение предубеждения. Psychology Today описывает это как:

Подтверждение предубеждения – это тенденция искать, интерпретировать, отдавать предпочтение и вспоминать информацию таким образом, чтобы подтвердить или поддержать предыдущие убеждения или ценности.

Facebook понимает, что пользователи с большей вероятностью кликнут на новости, которые соответствуют человеческой тенденции искать подтверждение предубеждения. Это создает опасный прецедент как для распространения теорий заговора, так и для создания эхо-камер, где пользователям подают исключительно то, что они хотят видеть, независимо от точности или социального воздействия того, что они видят.

Исследование MIT смогло продемонстрировать, что фейковые новости в Twitter распространяются в 6 раз быстрее, чем реальные новости.

Это означает, что и Twitter, и Facebook могут быть использованы как оружие. Хотя Twitter позволяет любому пользователю намеренно слежать за лентами с узкими или предвзятыми взглядами, Facebook идет дальше. Пользователь Facebook в настоящее время не имеет возможности контролировать или измерять, какой контент он видит, это полностью контролируется системой рекомендаций Facebook, тем, как она измеряет вовлеченность пользователей, и тем, как она оптимизирует эту вовлеченность.

Facebook пытается сформировать и предсказать желания своих пользователей. Facebook оценивает, насколько пользователь может понравиться или не понравиться новостному пункту, который еще не был испытан пользователем. Чтобы избежать потери вовлеченности пользователей, Facebook затем выбирает обойти новостные пункты, которые могут уменьшить уровень вовлеченности, и вместо этого вовлекает пользователя, подая ему новостные пункты, которые соответствуют подтверждению предубеждения, обеспечивая больше кликов, комментариев, лайков и репостов.

Facebook также использует автоматическую коллаборативную фильтрацию исторических действий и мнений пользователей, чтобы автоматически сопоставить участников (друзей) с похожими мнениями. Facebook использует утилиту, которая автоматически и математически предсказывает и ранжирует ваши предпочтения для элементов, которые вы хотите видеть.

Это вызывает у пользователей ощущение, что они попали в кроличью нору, они заперты в фейковых новостях, им подают контент, который укрепляет их предубеждения. Представленный контент по своей сути предназначен для влияния на то, на что вы кликнете. Ведь если вы верите в теорию заговора, что Билл Гейтс пытается микрочипировать человеческое население с помощью вакцин, почему Facebook должен представить вам противоречивые доказательства, которые могут заставить вас отказаться от платформы? Если вы поддерживаете определенного политического кандидата, почему Facebook должен предложить вам новости, которые могут противоречить вашим положительным взглядам на этого кандидата?

Как если бы этого было недостаточно, Facebook также использует то, что известно как «социальное доказательство». Социальное доказательство – это концепция, что люди будут следовать действиям масс. Идея заключается в том, что поскольку многие другие люди ведут себя определенным образом, это должно быть правильным поведением.

Facebook предоставляет это социальное доказательство в контексте лайков, комментариев или репостов. Поскольку только определенные друзья могут видеть элемент ленты новостей (если они не специально ищут ленту новостей пользователя), социальное доказательство просто служит для укрепления подтверждения предубеждения.

Facebook также использует фильтр- пузыри, чтобы ограничить воздействие на противоречивые, противоречащие и сложные точки зрения.

Реклама Facebook

Неподозревающие пользователи Facebook могут кликать на рекламу без осознания того, что они видят рекламу. Причина этого проста: если есть реклама, только первый человек, который видит ее, увидит предупреждение о рекламе. Если этот пользователь поделится рекламой, все на его друзьях увидят только «репост» как элемент ленты новостей, поскольку Facebook намеренно удаляет предупреждение о рекламе. Сразу же пользователи понижают свою бдительность, они не могут отличить, что является рекламой, а что появилось бы органически на их ленте новостей.

Репосты Facebook

К сожалению, все становится хуже. Если у пользователя 1000 друзей, которые одновременно делятся контентом, система рекомендаций будет отдавать предпочтение контенту меньшинства, которое разделяет одни и те же взгляды, даже если эти взгляды часто состоят из непроверенных теорий заговора. Пользователь затем будет под впечатлением, что эти элементы ленты новостей видны всем. Взаимодействуя с этой лентой новостей, эти пользователи оптимизируют друг друга социальное доказательство.

Если пользователь попытается просветить другого пользователя о вводящем в заблуждение или фейковом элементе, сам акт комментирования или взаимодействия с лентой новостей просто увеличивает время вовлеченности исходного пользователя. Этот обратный цикл вызывает у Facebook укрепление взаимодействия с этим пользователем дополнительными фейковыми новостями.

Это вызывает эхо-камеру, фильтр-пузырь, где пользователь обучен верить только тому, что он видит. Истина просто является иллюзией.

Серьезность Проблемы

Более 10 миллионов человек взаимодействовали с лентой новостей, в которой утверждалось, что Папа Франциск высказался в поддержку избрания Трампа в 2016 году. Не было никаких доказательств этого, это была просто фейковая новостная история, которая появилась из России, но это была самая распространенная новостная история на Facebook в три месяца, предшествующие выборам 2016 года.

Элемент новостей был сгенерирован российской фермой троллей, которая называет себя «Агентством интернет-исследований». Эта же организация была ответственна за продвижение и обмен в Twitter и Facebook материалами, разжигающими расовую ненависть, и фейковыми новостными элементами, распространяющими ложные утверждения об американских политиках.

Комитет по разведке Сената опубликовал 85-страничный отчет, в котором подробно описываются российские активные меры по кампаниям и вмешательству, большая часть которых включала распространение дезинформации и пропаганды, целью которых было влияние на выборы 2016 года в США.

Переходя к выборам 2020 года, проблема только усилилась. В сентябре 2020 года после наводки ФБР Facebook и Twitter приостановили социальные медиа-аккаунты для новостной организации под названием PeaceData, связанной с российскими государственными пропагандистскими усилиями.

К сожалению, закрытие аккаунтов является временным и неэффективным решением. Российские аккаунты часто принимают форму запросов на дружбу, часто от женщин с привлекательными профилями, которые нацеливаются на мужчин, или же взломанных пользовательских аккаунтов с историей регулярных публикаций. Эти взломанные аккаунты медленно переходят к более политическим публикациям, пока они не будут доминировать пропагандой или теориями заговора.

Неподозревающий пользователь может не знать, что аккаунт друга был скомпрометирован. Если этот пользователь уязвим для теорий заговора, он может взаимодействовать с фейковым элементом ленты новостей, российский тролль, который часто является ботом, затем предоставляет дополнительное социальное доказательство в виде лайков или комментариев.

Уязвимые пользователи часто являются теми, кто меньше всего понимает, как работает технология и ИИ. Демографическая группа старше 65 лет, которая является населением, наиболее вероятно голосующим, также является наиболее вероятной для распространения фейковых новостей, как сообщает New York Times.

Согласно исследованию пользователи Facebook в возрасте 65 лет и старше публиковали в 7 раз больше статей с фейковых новостных сайтов, чем взрослые в возрасте 29 лет и моложе. Недостаток цифровой медиа-грамотности делает эту возрастную группу неподготовленной к ленте новостей, которая не основана на фактах или точности, а исключительно на вовлеченности пользователей.

Плохие акторы используют систему рекомендаций Facebook, которая эксплуатирует наши когнитивные предубеждения против нас. Эти же организации оптимизировали злоупотребление ИИ Facebook для распространения теорий заговора и пропаганды. Теории заговора, которые могут показаться безобидными сначала, часто используются как воронки в белый супрематизм, крайний правый национализм или QAnon странную теорию заговора, связанную с попытками Трампа спасти мир от либеральных педофилов, теории, не имеющей никакого основания в реальности.

Резюме

Facebook явно осознает, что существует проблема, и они объявили о стратегии, которая фокусируется на удалении контента, который нарушает стандарты сообщества Facebook. Проблема заключается в том, что удаление аккаунтов является временной мерой, которая неэффективна, когда аккаунты генерируются в больших количествах ботами или происходит массовый взлом пользовательских аккаунтов. Это также не решает проблему, что большинство репостов осуществляется обычными пользователями, которые не осознают, что они распространяют дезинформацию.

Добавление предупреждающих ярлыков просто служит для укрепления теорий заговора, что социальные медиа-гиганты предвзяты против консерваторов, которые являются наиболее уязвимыми для фейковых новостей.

Решение должно заключаться в новой системе рекомендаций, которая измеряет не только вовлеченность пользователей, но и оптимизируется для счастья пользователей, доставляя истину и продвигая повышенную самосознание.

Между тем, Facebook должен следовать пути, который принял Twitter, запретив политическую рекламу.

Наконец, необходимо задать важный вопрос. Если люди больше не имеют выбора в том, какие новости они видят, когда это перестает быть рекомендацией и когда становится контролем над разумом?

Рекомендуемое Чтение:

Российские Активные Меры Кампаний и Вмешательства – Отчет Комитета по Разведке Сената США.

Поражающая Бумага, Предсказывающая Конец Демократии – Шон Розенберг, основатель Сети Новостей Истории Джорджа Вашингтона.

Пожилые Люди Больше Делятся Фейковыми Новостями на Facebook – New York Times