Исследование: алгоритмы анти-спама показали политическую предвзятость во время выборов в США в 2020 году

Согласно новому исследованию, алгоритмы фильтрации спама (SFAs) трех крупнейших электронных почтовых провайдеров мира демонстрировали политическую предвзятость во время выборов в США в 2020 году, при этом Gmail склонялся к левым, а Microsoft Outlook и Yahoo Mail – к правым кандидатам.

В статье говорится:

‘Наши наблюдения показали, что все SFAs демонстрировали политическую предвзятость в месяцы, предшествующие выборам 2020 года в США. Gmail склонялся к левым (демократам), в то время как Outlook и Yahoo – к правым (республиканцам). Gmail помечал на 59,3% больше электронных писем от правых кандидатов как спам по сравнению с левыми кандидатами, в то время как Outlook и Yahoo помечали на 20,4% и 14,2% больше электронных писем от левых кандидатов как спам по сравнению с правыми кандидатами.’

Анализ авторов, по их утверждениям, демонстрирует ‘агрегатную предвзятость’ в деятельности SFAs.

Статья также признает возможность ‘культурной’ пометки спама, когда акторы, стремящиеся заглушить голоса оппозиции, могут получить доступ к официальным сообщениям от ‘враждебных’ партий и организаций с целью сообщить о них как о спаме, тем самым влияя на алгоритмы, определяющие вероятность спама от конкретного отправителя.

Однако исследователи отмечают, что это не объясняет заметных различий в том, как различные электронные почтовые провайдеры, кажется, настроили свои действия на основе обратной связи от пользователей:

‘Возможно, что SFAs электронных почтовых сервисов научились на выборах некоторых избирателей, помечая определенные кампании электронных писем как спам, и начали помечать такие/podobные кампании электронных писем как спам для других избирателей. Хотя у нас нет оснований полагать, что эти электронные почтовые сервисы намеренно создавали эти предвзятости, чтобы повлиять на избирателей, факт остается фактом: их SFAs научились помечать больше электронных писем от одной политической партии как спам по сравнению с другой.’

‘Поскольку эти известные электронные почтовые сервисы активно используются значительной частью избирателей и многие избиратели сегодня полагаются на информацию, которую они видят (или не видят) в Интернете, такие предвзятости могут иметь непреодолимое влияние на результаты выборов.’

Статья называется ‘Взгляд на политические предвзятости в алгоритмах фильтрации спама электронной почты во время выборов в США в 2020 году’ и написана четырьмя исследователями из кафедры компьютерных наук Университета штата Северная Каролина.

Окружающая среда

Исследование исследователей охватывает период в пять месяцев с июля 2020 года до конца ноября того же года, в течение которого они создали 102 новых электронных адреса на трех электронных платформах и подписались на два президентских, 78 сенатских и 156 доменных кандидатов в списки электронных уведомлений.

Чтобы исключить демографические факторы, электронные почтовые адреса были созданы с различными демографическими факторами для каждого (фиктивного) конечного пользователя и разделены на две ветви: первая изучала общие тенденции предвзятости в алгоритмах фильтрации спама на всех объединенных электронных почтовых сервисах для президентских, сенатских и доменных кандидатов; и вторая изучала, как различные электронные взаимодействия (такие как пометка или снятие пометки как спам конечным пользователем) влияли на поведение алгоритмов фильтрации спама.

Несколько ключевых наблюдений стали очевидными в ходе исследования. Авторы сообщают, что Gmail ‘склонялся к левым’, в то время как Outlook и Yahoo – к правым. Yahoo сохранил 55,2% всех политических электронных писем в папке ‘Входящие’, в то время как Outlook фильтровал 71,8% электронных писем от политических кандидатов всех партий.

‘Gmail, однако, сохранил большинство электронных писем левых кандидатов в папке ‘Входящие’ (< 10,12% помечено как спам), в то время как большинство электронных писем правых кандидатов были отправлены в папку ‘Спам’ (до 77,2% помечено как спам). ‘

‘Мы также наблюдали, что процент электронных писем, помеченных Gmail как спам от правых кандидатов, стабильно увеличивался по мере приближения даты выборов, в то время как процент электронных писем, помеченных как спам от левых кандидатов, оставался примерно одинаковым.’

Выбор кандидатов

Хотя президентские кандидаты, подписанные для исследования, были ограничены Джо Байденом и Дональдом Трампом, исследователи позаботились о том, чтобы сделать представительные выборы при рассмотрении подписки на электронные коммуникации сенатских и доменных кандидатов, по нескольким причинам.

Во-первых, штаты имеют разное количество мест в Палате представителей, основанное на населении штата. Во-вторых, количество сенатских и доменных кандидатов от двух основных политических партий варьируется по штатам. Кроме того, некоторые кандидаты были представлены только официальными сайтами.gov, которые запрещены законом отправлять кампании электронных писем; и, наконец, некоторые списки подписки кандидатов были защищены CAPTCHAs, которые не могли быть автоматизированы настраиваемой рамкой сбора данных исследователей.

Распределение политической принадлежности электронных подписок сенатских и доменных кандидатов. Источник: https://arxiv.org/pdf/2203.16743.pdf

Чтобы уравнять получившийся дисбаланс между демократическими и республиканскими кандидатами, исследователи подписались на кампании электронных уведомлений от максимального количества кандидатов в любом штате, где левые и правые кандидаты были равны по числу, за исключением штатов, таких как Аляска, который имел только одного республиканского сенаторского кандидата.

Всего авторы должны были учесть 11 таких штатов и, в конечном итоге, закончили с представительством всех 50 штатов. 78 подписок по 36 штатам составили 44 демократических и 34 республиканских сенаторских кандидатов, в то время как 156 подписок по 42 штатам составили 81 демократический и 75 республиканских доменных кандидатов.

Анализ данных

Исследователи собрали 318 108 электронных писем по трем электронным почтовым сервисам в период сбора данных, который был обрезан после 20 ноября из-за быстрого спада объема писем после этой даты. Собранные данные для каждого электронного письма включали версию MIME, тип содержимого, тема, от, кому, дата, идентификатор сообщения, доставлено, получено-SPF и получено.

Из-за сложностей, связанных с представлением коммуникаций обеих политических партий справедливо, был выбран метод пропенси-скорингового анализа (PSA) в качестве статистического метода для данных. PSA генерирует коварианты из несбалансированных данных, которые уравнивают распределения в исключительных обстоятельствах, когда контрольные группы и традиционные статистические разрезы не легко применимы.

Авторы приходят к выводу, что SFAs для изучаемых электронных почтовых сервисов демонстрируют политическую предвзятость, и что ранние относительные постоянные показатели по сервисам расходятся в более специфичное поведение со временем.

Gmail помечает более высокий процент (67,6%) правых политических электронных писем как спам по сравнению с всего 8,2% левых электронных писем, но реагирует более динамично на взаимодействие пользователя, которое снимает пометку как спам, чем его коллеги. Outlook, вместо этого, помечает 95,8% левых политических электронных писем как спам, по сравнению с 75,4% для правых электронных писем, и Yahoo помечает на 14,2% больше левых электронных писем как спам, чем правых электронных писем.

Кумулятивное распределение процента демократических (синих) и республиканских (красных) электронных писем, которые были помечены как спам в электронных почтовых ящиках каждого сервиса.

Кроме того, результаты предполагают, что в течение периода исследования Gmail реагирует довольно общим образом на увеличение объема электронных писем по всем политическим партиям, увеличивая пометку их как спам, независимо от источника. Yahoo последовательно сообщал о левых электронных письмах как о спаме по мере продвижения кампаний, в то же время уменьшая количество правых писем, помеченных как спам. Outlook, казалось, был наименее затронут увеличением объема писем от любой политической партии, сохраняя общую правую предвзятость.

Процент электронных писем, помеченных как спам, по обеим политическим партиям и всем трем электронным почтовым провайдерам за 153 дня исследования.

Ответ на взаимодействие пользователя

Когда мы помечаем спам-письмо как ‘Не спам’, намерение состоит в том, чтобы обучить электронную систему не флагировать подобные письма в будущем, хотя основной тип правила (электронное, контентное и т. д.) не всегда полностью ясен.

Результаты исследования показали, что из трех изученных электронных почтовых провайдеров только Gmail заметно реагировал на вход ‘не спам’ от пользователя. Напротив, это взаимодействие пользователя (спам в входящие) имело очень ограниченный долгосрочный эффект в Outlook и Yahoo.

Исследователи отмечают:

‘[Из-за] взаимодействия S→I политическая предвзятость в Gmail значительно уменьшилась. Однако неожиданно, она увеличилась в обоих Outlook и Yahoo, поскольку ни один из двух сервисов не отреагировал заметно на желание пользователя не помечать электронные письма как спам, которые два сервиса помечали как спам.’

Вывод

Авторы приходят к выводу, что Gmail реагирует ‘значительно’ на взаимодействие пользователя по сравнению с Outlook и Yahoo, несмотря на свою левую предвзятость.

Авторы заявляют:

‘Хотя политическая предвзятость в Gmail осталась неизменной после взаимодействия чтения, она уменьшилась значительно из-за взаимодействий I→S и S→I.’

И продолжают:

‘Хотя политические предвзятости изменились в ответ на различные взаимодействия, Gmail сохранил свою левую предвзятость, в то время как Outlook и Yahoo сохранили свою правую предвзятость во всех сценариях.’

Исследователи признают общее ожидание конечным пользователем, что фильтры спама могут и будут адаптировать свое поведение на основе вмешательства пользователя (такого как перемещение электронного письма из папки спам в входящие или пометка письма как ‘не спам’), но что этот механизм не надежен и не последователен во всех трех изучаемых электронных почтовых провайдерах.

Статья отмечает:

‘[Мы] не нашли никаких последовательных действий, которые можно было бы рекомендовать пользователям, чтобы помочь им уменьшить предвзятость в том, как SFA обрабатывает политические электронные письма, которые отправляются им.’

Опубликовано впервые 4 апреля 2022 года.