Дослідження: Алгоритми боротьби зі спамом показали політичну упередженість під час виборів у США 2020 року

За даними нового дослідження, алгоритми фільтрації спаму (SFAs) трьох найбільших провайдерів електронної пошти світу демонстрували політичну упередженість під час виборів у США 2020 року, при цьому Gmail від Google схилявся до лівих, а Microsoft Outlook і Yahoo Mail віддавали перевагу електронним листам від правих кандидатів.

У статті зазначається:

‘Наші спостереження показали, що всі SFAs демонстрували політичну упередженість у місяці, що передували виборам у США 2020 року. Gmail схилявся до лівих (демократів), тоді як Outlook і Yahoo схилялися до правих (республіканців). Gmail маркував на 59,3% більше електронних листів від правих кандидатів як спам порівняно з лівими кандидатами, тоді як Outlook і Yahoo маркували на 20,4% і 14,2% більше електронних листів від лівих кандидатів як спам порівняно з правими кандидатами відповідно.’

Автори дослідження стверджують, що їхній аналіз демонструє “агреговані упередженості” у діяльності SFAs.

У статті також визнається можливість “відмічання спаму”, коли актори, які намагаються заглушити голоси опозиції, можуть звернутися або отримати доступ до офіційних комунікацій від “ворожих” партій і організацій з метою повідомлення про спам, тим самим впливаючи на алгоритми, які визначають ймовірність спаму від певного відправника.

Однак дослідники спостерігають, що це не пояснює помітних відмінностей у тому, як різні провайдери електронної пошти, здається, конфігурували дії на основі зворотної зв’язі від кінцевих користувачів:

‘Можливо, що SFAs електронної пошти вивчили вибір деяких виборців, які маркували певні кампанії електронних листів як спам, і почали маркувати подібні кампанії електронних листів як спам для інших виборців. Хоча у нас немає підстав вважати, що ці провайдери електронної пошти намагалися створити ці упередженості для впливу на виборців, залишається той факт, що їхні SFAs вивчили маркувати більше електронних листів від однієї політичної партії як спам порівняно з іншою.’

‘Оскільки ці провідні електронні поштові служби активно використовуються значною частиною виборців і багато з виборців сьогодні покладаються на інформацію, яку вони бачать (або не бачать) в Інтернеті, такі упередженості можуть мати суттєвий вплив на результати виборів.’

Стаття дослідження називається Гляньте у політичні упередженості алгоритмів фільтрації спаму електронної пошти під час виборів у США 2020 року і була написана чотирма дослідниками відділу комп’ютерних наук Університету штату Північна Кароліна.

Окружний маршрут

Дослідження охоплює період п’яти місяців з липня 2020 року до кінця листопада того ж року, протягом якого було створено 102 нових адрес електронної пошти на трьох платформах електронної пошти, і підписалися на два президентських, 78 сенатських і 156 будинкових кандидатів у списки сповіщень електронної пошти.

Щоб виключити демографічні чинники, адреси електронної пошти були створені з різними демографічними чинниками для кожного (вигаданого) кінцевого користувача, і розділені на два напрямки: перший вивчав загальні тенденції упередженості у фільтрах спаму на всіх об’єднаних електронних поштових службах для президентських, будинкових і сенатських кандидатів; і другий вивчав, як різні взаємодії з електронною поштою (наприклад, маркування або розмаркування як спам від кінцевого користувача) здавалися впливати на поведінку алгоритмічних фільтрів спаму.

Під час дослідження було зроблено кілька ключових спостережень. Автори зазначають, що Gmail “схилявся до лівих”, тоді як Outlook і Yahoo схилялися до правих. Yahoo зберіг 55,2% всіх політичних електронних листів у поштовій скриньці користувача, тоді як Outlook фільтрував 71,8% електронних листів від політичних кандидатів усіх напрямків.

‘Gmail, однак, зберіг більшість електронних листів від лівих кандидатів у поштовій скриньці (< 10,12% були марковані як спам), тоді як більшість електронних листів від правих кандидатів були відправлені до папки спаму (до 77,2% були марковані як спам). ‘

‘Ми далі спостерігали, що відсоток електронних листів, маркованих Gmail як спам від правих кандидатів, зростав поступово по мірі наближення дати виборів, тоді як відсоток електронних листів, маркованих як спам від лівих кандидатів, залишався приблизно тим самим.’

Вибір кандидатів

Хоча президентські кандидати, які брали участь у дослідженні, були обмежені Джо Байденом і Дональдом Трампом, дослідники зробили представницький вибір при підписці на електронні листи від сенатських і будинкових кандидатів з кількох причин.

По-перше, штати мають різну кількість місць у Палаті представників, залежно від кількості населення штату. По-друге, кількість сенатських і будинкових кандидатів від двох основних політичних партій варіюється по штатах. Крім того, деякі кандидати мали тільки офіційні веб-сайти.gov, які статутно заборонені відправляти кампанії електронних листів; і нарешті, деякі списки підписки кандидатів були захищені CAPTCHA, які не могли бути автоматизовані власною системою збору даних дослідників.

Розподіл політичної приналежності підписок електронних листів від сенатських і будинкових кандидатів. Джерело: https://arxiv.org/pdf/2203.16743.pdf

Щоб вирівняти результатуючу нерівність між демократичними і республіканськими кандидатами, дослідники підписалися на кампанії електронних листів від максимальної кількості кандидатів у будь-якому штаті, де ліві і праві кандидати були рівні за кількістю, крім штатів, таких як Аляска, яка мала тільки одного республіканського сенаторського кандидата.

Всього автори мали справу з 11 такими штатами і в підсумку мали представництво всіх 50 штатів. 78 підписок по 36 штатам склали 44 демократичні і 34 республіканські сенаторські списки, тоді як було 156 підписок по 42 штатам для будинкових кандидатів – 81 демократ і 75 республіканців.

Аналіз даних

Дослідники зібрали 318 108 електронних листів по трьох електронних поштових службах протягом активного періоду збору даних, який був скорочений після 20 листопада через швидке зниження обсягу пошти після цієї дати. Зібрані дані для кожного електронного листа включали МІМЕ-версію, Тип вмісту, Тема, Від, До, Дата, Ідентифікатор повідомлення, Доставлено-До, Отримано-SPF і Отримано-Від.

Через складності, пов’язані з представленням комунікацій обох політичних партій справедливо, був вибраний аналіз пропенсійної оцінки (PSA) як статистичний метод для даних. PSA генерує коваріати з неузгоджених даних, які рівняють розподіли у виняткових обставинах, коли контрольні групи і традиційні статистичні розрізи не легко застосовуються.

Автори висновують, що SFAs для електронних поштових служб, які вивчалися, демонструють політичну упередженість, і що рання відносна стабільність по службам розходиться у більш специфічну поведінку з часом.

Gmail маркує більший відсоток (67,6%) правих політичних електронних листів як спам порівняно з лівими афілійованими електронними листами, але реагує більш динамічно на взаємодію користувача, яка розмарковує пошту як спам, ніж його колеги. Outlook, натомість, маркує 95,8% лівих політичних електронних листів як спам порівняно з 75,4% для правих електронних листів, і Yahoo маркує на 14,2% більше лівих електронних листів як спам порівняно з правими електронними листами.

Кумулятивний розподіл відсотка демократичних (синіх) і республіканських (червоних) електронних листів, які були марковані як спам у електронних поштових скриньках кожної служби.

Крім того, результати свідчать про те, що протягом періоду дослідження Gmail реагує досить загально на збільшення обсягу електронних листів по всіх політичних афілійованих, збільшуючи маркування їх як спам, незалежно від походження. Yahoo постійно повідомляла про ліві електронні листи як спам під час кампаній, одночасно зменшуючи кількість правих електронних листів, маркованих як спам. Outlook здавався найменш затронутим збільшенням обсягу пошти від будь-якої політичної партії, підтримуючи загальну праву упередженість.

Відсоток електронних листів, маркованих як спам по обидві політичні партії і трьом електронним поштовим службам протягом 153 днів періоду дослідження.

Відповідь на взаємодію користувача

Коли ми маркуємо спам-електронний лист як “Не спам”, мета полягає у тому, щоб навчити систему електронної пошти не маркувати подібні листи в майбутньому, хоча тип правила (електронний, контентний тощо) не завжди повністю зрозумілий.

Результати дослідження показали, що серед трьох електронних поштових служб, які вивчалися, тільки Gmail реагував помітно на вхід “не спам” від користувача. Натомість, ця взаємодія користувача зі спамом у папку з інбоксом (С→І) мала дуже обмежений довгостроковий ефект у Outlook і Yahoo.

Дослідники спостерігають:

‘[Через] взаємодію С→І політична упередженість у Gmail зменшилася суттєво. Однак несподівано, вона збільшився в обох Outlook і Yahoo, оскільки жодна з цих двох служб не реагувала помітно на бажання користувача не маркувати електронні листи як спам, які ці дві служби маркували як спам.’

Висновок

Автори висновують, що Gmail реагує “суттєво” на взаємодію користувача порівняно з Outlook і Yahoo, незважаючи на свою ліву упередженість.

Автори зазначають:

‘Хоча політична упередженість у Gmail залишилася незмінною після взаємодії з читанням, вона зменшилася суттєво через взаємодію І→С і С→І.’

І продовжують:

‘Хоча політичні упередженості змінилися у відповідь на різні взаємодії, Gmail підтримував свою ліву упередженість, тоді як Outlook і Yahoo підтримували свою праву упередженість у всіх сценаріях.’

Дослідники визнають загальне очікування кінцевим користувачем, що фільтри спаму можуть і будуть адаптувати свою поведінку на основі втручання користувача (наприклад, переміщення електронного листа з папки спаму у поштову скриньку, або маркування електронного листа як “не спам”), але що цей механізм не є надійним і, безумовно, не є послідовним по трьох електронним поштовим службам, які вивчалися.

У статті зазначається:

‘[Ми] не знайшли жодних послідовних дій, які можна було б рекомендувати користувачам, щоб допомогти їм зменшити упередженість у тому, як SFA ставиться до політичних електронних листів, які їм надсилаються.’

Перша публікація 4 квітня 2022 року.