Výzkum: Algoritmy proti spamu ukázaly politickou předpojatost během prezidentských voleb v USA v roce 2020

Podle nové studie algoritmy pro filtrování spamu (SFAs) od tří největších poskytovatelů e-mailových služeb na světě vykazovaly politickou předpojatost během prezidentských voleb v USA v roce 2020, přičemž Gmail společnosti Google se naklonil doprava, zatímco Microsoft Outlook a Yahoo Mail favorizovali e-maily od kandidátů pravice.

Studie uvádí:

‘Naše pozorování ukázala, že všechny SFAs vykazovaly politickou předpojatost v měsících před prezidentskými volbami v USA v roce 2020. Gmail se naklonil doleva (demokraté), zatímco Outlook a Yahoo se naklonily doprava (republikáni). Gmail označil 59,3 % více e-mailů od kandidátů pravice jako spam ve srovnání s kandidáty levice, zatímco Outlook a Yahoo označily 20,4 % a 14,2 % více e-mailů od kandidátů levice jako spam ve srovnání s kandidáty pravice.’

Autoři analýzy uvádějí, že jejich analýza prokázala “agregované předpojatosti” v činnosti SFA.

Studie také uznává možnost “pěstování” spamu, kdy aktéři, kteří se snaží umlčet opoziční hlasy, mohou získat přístup k oficiálním komunikacím od “nepřátelských” stran a afiliací s úmyslem označit komunikaci jako spam, a tím ovlivnit algoritmy, které určují pravděpodobnost spamu od konkrétního odesílatele.

Nicméně autoři studie poznamenávají, že toto neexplikuje značné rozdíly v tom, jak různé poskytovatelé e-mailových služeb zdají se nakonfigurovat akce na základě zpětné vazby od koncových uživatelů:

‘Je možné, že SFAs e-mailových služeb se naučily z voleb některých voličů, kteří označili certainé kampaně jako spam, a začaly označovat tyto/similar kampaně jako spam pro ostatní voliče. Přestože nemáme žádný důvod se domnívat, že existovaly úmyslné pokusy těchto e-mailových služeb vytvořit tyto předpojatosti, aby ovlivnily voliče, fakt zůstává, že jejich SFAs se naučily označovat více e-mailů od jedné politické afiliace jako spam ve srovnání s druhou.’

‘Jelikož tyto prominentní e-mailové služby jsou aktivně používány významnou částí voličské populace a jelikož mnoho voličů dnes závisí na informacích, které vidí (nebo nevidí) online, tyto předpojatosti mohou mít neignorovatelný dopad na výsledky voleb.’

Studie studies se jmenuje Pohled do politických předpojatostí v algoritmech pro filtrování spamu během prezidentských voleb v USA v roce 2020 a pochází od čtyř výzkumníků z Katedry počítačových věd Univerzity Severní Karolíny.

Okruh domů

Studie výzkumníků pokrývá období pěti měsíců od července 2020 do konce listopadu téhož roku, během kterého vytvořili 102 nových e-mailových adres na třech e-mailových platformách a přihlásili se k odběru dvou prezidentských, 78 senátních a 156 kongresových kandidátů e-mailových oznámení.

Aby se vyloučily demografické faktory, e-mailové účty byly vytvořeny s různými demografickými faktory pro každého (fiktivního) koncového uživatele a rozděleny do dvou větví: první studovala obecné trendy předpojatosti v algoritmech pro filtrování spamu napříč všemi kombinovanými e-mailovými službami pro prezidentské, senátní a kongresové kandidáty; a druhá zkoumala, jak různé e-mailové interakce (jako označení nebo zrušení označení jako spam koncovým uživatelem) zdály se ovlivňovat chování algoritmických filtrů spamu.

Několik klíčových pozorování se dostalo do popředí během studie. Autoři uvádějí, že Gmail “se naklonil doleva”, zatímco Outlook a Yahoo se naklonily doprava. Yahoo si ponechalo 55,2 % všech politických e-mailů v poštovní schránce uživatele, zatímco Outlook filtroval 71,8 % e-mailů od politických kandidátů všech stran.

‘Gmail si ponechal většinu e-mailů od levicových kandidátů v poštovní schránce (< 10,12 % označeno jako spam), zatímco [odeslal] většinu e-mailů od pravicových kandidátů do složky spam (až 77,2 % označeno jako spam). ‘

‘Dále jsme pozorovali, že procento e-mailů označených Gmailem jako spam od pravicových kandidátů rostlo postupně, jak se blížil den voleb, zatímco procento e-mailů označených jako spam od levicových kandidátů zůstalo přibližně stejné.’

Výběr kandidátů

Zatímco prezidentské kandidáty, kterým se studie věnovala, byly omezeny na Joea Bidena a Donalda Trumpa, výzkumníci se snažili udělat reprezentativní výběr, když se přihlašovali k odběru e-mailových komunikací od senátních a kongresových kandidátů, z několika důvodů.

První důvod je, že státy mají různé počty křesel v Kongresu na základě počtu obyvatel. Druhý důvod je, že počet senátních a kongresových kandidátů napříč oběma hlavními politickými stranami se liší napříč státy. Další důvod je, že certainé kandidáti byli reprezentováni pouze oficiálními webovými stránkami.gov, které jsou zákonně zakázány zasílat kampaňové e-maily; a konečně, některé kandidátské seznamy odběru byly chráněny CAPTCHAMI, které nemohly být automatizovány výzkumníkovým vlastním rámcem pro sběr dat.

Rozdělení politické afiliace e-mailových odběrů od senátních a kongresových kandidátů. Zdroj: https://arxiv.org/pdf/2203.16743.pdf

Aby se vyrovnala výsledná nerovnováha mezi demokratickými a republikánskými kandidáty, výzkumníci se přihlásili k odběru kampaňových e-mailů od maximálního počtu kandidátů ve státě, kde levicoví a pravicoví kandidáti byli vyrovnaní, s výjimkou států, jako je Aljaška, která měla pouze jednoho republikánského senátního kandidáta.

Celkově autoři museli zohlednit 11 takových států a nakonec skončili se všemi 50 státy reprezentovanými. 78 odběrů napříč 36 státy tvořilo 44 demokratických a 34 republikánských senátních kandidátů, zatímco 156 odběrů napříč 42 státy pro kongresové kandidáty – 81 demokratů a 75 republikánů.

Analýza dat

Výzkumníci shromáždili 318 108 e-mailů napříč třemi e-mailovými službami během aktivního období sběru dat, které bylo ukončeno po 20. listopadu kvůli rychlému poklesu objemu e-mailů po tomto datu. Sbírka dat pro každý e-mail zahrnovala MIME-Version, Content Type, Předmět, Od, Komu, Datum, ID zprávy, Doručeno-SPF a Doručeno-By.

Z důvodu obtíží spojených s reprezentací obou politických stran komunikací spravedlivě byl vybrán Propensity Score Analysis (PSA) jako statistická metoda pro data. PSA generuje kovariáty z nevyvážených dat, které vyrovnávají distribuce ve výjimečných případech, kdy kontrolní skupiny a tradiční statistické rozdělení nejsou snadno aplikovatelná.

Autoři studie uzavírají, že SFAs pro e-mailové služby, které byly studovány, vykazují politickou předpojatost, a že počáteční relativní konzistence napříč službami se rozchází do spíše specifického chování v čase.

Gmail označuje vyšší procento (67,6 %) pravicových politických e-mailů jako spam ve srovnání s pouhými 8,2 % levicových e-mailů, ale reaguje dynamicky na interakce uživatelů, které zruší označení e-mailu jako spamu, ve srovnání se svými protějšky. Outlook, namísto toho, označuje 95,8 % levicových politických e-mailů jako spam ve srovnání s 75,4 % pro pravicové e-maily, a Yahoo označuje 14,2 % více levicových e-mailů jako spam než pravicových e-mailů.

Kumulativní distribuce procenta demokratů (modrá) a republikánů (červená) e-mailů, které byly označeny jako spam v e-mailových účtech každé služby.

Dále výsledky naznačují, že v průběhu období studie Gmail reaguje poměrně obecně na zvýšený objem e-mailů napříč všemi politickými afiliacemi tím, že je označuje jako spam, bez ohledu na původ. Yahoo konzistentně označuje levicové e-maily jako spam, jak kampaně postupují, a současně snižuje počet pravicových e-mailů označených jako spam. Outlook zdá se, že je nejméně ovlivněn rostoucím objemem e-mailů z obou politických stran, přičemž si udržuje obecnou pravicovou předpojatost.

Procento e-mailů označených jako spam napříč oběma politickými stranami a všemi třemi e-mailovými službami během 153 dnů studijního období.

Reakce na interakci uživatele

Když označíme spamový e-mail jako “Není spam”, úmyslem je naučit e-mailový systém, aby v budoucnu neoznačoval podobné e-maily, i když typ podkladového pravidla (založeného na e-mailu, obsahu atd.) není vždy zcela jasný.

Výsledky studie ukázaly, že z tří zkoumaných e-mailových poskytovatelů pouze Gmail reagoval výrazně na vstup “Není spam” od uživatele. Naopak tato interakce uživatele (S→I) měla velmi omezený dlouhodobý účinek v Outlooku a Yahoo.

Výzkumníci poznamenávají:

‘[V důsledku] S→I interakce se politická předpojatost v Gmailu výrazně snížila. Nicméně neočekávaně se zvýšila v obou Outlooku a Yahoo, protože ani jedna ze dvou služeb nereagovala výrazně na uživatelem vyjádřené přání neznačit e-maily jako spam, které tyto dvě služby označovaly jako spam.’

Závěr

Autoři studie uzavírají, že Gmail reaguje “výrazně” na interakci uživatele ve srovnání s Outlookem a Yahoo, navzdory své vlastní levicové předpojatosti.

Autoři uvádějí:

‘Zatímco politická předpojatost v Gmailu zůstala nezměněna po interakci čtení, snížila se výrazně v důsledku interakcí I→S a S→I.’

A pokračují:

‘Zatímco politické předpojatosti se změnily v reakci na různé interakce, Gmail si zachoval svou levicovou předpojatost, zatímco Outlook a Yahoo si zachovaly svou pravicovou předpojatost ve všech scénářích.’

Výzkumníci uznávají obecné očekávání koncových uživatelů, že filtry spamu mohou a budou měnit své chování na základě zásahu uživatele (jako přesunutí e-mailu ze spamové složky do poštovní schránky nebo označení e-mailu jako “Není spam”), ale že tento mechanismus není spolehlivý a není konzistentní napříč třemi e-mailovými službami, které byly studovány.

Studie uvádí:

‘[My] jsme nenašli žádné konzistentní akce, které by uživatelé mohli doporučit, aby snížili předpojatost v tom, jak SFA zachází s politickými e-maily, které jim jsou zasílány.’

Poprvé publikováno 4. dubna 2022.