Badania: algorytmy antyspamowe wykazały stronniczość polityczną podczas wyborów w USA w 2020 roku

Według nowego badania, algorytmy filtrowania spamu (SFAs) trzech największych dostawców usług pocztowych na świecie wykazały stronniczość polityczną podczas wyborów prezydenckich w Stanach Zjednoczonych w 2020 roku, przy czym Gmail miał tendencję do lewej strony, a Microsoft Outlook i Yahoo Mail faworyzowały e-maile od kandydatów prawicowych.

W pracy naukowej stwierdza się:

‘Nasze obserwacje wykazały, że wszystkie algorytmy filtrowania spamu wykazały stronniczość polityczną w miesiącach poprzedzających wybory prezydenckie w 2020 roku w Stanach Zjednoczonych. Gmail miał tendencję do lewej strony (partia demokratyczna), podczas gdy Outlook i Yahoo Mail faworyzowały e-maile od kandydatów prawicowych. Gmail oznaczył jako spam 59,3% więcej e-maili od kandydatów prawicowych w porównaniu z kandydatami lewicowymi, podczas gdy Outlook i Yahoo Mail oznaczyły jako spam odpowiednio 20,4% i 14,2% więcej e-maili od kandydatów lewicowych w porównaniu z kandydatami prawicowymi.’

Analitycy twierdzą, że ich analiza wykazała “zagregowaną stronniczość” w działaniu algorytmów filtrowania spamu.

Praca naukowa przyznaje również możliwość “uprawiania” spamu, gdzie aktorzy starający się uciszyć głosy opozycji mogliby próbować uzyskać dostęp do oficjalnych komunikatów od “wrogich” partii i afiliacji w celu zgłoszenia tych komunikatów jako spam, wpływając w ten sposób na algorytmy, które określają prawdopodobieństwo spamu od danego nadawcy.

Jednakże, jak zauważają badacze, nie wyjaśnia to znacznych różnic w sposobie, w jaki różni dostawcy usług pocztowych wydają się konfigurować swoje działania na podstawie informacji zwrotnej od użytkowników:

‘Można również argumentować, że algorytmy filtrowania spamu usług pocztowych nauczyły się od wyborców, którzy oznaczali pewne e-maile kampanii jako spam, i zaczęły oznaczać podobne e-maile kampanii jako spam dla innych wyborców. Chociaż nie mamy powodu przypuszczać, że te usługi pocztowe celowo stworzyły te stronniczości, aby wpłynąć na wyborców, fakt pozostaje taki, że ich algorytmy nauczyły się oznaczać więcej e-maili od jednej partii politycznej jako spam w porównaniu z drugą.’

‘Ponieważ te popularne usługi pocztowe są aktywnie używane przez znaczną część populacji wyborców i wiele wyborców dzisiaj polega na informacjach, które widzą (lub nie widzą) w sieci, takie stronniczości mogą mieć nieignorowaną wpływ na wyniki wyborów.’

Praca naukowa pt. nosi tytuł Spojrzenie na stronniczość polityczną w algorytmach filtrowania spamu podczas wyborów prezydenckich w Stanach Zjednoczonych w 2020 roku i pochodzi od czterech badaczy z Wydziału Informatyki Uniwersytetu Stanu Karolina Północna.

Wokół domu

Badanie obejmuje okres pięciu miesięcy od lipca 2020 roku do końca listopada tego samego roku, podczas którego utworzono 102 nowe adresy e-mail na trzech platformach pocztowych i zapisano się do listy powiadomień e-mailowych dwóch kandydatów na prezydenta, 78 kandydatów na senatorów i 156 kandydatów na kongresmenów.

Aby wykluczyć czynniki demograficzne, konta e-mailowe zostały utworzone z różnymi czynnikami demograficznymi dla każdego (fikcyjnego) użytkownika końcowego i podzielone na dwa nurty: pierwszy badał ogólne trendy stronniczości w algorytmach filtrowania spamu we wszystkich usługach pocztowych łącznie dla kandydatów na prezydenta, senatorów i kongresmenów; a drugi badał, w jaki sposób różne interakcje e-mailowe (takie jak oznaczenie lub nieoznaczenie jako spam przez użytkownika końcowego) wpływały na zachowanie algorytmów filtrowania spamu.

Podczas badania pojawiło się kilka kluczowych obserwacji. Autorzy donoszą, że Gmail “miał tendencję do lewej strony”, podczas gdy Outlook i Yahoo Mail “miał tendencję do prawej strony”. Yahoo zachował 55,2% wszystkich e-maili politycznych w skrzynce odbiorczej, podczas gdy Outlook filtrował 71,8% e-maili od kandydatów politycznych wszystkich opcji.

‘Gmail zachował większość e-maili kandydatów lewicowych w skrzynce odbiorczej (mniej niż 10,12% oznaczonych jako spam), podczas gdy większość e-maili kandydatów prawicowych trafiła do folderu spamu (do 77,2% oznaczonych jako spam). ‘

‘Stwierdziliśmy również, że odsetek e-maili oznaczonych przez Gmail jako spam od kandydatów prawicowych rosł stale w miarę zbliżania się daty wyborów, podczas gdy odsetek e-maili oznaczonych jako spam od kandydatów lewicowych pozostawał mniej więcej taki sam.’

Wybór kandydatów

Podczas gdy kandydaci na prezydenta, których zapisano do badania, byli ograniczeni do Joe Bidena i Donalda Trumpa, badacze starali się wybrać reprezentatywnych kandydatów do zapisania się do komunikatów e-mailowych od kandydatów na senatorów i kongresmenów z kilku powodów.

Po pierwsze, stany mają różną liczbę miejsc w Izbie Reprezentantów, w zależności od liczby ludności stanu. Po drugie, liczba kandydatów na senatorów i kongresmenów z dwóch głównych partii politycznych różni się w zależności od stanu. Ponadto niektórzy kandydaci byli reprezentowani tylko przez oficjalne strony internetowe.gov, które są statutowo zabronione do wysyłania e-maili kampanijnych; a także niektóre listy subskrybentów kandydatów były chronione przez CAPTCHY, które nie mogły być zautomatyzowane przez niestandardową ramę gromadzenia danych badaczy.

Rozkład przynależności politycznej subskrypcji e-mailowych kandydatów na senatorów i kongresmenów. Źródło: https://arxiv.org/pdf/2203.16743.pdf

Aby zrównoważyć wynikającą z tego nierównowagę między kandydatami demokratycznymi i republikańskimi, badacze zapisali się do informacji e-mailowych o kampanii od maksymalnej liczby kandydatów w każdym stanie, w którym kandydaci lewicowi i prawicowi byli równi, z wyjątkiem stanów takich jak Alaska, który miał tylko jednego republikańskiego kandydata na senatora.

W sumie autorzy musieli wziąć pod uwagę 11 takich stanów i ostatecznie mieli wszystkie 50 stanów reprezentowanych. 78 subskrypcji w 36 stanach wyniosło 44 listy kandydatów demokratycznych na senatorów i 34 listy kandydatów republikańskich, podczas gdy było 156 subskrypcji w 42 stanach dla kandydatów na kongresmenów – 81 demokratów i 75 republikańskich.

Analiza danych

Badacze zebrali 318 108 e-maili w trzech usługach pocztowych w okresie aktywnego gromadzenia danych, który został przerwany po 20 listopada z powodu gwałtownego spadku objętości poczty po tej dacie. Zebrane dane obejmowały Wersję MIME, Typ treści, Temat, Od, <i_Do, Data, Identyfikator wiadomości, Dostarczone do, Otrzymane-SPF i Otrzymane przez.

Z powodu trudności związanych z reprezentowaniem komunikatów obu partii politycznych w sposób sprawiedliwy, analiza wyników wykorzystała Propensity Score Analysis (PSA) jako metodę statystyczną do danych. PSA generuje kowariancje z niewyważonych danych, które równoważą rozkłady w wyjątkowych okolicznościach, w których grupy kontrolne i tradycyjne podziały statystyczne nie są łatwo stosowalne.

Autorzy dochodzą do wniosku, że algorytmy filtrowania spamu dla usług pocztowych badanych wykazują stronniczość polityczną i że wczesna względna spójność między usługami rozbiega się w bardziej specyficzne zachowanie w czasie.

Gmail oznacza wyższy procent (67,6%) e-maili politycznych prawicowych jako spam w porównaniu z zaledwie 8,2% e-maili afiliowanych z lewicą, ale reaguje bardziej dynamicznie na interakcje użytkowników, które oznaczają e-maile jako nie-spam, niż jego koledzy. Outlook zamiast tego oznacza 95,8% e-maili politycznych lewicowych jako spam w porównaniu z 75,4% dla e-maili prawicowych, a Yahoo oznacza 14,2% więcej e-maili lewicowych jako spam niż e-maili prawicowych.

Rozkład kumulatywny procentu e-maili demokratycznych (niebieski) i republikańskich (czerwony), które zostały oznaczone jako spam w kontach e-mailowych każdej usługi.

Ponadto wyniki sugerują, że w trakcie badania Gmail reaguje dość ogólnie na zwiększonyą objętość e-maili we wszystkich afiliacjach politycznych, coraz częściej oznaczając je jako spam, niezależnie od pochodzenia. Yahoo konsekwentnie zgłasza e-maile lewicowe jako spam w miarę postępu kampanii, jednocześnie zmniejszając liczbę e-maili prawicowych oznaczonych jako spam. Outlook wydaje się najmniej dotknięty przez rosnącą objętość e-maili od obu partii politycznych, utrzymując ogólną stronniczość prawicową.

Procent e-maili oznaczonych jako spam w obu partiach politycznych i we wszystkich trzech usługach pocztowych w ciągu 153 dni badania.

Odpowiedź na interakcję użytkownika

Gdy oznaczamy e-mail spam jako “nie-spam”, naszą intencją jest nauczenie systemu pocztowego, aby nie oznaczał podobnych e-maili w przyszłości, chociaż podstawowy typ reguły (oparty na e-mailu, treści itp.) nie jest zawsze całkowicie jasny.

Wyniki badania wykazały, że spośród trzech badanych usług pocztowych tylko Gmail znacznie reagował na dane wejściowe “nie-spam” od użytkownika. W przeciwieństwie do tego, interakcja spam-to-skrzynka odbiorcza (S→I) miała bardzo ograniczony długoterminowy efekt w Outlook i Yahoo.

Badacze zauważają:

‘[Ze] względu na interakcję S→I, stronniczość polityczna w Gmailu znacznie się zmniejszyła. Nieoczekiwanie, wzrosła jednak w Outlook i Yahoo, ponieważ żadna z tych dwóch usług nie zareagowała zauważalnie na pragnienie użytkownika, aby nie oznaczać e-maili jako spam, które te dwie usługi oznaczały jako spam.’

Wnioski

Autorzy dochodzą do wniosku, że Gmail reaguje “znacznie” na interakcję użytkownika w porównaniu z Outlook i Yahoo, pomimo własnej lewicowej tendencji.

Autorzy stwierdzają:

‘Chociaż stronniczość polityczna w Gmailu pozostała niezmieniona po interakcji z odczytem, znacznie się zmniejszyła dzięki interakcjom I→S i S→I.’

I kontynuują:

‘Chociaż stronniczości polityczne zmieniały się w odpowiedzi na różne interakcje, Gmail utrzymywał swoją tendencję do lewej strony, podczas gdy Outlook i Yahoo utrzymywały swoją tendencję do prawej strony we wszystkich scenariuszach.’

Badacze przyznają ogólny oczekiwanie użytkownika końcowego, że filtry spamu mogą i będą dostosowywać swoje zachowanie na podstawie interwencji użytkownika (takiej jak przeniesienie e-maila ze skrzynki spamu do skrzynki odbiorczej lub oznaczenie e-maila jako “nie-spam”), ale że mechanizm ten nie jest niezawodny i nie jest spójny wśród trzech badanych usług pocztowych.

Praca naukowa stwierdza:

‘[My] nie znaleźliśmy żadnych spójnych działań, które można by polecić użytkownikom, aby pomóc im zmniejszyć stronniczość w sposobie, w jaki algorytmy filtrowania spamu traktują e-maile polityczne, które są do nich wysyłane.’

Pierwotnie opublikowano 4 kwietnia 2022 r.