Forskning: Anti-spam-algoritmer viste politisk bias under USA’s præsidentvalg i 2020

Ifølge en ny studie viste spam-filtreringsalgoritmerne (SFAs) fra tre af verdens største e-mail-udbydere politisk bias under USA’s præsidentvalg i 2020, hvor Google’s Gmail havde en venstreorienteret bias, og Microsoft Outlook og Yahoo Mail havde en højreorienteret bias.

Studien siger:

‘Vores [observationer] afslørede, at alle SFAs viste politisk bias i månederne op til præsidentvalget i 2020. Gmail havde en venstreorienteret bias (demokrater), mens Outlook og Yahoo havde en højreorienteret bias (republikanere). Gmail markerede 59,3% flere e-mails fra højre-kandidater som spam sammenlignet med venstre-kandidater, mens Outlook og Yahoo markerede 20,4% og 14,2% flere e-mails fra venstre-kandidater som spam sammenlignet med højre-kandidater.’

Forfatterne mener, at deres analyse viser ‘samlet bias’ i SFAs aktivitet.

Studien erkender også muligheden for ‘dyrket’ spam-markering, hvor aktører, der søger at lukke mund på oppositionens stemmer, kan bede om eller opnå adgang til officielle kommunikationer fra ‘fjendtlige’ parter og tilhørsforhold med det formål at rapportere kommunikationen som spam, og dermed påvirke algoritmerne, der bestemmer sandsynligheden for, at en given afsender sender spam.

Men forskerne observerer, at dette ikke forklarer de tydelige variationer i, hvordan de forskellige e-mail-udbydere synes at have konfigureret handlinger baseret på feedback fra slutbrugere:

‘Det er muligt, at SFAs for e-mail-tjenesterne har lært af valgernes valg af at markere visse kampagne-e-mails som spam og derefter har markeret lignende kampagne-e-mails som spam for andre vælgere. Selv om vi ikke har nogen grund til at tro, at der var bevidste forsøg fra disse e-mail-tjenester på at skabe disse bias for at påvirke vælgerne, er det faktum, at deres SFAs har lært at markere flere e-mails fra en politisk tilhørsforhold som spam sammenlignet med den anden.’

‘Da disse fremtrædende e-mail-tjenester er aktivt brugt af en betydelig del af vælgerne, og da mange af vælgerne i dag afhænger af den information, de ser (eller ikke ser) online, kan disse bias have en uignorérbar indvirkning på valgresultaterne.’

Den studie hedder Et kig ind i den politiske bias i e-mail-spam-filtreringsalgoritmer under USA’s præsidentvalg 2020, og kommer fra fire forskere ved Department of Computer Science på North Carolina State University.

Rundt om husene

Forskerne studerede en periode på fem måneder fra juli 2020 til november samme år, hvor de oprettede 102 nye e-mail-adresser på de tre e-mail-platforme og tilmeldte sig to præsidentkandidaters, 78 senats- og 156 huskandidaters e-mail-notifikationslister.

For at fratage demografiske faktorer skabte forskerne e-mail-konti med varierende demografiske faktorer for hver (fiktiv) slutbruger og opdelte dem i to strænger: den første studerede generelle bias-tendenser i spam-filtreringsalgoritmer på tværs af alle e-mail-tjenester for præsident-, hus- og senatskandidater; og den anden undersøgte, hvordan forskellige e-mail-interaktioner (såsom markering eller afmarkering som spam af slutbrugeren) syntes at påvirke adfærden af algoritmiske spam-filtre.

Flere nøgleobservationer kom i fokus under studiet. Forfatterne rapporterer, at Gmail ‘hældede mod venstre’, mens Outlook og Yahoo hældede mod højre. Yahoo beholdt 55,2% af alle politiske e-mails i brugerens indbakke, mens Outlook filtrerede 71,8% af e-mails fra politiske kandidater af alle slags.

‘Gmail beholdt dog de fleste e-mails fra venstre-kandidater i indbakken (< 10,12% markeret som spam), mens [den] sendte de fleste e-mails fra højre-kandidater til spam-mappen (op til 77,2% markeret som spam). '

‘Vi observerede desuden, at procentdelen af e-mails, der var markeret af Gmail som spam fra højre-kandidater, steg jævnt, da valgdatoen nærmede sig, mens procentdelen af e-mails, der var markeret som spam fra venstre-kandidater, forblev omtrent den samme.’

Valg af kandidater

Selv om præsidentkandidaterne, der var tilmeldt studiet, var begrænsede til Joe Biden og Donald Trump, tog forskerne sigte på at træffe repræsentative valg, når de overvejede at tilmelde sig e-mail-kommunikation fra senats- og huskandidater, af en række grunde.

Først og fremmest har staterne varierende antal pladser i Repræsentanternes Hus, baseret på statens befolkningstal. Dernæst varierer antallet af senats- og huskandidater på tværs af de to store politiske partier på tværs af staterne. Yderligere var visse kandidater kun repræsenteret af officielle.gov-websider, som er lovmæssigt forbudt fra at sende kampagne-e-mails; og endelig var visse kandidaters abonnementslister beskyttet af CAPTCHAs, som ikke kunne automatiseres af forskernes brugerdefinerede dataindsamlingssystem.

Fordeling af politisk tilhørsforhold for e-mail-abonnementer fra senats- og huskandidater. Kilde: https://arxiv.org/pdf/2203.16743.pdf

For at udjævne den resulterende ubalance mellem demokratiske og republikanske kandidater tilmeldte forskerne sig kampagne-e-mail-information fra det maksimale antal kandidater i enhver stat, hvor venstre- og højre-kandidater var lige i antal, undtagen i stater som Alaska, som kun havde en republikansk senatskandidat.

I alt havde forfatterne at forholde sig til 11 sådanne stater og endte med at have alle 50 stater repræsenteret. 78 abonnementer på tværs af 36 stater udgjorde 44 demokratiske og 34 republikanske senatskandidat-lister, mens der var 156 abonnementer på tværs af 42 stater for huskandidater – 81 demokrater og 75 republikanere.

Analyse af data

Forskerne indsamlede 318.108 e-mails på tværs af de tre e-mail-tjenester i studiets aktive dataindsamlingperiode, som blev afkortet efter den 20. november på grund af den hurtige nedgang i e-mail-volumen efter denne dato. Dataindholdet, der blev indsamlet for hver e-mail, omfattede MIME-Version, Content Type, Emne, Fra, Til, Dato, Message-ID, Delivered-To, Received-SPF og Received-By.

På grund af udfordringerne ved at repræsentere både politiske partiers kommunikation retfærdigt, blev Propensity Score Analysis (PSA) valgt som den statistiske metode til data. PSA genererer covariater fra ubalanceret data, der equaliserer distributioner i særlige omstændigheder, hvor kontrolgrupper og traditionelle statistiske split ikke er let anvendelige.

Forfatterne konkluderer, at SFAs for de studerede e-mail-tjenester viser politisk bias, og at tidlig relativ konsistens på tværs af tjenesterne divergerer til mere specifik adfærd over tid.

Gmail markerer en højere procentdel (67,6%) af højre-orienterede politiske e-mails som spam sammenlignet med en ringe 8,2% af venstre-tilhørende e-mails, men reagerer mere dynamisk på brugerinteraktioner, der afmarkerer e-mails som spam, sammenlignet med dens kolleger. Outlook markerer 95,8% af venstre-orienterede politiske e-mails som spam sammenlignet med 75,4% for højre-orienterede e-mails, og Yahoo markerer 14,2% flere venstre-orienterede e-mails som spam end højre-orienterede e-mails.

Kumulativ distribution af procentdelen af demokratiske (blå) og republikanske (rød) e-mails, der var markeret som spam i e-mail-konti på hver tjeneste.

Desuden viser resultaterne, at Gmail over studieperioden generelt reagerer på en øget mængde e-mails på tværs af alle politiske tilhørsforhold ved at øge markeringen af dem som spam, uanset herkomst. Yahoo rapporterede konsekvent venstre-orienterede e-mails som spam, da kampagnerne skred frem, og reducerede samtidig antallet af højre-orienterede e-mails, der var markeret som spam. Outlook syntes mindst påvirket af den øgede mængde e-mails fra begge politiske partier og fastholdt en generel højre-orienteret bias.

Procentdel af e-mails, der var markeret som spam på tværs af begge politiske partier og alle tre e-mail-tjenester over studieperiodens 153 dage.

Reaktion på brugerinteraktion

Når vi markerer en spam-e-mail som ‘Ikke spam’, er det meningen at træne e-mail-systemet til ikke at flagge lignende e-mails i fremtiden, selv om den underliggende type regel (e-mail-baseret, indholdsbaseret osv.) ikke altid er helt tydelig.

Studiets resultater fandt, at af de tre e-mail-tjenester, der blev undersøgt, kun Gmail reagerede bemærkelsesværdigt på en ‘ikke spam’-indtastning fra brugeren. I modsætning hertil havde denne brugerstyret spam-til-indbakke (S→I)-interaktion en meget begrænset langsigtede effekt i Outlook og Yahoo.

Forskerne observerer:

‘[På grund af] S→I-interaktionen reduceredes den politiske bias i Gmail betydeligt. Men uventet øgedes den i både Outlook og Yahoo, da ingen af de to tjenester reagerede bemærkelsesværdigt på brugerens ønske om ikke at markere e-mails som spam, som de to tjenester markerede som spam.’

Konklusion

Forfatterne konkluderer, at Gmail reagerer ‘betydeligt’ på brugerinteraktion i sammenligning med Outlook og Yahoo, på trods af sin egen venstre-orienterede præference.

Forfatterne siger:

‘Selv om den politiske bias i Gmail forblev uændret efter læsning-interaktionen, reduceredes den betydeligt på grund af I→S- og S→I-interaktionerne.’

Og fortsætter:

‘Selv om den politiske bias ændrede sig i respons til forskellige interaktioner, fastholdt Gmail sin venstre-orienterede bias, mens Outlook og Yahoo fastholdt deres højre-orienterede bias i alle scenarier.’

Forskerne erkender en generel forventning hos slutbrugeren om, at spam-filtre kan og vil tilpasse deres adfærd baseret på brugerindgreb (såsom at flytte en e-mail fra en spam-mappe til indbakken eller markere en e-mail som ‘ikke spam’), men at denne mekanisme ikke er pålidelig og bestemt ikke er konsistent på tværs af de tre e-mail-tjenester, der blev studeret.

Studien siger:

‘[Vi] fandt ikke nogen konsistente handlinger, som man kunne anbefale brugere at reducere bias i, hvordan SFA behandler politiske e-mails, der sendes til dem.’

Offentliggjort første gang den 4. april 2022.