Cercetare: Algoritmii anti-spam au arătat bias politic în timpul alegerilor din SUA din 2020

Conform unei noi studii, algoritmii de filtrare a spam-ului (SFAs) de la trei dintre cei mai mari furnizori de e-mail din lume au prezentat un bias politic în timpul alegerilor din Statele Unite din 2020, cu Gmail-ul lui Google înclinat spre stânga, iar Microsoft Outlook și Yahoo Mail favorizând e-mail-urile de la candidații de dreapta.

Articolul afirmă:

‘Observațiile noastre au arătat că toți SFAs au prezentat bias politic în lunile care au precedat alegerile din 2020 din SUA. Gmail s-a înclinat spre stânga (democrați), în timp ce Outlook și Yahoo s-au înclinat spre dreapta (republicani). Gmail a marcat cu 59,3% mai multe e-mail-uri de la candidații de dreapta ca spam în comparație cu candidații de stânga, în timp ce Outlook și Yahoo au marcat cu 20,4% și, respectiv, 14,2% mai multe e-mail-uri de la candidații de stânga ca spam în comparație cu candidații de dreapta.’

Autorii analizei susțin că aceasta demonstrează ‘biasuri agregate’ în activitatea SFA.

Articolul recunoaște, de asemenea, posibilitatea unui ‘spam cultivat’, în care actori care încearcă să reducă vocile opoziției ar putea solicita sau obține acces la comunicări oficiale de la ‘partide inamice’ și afiliații cu intenția de a raporta comunicarea ca spam, influențând astfel algoritmii care determină probabilitatea de spam a unui anumit expeditor.

Cu toate acestea, cercetătorii observă că acest lucru nu explică variațiile semnificative în modul în care diferiții furnizori de e-mail par să fi configurat acțiuni pe baza feedback-ului de la utilizatori:

‘Se poate argumenta că există, de asemenea, posibilitatea ca SFAs ale serviciilor de e-mail să fi învățat din alegerile unor votanți care au marcat anumite e-mail-uri de campanie ca spam și au început să marcheze acele/similar e-mail-uri de campanie ca spam pentru alți votanți. Deși nu avem niciun motiv să credem că au existat încercări deliberate din partea acestor servicii de e-mail de a crea aceste biasuri pentru a influența votanții, faptul rămâne că SFAs lor au învățat să marcheze mai multe e-mail-uri de la o anumită afiliere politică ca spam în comparație cu cealaltă. ‘

‘Deoarece aceste servicii de e-mail proeminente sunt utilizate activ de o parte semnificativă a populației care votează și deoarece mulți dintre votanții de astăzi se bazează pe informațiile pe care le văd (sau nu le văd) online, astfel de biasuri pot avea un impact semnificativ asupra rezultatelor alegerilor.’

Articolul este intitulat O privire asupra biasurilor politice în algoritmii de filtrare a spam-ului de e-mail în timpul alegerilor din SUA din 2020 și provine de la patru cercetători de la Departamentul de Științe ale Calculatoarelor de la Universitatea de Stat din Carolina de Nord.

Round the Houses

Studiul cercetătorilor acoperă o perioadă de cinci luni, de la iulie 2020 până la sfârșitul lunii noiembrie a acelui an, în care au creat 102 de adrese de e-mail noi pe cele trei platforme de e-mail și s-au abonat la două liste de notificări prin e-mail ale candidaților la președinție, 78 de liste ale candidaților la senat și 156 de liste ale candidaților la camera reprezentanților.

Pentru a reduce factorii demografici, conturile de e-mail au fost create cu factori demografici variabili pentru fiecare utilizator fictiv și au fost împărțite în două ramuri: prima a studiat tendințele generale de bias în algoritmii de filtrare a spam-ului pe toate serviciile de e-mail combinate pentru candidații la președinție, senat și camera reprezentanților; a doua a examinat modurile în care diferitele interacțiuni cu e-mail-urile (cum ar fi marcarea sau demarcarea ca spam de către utilizator) păreau să influențeze comportamentul filtrelor de spam algoritmice.

Câteva observații cheie au apărut în timpul studiului. Autorii raportează că Gmail ‘s-a înclinat spre stânga’, în timp ce Outlook și Yahoo s-au înclinat spre dreapta. Yahoo a păstrat 55,2% din toate e-mail-urile politice în cutia de intrare a utilizatorului, în timp ce Outlook a filtrat 71,8% din e-mail-urile de la candidații politici de toate tipurile.

‘Gmail, însă, a păstrat majoritatea e-mail-urilor de la candidații de stânga în cutia de intrare (< 10,12% marcate ca spam), în timp ce a trimis majoritatea e-mail-urilor de la candidații de dreapta în folderul de spam (până la 77,2% marcate ca spam). '

‘Am observat, de asemenea, că procentul de e-mail-uri marcate de Gmail ca spam de la candidații de dreapta a crescut constant pe măsură ce data alegerilor s-a apropiat, în timp ce procentul de e-mail-uri marcate ca spam de la candidații de stânga a rămas aproximativ același.’

Picking Candidates

În timp ce candidații la președinție abonați pentru studiu au fost limitați la Joe Biden și Donald Trump, cercetătorii au avut grijă să facă alegeri reprezentative atunci când au considerat abonarea la comunicări prin e-mail de la candidații la senat și camera reprezentanților, din mai multe motive.

În primul rând, statele au număr variabil de locuri în camera reprezentanților, pe baza numărului de locuitori ai statului. În al doilea rând, numărul de candidați la senat și camera reprezentanților de-a lungul celor două partide politice majore variază de la stat la stat. Mai mult, anumiți candidați au fost reprezentați doar prin site-uri oficiale.gov, care sunt interzise prin lege să trimită e-mail-uri de campanie; și, în final, unele liste de abonare ale candidaților au fost protejate de CAPTCHAs, care nu au putut fi automate de cadrul de colectare a datelor personalizat al cercetătorilor.

Distribuția afilierii politice a abonamentelor la e-mail de la candidații la senat și camera reprezentanților. Sursă: https://arxiv.org/pdf/2203.16743.pdf

Pentru a egaliza decalajul rezultat între candidații democrați și republicani, cercetătorii s-au abonat la informații de campanie prin e-mail de la numărul maxim de candidați în orice stat în care candidații de stânga și de dreapta erau egali în număr, cu excepția statelor precum Alaska, care avea doar un candidat republican la senat.

În total, autorii au trebuit să țină cont de 11 astfel de state și, în final, au reușit să reprezinte toate cele 50 de state. 78 de abonamente din 36 de state au constituit 44 de liste de candidați democrați la senat și 34 de liste de candidați republicani la senat, în timp ce au existat 156 de abonamente din 42 de state pentru candidații la camera reprezentanților – 81 de democrați și 75 de republicani.

Analyzing the Data

Cercetătorii au colectat 318.108 e-mail-uri pe cele trei servicii de e-mail în perioada de colectare activă a datelor, care a fost întreruptă după 20 noiembrie din cauza scăderii rapide a volumului de e-mail-uri după acea dată. Conținutul de date colectat pentru fiecare e-mail a inclus Versiunea MIME, Tip de conținut, Subiect, De la, Către, Data, ID de mesaj, Trimis la, Primit-SPF și Primit de.

Din cauza provocărilor implicate în reprezentarea în mod corect a comunicărilor ambelor partide politice, analiza scorului de propensitate (PSA) a fost aleasă ca metodă statistică pentru date. PSA generează covariabile din date neechilibrate care egalizează distribuțiile în circumstanțe excepționale în care grupurile de control și împărțirile statistice tradiționale nu sunt ușor aplicabile.

Autorii concluzionează că SFAs pentru serviciile de e-mail studiate prezintă bias politic și că consistența relativă inițială între servicii se divergează în comportament mai specific în timp.

Gmail marchează un procent mai mare (67,6%) de e-mail-uri politice de dreapta ca spam, comparativ cu un simplu 8,2% de e-mail-uri afiliate cu stânga, dar răspunde mai dinamic la interacțiunile utilizatorilor care demarcă e-mail-urile ca spam decât omologii săi. Outlook, în schimb, marchează 95,8% din e-mail-urile politice de stânga ca spam, comparativ cu 75,4% pentru e-mail-urile de dreapta, și Yahoo marchează cu 14,2% mai multe e-mail-uri de stânga ca spam decât e-mail-urile de dreapta.

Distribuția cumulativă a procentului de e-mail-uri democrat (albastru) și republican (roșu) care au fost marcate ca spam în conturile de e-mail ale fiecărui serviciu.

Mai mult, rezultatele sugerează că, pe parcursul perioadei de studiu, Gmail răspunde destul de generic la un volum crescut de e-mail-uri de-a lungul tuturor afilierilor politice, marcându-le în mod crescând ca spam, indiferent de proveniență. Yahoo a raportat în mod constant e-mail-urile de stânga ca spam pe măsură ce campaniile au progresat, în același timp reducând numărul de e-mail-uri de dreapta marcate ca spam. Outlook a părut cel mai puțin afectat de creșterea volumului de e-mail-uri de la orice parte politică, menținând un bias general de dreapta.

Procentul de e-mail-uri marcate ca spam de-a lungul ambelor partide politice și toate cele trei servicii de e-mail pe parcursul celor 153 de zile ale perioadei de studiu.

Response to User Interaction

Atunci când marcăm un e-mail de spam ca ‘Nu este spam’, intenția este de a instrui sistemul de e-mail să nu semnaleze e-mail-uri similare în viitor, deși tipul de regulă (bazat pe e-mail, conținut, etc.) nu este întotdeauna complet clar.

Rezultatele studiului au arătat că, din cele trei servicii de e-mail examinate, doar Gmail a răspuns în mod semnificativ la o intrare ‘nu este spam’ de la utilizator. În schimb, această interacțiune utilizator-sistem de spam-la-cutie de intrare (S→I) a avut un efect pe termen lung foarte limitat în Outlook și Yahoo.

Cercetătorii observă:

‘[Datorită] interacțiunii S→I, biasul politic în Gmail a scăzut semnificativ. Însă, în mod neașteptat, a crescut în ambele Outlook și Yahoo, deoarece niciunul dintre cele două servicii nu a reacționat semnificativ la dorința utilizatorului de a nu marca e-mail-urile ca spam pe care cele două servicii le marcau ca spam.’

Conclusion

Autorii concluzionează că Gmail răspunde ‘semnificativ’ la interacțiunea utilizatorului în comparație cu Outlook și Yahoo, în ciuda predispoziției sale de stânga.

Autorii afirmă:

‘În timp ce biasul politic în Gmail a rămas neschimbat după interacțiunea de citire, a scăzut semnificativ datorită interacțiunilor I→S și S→I.’

Și continuă:

‘În timp ce biasurile politice au fost modificate ca răspuns la diverse interacțiuni, Gmail și-a menținut înclinația spre stânga, în timp ce Outlook și Yahoo și-au menținut înclinația spre dreapta în toate scenariile.’

Cercetătorii recunosc o așteptare generală a utilizatorului final că filtrele de spam pot și vor adapta comportamentul lor pe baza intervenției utilizatorului (cum ar fi mutarea unui e-mail din folderul de spam în cutia de intrare sau marcarea unui e-mail ca ‘nu este spam’), dar că acest mecanism nu este fiabil și nu este consistent între cei trei furnizori de e-mail studiați.

Articolul menționează:

‘[Noi] nu am găsit niciun fel de acțiuni consistente pe care le-am putea recomanda utilizatorilor pentru a-i ajuta să reducă biasul în modul în care SFA tratează e-mail-urile politice care le sunt trimise.’

Publicat pentru prima dată pe 4 aprilie 2022.