Έρευνα: Οι Αλγόριθμοι Αντι-Σπαμ Έδειξαν Πολιτική Προκατάληψη Κατά τη Διάρκεια των Εκλογών των ΗΠΑ το 2020

Σύμφωνα με μια νέα μελέτη, οι αλγόριθμοι φιλτραρίσματος σπαμ (SFAs) από τρεις από τις μεγαλύτερες εταιρείες ηλεκτρονικού ταχυδρομείου στον κόσμο, παρουσίασαν πολιτική προκατάληψη κατά τη διάρκεια των εκλογών των Ηνωμένων Πολιτειών το 2020, με το Gmail της Google να προκαλείται προς τα αριστερά, ενώ το Microsoft Outlook και το Yahoo Mail ευνοούσαν emails από υποψήφιους της δεξιάς πτέρυγας.

Το έγγραφο αναφέρει:

‘Οι παρατηρήσεις μας αποκάλυψαν ότι όλοι οι SFAs παρουσίασαν πολιτικές προκαταλήψεις τους μήνες που οδηγούσαν στις εκλογές των ΗΠΑ το 2020. Το Gmail προκαλούνταν προς τα αριστερά (Δημοκρατικοί), ενώ το Outlook και το Yahoo προκαλούνταν προς τα δεξιά (Ρεπουμπλικανοί). Το Gmail έβαλε ως σπαμ το 59,3% περισσότερα emails από τους υποψήφιους της δεξιάς πτέρυγας σε σύγκριση με τους υποψήφιους της αριστεράς πτέρυγας, ενώ το Outlook και το Yahoo έβαζαν ως σπαμ το 20,4% και το 14,2% περισσότερα emails από τους υποψήφιους της αριστεράς πτέρυγας σε σύγκριση με τους υποψήφιους της δεξιάς πτέρυγας, αντίστοιχα.’

Η ανάλυση των συγγραφέων, όπως ισχυρίζονται, αποδεικνύει ‘συγκεντρωτικές προκαταλήψεις’ στη δραστηριότητα των SFAs.

Το έγγραφο αναγνωρίζει επίσης τη δυνατότητα ‘καλλιέργειας’ σπαμ, όπου ηθοποιοί που επιδιώκουν να σιωπήσουν τις φωνές της αντιπολίτευσης θα μπορούσαν να ζητήσουν ή να αποκτήσουν πρόσβαση σε επίσημες επικοινωνίες από ‘εχθρικές’ πλευρές και συσχετίσεις με σκοπό να αναφέρουν την επικοινωνία ως σπαμ, επηρεάζοντας τους αλγόριθμους που καθορίζουν την πιθανότητα σπαμ από έναν συγκεκριμένο αποστολέα.

Ωστόσο, οι ερευνητές παρατηρούν ότι αυτό δεν εξηγεί τις σημειωμένες διαφορές στον τρόπο με τον οποίο οι διάφορες εταιρείες ηλεκτρονικού ταχυδρομείου φαίνεται να έχουν ρυθμίσει τις ενέργειες με βάση τις αντιδράσεις των τελικών χρηστών:

‘Επιχείρημα, υπάρχει επίσης η πιθανότητα ότι οι SFAs των υπηρεσιών ηλεκτρονικού ταχυδρομείου έμαθαν από τις επιλογές ορισμένων ψηφοφόρων που σημείωναν ορισμένα emails εκστρατείας ως σπαμ και άρχισαν να σημείωναν αυτά/όμοια emails εκστρατείας ως σπαμ για άλλους ψηφοφόρους. Ενώ δεν έχουμε κανένα λόγο να πιστεύουμε ότι υπήρξαν σκόπιμες προσπάθειες από τις υπηρεσίες ηλεκτρονικού ταχυδρομείου να δημιουργήσουν αυτές τις προκαταλήψεις για να επηρεάσουν τους ψηφοφόρους, το γεγονός παραμένει ότι οι SFAs τους έμαθαν να σημείωναν περισσότερα emails από μια πολιτική πτέρυγα ως σπαμ σε σύγκριση με την άλλη.

‘Καθώς αυτές οι nổi bậtες υπηρεσίες ηλεκτρονικού ταχυδρομείου χρησιμοποιούνται ενεργά από ένα σημαντικό τμήμα του εκλογικού σώματος και καθώς πολλοί ψηφοφόροι σήμερα βασίζονται στις πληροφορίες που βλέπουν (ή δεν βλέπουν) στο διαδίκτυο, τέτοιες προκαταλήψεις μπορεί να έχουν μια αμελητέα επίδραση στα αποτελέσματα μιας εκλογής.’

Το έγγραφο έχει τον τίτλο Μια Ματιά στις Πολιτικές Προκαταλήψεις στους Αλγόριθμους Φιλτραρίσματος Σπαμ κατά τη Διάρκεια των Εκλογών των ΗΠΑ το 2020 και προέρχεται από τέσσερις ερευνητές από το Τμήμα Επιστήμης Υπολογιστών στο Πανεπιστήμιο της Βόρειας Καρολίνας.

Γύρω από τα Σπίτια

Η μελέτη των ερευνητών καλύπτει μια περίοδο πέντε μηνών από τον Ιούλιο του 2020 έως το τέλος του Νοεμβρίου της ίδιας χρονιάς, κατά τη διάρκεια της οποίας δημιούργησαν 102 νέες διευθύνσεις ηλεκτρονικού ταχυδρομείου στις τρεις πλατφόρμες ηλεκτρονικού ταχυδρομείου και εγγράφηκαν σε δύο προεδρικές, 78 γερουσιακές και 156 οικικές λίστες ενημερώσεων υποψηφίων.

Για να αποκλείσουν δημογραφικούς παράγοντες, οι λογαριασμοί ηλεκτρονικού ταχυδρομείου δημιουργήθηκαν με διαφορετικούς δημογραφικούς παράγοντες για κάθε (ψευδώνυμο) τελικό χρήστη και χωρίστηκαν σε δύο κλάδους: ο πρώτος μελέτησε τις γενικές τάσεις προκαταλήψεων στους αλγόριθμους φιλτραρίσματος σπαμ σε όλες τις συνδυασμένες υπηρεσίες ηλεκτρονικού ταχυδρομείου για προεδρικούς, γερουσιακούς και οικιακούς υποψήφιους; και ο δεύτερος εξέτασε τους τρόπους με τους οποίους διάφορες αλληλεπιδράσεις ηλεκτρονικού ταχυδρομείου (όπως η σημείωση ή η απαλλαγή από σπαμ από τον τελικό χρήστη) φαίνονταν να επηρεάζουν τη συμπεριφορά των αλγορίθμων φιλτραρίσματος σπαμ.

Πολλές βασικές παρατηρήσεις ήρθαν στο προσκήνιο κατά τη διάρκεια της μελέτης. Οι συγγραφείς αναφέρουν ότι το Gmail ‘προκαλούνταν προς τα αριστερά’, ενώ το Outlook και το Yahoo προκαλούνταν προς τα δεξιά. Το Yahoo διατήρησε το 55,2% όλων των πολιτικών emails στην inbox του χρήστη, ενώ το Outlook φίλτράρισε το 71,8% των emails από πολιτικούς υποψήφιους όλων των πτερύγων.

‘Το Gmail, ωστόσο, διατήρησε την πλειοψηφία των emails των υποψηφίων της αριστεράς πτέρυγας στην inbox (< 10,12% σημειωμένα ως σπαμ) ενώ [στέλνει] την πλειοψηφία των emails των υποψηφίων της δεξιάς πτέρυγας στο φάκελο σπαμ (μέχρι το 77,2% σημειωμένα ως σπαμ).

‘Παρατηρήσαμε επίσης ότι το ποσοστό των emails που σημειώθηκαν από το Gmail ως σπαμ από τους υποψήφιους της δεξιάς πτέρυγας αυξήθηκε σταθερά καθώς η ημερομηνία των εκλογών approached ενώ το ποσοστό των emails που σημειώθηκαν ως σπαμ από τους υποψήφιους της αριστεράς πτέρυγας παρέμεινε περίπου το ίδιο.’

Επιλογή Υποψηφίων

Ενώ οι προεδρικοί υποψήφιοι που εγγράφηκαν για τη μελέτη ήταν περιορισμένοι στους Τζο Μπάιντεν και Ντόναλντ Τραμπ, οι ερευνητές φρόντισαν να κάνουν αντιπροσωπευτικές επιλογές όταν λάμβαναν υπόψη την εγγραφή σε emails επικοινωνίας από γερουσιακούς και οικιακούς υποψήφιους, για μια σειρά από λόγους.

Πρώτον, οι πολιτείες έχουν διαφορετικό αριθμό εδρών στη Βουλή, με βάση τον πληθυσμό της πολιτείας. Δεύτερον, ο αριθμός των γερουσιακών και οικιακών υποψηφίων μεταξύ των δύο основных πολιτικών κομμάτων διαφέρει μεταξύ των πολιτειών. Επιπλέον, ορισμένοι υποψήφιοι αντιπροσωπεύονταν μόνο από επίσημες ιστοσελίδες.gov, οι οποίες είναι νομικά απαγορευμένες να στέλνουν emails εκστρατείας; και τέλος, ορισμένες λίστες υποψηφίων ήταν προστατευμένες από CAPTCHAs, τις οποίες δεν μπορούσε να αυτοματοποιήσει το προσαρμοσμένο πλαίσιο συλλογής δεδομένων των ερευνητών.

Κατανομή της πολιτικής προκατάληψης των emails των υποψηφίων της Γερουσίας και της Βουλής. Πηγή: https://arxiv.org/pdf/2203.16743.pdf

Για να ισοπεδώσουν την ανισότητα που προέκυψε μεταξύ των υποψηφίων του Δημοκρατικού και του Ρεπουμπλικανικού κόμματος, οι ερευνητές εγγράφηκαν σε emails εκστρατείας από τον μέγιστο αριθμό υποψηφίων σε κάθε πολιτεία όπου οι υποψήφιοι της αριστεράς και της δεξιάς πτέρυγας ήταν ίσοι σε αριθμό, εκτός από τις πολιτείες όπως η Αλάσκα, η οποία είχε μόνο έναν Ρεπουμπλικανό υποψήφιο για τη Γερουσία.

Συνολικά, οι συγγραφείς έπρεπε να λογαριαστούν δίκαια για 11 τέτοιες πολιτείες και τελικά έφτασαν σε όλες τις 50 πολιτείες. 78 εγγραφές σε 36 πολιτείες ανέρχονταν σε 44 Δημοκρατικούς και 34 Ρεπουμπλικανικούς υποψήφιους για τη Γερουσία, ενώ υπήρχαν 156 εγγραφές σε 42 πολιτείες για οικιακούς υποψήφιους – 81 Δημοκρατικοί και 75 Ρεπουμπλικανοί.

Ανάλυση των Δεδομένων

Οι ερευνητές συνέλεξαν 318.108 emails στις τρεις υπηρεσίες ηλεκτρονικού ταχυδρομείου κατά τη διάρκεια της περιόδου συλλογής δεδομένων της μελέτης, η οποία έληξε μετά τις 20 Νοεμβρίου λόγω της ταχείας μείωσης του όγκου των emails μετά από αυτή τη ημερομηνία. Τα δεδομένα που συλλέχθηκαν για κάθε email περιελάμβαναν MIME-Version, Content Type, Subject, From, To, Date, Message-ID, Delivered-To, Received-SPF, και Received-By.

Λόγω των προκλήσεων που εμπλέκονται στην αντιπαράθεση τόσο των επικοινωνιών των πολιτικών κομμάτων, η Ανάλυση Ισχύος Προσδιορισμού (PSA) επιλέχθηκε ως η στατιστική μέθοδος για τα δεδομένα. Η PSA γεννά covariates από μη ισορροπημένα δεδομένα που ισοπεδώνουν τις κατανομές σε εξαιρετικές περιπτώσεις όπου οι ομάδες ελέγχου και οι παραδοσιακές στατιστικές διαχωρίσεις δεν είναι εύκολα εφαρμόσιμες.

Οι συγγραφείς καταλήγουν στο συμπέρασμα ότι οι SFAs για τις υπηρεσίες ηλεκτρονικού ταχυδρομείου που μελετήθηκαν παρουσιάζουν πολιτική προκατάληψη και ότι η πρώιμη σχετική σταθερότητα μεταξύ των υπηρεσιών διαφοροποιείται σε πιο συγκεκριμένη συμπεριφορά με την πάροδο του χρόνου.

Το Gmail σημείωσε υψηλότερο ποσοστό (67,6%) των emails των πολιτικών της δεξιάς πτέρυγας ως σπαμ, σε σύγκριση με ένα απλό 8,2% των emails της αριστεράς πτέρυγας, αλλά ανταποκρίνεται πιο δυναμικά στις αλληλεπιδράσεις του χρήστη που απαλλάσσουν emails από σπαμ σε σύγκριση με τους ομολόγους του. Το Outlook, αντίθετα, σημείωσε το 95,8% των emails των πολιτικών της αριστεράς πτέρυγας ως σπαμ, σε σύγκριση με το 75,4% για τα emails της δεξιάς πτέρυγας, και το Yahoo σημείωσε το 14,2% περισσότερα emails της αριστεράς πτέρυγας ως σπαμ σε σύγκριση με τα emails της δεξιάς πτέρυγας.

Συγκεντρωτική κατανομή του ποσοστού των emails των Δημοκρατικών (μπλε) και Ρεπουμπλικανών (κόκκινο) που σημειώθηκαν ως σπαμ σε λογαριασμούς ηλεκτρονικού ταχυδρομείου κάθε υπηρεσίας.

Επιπλέον, τα αποτελέσματα δείχνουν ότι κατά τη διάρκεια της περιόδου της μελέτης, το Gmail ανταποκρίνεται khá γενικά σε μια αύξηση του όγκου των emails σε όλες τις πολιτικές πτέρυγες, αυξάνοντας τους ως σπαμ, ανεξάρτητα από την προέλευση. Το Yahoo συνεχώς ανέφερε emails της αριστεράς πτέρυγας ως σπαμ καθώς προχώρησαν οι εκστρατείες,同時 μειώνοντας τον αριθμό των emails της δεξιάς πτέρυγας που σημειώθηκαν ως σπαμ. Το Outlook φάνηκε να είναι το λιγότερο επηρεασμένο από την αύξηση του όγκου των emails από οποιοδήποτε πολιτικό κόμμα, διατηρώντας μια γενική προκατάληψη προς τα δεξιά.

Ποσοστό των emails που σημειώθηκαν ως σπαμ σε όλες τις πολιτικές πτέρυγες και όλες τις τρεις υπηρεσίες ηλεκτρονικού ταχυδρομείου κατά τη διάρκεια της περιόδου της μελέτης.

Απάντηση στην Αλληλεπίδραση του Χρήστη

Όταν σημειώνουμε ένα email σπαμ ως ‘Όχι σπαμ’, η πρόθεση είναι να εκπαιδεύσουμε το σύστημα ηλεκτρονικού ταχυδρομείου να μην σημείωνε παρόμοια emails στο μέλλον, αν και ο υποκείμενος τύπος κανόνα (email-βασισμένος, περιεχόμενο-βασισμένος, κ.λπ.) δεν είναι πάντα εντελώς σαφής.

Τα αποτελέσματα της μελέτης βρήκαν ότι από τις τρεις υπηρεσίες ηλεκτρονικού ταχυδρομείου που εξετάστηκαν, μόνο το Gmail ανταποκρίνεται αξιοσημείωτα σε μια είσοδο ‘όχι σπαμ’ από τον χρήστη. Σε αντίθεση, αυτή η αλληλεπίδραση του χρήστη που μετατρέπει σπαμ σε inbox (S→I) είχε πολύ περιορισμένη μακροπρόθεσμη επίδραση στο Outlook και το Yahoo.

Οι ερευνητές παρατηρούν:

‘[Λόγω] της αλληλεπίδρασης S→I, η πολιτική προκατάληψη στο Gmail μειώθηκε σημαντικά. Ωστόσο, απρόσμενα, αυξήθηκε και στις δύο υπηρεσίες Outlook και Yahoo, διότι καμία από τις δύο υπηρεσίες δεν ανταποκρίθηκε αξιοσημείωτα στην επιθυμία του χρήστη να μην σημείωνε emails ως σπαμ που οι δύο υπηρεσίες σημείωναν ως σπαμ.’

Συμπέρασμα

Οι συγγραφείς καταλήγουν στο συμπέρασμα ότι το Gmail ανταποκρίνεται ‘σημαντικά’ στην αλληλεπίδραση του χρήστη σε σύγκριση με το Outlook και το Yahoo, παρά την προκατάληψη προς τα αριστερά.

Οι συγγραφείς αναφέρουν:

‘Ενώ η πολιτική προκατάληψη στο Gmail παρέμεινε αμετάβλητη μετά την αλληλεπίδραση ανάγνωσης, μειώθηκε σημαντικά λόγω των αλληλεπιδράσεων I→S και S→I.’

Και συνεχίζουν:

‘Ενώ οι πολιτικές προκαταλήψεις άλλαξαν ως απάντηση σε διάφορες αλληλεπιδράσεις, το Gmail διατήρησε την προκατάληψη προς τα αριστερά, ενώ το Outlook και το Yahoo διατήρησαν την προκατάληψη προς τα δεξιά σε όλες τις περιπτώσεις.’

Οι ερευνητές αναγνωρίζουν μια γενική προσδοκία από τον τελικό χρήστη ότι τα φίλτρα σπαμ μπορούν και θα προσαρμοστούν στη συμπεριφορά τους με βάση την παρέμβαση του χρήστη (όπως η μετακίνηση ενός email από τον φάκελο σπαμ στην inbox, ή η σημείωση ενός email ως ‘όχι σπαμ’), αλλά ότι αυτό το μηχανισμό δεν είναι αξιόπιστος και σίγουρα δεν είναι συνεπής μεταξύ των τριών υπηρεσιών ηλεκτρονικού ταχυδρομείου που μελετήθηκαν.

Το έγγραφο αναφέρει:

‘[Δεν] βρήκαμε καμία συνεχή ενέργεια που θα μπορούσαμε να προτείνουμε στους χρήστες για να τους βοηθήσουμε να μειώσουν την προκατάληψη στον τρόπο με τον οποίο η SFA αντιμετωπίζει τα πολιτικά emails που στέλνονται σε αυτούς.’

Πρώτη δημοσίευση 4ης Απριλίου 2022.