Recherche : les algorithmes anti-spam ont montré des préjugés politiques lors des élections américaines de 2020

Selon une nouvelle étude, les algorithmes de filtrage des spams (SFA) de trois des plus grands fournisseurs de messagerie électronique au monde ont présenté des préjugés politiques lors des élections américaines de 2020, avec Gmail de Google qui penchait vers la gauche, tandis que Microsoft Outlook et Yahoo Mail favorisaient les courriels des candidats de droite.

Le document indique:

‘Nos observations ont révélé que tous les SFA ont présenté des préjugés politiques dans les mois précédant les élections américaines de 2020. Gmail penchait vers la gauche (les démocrates) tandis que Outlook et Yahoo penchaient vers la droite (les républicains). Gmail a marqué 59,3 % de courriels de plus des candidats de droite comme spam par rapport aux candidats de gauche, tandis que Outlook et Yahoo ont marqué 20,4 % et 14,2 % de courriels de plus des candidats de gauche comme spam par rapport aux candidats de droite, respectivement.’

Les auteurs analysent, ils affirment, démontrent des « préjugés agrégés » dans l’activité des SFA.

Le document reconnaît également la possibilité de « spam cultivé », où des acteurs cherchant à faire taire les voix de l’opposition pourraient solliciter ou obtenir l’accès à des communications officielles de « partis hostiles » et d’affiliations avec l’intention de signaler la communication comme spam, influençant ainsi les algorithmes qui déterminent la probabilité que le spam provienne d’un expéditeur particulier.

Cependant, les chercheurs observent que cela n’explique pas les variations marquées dans la façon dont les différents fournisseurs de messagerie électronique semblent avoir configuré des actions en fonction des réactions des utilisateurs:

‘Il est également possible que les SFA des services de messagerie électronique aient appris des choix de certains électeurs qui ont marqué certains courriels de campagne comme spam et aient commencé à marquer ces courriels comme spam pour d’autres électeurs. Même si nous n’avons aucune raison de croire qu’il y a eu des tentatives délibérées de la part de ces services de messagerie électronique pour créer ces préjugés pour influencer les électeurs, le fait est que leurs SFA ont appris à marquer plus de courriels d’une affiliation politique comme spam par rapport à l’autre.

‘Comme ces services de messagerie électronique sont activement utilisés par une grande partie de la population électorale et que de nombreux électeurs s’appuient aujourd’hui sur les informations qu’ils voient (ou ne voient pas) en ligne, de tels préjugés peuvent avoir un impact non négligeable sur les résultats d’une élection.’

Le document est intitulé Un aperçu des préjugés politiques dans les algorithmes de filtrage des spams de messagerie électronique pendant les élections américaines de 2020, et provient de quatre chercheurs du département d’informatique de l’Université d’État de Caroline du Nord.

Le tour des maisons

L’étude des chercheurs couvre une période de cinq mois, de juillet 2020 à la fin novembre de la même année, au cours de laquelle ils ont créé 102 nouvelles adresses électroniques sur les trois plateformes de messagerie électronique, et s’abonné à deux listes de notification de campagne présidentielle, 78 listes de sénateurs et 156 listes de représentants.

Pour tenir compte des facteurs démographiques, les comptes de messagerie électronique ont été créés avec des facteurs démographiques variables pour chaque utilisateur (fictif), et divisés en deux voies: la première a étudié les tendances générales de préjugés dans les algorithmes de filtrage des spams à travers tous les services de messagerie électronique combinés pour les candidats présidentiels, sénatoriaux et représentatifs; et la deuxième a examiné les façons dont les différentes interactions de messagerie électronique (telles que le marquage ou le démarquage comme spam par l’utilisateur) semblaient avoir un impact sur le comportement des filtres de spam algorithmiques.

Plusieurs observations clés sont ressorties au cours de l’étude. Les auteurs rapportent que Gmail « penchait vers la gauche », tandis que Outlook et Yahoo penchaient vers la droite. Yahoo a conservé 55,2 % de tous les courriels politiques dans le dossier d’arrivée de l’utilisateur, tandis que Outlook a filtré 71,8 % des courriels de candidats politiques de tous les partis.

‘Gmail, cependant, a conservé la majorité des courriels de candidats de gauche dans le dossier d’arrivée (moins de 10,12 % marqués comme spam) tandis que [il a envoyé] la majorité des courriels de candidats de droite dans le dossier des spams (jusqu’à 77,2 % marqués comme spam).

‘Nous avons également observé que le pourcentage de courriels marqués par Gmail comme spam des candidats de droite a augmenté régulièrement à mesure que la date de l’élection approchait, tandis que le pourcentage de courriels marqués comme spam des candidats de gauche est resté à peu près le même.’

La sélection des candidats

Alors que les candidats à la présidence pour lesquels les chercheurs s’étaient abonnés étaient limités à Joe Biden et Donald Trump, les chercheurs ont pris soin de faire des choix représentatifs lorsqu’ils ont considéré s’abonner à des communications électroniques de candidats sénatoriaux et représentatifs, pour plusieurs raisons.

Tout d’abord, les États ont des nombres variables de sièges à la Chambre des représentants en fonction du nombre de population de l’État. Deuxièmement, le nombre de candidats sénatoriaux et représentatifs des deux principaux partis politiques varie d’un État à l’autre. En outre, certains candidats n’étaient représentés que par des sites Web officiels.gov, qui sont interdits par la loi de envoyer des courriels de campagne; et enfin, certaines listes de candidats étaient protégées par des CAPTCHAs, que le cadre de collecte de données personnalisé des chercheurs ne pouvait pas automatiser.

Distribution de l’affiliation politique des abonnements aux courriels de candidats sénatoriaux et représentatifs. Source: https://arxiv.org/pdf/2203.16743.pdf

Pour égaliser le déséquilibre résultant entre les candidats démocrates et républicains, les chercheurs se sont abonnés à des informations de campagne électronique du plus grand nombre de candidats dans tout État où les candidats de gauche et de droite étaient égaux en nombre, à l’exception d’États tels que l’Alaska, qui n’avait qu’un seul candidat sénatorial républicain.

Au total, les auteurs ont dû tenir compte de 11 États de cette manière, et ont finalement représenté tous les 50 États. 78 abonnements à travers 36 États se sont traduits par 44 listes de candidats sénatoriaux démocrates et 34 listes de candidats sénatoriaux républicains, tandis que 156 abonnements à travers 42 États pour les candidats à la Chambre des représentants – 81 démocrates et 75 républicains.

L’analyse des données

Les chercheurs ont collecté 318 108 courriels à travers les trois services de messagerie électronique au cours de la période active de collecte de données, qui a été tronquée après le 20 novembre en raison de la chute rapide du volume de courriels après cette date. Les données collectées pour chaque courriel comprenaient MIME-Version, Content Type, Subject, From, To, Date, Message-ID, Delivered-To, Received-SPF, et Received-By.

En raison des défis liés à la représentation équitable des communications des deux partis politiques, l’analyse de score de propension (PSA) a été choisie comme méthode statistique pour les données. La PSA génère des covariables à partir de données déséquilibrées qui égalisent les distributions dans des circonstances exceptionnelles où les groupes de contrôle et les divisions statistiques traditionnelles ne sont pas facilement applicables.

Les auteurs concluent que les SFA des services de messagerie électronique étudiés présentent des préjugés politiques, et que la cohérence relative initiale à travers les services se divise en un comportement plus spécifique avec le temps.

Gmail marque un pourcentage plus élevé (67,6 %) de courriels politiques de droite comme spam, par rapport à un simple 8,2 % de courriels affiliés à la gauche, mais répond plus dynamiquement aux interactions de l’utilisateur qui démarquent les courriels comme spam que ses homologues. Outlook, en revanche, marque 95,8 % de courriels politiques de gauche comme spam, par rapport à 75,4 % pour les courriels de droite, et Yahoo marque 14,2 % de courriels de gauche de plus comme spam que les courriels de droite.

Distribution cumulative du pourcentage de courriels démocrates (bleu) et républicains (rouge) qui ont été marqués comme spam dans les comptes de messagerie électronique de chaque service.

De plus, les résultats suggèrent que, au cours de la période de l’étude, Gmail répond de manière générique à une augmentation du volume de courriels de toutes les affiliations politiques en les marquant de plus en plus comme spam, indépendamment de leur provenance. Yahoo a signalé de manière cohérente les courriels de gauche comme spam à mesure que les campagnes progressaient, tout en diminuant le nombre de courriels de droite marqués comme spam. Outlook semblait le moins affecté par l’augmentation du volume de courriels de l’un ou l’autre parti politique, en maintenant un préjugé général de droite.

Pourcentage de courriels marqués comme spam à travers les deux partis politiques et les trois fournisseurs de messagerie électronique au cours des 153 jours de la période de l’étude.

Réponse à l’interaction utilisateur

Lorsque nous marquons un courriel spam comme « Non spam », l’intention est de former le système de messagerie électronique à ne pas signaler des courriels similaires à l’avenir, même si le type de règle sous-jacente (basé sur le courriel, le contenu, etc.) n’est pas toujours entièrement clair.

Les résultats de l’étude ont montré que, parmi les trois fournisseurs de messagerie électronique examinés, seul Gmail a répondu de manière notable à une entrée « Non spam » de l’utilisateur. En revanche, cette interaction spam-à-boîte de réception (S→I) de l’utilisateur a eu un effet à long terme très limité dans Outlook et Yahoo.

Les chercheurs observent:

‘[En raison] de l’interaction S→I, le préjugé politique dans Gmail a diminué de manière significative. Cependant, de manière inattendue, il a augmenté dans les deux services Outlook et Yahoo, car aucun des deux services n’a réagi de manière notable à la volonté de l’utilisateur de ne pas marquer les courriels comme spam que les deux services marquaient comme spam.’

Conclusion

Les auteurs concluent que Gmail répond « de manière significative » à l’interaction de l’utilisateur par rapport à Outlook et Yahoo, malgré sa propre prédisposition de gauche.

Les auteurs déclarent:

‘Alors que le préjugé politique dans Gmail est resté inchangé après l’interaction de lecture, il a diminué de manière significative en raison des interactions I→S et S→I.’

Et poursuivent:

‘Alors que les préjugés politiques ont changé en réponse à différentes interactions, Gmail a maintenu son penchant de gauche, tandis que Outlook et Yahoo ont maintenu leur penchant de droite dans tous les scénarios.’

Les chercheurs reconnaissent une attente générale de la part de l’utilisateur que les filtres de spam puissent et vont adapter leur comportement en fonction de l’intervention de l’utilisateur (telle que déplacer un courriel d’un dossier de spam vers la boîte de réception, ou marquer un courriel comme « Non spam »), mais que ce mécanisme n’est pas fiable, et certainement pas cohérent à travers les trois fournisseurs de messagerie électronique étudiés.

Le document note:

‘[Nous] n’avons pas trouvé d’actions cohérentes que l’on pourrait recommander aux utilisateurs pour les aider à réduire le préjugé dans la façon dont le SFA traite les courriels politiques qui leur sont envoyés.’

Publié pour la première fois le 4 avril 2022.