研究：2020年美国大选期间，反垃圾邮件算法表现出政治偏见

根据一项新研究，世界上三大主要电子邮件提供商的垃圾邮件过滤算法（SFAs）在2020年美国大选期间表现出政治偏见，谷歌的Gmail偏向左翼，而微软Outlook和雅虎邮件则偏向右翼候选人。

该论文指出：

‘我们的观察结果显示，所有SFAs在2020年美国大选前几个月表现出政治偏见。Gmail偏向左翼（民主党），而Outlook和雅虎则偏向右翼（共和党）。Gmail将右翼候选人的电子邮件标记为垃圾邮件的比例比左翼候选人高59.3%，而Outlook和雅虎将左翼候选人的电子邮件标记为垃圾邮件的比例分别比右翼候选人高20.4%和14.2%。’

作者的分析表明，SFAs的活动表现出“聚合偏见”。

该论文还承认了“耕种”垃圾邮件标记的可能性，即某些人可能会故意将对立方的官方通信报告为垃圾邮件，以影响算法的行为。

然而，研究人员观察到，这并不能解释不同电子邮件提供商配置行为的差异：

‘可以认为，电子邮件服务的SFAs可能从某些选民标记某些竞选电子邮件为垃圾邮件的选择中学习，并开始将类似的竞选电子邮件标记为垃圾邮件。虽然我们没有理由相信这些电子邮件服务故意制造这些偏见来影响选民，但事实是，他们的SFAs已经学会将一个政治派别的电子邮件标记为垃圾邮件的比例比另一个政治派别高。’

‘由于这些著名的电子邮件服务被大量选民使用，并且许多选民今天依赖他们在线看到的信息（或没有看到的信息），这些偏见可能会对选举结果产生不可忽视的影响。’

论文题为《美国大选2020期间电子邮件垃圾邮件过滤算法中的政治偏见一瞥》，由北卡罗来纳州立大学计算机科学系的四位研究人员撰写。

绕过房屋

研究人员的研究涵盖了2020年7月至11月的五个月期间，他们在三个电子邮件平台上创建了102个新电子邮件地址，并订阅了两个总统、78个参议员和156个众议员候选人的电子邮件通知列表。

为了消除人口统计因素的影响，电子邮件账户是用不同的人口统计因素为每个（虚构的）最终用户创建的，并分为两条线：第一条研究了垃圾邮件过滤算法在所有电子邮件服务中对总统、参议员和众议员候选人的电子邮件的总体偏见趋势；第二条研究了各种电子邮件交互（如最终用户标记或取消标记为垃圾邮件）如何影响算法垃圾邮件过滤器的行为。

研究中有几个关键观察结果。作者报告说，Gmail“偏向左翼”，而Outlook和雅虎则偏向右翼。雅虎保留了所有政治电子邮件中55.2%的收件箱中的电子邮件，而Outlook则过滤了来自所有政治候选人的71.8%的电子邮件。

‘Gmail保留了大多数左翼候选人的电子邮件在收件箱中（＜10.12%标记为垃圾邮件），而将大多数右翼候选人的电子邮件发送到垃圾邮件文件夹（高达77.2%标记为垃圾邮件）。’

‘我们进一步观察到，Gmail从右翼候选人发送的电子邮件被标记为垃圾邮件的百分比随着选举日期的临近而稳步增加，而左翼候选人发送的电子邮件被标记为垃圾邮件的百分比基本保持不变。’

选择候选人

虽然研究中订阅的总统候选人仅限于乔·拜登和唐纳德·特朗普，但研究人员在选择订阅参议员和众议员候选人的电子邮件通信时非常谨慎。

首先，各州在众议院中的席位数量根据州的人口数量而有所不同。其次，各州的参议员和众议员候选人数量在两个主要政党之间存在差异。此外，一些候选人仅通过官方.gov网站代表，他们根据法律被禁止发送竞选电子邮件；最后，一些候选人的订阅列表受到CAPTCHAs的保护，研究人员的自定义数据收集框架无法自动化。

参议员和众议员候选人的电子邮件订阅的政治归属分布。 来源：https://arxiv.org/pdf/2203.16743.pdf

为了平衡民主党和共和党候选人之间的不平衡，研究人员订阅了来自各州最多候选人的竞选电子邮件信息，除了阿拉斯加等州只有一个共和党参议员候选人。

总共，作者必须公平地考虑11个州，最终代表了所有50个州。78个订阅跨越36个州，相当于44位民主党参议员候选人和34位共和党参议员候选人，而众议员候选人则有156个订阅，跨越42个州，分别为81位民主党候选人和75位共和党候选人。

分析数据

研究人员在研究的数据收集期间收集了318,108封电子邮件，跨越三个电子邮件服务，截止日期为11月20日之后，电子邮件数量迅速下降。每封电子邮件的数据内容包括MIME-Version、Content Type、Subject、From、To、Date、Message-ID、Delivered-To、Received-SPF和Received-By。

由于代表两党通信的挑战，研究人员选择了倾向评分分析（PSA）作为数据的统计方法。PSA从不平衡的数据中生成协变量，以异常情况下实现分布的平衡，在控制组和传统统计分裂不容易应用的情况下。

作者得出结论，研究的电子邮件服务的SFAs表现出政治偏见，并且服务之间的早期相对一致性会随着时间的推移而变得更加具体。

Gmail将67.6%的右翼政治电子邮件标记为垃圾邮件，而左翼电子邮件仅8.2%被标记为垃圾邮件，但Gmail对用户交互的响应更为动态，尤其是当用户将电子邮件从垃圾邮件文件夹移到收件箱时。Outlook则将95.8%的左翼政治电子邮件标记为垃圾邮件，而右翼电子邮件的比例为75.4%。雅虎将左翼电子邮件标记为垃圾邮件的比例比右翼电子邮件高14.2%。

每个电子邮件服务的民主党（蓝色）和共和党（红色）电子邮件被标记为垃圾邮件的百分比的累积分布。

此外，结果表明，在研究期间，Gmail对所有政治派别的电子邮件数量增加的响应是通过将更多电子邮件标记为垃圾邮件来实现的，而不论电子邮件的来源如何。雅虎在整个竞选期间一致地将左翼电子邮件报告为垃圾邮件，同时减少了右翼电子邮件被标记为垃圾邮件的数量。Outlook似乎对来自任何政治派别的电子邮件数量增加的影响最小，保持了总体的右翼偏见。

在研究期间的153天内，两个政治派别在三个电子邮件提供商中被标记为垃圾邮件的电子邮件的百分比。

对用户交互的响应

当我们将垃圾邮件标记为“非垃圾邮件”时，意图是训练电子邮件系统，以免在未来标记类似的邮件，尽管底层规则的类型（基于电子邮件、基于内容等）并不总是完全清楚。

研究结果发现，在研究的三个电子邮件提供商中，只有Gmail对用户的“非垃圾邮件”输入做出了显著的响应。相比之下，用户驱动的垃圾邮件到收件箱（S→I）交互对Outlook和雅虎的长期影响非常有限。

研究人员观察到：

‘由于S→I交互，Gmail中的政治偏见显著降低。然而，出乎意料的是，Outlook和雅虎的偏见增加了，因为这两种服务对用户不将电子邮件标记为垃圾邮件的愿望没有明显的反应。’

结论

作者得出结论，Gmail对用户交互的响应比Outlook和雅虎更为显著，尽管它有左翼偏见。

作者指出：

‘虽然Gmail的政治偏见在阅读交互后保持不变，但由于I→S和S→I交互，它显著降低。’

并继续指出：

‘虽然政治偏见在各种交互中发生变化，Gmail保持了左翼偏见，而Outlook和雅虎在所有场景中保持了右翼偏见。’

研究人员承认，用户通常期望垃圾邮件过滤器能够根据用户干预（如将电子邮件从垃圾邮件文件夹移到收件箱，或将邮件标记为“非垃圾邮件”）调整其行为，但这种机制并不可靠，并且在三个电子邮件提供商中并不一致。

论文指出：

‘我们没有发现任何一致的行动，可以推荐给用户，以帮助他们减少SFAs处理发送给他们的政治电子邮件的偏见。’

首次发表于2022年4月4日。