2020年米国大統領選挙期間のスパムフィルタリングアルゴリズムにおける政治的偏見に関する研究

新しい研究によると、世界的大手3つのメールプロバイダーのスパムフィルタリングアルゴリズム（SFA）は、2020年の米国大統領選挙期間中に政治的偏見を示した。GoogleのGmailは左寄り、Microsoft OutlookとYahoo Mailは右寄りの傾向があった。

研究論文によると：

‘我々の観察により、すべてのSFAが2020年米国大統領選挙前の数ヶ月間に政治的偏見を示した。Gmailは左寄り（民主党）であったのに対し、OutlookとYahooは右寄り（共和党）であった。Gmailは右派候補者のメールを左派候補者のメールよりも59.3%多くスパムとしてマークし、OutlookとYahooは左派候補者のメールを右派候補者のメールよりも20.4%と14.2%多くスパムとしてマークした.’

研究者は、SFAの活動に「集団的偏見」があることを示した。

研究者は、スパムマークの「農業」可能性も認めている。つまり、反対派の声を封じ込めるために、公式の通信を入手し、スパムとして報告することで、アルゴリズムを操作することができる。

しかし、研究者は、メールプロバイダーの設定が異なることを観察した：

‘ある投票者の選択によって、スパムとしてマークされたキャンペーンメールが他の投票者にもスパムとしてマークされる可能性がある。ただし、メールサービスが意図的に偏見を生み出すことを目的としたものではない。ただし、SFAはある政治的所属のメールを他の所属のメールよりも多くスパムとしてマークするようになった.’

‘これらのメールサービスは多くの投票者によって活用されており、投票者はオンラインで見る（または見ない）情報に頼っているため、偏見の影響は無視できない可能性がある.’

論文は「2020年米国大統領選挙期間のスパムフィルタリングアルゴリズムにおける政治的偏見の観察」と題され、ノースカロライナ州立大学のコンピューターサイエンス学部の4人の研究者によって執筆された。

周囲を回る

研究者は、2020年7月から11月までの5ヶ月間にわたる研究を行った。研究者は3つのメールプラットフォームで102の新しいメールアドレスを作成し、2人の大統領候補、78人の上院議員候補、156人の下院議員候補のメール通知リストに登録した。

人口統計学的要因を考慮するために、研究者は各メールアカウントに異なる人口統計学的特性を設定し、2つのストランドに分けた。1つは、すべてのメールサービスに対するスパムフィルタリングアルゴリズムの一般的な偏見傾向を調査し、もう1つは、メールのやり取り（例：スパムとしてマークしたり解除したり）がアルゴリズムの動作に与える影響を調査した。

研究者は、いくつかの重要な観察結果を得た。Gmailは左寄り、OutlookとYahooは右寄りであった。Yahooはすべての政治的なメールの55.2%をユーザーの受信トレイに保持し、Outlookはすべての政治的なメールの71.8%をスパムとしてフィルタリングした。

‘Gmailは、左派候補者のメールのほとんどを受信トレイに保持し（10.12%以下がスパムとしてマークされた）、右派候補者のメールのほとんどをスパムフォルダに送信した（77.2%がスパムとしてマークされた）。’

‘右派候補者のメールがスパムとしてマークされる割合は、選挙日が近づくにつれて増加した。一方、左派候補者のメールがスパムとしてマークされる割合はほぼ同じままだった.’

候補者の選択

研究者は、大統領候補者についてはジョー・バイデンとドナルド・トランプの2人に限定したが、上院議員候補者と下院議員候補者については、代表的な選択を行った。

州ごとに異なる数の下院議員がいるため、研究者は各州の人口に基づいて候補者を選択した。さらに、公式の.govサイトのみで表現される候補者や、CAPTCHAによって保護されている候補者のリストについては、研究者のカスタムデータ収集フレームワークによって自動化できなかった。

上院議員候補者と下院議員候補者の政治的所属の分布。

研究者は、民主党と共和党の候補者の数が等しい州で、可能な限り多くの候補者に登録した。アラスカ州のような、共和党の上院議員候補者が1人しかいない州については、研究者は登録しなかった。

研究者は、11の州については、公平性を保つために特別な措置を講じた。最終的に、50州すべてが代表された。36州の78の登録は、上院議員候補者について44人の民主党候補者と34人の共和党候補者に相当し、42州の156の登録は、下院議員候補者について81人の民主党候補者と75人の共和党候補者に相当した。

データの分析

研究者は、研究期間中の318,108件のメールを収集した。メールの内容には、MIME-Version、Content Type、Subject、From、To、Date、Message-ID、Delivered-To、Received-SPF、Received-Byが含まれた。

政治党派のコミュニケーションを公平に表現することが難しかったため、研究者はPropensity Score Analysis（PSA）をデータの統計方法として選択した。PSAは、コントロールグループや伝統的な統計的分割が容易に適用できない例外的な状況で、不均衡なデータから共変量を生成する。

研究者は、調査対象のメールサービスのSFAが政治的偏見を示すことを結論付けた。また、サービス間の初期的な相対的な一貫性が時間の経過とともにより具体的な動作に変化することも示した。

Gmailは、右派の政治的なメールを67.6%がスパムとしてマークし、左派のメールは8.2%がスパムとしてマークされた。Outlookは、左派の政治的なメールを95.8%がスパムとしてマークし、右派のメールは75.4%がスパムとしてマークされた。Yahooは、左派のメールを14.2%多くスパムとしてマークした。

各メールサービスのスパムとしてマークされた民主党と共和党のメールの累積分布。

さらに、結果は、Gmailがすべての政治的所属のメールの増加に対して、スパムとしてマークする割合が増加することを示した。Yahooは、選挙運動の進行とともに左派のメールをスパムとしてマークする割合が増加し、右派のメールをスパムとしてマークする割合が減少した。Outlookは、メールの増加に対して最も影響を受けなかったが、右派への偏見を維持した。

研究期間中の両党のメールのスパムとしてマークされた割合。

ユーザーのやり取りへの対応

スパムメールを「スパムではない」とマークすると、メールシステムは将来同じようなメールをスパムとしてマークしないように訓練されることを意図している。

研究結果は、調査対象の3つのメールサービスの中で、Gmailのみが「スパムではない」というユーザーの入力に著しく反応したことを示した。対照的に、このユーザーによるスパムからインボックスへのやり取りは、OutlookとYahooではほとんど長期的な影響がない。

研究者は観察した：

‘Gmailの政治的偏見は、スパムからインボックスへのやり取りによって著しく減少した。ただし、OutlookとYahooは、スパムとしてマークされたメールをインボックスに移動するユーザーのやり取りにほとんど反応しなかった。’

結論

研究者は、GmailがOutlookとYahooよりもユーザーのやり取りに著しく反応することを結論付けた。

研究者は述べた：

‘Gmailの政治的偏見は、読み取りやり取りによって減少した。ただし、OutlookとYahooの偏見は、さまざまなやり取りによって変化した。Gmailは左寄りの傾向を維持し、OutlookとYahooは右寄りの傾向を維持した。’

研究者は、ユーザーがスパムフィルタを操作できることを期待しているが、このメカニズムは信頼できるものではなく、3つのメールサービス間で一貫性がないことを認めた。

研究論文は：

‘我々は、ユーザーがSFAの偏見を減らすために取るべき一貫した行動はないと結論付けた。’

初出は2022年4月4日。