FacebookのAIが誤情報を広め、民主主義を脅かす方法

LinkedInでのAI研究を担当していたDan Tunkelangは、「推薦が決定を影響する力を持ち始めると、スパマー、詐欺師、その他非紳士的な動機を持つ人々の標的となる」と述べた。

これは、Facebookのようなソーシャルメディア企業が直面しているジレンマである。Facebookは、暗黙のフィードバックを使用して、クリック、閲覧、その他の測定可能なユーザーの行動を追跡している。このデータは、「推薦エンジン」と呼ばれるAIシステムを設計するために使用され、このシステムは、誰がどのコンテンツを見て、いつ見るかを決定する最終的な権限を持っている。

Facebookは、ユーザーがプラットフォームに費やす時間を最大化するように推薦エンジンを最適化している。この時間の最大化は、推薦されるコンテンツの質や正確性よりも優先される。

このシステムは、認知バイアスを利用してユーザーを巻き込むセンセーショナリズムなヘッドラインを報酬化するように設計されている。たとえそれらのヘッドラインが、社会を分裂させたり、政治選挙を操作したりする意図でロシアのトロールによって書かれたものであってもである。

FacebookがAIを使用する方法

FacebookがAIを使用してユーザーが見るコンテンツとやり取りする方法についての認識が不足している。まず、確認バイアスとは何かを理解する必要がある。Psychology Todayでは、これを次のように説明している。

確認バイアスは、事前の信念や価値観を確認または支持する情報を検索、解釈、優先し、思い出す傾向である。

Facebookは、ユーザーが確認バイアスを満たすニュースをクリックする可能性が高くなることを理解している。これは、陰謀論の広まりと、ユーザーが確認バイアスを満たす情報だけを与えられるエコーチェンバーの作成という、危険な先行きをもたらす。

MITの研究によると、ツイッター上的の偽ニュースは、本当のニュースよりも6倍速く広がることが示された。

これは、ツイッターとFacebookが武器化できることを意味する。ツイッターは誰でも狭いまたは偏った視点のフィードをフォローできるようにする一方、Facebookはこれをさらに進めており、ユーザーは現在、見ているコンテンツを制御または測定する方法がない。これは、Facebookの推薦エンジンによって完全に制御されており、ユーザーとのやり取りをどのように測定し、どのように最適化するかによって決定される。

Facebookは、ユーザーの欲求を形作り、予測しようとする。Facebookは、ユーザーがまだ経験していないニュースアイテムに対するユーザーの好みや嫌いを推定する。ユーザーのやり取り時間が減少しないようにするために、Facebookは、ユーザーのやり取りを減らす可能性のあるニュースアイテムを回避し、代わりに確認バイアスを満たすニュースアイテムでユーザーを巻き込むことを選択する。

Facebookは、自動協調フィルタリングを使用して、ユーザーの過去の行動や意見に基づいて、参加者（友達）を類似した意見を持つ人々と自動的にマッチングする。Facebookは、ユーザーの好みを予測し、数式的にランク付けするユーティリティ関数を使用する。

これにより、ユーザーは偽ニュースの中に陥り、確認バイアスを満たすコンテンツだけが提示される。提示されるコンテンツは、ユーザーがクリックするものを影響させることを目的として設計されている。もし、ビル・ゲイツがワクチンを使って人間をマイクロチップ化しようとしているという陰謀論を信じている場合、Facebookは、プラットフォームから離れる可能性があるため、矛盾する証拠を提示する必要がない。

さらに、Facebookは「社会的証拠」と呼ばれるものを使用している。社会的証拠とは、人々が大衆の行動に従う概念である。多くの人がある行動をとるので、それが正しい行動であると考えられる。

Facebookは、いいね、コメント、シェアの形で社会的証拠を提供する。ニュースフィードアイテムは、特定の友達だけが見ることができる（ユーザーが特定のユーザーのニュースフィードを検索しない限り）、社会的証拠は確認バイアスをさらに強化する。

Facebookは、フィルターバブルを使用して、矛盾した視点への露出を制限する。

Facebook広告

Facebookユーザーは、広告をクリックしていることに気付いていないかもしれない。理由は単純である。広告が提示された場合、最初のユーザーだけが広告免責事項を表示する。ユーザーが広告をシェアすると、友達リストのすべてのユーザーは、広告免責事項なしでニュースフィードアイテムとしてのみ表示される。ユーザーは警戒心を失い、広告と有機的に表示されるアイテムを区別できない。

Facebookシェア

残念ながら、状況はさらに悪化する。ユーザーが1000人の友達を同時にシェアした場合、推薦エンジンは、同じ見解を持つ少数派のコンテンツを優先する。ユーザーは、ニュースフィードアイテムがすべてのユーザーに表示されているという幻想に陥る。ユーザーがニュースフィードとやり取りすると、Facebookの推薦エンジンは、ユーザーがさらに偽ニュースとやり取りするように強化する。

これにより、エコーチェンバー、フィルターバブルが作成され、ユーザーは自分が見るものだけを信じるように訓練される。真実はただの幻想である。

問題の深刻さ

100万人以上のユーザーが、ニュースフィードに反応した。ポープ・フランシスが2016年のトランプ大統領選挙でトランプを支持したと主張するニュースフィードだったが、実際にはロシアから発信された偽ニュースだった。

このニュースアイテムは、ロシアのトロールファーム「インターネット・リサーチ・エージェンシー」によって生成された。この組織は、ツイッターとFacebookで人種差別的な記事を普及させ、黒人の生活を重要だと考える運動を非難し、偽ニュースを広めてアメリカの政治家について虚偽の主張を広めた。

情報委員会は、85ページの報告書を発表し、ロシアのアクティブ・メジャーズ・キャンペーンと干渉について詳細に述べた。報告書のほとんどは、2016年の米国大統領選挙に影響を与えるために使用された、分裂的な偽ニュースとプロパガンダの広まりについてであった。

2020年の選挙に前進すると、問題はさらに悪化した。2020年9月、FBIの情報に基づいて、Facebookとツイッターは、ロシアの国家プロパガンダ活動に関連するニュース組織「ピースデータ」のソーシャルメディアアカウントを停止した。

しかし、アカウントを停止することは一時的な解決策であり、効果的ではない。ロシアのアカウントは、友達リクエストの形をとることが多く、魅力的なプロフィールを持つ女性によってターゲットにされることが多い。あるいは、通常の投稿の歴史を持つユーザーアカウントが乗っ取られ、政治的な投稿に変化し、最終的にプロパガンダや陰謀論に支配される。

ユーザーは、友達のアカウントが乗っ取られたことに気付いていないかもしれない。ユーザーが陰謀論に弱い場合、偽ニュースフィードアイテムとやり取りする可能性があり、ロシアのトロール（ souventボット）は、いいねやコメントの形で社会的証拠を提供する。

デジタルメディアリテラシーが不足している65歳以上のユーザーは、最も弱いユーザーである。ニューヨーク・タイムズの報告によると、Facebookユーザーの中で65歳以上のユーザーは、29歳以下のユーザーの7倍の偽ニュース記事をシェアしていた。

偽ニュースサイトからの記事をシェアすることは、白人至上主義、極右ナショナリズム、またはQAnonのような陰謀論への入口となることが多い。

まとめ

Facebookは問題を認識しており、コミュニティスタンダードに違反するコンテンツを削除する戦略を発表している。しかし、アカウントを削除することは、一時的な解決策であり、ボットによって大量に生成されたアカウントや、ユーザーアカウントの大量ハッキングに対しては効果的ではない。また、ほとんどのシェアは、誤情報を広めていることに気付いていない通常のユーザーによって行われているという問題を解決していない。

警告ラベルを追加することは、社会メディアの大手企業が保守派に対して偏っているという陰謀論をさらに強化するだけである。最も偽ニュースに弱いとされるトランプ支持者は、偽ニュースを広める傾向にある。

解決策は、ユーザーのやり取りだけではなく、ユーザーの幸せを優先し、真実を提供し、自己認識を高めるように最適化された新しい推薦エンジンを開発することである。

一方で、Facebookは、ツイッターが政治広告を禁止したようにするべきである。

最後に、重要な質問を問う必要がある。ユーザーが見るニュースを選択する権利がなければ、いつになるのか。いつになるのか、推薦からマインドコントロールへの転換が起こるのか。

おすすめの読み物:

ロシアのアクティブ・メジャーズ・キャンペーンと干渉 – 米国上院情報委員会の報告書。

民主主義の終焉を予測する衝撃的な論文 – ジョージ・ワシントン大学の歴史ニュースネットワークの創設者、リック・シェンクマンによる。

高齢者はFacebookで偽ニュースをシェアする – ニューヨーク・タイムズによる。