フェイスブックのAIが誤情報を広め、民主主義を脅かす

リンクトインのAI研究を担当していたDan Tunkelangは、「推薦が決定を影響する力を持ち始めたとき、スパマー、詐欺師、その他の非善意の目的を持つ人々がそれを標的とするようになる」と述べた。

これは、フェイスブックのようなソーシャルメディア企業が直面しているジレンマである。フェイスブックは、暗黙のフィードバックを使用して、クリック、閲覧、その他のユーザーの行動を追跡する。このデータは、ユーザーが何を見て、いつ見るかを決定する「レコメンデーションエンジン」と呼ばれるAIシステムを設計するために使用される。

フェイスブックは、ユーザーがフェイスブックのプラットフォームに費やす時間を最大化するようにレコメンデーションエンジンを最適化している。この時間の最大化は、推薦されるコンテンツの質や正確性よりも優先される。

このシステムは、認知バイアスを利用してユーザーを惹きつけるセンセーショナリズムなヘッドラインを報酬化するように設計されている。たとえそれらのヘッドラインがロシアのトロールによって書かれ、社会を分裂させたり、政治選挙に影響を与えたりする意図を持って書かれたものであったとしてもである。

フェイスブックがAIをどのように使用するか

フェイスブックがAIをどのように使用してユーザーが見るコンテンツを決定するかについての認識が不足している。まず、確認バイアスとは何かを理解する必要がある。Psychology Todayでは、これを次のように説明している。

確認バイアスとは、事前の信念や価値観を確認または支持する情報を探し、解釈し、好み、思い出す傾向である。

フェイスブックは、ユーザーが確認バイアスを満たすニュースにクリックする可能性が高いことを理解している。このことは、陰謀論の広まりと、ユーザーが正確性や社会への影響に基づいてではなく、自分が見たいものだけを見せられるエコーチェンバーの作成の両方にとって、危険な先例となる。

MITの研究では、ツイッター上での偽ニュースが真実のニュースよりも6倍速く広がることが実証された。

これは、ツイッターとフェイスブックが兵器化される可能性があることを意味する。ツイッターでは、誰でも狭いまたは偏った見解のフィードをフォローすることができるが、フェイスブックはさらに進んでおり、ユーザーは現在、自分が見るコンテンツを制御または測定する方法がない。このコンテンツは、フェイスブックのレコメンデーションエンジンによって完全に制御されており、ユーザーのエンゲージメントをどのように測定し、どのように最適化するかによって決定される。

フェイスブックは、ユーザーの欲求を形作り、予測しようとする。フェイスブックは、ユーザーがまだ経験していないニュースアイテムに対するユーザーの好みや嫌いを推定する。エンゲージメントの低下を避けるために、フェイスブックは、エンゲージメントレベルを低下させる可能性のあるニュースアイテムを回避し、代わりに確認バイアスを満たすニュースアイテムを選択し、クリック、コメント、いいね、シェアを増やす。

フェイスブックは、過去のユーザーの行動や意見の自動化された協調フィルタリングも使用して、参加者（友達）を自動的に類似した意見を持つものとマッチングする。フェイスブックは、ユーザーが見たいアイテムの優先順位を数学的に予測し、ランク付けするためのユーティリティ関数を使用する。

これにより、ユーザーは偽ニュースのラビットホールに陥り、偏ったコンテンツで溺れ、確認バイアスを強化される。提示されるコンテンツは、ユーザーがクリックするものを影響することを目的として設計されている。ビル・ゲイツがワクチンを使用して人々をマイクロチップ化しようとしているという陰謀論を信じている場合、フェイスブックは、プラットフォームから離れる可能性のある矛盾する証拠を提示する理由がない。

フェイスブックは、フィルターバブルも使用して、矛盾する、反対する、または挑戦的な見解への露出を制限する。

フェイスブック広告

フェイスブックのユーザーは、広告をクリックしていることに気付いていないかもしれない。理由は簡単である。広告が表示される最初のユーザーだけが広告免責事項を表示する。ユーザーが広告をシェアすると、その友達リストのすべてのユーザーは、フェイスブックが広告免責事項を削除したため、シェアをニュースフィードアイテムとして表示する。ユーザーは警戒心を失い、広告と有機的に表示されるコンテンツを区別できなくなる。

フェイスブックシェア

残念ながら、状況は悪化する。ユーザーが1000人の友達と同時にコンテンツをシェアした場合、レコメンデーションエンジンは、同じ見解を持つ少数派からのコンテンツを優先する。ユーザーは、ニュースフィードアイテムがすべてのユーザーに表示されていると錯覚する。ユーザーがこのニュースフィードとやり取りすると、フェイスブックは偽ニュースをさらに強化するフィードバックループを作成する。

これにより、エコーチェンバー、フィルターバブルが作成され、ユーザーは自分が見るものだけを信じるようにトレーニングされる。真実は単なる幻想である。

問題の深刻さ

100万人以上が、ニュースフィードにエンゲージした。ポープフランシスが2016年のトランプ大統領選挙で支持を表明したという主張が含まれた。証拠はなかった。ロシアのトロールファームによって作成された偽ニュースだった。2016年の選挙前の3ヶ月間でフェイスブックで最もシェアされたニュースだった。

このニュースアイテムは、ロシアのトロールファーム「インターネットリサーチエージェンシー」によって生成された。この組織は、ツイッターとフェイスブックで人種差別的な記事を宣伝し、アメリカの政治家についての偽ニュースを広めるために責任があった。

情報委員会は、85ページの報告書を発表し、ロシアのアクティブメジャーキャンペーンと干渉について詳細に述べた。報告書のほとんどは、2016年の米国大統領選挙に影響を与えるために分裂的な偽ニュースとプロパガンダを広めることに関するものだった。

2020年の選挙に前進すると、問題は悪化した。2020年9月、FBIの情報に基づいて、フェイスブックとツイッターは、ロシアの国家プロパガンダ活動に関連するニュース組織「ピースデータ」のソーシャルメディアアカウントを停止した。

残念ながら、アカウントを停止することは一時的な解決策であり、ボットによって大量に生成されたアカウントやユーザーアカウントの大量ハッキングに対しては効果がない。ロシアのアカウントは、友達リクエストの形をとることが多く、魅力的なプロフィール画像の女性によってターゲットにされることがある。あるいは、通常の投稿の歴史があるユーザーアカウントがハッキングされることもある。ハッキングされたアカウントは、ゆっくり政治的な投稿に移行し、最終的にはプロパガンダまたは陰謀論で占められる。

ユーザーは、友達のアカウントが危殻化されていることに気付いていないかもしれない。ユーザーが陰謀論に弱い場合、偽ニュースフィードアイテムとやり取りし、ロシアのトロール（ボットであることが多い）がさらにソーシャルプルーフを提供する形で、いいねやコメントを付けることがある。

デジタルメディアリテラシーの欠如により、65歳以上の人口は技術やAIの働き方を理解していない。ニューヨークタイムズの報告によると、フェイスブックのユーザーは、65歳以上のユーザーが29歳以下のユーザーよりも7倍以上の偽ニュースサイトの記事を投稿していた。

悪意のあるアクターは、フェイスブックのレコメンデーションエンジンを利用して、認知バイアスを利用し、陰謀論やプロパガンダを広めるように最適化している。これらの組織は、フェイスブックのAIを悪用して、陰謀論やプロパガンダを広めることに成功している。白人至上主義、極右ナショナリズム、またはQAnonのような陰謀論に陥ることがある。

まとめ

フェイスブックは、問題があることを認識しており、コミュニティスタンダードに違反するコンテンツを削除することに重点を置いた戦略を発表している。しかし、アカウントを削除することは、ボットによって大量に生成されたアカウントやユーザーアカウントの大量ハッキングに対しては一時的な解決策であり、効果がない。また、ほとんどのシェアは、偽情報を広めていることを知らない通常のユーザーによって行われているため、問題を解決しない。

警告ラベルを追加することは、フェイスブックのようなソーシャルメディア巨大企業が保守派に対して偏っているという陰謀論を強化するだけである。最も偽ニュースに敏感なトランプ支持者に対しては、特にそうである。

解決策は、ユーザーのエンゲージメントのみを測定するのではなく、ユーザーの幸せを優先し、真実を提供し、自己認識を高めるように最適化された新しいレコメンデーションエンジンを開発することである。

その間、フェイスブックは、ツイッターが行ったように、政治広告を禁止するべきである。

最後に、重要な質問を問う必要がある。ユーザーが見るニュースを選択する選択肢がない場合、いつになったら、推薦からマインドコントロールへの移行が起こるのか。

おすすめの読み物:

ロシアのアクティブメジャーキャンペーンと干渉 – 米国上院情報委員会の報告書。

民主主義の終焉を予測する衝撃的な論文 – ジョージワシントン大学の歴史ニュースネットワークの創設者、リック・シェンクマンによる。

高齢者はフェイスブックで偽ニュースをより多くシェアする – ニューヨークタイムズによる。