計算プロパガンダ：隠れた力が私たちの考え、投票、生活を再配線する

想像してみてください。 あなたは目覚め、ソーシャルフィードをチェックし、同じ扇動的なヘッドラインが何百ものアカウントによって繰り返されているのを見つけます。各投稿は、憤りや警戒を引き起こすように作成されています。朝のコーヒーを飲むまでに、話題はすでにウイルス的に広がっており、正当なニュースを上回り、インターネット全体で熱い議論を引き起こしています。このシナリオは、仮想的な未来ではありません。実際には、計算プロパガンダの現実です。

これらのキャンペーンの影響は、もはやいくつかのフリンジなRedditフォーラムに限定されていません。2016年の米国大統領選挙では、ロシア関連のトロールファームがフェイスブックとツイッターに、社会的亀裂を生み出すように設計されたコンテンツを氾濫させました。報告によると、126万人以上のアメリカ人に到達しました。同年、英国でのブレグジット国民投票では、多くの自動化されたアカウントが、世論を影響させるために、極端な物語を大量に生み出していました。2017年、フランスの大統領選挙では、最後の瞬間にハッキングされた文書が、疑わしい調整されたソーシャルメディア活動によって拡散されました。さらに、COVID-19が世界的に発生したとき、治療や予防に関する誤った情報が、時には命を救うガイダンスを上回るように広がりました。

これらの操作を駆り立てるものは何でしょうか。古典的なスパムスクリプトやトロールファームが道を切り開いたものの、現代の攻撃は、最先端のAIを利用しています。Transformerモデル（GPTのようなシステムが人間らしい投稿を生み出す）から、ユーザーの反応に基づいて戦略を常に改良するリアルタイム適応まで、プロパガンダの世界は、驚くほど洗練されました。私たちの生活がオンライン上で行われるようになると、隠れた力と、それがソーシャルネットワークをどのように利用するかを理解することは、以前よりも重要になりました。

以下に、計算プロパガンダの歴史的ルーツを探り、今日のデマキャンペーンを推進するテクノロジーを探ってみましょう。調整された努力がテクノロジーを利用して私たちの考え方を再構成する方法を認識することで、私たちは操作に対する最初のステップを踏み出すことができます。

計算プロパガンダの定義

計算プロパガンダとは、自動化システム、データ分析、およびAIを使用して、世論を操作またはオンラインでの議論を大規模に影響させることを指します。これには、特定の物語を広める、誤った情報を生み出す、または反対意見を沈黙させるために、ボットネットワーク、偽のソーシャルメディアアカウント、アルゴリズムで調整されたメッセージなどの調整された努力が含まれます。AI駆動のコンテンツ生成、ハイパーターゲット広告、リアルタイムフィードバックループを利用することで、計算プロパガンダの背後にある者は、極端な思想を拡大し、政治的意見を操作し、真正な公共の議論に対する信頼を侵食させることができます。

歴史的背景：初期のボットネットワークから現代のトロールファームまで

1990年代後半と2000年代初頭、インターネットは、主に電子メールのスパム、ビュー数の増加、またはチャットルームでの自動応答に使用される、自動化スクリプトの最初の波、つまり「ボット」を目撃しました。時間の経過とともに、これらの比較的単純なスクリプトは、グループがフォーラム、コメント欄、初期のソーシャルメディアプラットフォームでの公共の会話を形作ることができることを発見したため、より目的のある政治ツールに進化しました。

1. 2000年代中盤：政治ボットの登場
   • 例： 2007年、報告によると、初期のソーシャルプラットフォーム（MyspaceやFacebook）で調整されたボットの群れが、特定の候補者を推進したり、ライバルを貶めたりするために使用されていたことが明らかになりました。
   • 中国の「50セント軍団」は、もう1つの初期の例です。2004年から2005年頃、政府関連のコメント担当者は、オンラインでの議論を国家が好む方向に導くために、投稿ごとに50セントの報酬を受け取っていました。
2. 2000年代後半から2010年代初頭：トロールファームの出現
   • 2009年から2010年： 世界中の政府関連グループは、数多くの偽のソーシャルメディアアカウントを作成して管理する、トロールファームを設立し始めました。その仕事は、オンラインスレッドを分裂させたり、誤った投稿で溢れさせることです。
   • ロシアのトロールファーム： 2013年から2014年頃までに、インターネット研究機関（IRA）は、国内および国際的な聴衆に向けてデマキャンペーンを構築することで、悪名を得ました。
3. 2016年：世界的な選挙干渉の転換点
   • 2016年の米国大統領選挙では、トロールファームとボットネットワークが主役を演じました。調査により、数百の偽のフェイスブックページとツイッターのアカウント、多くはIRAに由来するものが、過度に党派的な物語を広めていたことが明らかになりました。
   • これらの戦術は、2016年のブレグジットでも現れ、自動化されたアカウントが「残留」キャンペーンと「離脱」キャンペーンの周りに極端なコンテンツを増幅させました。
4. 2017年から2018年：著名な暴露と起訴
   • 2017年、ボットネットワークが、フランスの大統領選挙で候補者についての誤った文書や中傷を広めました。
   • 2018年、米国司法省は、2016年の選挙への干渉の疑いで、IRAに関連する13人のロシア人を起訴しました。これは、トロールファームに対する最も公開された法的措置の1つでした。
5. 2019年以降：世界的な取り締まりと継続的な成長
   • ツイッターとフェイスブックは、イラン、ロシア、ベネズエラなどの国々からの調整された影響キャンペーンに関連する、数千の偽アカウントを削除し始めました。
   • 厳しくなった監視にもかかわらず、洗練されたオペレーターは、さらに現れました。彼らは、より説得力のあるコンテンツを生成できる、高度なAIを利用していました。

これらのマイルストーンは、今日の風景を設定します。ここでは、マシンラーニングが、デマのライフサイクルを自動化することができます。シンプルなスパムボットの初期の実験は、政治戦略と最先端のAIを組み合わせた、広範なネットワークに進化しました。隠れた力が、グローバルな規模で、以前には考えられなかった速度と微妙さで、世論を操作することができます。

計算プロパガンダを推進する現代のAIツール

マシンラーニングと自然言語処理の進歩により、デマキャンペーンは、シンプルなスパムボットを超えて進化しました。生成可能なAIモデルは、説得力のある人間のテキストを生成できます。これにより、オーケストレーターは、大規模なデマキャンペーンをスピンアップできます。以下に、今日の計算プロパガンダを形作る3つの重要なAI駆動アプローチと、これらの戦術を強力にする核心的な特性を紹介します。これらの戦術は、推奨エンジンが、事実よりも誤ったニュースを伝播するように偏っているという事実によってさらに強化されます。

1. 自然言語生成（NLG）

現代の言語モデル、たとえばGPTは、自動化されたコンテンツ作成を革命的に変えました。これらのモデルは、次のことができます。

• 大量のテキストを生成する：長い記事から短いソーシャル投稿まで、これらのモデルは、最小限の人間の管理で24時間コンテンツを生成できます。
• 人間の書き言葉を模倣する：ドメイン固有のデータ（例：政治演説、ニッチコミュニティのスラング）でファインチューニングすることで、AIは、ターゲットオーディエンスの文化的または政治的コンテキストと共鳴するテキストを生成できます。
• メッセージを迅速に反復する：デマの広がりを促進する者は、AIに同じテーマの数十または数百のバリエーションを生成するよう指示できます。どのフレーズや枠組みが最もウイルス的に広がるかをテストします。

生成可能なAIの最も危険な利点の1つは、特定のオーディエンスに合わせて、口調や言語を適応させる能力にあることです。これらの結果には、次のものが含まれます。

• 政治的スピン：AIは、党派的なキャッチフレーズやスローガンをシームレスに挿入できます。これにより、デマは、草の根運動によって支持されているように見えます。
• カジュアルまたは口語的な声：同じツールは、「友好的な隣人」のペルソナに切り替えることができます。コミュニティフォーラムに、うわさや陰謀論を静かに導入します。
• 専門家の権威：正式な、学術的な口調を使用することで、AI駆動のアカウントは、専門家（医者、学者、分析家）として振る舞い、誤った主張に偽の信頼性を与えることができます。

Transformerモデルとスタイルの模倣を組み合わせることで、オーケストレーターは、多様で真正なコンテンツを大量に生み出すことができます。これにより、真正な声と架空のプロパガンダの線が曖昧になります。

2. 自動投稿とスケジューリング

基本的なボットが同じメッセージを繰り返し投稿する一方で、強化学習は、インテリジェンスの層を追加します。

• アルゴリズム的適応：ボットは、さまざまな投稿時間、ハッシュタグ、コンテンツの長さを継続的にテストし、どの戦略が最も高いエンゲージメントをもたらすかを確認します。
• ステルス戦術：プラットフォームのガイドラインとユーザーの反応を監視することで、これらのボットは、明らかな危険信号（過度の繰り返しやスパムリンクリンクなど）を避ける方法を学習し、モデレーションのレーダーから逃れることができます。
• ターゲットへの増幅：物語が特定のサブグループで勢いを得ると、ボットはそれを複数のコミュニティに複製し、極端な考えをトレンドトピックに膨張させる可能性があります。

強化学習とともに、オーケストレーターは投稿をスケジュールして、一定の存在感を維持します。

• 24/7コンテンツサイクル：自動化されたスクリプトは、デマが、異なる時間帯のユーザーに、ピーク時間中に表示されることを保証します。
• 事前メッセージ：ボットは、検証された事実が表面化する前に、特定の視点で溢れ返るように、プラットフォームを特定の物語で氾濫させます。

自動投稿とスケジューリングを通じて、悪意のあるオペレーターは、コンテンツのリーチ、タイミング、適応性を最大化します。これらは、デマを大規模な物語に変えるための重要なレバーです。

3. リアルタイム適応

生成可能なAIと自動ボットシステムは、戦略を改良するために、継続的なデータに依存しています。

• 瞬間の反応分析：「いいね」、「シェア」、「コメント」、「感情」などのデータは、AIモデルにフィードバックして、どのアプローチが最も共鳴するかを指導します。
• 即時の改訂：パフォーマンスが低いコンテンツは素早く修正され、メッセージング、トーン、またはイメージが、最もウイルス的なものになるまで調整されます。
• 適応的な物語：物語が関連性を失ったり、強い反発に遭遇したりすると、AIは、新しい話題に切り替えて、注目を維持し、検出を避けることができます。

このフィードバックループは、自動コンテンツ生成とリアルタイムのエンゲージメントデータの間で、強力で自己改良し自己維持可能なプロパガンダシステムを作成します。

1. AIがコンテンツを生成する：学習したパターンを使用して、最初のデマ投稿の波を下書きします。
2. プラットフォームとユーザーが反応する：エンゲージメントメトリクス（「いいね」、「シェア」、「コメント」）がオーケストレーターにストリーミングされます。
3. AIが戦略を改良する：最も成功したメッセージは繰り返されまたは拡大され、効果の低い試みは切り捨てられまたは再構成されます。

時間の経過とともに、システムは、特定のオーディエンスセグメントを釣り上げることにおいて、高度に効率化され、偽の物語をより多くの人々に、より速く広めるようになります。

この隠れた影響を推進する核心的な特性

高度なAIが関与しているにもかかわらず、特定の根本的な特性が、計算プロパガンダの成功に貢献しています。

1. 24時間活動
   AI駆動のアカウントは、特定の物語に対する継続的な可視性を確保するために、休むことなく動作します。
2. 大量のリーチ
   生成可能なAIは、数十または数百のアカウントをまたいで大量のコンテンツを生成できます。これにより、偽のコンセンサスが作成され、真正なユーザーは、誤った視点を受け入れるか、従うかのように圧力をかけられます。
3. 感情的トリガーと巧妙な枠組み
   Transformerモデルは、コミュニティの感覚的な問題を分析し、憤り、恐怖、または興奮を呼び起こす感情的なフックを作成できます。これらのトリガーは、迅速な共有を促し、デマが、より慎重な、または事実に基づいた情報よりも優先されます。

なぜこれは重要か

高度な自然言語生成、強化学習、リアルタイム分析を利用することで、今日のオーケストレーターは、数年前では考えられなかった大規模なデマキャンペーンをスピンアップできます。生成可能なAIが誤情報を拡大する役割を理解することは、これらの隠れた作戦を認識し、防御するための重要なステップです。

画面の向こう側

これらの調整された努力の影響は、オンラインプラットフォームに留まることはありません。時間の経過とともに、これらの操作は、核心的な価値観や決定を形作ります。たとえば、重大な公衆衛生の瞬間では、うわさや半分の真実が、検証されたガイドラインを上回り、リスクのある行動を促す可能性があります。政治的文脈では、候補者や政策についての歪曲された物語が、バランスのとれた議論を上回り、全体の利益ではなく、隠れた利益に奉仕する結果に、人口を導く可能性があります。

共通の目標を共有していると考える隣人のグループは、慎重に植えられた神話によって、地元の問題に対する理解が左右される可能性があります。参加者がこれらのスペースを友好的で馴染み深いと見なしているため、浸透が疑われることはほとんどありません。誰かが異常なパターンに疑問を抱くまで、信念は、誤った印象を固めることができます。

これの最も明らかな成功例は、政治選挙の操作です。

調整された操作の警告信号

1. 一様なメッセージングの急激な増加
   • 同一またはほぼ同一の投稿：同一のフレーズやハッシュタグを繰り返す投稿の氾濫は、自動化されたスクリプトや調整されたグループが単一の物語を推進していることを示唆します。
   • バーストの活動：疑わしいタイミングの急激な増加（しばしばオフピーク時間）は、ボットが複数のアカウントを同時に管理していることを示唆します。
2. 信頼できる情報源が不足している繰り返し主張
   • 引用やリンクがなし：信頼できる情報源への参照がない場合、多くのユーザーが同じ主張を共有している場合、情報がチェックされていないことを示唆し、デマの拡散を促進する戦術である可能性があります。
   • 疑わしい情報源：参照されるニュースや記事が、しばしば類似した名前を持つ、信頼できない情報源にリンクしている場合、聴衆が正当なニュースブランドと区別できないことを利用する戦術です。たとえば、「abcnews.com.co」というサイトは、ABC Newsの類似のロゴとレイアウトを使用して、信頼性のあるサイトのように見えますが、実際には正当なブロードキャスターとは無関係です。
   • 循環参照：一部の投稿は、同じネットワーク内の他の疑わしいサイトのみにリンクし、デマを自己強化する「エコーチェンバー」を作成します。
3. 強い感情的トリガーと扇動的な言語
   • ショックバリューコンテンツ：憤り、警告、またはセンセーショナリズムは、批判的思考を迂回し、即時の反応を誘発するために使用されます。
   • 私たち対彼ら物語：特定のグループを敵または脅威として描写する投稿は、思慮深い議論を促進するのではなく、コミュニティを二極化し、過激化させることを目的としています。

これらの合図（一様なメッセージングの急増、繰り返しされた支持のない主張、炎上を目的としたコンテンツ）を認識することで、個人は、真正な議論と調整されたプロパガンダをよりよく区別できます。

なぜ虚偽が簡単に広がるのか

人間の性質は、魅力的な物語に引き寄せられます。バランスのとれた説明とセンセーショナリズムの物語のどちらかを提示された場合、多くの人は後者を選択します。この本能は、理解できるものですが、操作の余地を生み出します。ドラマチックなコンテンツを提供することで、オーケストレーターは、迅速な循環と繰り返しの露出を保証します。最終的に、認識は検証に取って代わり、最も薄弱な物語でも、本当のもののように感じるようになります。

これらの物語がフィードを支配するにつれて、信頼できる情報源に対する信頼が侵食されます。証拠と論理によって推進される議論ではなく、感情的な口論が交換され、コミュニティの共通の問題に対処し、共通点を見つける、または集団的に推論する能力が失われます。

計算プロパガンダの危険性：最大の危険

計算プロパガンダは、単なるオンラインの厄介者ではありません。社会全体と意思決定プロセスを再構成する可能性のある、体系的な脅威です。これらがもたらす最も重要なリスクは以下のとおりです。

1. 選挙の操作と民主主義の侵食
   ボットとAI生成のペルソナがソーシャルメディアを氾濫させると、世論が歪められ、過度な党派性が生まれます。極端な問題を増幅させ、真正な議論を沈黙させると、選挙のバランスを変えるか、有権者を投票から遠ざけることができます。極端な場合、市民は選挙結果の合法性に疑問を持ち、民主主義機関の基盤である信頼が侵食されます。
2. 社会的結束の不安定化
   高度なAIモデルによって作成された極端なコンテンツは、感情的および文化的な断層を利用します。隣人や友人が、自分たちを刺激するように調整された物語しか見ない場合、コミュニティは、作られた断層に沿って分裂します。この「分割して支配する」戦術は、真正な対話からエネルギーを奪い、共通の問題に対する合意に到達することを困難にします。
3. 信頼できる情報源への信頼の侵食
   合成の声が真正の人を模倣するにつれて、信頼できる報道とプロパガンダの間の線は曖昧になります。人々はすべての情報に懐疑的になり、真正の専門家、ファクトチェッカー、信頼を頼りに機能する公共機関の影響が弱まります。
4. 政策と世論の操作
   選挙を超えて、計算プロパガンダは、特定の政策を推進または抑制し、経済的感情を形作り、さらには公衆衛生対策に対する恐怖を扇動することができます。政治的アジェンダは、隠れた影響者による調整されたデマによって混乱し、真正な政策議論は、隠れた影響者の間の力関係の争いに取って代わられます。
5. 世界的危機の悪化
   混乱の時期（パンデミック、地政学的対立、または金融危機など）には、迅速に展開されるAI駆動のキャンペーンが、恐怖を利用して、対応を妨げ、危機の人的および経済的コストを増大させる可能性があります。これにより、誤報された一般大衆を利用して政治家が選出される可能性があります。

行動の呼びかけ

計算プロパガンダの危険性は、メディアリテラシー、批判的思考、そしてAIが世論をどのように影響させるかについてのより深い理解への取り組みを再評価することを呼びかけます。公共が十分に情報を得て、事実に根ざしていることを保証することでのみ、我々が最も重要な決定（リーダーの選択など）を真正に我々自身のものとすることができます。n 計算プロパガンダの危険性は、メディアリテラシー、批判的思考、そしてAIが世論をどのように影響させるかについてのより深い理解への取り組みを再評価することを呼びかけます。公共が十分に情報を得て、事実に根ざしていることを保証することでのみ、我々が最も重要な決定（リーダーの選択など）を真正に我々自身のものとすることができます。