Sean Gourley, CEO & Founder of Primer – Interview Series

Sean Gourleyは、PrimerのCEO & ファウンダーです。Primerは、政府機関、金融機関、フォーチュン50企業、その他の多くの組織に、工業規格の自然言語処理（NLP）アプリケーションを提供する企業です。

Primerの主なユースケースの1つは、デジタル情報キャンペーンを検出、理解、対応するのを支援することです。Primerは最近、Yonderを買収して、デジタル情報攻撃に対抗する能力を強化しました。

私たちは、Seanと一緒に、最近のAi4カンファレンスで、誤情報について話し合いました。Seanは、誤情報キャンペーンや政府のプロパガンダに関する情報の宝庫です。以下は私たちのインタビューです。

あなたが誤情報エコシステムを学び、理解することに関心を持つきっかけとなったのは何でしたか?

そうですね、私は高頻度取引について少し話しました。面白いことでした。私はそのような空間を調べており、アルゴリズムが世界で何かが起こったかどうかを理解しようとしていました。すると、ノイズを拾うことができました。

彼らはそれを読んだり、信号を誤解したりして、間違ったことをしていました。すると、APがハッキングされたというツイートが出てきました。彼らのツイッター・アカウントには、「ブレイキング：ホワイトハウス爆発、バラク・オバマ負傷」と書かれていました。すると、市場はその情報を信じて、約1300億ドルの価値を失いました。今、私はそれが市場を動かすことを意図していたか、ただ混乱を生み出すことを意図していたか、または何か他のことを意図していたかはわかりません。しかし、それが私に与えた印象は、「ワオ」という感じでした。つまり、バタフライ・エフェクトのようなもので、アルゴリズムのアクターが非常に賢くないということです。

私が見たのは、その後、私は掘り下げ始めました。メキシコのボット、メキシコのアカウントが、ジャーナリストが麻薬カルテルによって殺されなかったと主張しているのを見ました。2013年でした。私は、「オー・マイ・ゴッド」と思いました。非国家主体、麻薬カルテルが、ナラティブ・バトルを生み出すためにこれらのことを行っているのです。彼らは勝っているようです。私は、「これらは国家主体ではない」と思いました。そこで私は、「もし国家主体がこれらの技術を手に入れたらどうなるのか？どう見えると思うのか？」と考えて、2015年にWiredに記事を書きました。実際には2014年の終わりに書かれましたが、2015年の予測についてでした。私は、「これはボットが選挙を支配する年になる」と書きました。

そして、それは私の予想よりもはるかに予見的でした。記事が公開されると、ボットが選挙を支配することについて書いたのです。私が最初に思っていたよりもはるかに予見的でした。ただ、私はこの技術のアークを見て、同じ側で、これらの技術が非常に原始的であることを見ていました。非常に原始的でした。すべてがまとまってきて、私たちが今いる場所に至りました。つまり、現在のフィードで情報に反復的にさらされるだけで、物語を制御できるのです。

あなたは、誤情報によって選挙が動かされたことがあるか、将来そうなる可能性があるかと思いますか?

これを枠組み化するには、誤情報は現実ではないという、非常に狭い測定基準を取りました。私はそれが狭すぎると考えています。私たちがナラティブを制御している人を見つける必要があります。現在、ナラティブは真実かもしれませんが、重要ではないかもしれません。

私たちは、犯罪について心配しているという話を取り上げて、すべての犯罪をすべてのチャンネルに大量に放送し、戻ってきて、私の都市が今まで見たことがないほどひどい犯罪の波に襲われていると思います。すべて私がしたことは、以前私のレーダー上に表示されていなかったすべての犯罪を私のシステムに表示することです。

あなたは、犯罪が実際よりもはるかに高いと思い始めます。犯罪の数は変わりませんが、犯罪についてより多く知らされるようになります。そうでない場合は、戦いについては争わないのです。私たちが争っているのは、人々の世界観についてです。そうです。

もう1つの点は、人々がこれらのことをどれだけ影響できるかということです。もし、あなたがワクチンがあなたのIQを37点低下させることを信じていない場合、あなたはそれを信じる可能性は3倍になります。誰かがあなたにそう言えば、あなたはそれを信じる可能性は3倍になります。最初に信じる人には、信じる確率が高くなります。

これは人間の脳の偏見によるものですか?

これは人間の脳の偏見です。2番目の点は、情報が偽であることを知っていても、情報にさらされれば、それを信じる可能性が高くなります。情報の繰り返し、最初の情報、以前の意見がない場合、独立した情報源から得た情報、友人ネットワークからの情報に基づいて信頼する傾向があります。私たちが知っているのは、約25%が転換点であり、25%の人が何かを信じ始めると、それが広がり、75%または80%の人が信じる可能性が高くなります。

すべては、意見の形成、グループが合意に達するメカニズム、世界の形成についてです。計算物理学という物理学のサブブランチがあり、意見の形成、伝播、採用について研究しています。

これらのシステムをエンジニアリングすることができます。人々はこれを始めています。私はそれが非常に洗練されていないと思います。中国はAIの超大国です。情報戦を勝つことは非常に重要です。彼らはAIのすべての要素を積極的に追求するでしょう。第二に、半導体製造、先進的なGPUの重要性があります。台湾にはあります。中国がそれを持っていたら、AI競争で非常に優位な立場になるでしょう。

しかし、中国がそれを力で取ったら、その能力が破壊されるか、台湾によって破壊される可能性があります。どちらの場合も、中国にとっては大きな問題ではありません。世界的な混乱が生じますが、中国にとって大きな問題ではありません。中国がそれを完全に手に入れたら、中国にとって大きな利益になります。中国がそれを行う方法は、香港のように、「あなたは私たちの一部です」というように、世界に説得することです。台湾の人々もそう信じるように説得します。そうでない場合、経済的な問題やその他の問題が生じます。中国は、世界に台湾は中国の一部であると信じさせるために、世界的な影響作戦を行うでしょう。

AIは、根底にある真実をどのように検出しますか?

私たちが真実について考えるのをやめる必要があります。AIの役割は、誰かがあなたを一方または他方に信じさせるために積極的に影響を与えようとしているかどうかを判断することです。

それが2番目の点です。人々は、最初の信念を得るために、繰り返し情報にさらすために、独立した声が聞こえるようにするために、人工知能を使用してあなたを信じさせるために使用します。25%の影響力ネットワークを制御して、あなたを反対側に信じさせるために使用します。これらはすべて、人工知能が強化できる技術ですが、人工知能も防御できます。ただし、人工知能が真実を判断できるかどうかということから脱却する必要があります。なぜなら、真実は、物語の戦いよりも重要ではないからです。

Primerはこれにどのように貢献していますか?

主に監視と検出についてです。私たちが気づくことは、誤情報キャンペーンについて聞くのは、6か月後に初めてです。

つまり、現実時間でそれを捉えることができないということですか?

そうです。それは現実時間ではありません。ミサイルが米国の国境に移動し、6か月後にそれらが発射されたことを知るのです。そこに私たちがいるのです。私たちには、誤情報、または情報作戦についての監視と偵察のための大きなギャップがあります。情報作戦が行われた場合、実時間またはほぼ実時間で何が起こっているのか、どのような操作が行われているのかを理解する必要があります。そうすれば、ボットネットワークを停止したり、情報の拡散を制限したりするための措置を講じることができます。

あなたは、世界における中国の究極の脅威についてどう考えていますか?

これは世界にとって大きな質問です。私たちが知っていることは、中国とはAIの軍事競争をしています。勝者は、2位の者よりも大きな軍事的優位性を持ちます。中国はAIの要素を積極的に追求するでしょう。第二に、半導体製造、先進的なGPUの重要性があります。台湾にはあります。中国がそれを持っていたら、AI競争で非常に優位な立場になるでしょう。

しかし、中国がそれを力で取ったら、その能力が破壊されるか、台湾によって破壊される可能性があります。どちらの場合も、中国にとっては大きな問題ではありません。世界的な混乱が生じますが、中国にとって大きな問題ではありません。中国がそれを完全に手に入れたら、中国にとって大きな利益になります。中国がそれを行う方法は、香港のように、「あなたは私たちの一部です」というように、世界に説得することです。台湾の人々もそう信じるように説得します。そうでない場合、経済的な問題やその他の問題が生じます。中国は、世界に台湾は中国の一部であると信じさせるために、世界的な影響作戦を行うでしょう。

YouTube、Facebook、Twitter、TikTokのようなレコメンダーエンジンは、偽の物語の拡散にどのような役割を果たしますか?

中国はFacebookを入れることを止めました。Facebookは中国に入りました。2012年にマーク・ザッカーバーグは、「私は中国語を学びます。すべてが中国についてです」と言いました。中国は、「アメリカの会社が私たちの人口の情報フィードを制御することを許可するつもりはありません。私たちは情報を制御するために非常に努力しています。私たちはそれが得意です。私たちはあなたを入れてもらいます。私たちは学びます。ですが、その後、あなたは行きます」と言いました。

中国は、情報を制御したいという明確な決定を下しました。権威主義体制では、情報を制御することができます。自由民主主義では、議論とアイデアの交換を参加させる必要があります。中国は情報を制御しました。米国は同じレベルで制御できません。情報の混沌にさらされる可能性があります。中国は、情報を操作することができます。米国はそうではありません。中国は、情報戦で優位に立っています。

私は、情報作戦の力が過小評価されていると思います。中国は、ウクライナでの情報作戦を非常に注意深く見てきました。私は、中国がそれを試みるだろうと思います。ウクライナは、情報戦を勝ち取ったことで優れました。ゴースト・オブ・キーウ、スネーク・アイランド、兵士のポケットの中に日向に種を入れた女性の話、彼女が言った「あなたが死んだら、日向が来る」という言葉。これらの瞬間、メムは、人口に共感しました。

多くは真実ではありませんでした。または、作り出されました。ゴースト・オブ・キーウやスネーク・アイランドは、増幅されました。彼らは生き残りましたが、反対した後に殺されたとみなされました。これは、情報戦の優れた例でした。ウクライナだけでなく、NATO加盟国や米国にも、ウクライナの旗を振ることで気づかせ、気にかける必要があることを示しました。そうしなければ、そうなっていたかもしれません。最も簡単な戦争は、相手が戦いたくない戦争です。ロシアは、ウクライナが戦いたくないと考えていました。ロシアは間違っていました。ロシアは、情報戦のナラティブを勝ち取ったことに気づきませんでした。

私は、情報作戦の力を過小評価しているのではないかと思います。中国は、ウクライナでの情報作戦を非常に注意深く見てきました。私は、中国がそれを試みるだろうと思います。ウクライナは、情報戦を勝ち取ったことで優れました。ゴースト・オブ・キーウやスネーク・アイランドは、増幅されました。彼らは生き残りましたが、反対した後に殺されたとみなされました。これは、情報戦の優れた例でした。ウクライナだけでなく、NATO加盟国や米国にも、ウクライナの旗を振ることで気づかせ、気にかける必要があることを示しました。そうしなければ、そうなっていたかもしれません。最も簡単な戦争は、相手が戦いたくない戦争です。ロシアは、ウクライナが戦いたくないと考えていました。ロシアは間違っていました。ロシアは、情報戦のナラティブを勝ち取ったことに気づきませんでした。

Primerについて最後に伝えたいことはありますか?

私たちは、米国とその同盟国を支援するために、戦闘員の手に最良の技術を提供する使命に従事しています。私は、より多くのテクノロジー企業がこの戦いに参加してくれることを望みます。

この啓発的なインタビューに感謝します。Primerについてもっと知りたい読者は、Primerを訪問することをお勧めします。