Sean Gourley, PrimerのCEO兼創設者 – インタビュー・シリーズ

Sean Gourleyは、PrimerのCEO兼創設者です。Primerは、政府機関、金融機関、フォーチュン50企業、その他の多くの組織に対して、工業規格の自然言語処理（NLP）アプリケーションを提供する企業です。

Primerの主な用途の1つは、デマキャンペーンを検出、理解、対応するのを支援することです。Primerは最近、Yonderを買収して、デマ攻撃に対抗する能力を強化しました。

最近のAi4会議で、Seanと話をしました。Seanは、デマキャンペーンや政府のプロパガンダに関する情報の宝庫です。以下は私たちのインタビューです。

あなたがデマエコシステム全体を学び、理解することに最初に惹かれたのは何でしたか？

私は高頻度取引について少し話しました。それは面白いことでした。私はその空間を調べてみました。アルゴリズムが世界で何かが起こったかどうかを理解しようとしている空間でした。すると、2012年に、私たちはノイズを拾いました。

彼らはそれを読んだときに間違ったことをしました。信号を誤解しました。すると、APがハッキングされたとされるツイートが来ました。ツイッター・アカウントは、「ブレーキング：ホワイトハウス爆発、バラク・オバマ負傷」と言ったのです。すると、市場はその情報を取り上げて、約1300億ドルの損失を出したのです。今、私はそれが市場を動かすことを目的としたものだったか、ただ混乱を生み出すことを目的としたものだったか、または何らかのことをすることを目的としたものだったかはわかりません。しかし、それはただ、バタフライ・エフェクトのようなものでした。つまり、アルゴリズム的アクターが非常に賢くないということです。

私はそれを見て、掘り下げ始めました。すると、メキシコのボット、メキシコのアカウントが、ジャーナリストが麻薬カルテルによって殺されなかったと主張しているのを見ました。2013年でした。私は「神よ」と思いました。非国家主体、麻薬カルテルがナラティブ・バトルを生み出すためにこれに参加しているのです。勝っているようです。私は「これらは国家主体ではありません」と思いました。そこで私は「もし国家主体がこれに手を付けたらどうなるでしょうか？それが何を見せるでしょうか？それが何をするでしょうか？」と考えたのです。すると、2015年にワイヤド誌に記事を書きました。実際には2014年の終わりに書かれましたが、2015年の予測についてでした。私は「これがボットが選挙を支配する年になる」と書きました。

その記事は、発表されたときよりも予想していたよりもさらに予見的でした。技術のアークを見たのです。同じ時間に、多くの技術が未熟だったことも見ました。そこで私は、その空間に入りました。そこで、ナラティブを制御できることを発見しました。情報をフィードする方法で、現在消費しているフィードを通じて、繰り返し情報にさらされるだけで、ナラティブを制御できるのです。

あなたは、選挙がデマによって影響を受けたことがあるか、将来影響を受ける可能性があるかどうか信じていますか？

この問題を整理してみましょう。まず、デマは現実ではないという、非常に狭い枠組みでこれに取り組んできました。私は、それが狭すぎると考えています。私たちは、誰がナラティブを制御しているかを考える必要があります。現在、ナラティブは実際のものかもしれませんが、重要ではないかもしれません。

例えば、犯罪について心配している場合、すべての犯罪をすべてのチャンネルに大量に放送できます。すると、あなたは戻ってきて、都市が今まで見たことがないほどひどい犯罪波に襲われていると思います。すべての犯罪が以前はあなたのレーダー上になかったものを、システムに取り込んだだけです。

今、あなたは犯罪が実際よりもはるかに高いと思い始めます。犯罪は変わりませんが、犯罪についてより多く知らされるようになりました。そこで、デマが現実かどうかという問題ではなく、誰があなたの注意を引こうとしているかという問題です。私たちが陥っているのは、デマが現実かどうかという戦いです。しかし、戦いは、人々の世界観のために行われているのです。

2つ目の点は、どれだけ影響を与えることができるかです。デマが現実ではない場合、デマがあなたの信念を形成する可能性は高くなります。たとえば、ワクチンがあなたのIQを37点低下させるという信念がない場合、ワクチンがあなたのIQを高めるという信念を持つ可能性は、ワクチンがあなたのIQを低下させるという信念を持つ可能性よりも3倍高くなります。誰が最初のメッセージを持っているかが、最も信じられる信念を持つチャンスを与えます。

それは人間の脳の偏見ですか？

それは人間の脳の偏見です。2つ目の点は、情報が誤りであることを知っていても、情報にさらされれば、信じる可能性が高いということです。情報の繰り返し、最初の情報、独立した情報源からの情報、友人ネットワークからの情報などがあります。25%が転換点です。25%の人が何かを信じ始めると、75%または80%の人が信じる可能性が非常に高くなります。

すべては意見の形成、集団が合意に達するメカニズムの世界に帰結します。計算物理学という物理学の亜分野があり、意見の形成、伝播、採用に関するモデルを研究しています。

これらのシステムをエンジニアリングすることができます。人々はそれを行い始めています。私はまだそれが洗練されていないと思います。しかし、中国はAIの超大国です。情報戦を勝つために、AI技術を利用するでしょう。中国は、台湾をめぐる情報戦で勝つために、AI技術を利用するでしょう。

AIは、根底にある真実をどのように検出しますか？

私たちは、真実とは何かという問題から脱却する必要があります。私が言いたいのは、事実検証者をすべてのものに持ち込む必要はないということです。AIは、犯罪が実際に起こったかどうかを判断できます。しかし、それが重要なことではありません。重要なのは、人々が大規模な犯罪波があると信じているかどうかです。AIの仕事は、誰かがあなたを特定の側に信じさせるために活動的に影響を与えているかどうかを判断することです。

そして、それが2つ目の点です。人々は、人々を特定の側に信じさせるために、AIを利用します。最初の信念を得ること、繰り返し情報にさらされること、独立した声が聞こえるようにすること、影響ネットワークの25%を制御することなどです。これらはすべて、AIが強化できる技術です。AIはこれらに対して防御することもできます。しかし、真実を判断することから脱却する必要があります。真実は、常に最も重要なことではありません。ナラティブの戦いが重要です。

Primerはこれにどのように貢献していますか？

Primerは、主に監視と検出に重点を置いています。情報操作が行われたことがわかるのは、6か月後に初めてです。

つまり、リアルタイムで検出することはできないのですか？

それは実際にリアルタイムではありません。ミサイルが国境に移動し、6か月後に情報操作が行われたことがわかるのです。情報操作や情報戦に対する監視と偵察に大きなギャップがあります。情報操作が行われた場合、動機、操作、ナラティブの戦いについて、リアルタイムまたはニア・リアルタイムで理解する必要があります。

中国が世界で演じる究極の脅威についてはどう考えていますか？

それは世界にとって大きな問題です。私たちが知っていることは、中国との間でAIの軍事競争が行われていることです。AIの軍事競争で勝つことは、軍事的優位性をもたらすでしょう。中国はAIの要素を非常に積極的に追求するでしょう。2つ目の点は、台湾が持っている半導体製造と高性能GPUの重要性です。中国がそれを手に入れることができれば、AIの軍事競争で非常に優位な立場になります。

中国がそれを武力で手に入れると、能力が破壊されるか、台湾によって破壊される可能性があります。中国にとって、それは大きな問題ではありません。世界的な混乱が生じますが、中国にとって大きな問題ではありません。しかし、中国がそれを手に入れることができれば、AIの軍事競争で大きな優位性を得ることができます。

中国は、世界に、台湾は中国の一部であると信じさせるために、情報操作を利用するでしょう。中国は、台湾の人々に、台湾は中国の一部であると信じさせるために、情報操作を利用するでしょう。中国がそれに成功すれば、ケーキを手に入れ、食べることもできます。

中国は、世界に、台湾は中国の一部であると信じさせるために、ナラティブ情報操作を投影するでしょう。アメリカの下院情報委員会は、中国の影響操作を検出する方法を特定しました。情報化法では、中国の影響操作を検出する方法を特定しました。

YouTube、Facebook (META ) 、Twitter、TikTokなどのレコメンダーエンジンは、偽のナラティブの拡散にどれだけの役割を果たしているでしょうか？

中国は、Facebookが中国に進出するのを阻止しました。2012年に、マーク・ザッカーバーグは「私は中国語を学びます。中国についてです」と言いました。中国は「アメリカの会社が中国人の情報フィードを制御することを許可するつもりはありません。私たちは、人口に与える情報を制御するために非常に努力しています。私たちはそれが得意です。私たちはあなたを許可します。私たちは学びます。ですが、その後、あなたは去ります」と言いました。

中国は、情報を制御することを明確にしました。中国は、Facebookを許可しなかったのです。中国は、情報を制御することを選択しました。中国は、独裁政権です。中国は、人口に与える情報を制御することができます。アメリカは、民主主義です。アメリカは、情報の自由な交換を許可する必要があります。アメリカは、情報を制御することはできません。中国は、情報を制御することができます。アメリカは、情報の混乱に弱いです。

中国は、情報操作を利用して、世界に、台湾は中国の一部であると信じさせるために、情報操作を利用するでしょう。アメリカは、情報操作に対抗するために、同じスキルを持っている必要があります。

Primerについて最後に伝えたいことはありますか？

私たちは、米国とその同盟国を支援するために、戦闘員の手に最良の技術を提供するという使命に従事しています。私は、もっと多くのテクノロジー企業がこの戦いに参加してくれることを願っています。

この啓発的なインタビューに感謝します。詳しく知りたい読者は、Primerを訪問してください。