ディープフェイクと新しい合成メディアの時代を乗り越える

「フェイクニュース」を覚えていますか？この用語は、現在までに非常に広く使用されており（そして乱用されており）、もはや何を指しているのかを思い出すのが難しいほどです。しかし、この概念には非常に具体的な起源があります。10年前、ジャーナリストたちは、政治家や有名人についての虚偽で、往々にして荒唐無稽な主張をしている「ニュース」サイトの増加について警告を開始しました。多くの人々は、これらのサイトが非合法であることをすぐに認識できました。

しかし、多くの人々はこれらのサイトが非合法であることを認識するために必要な批判的思考ツールを持っていませんでした。結果として、現在インターネットを覆っている認識論的危機の最初の兆候が生じました。これは、ディープフェイクの登場により、最も恐ろしい形で現実化しています。

さほど優れたディープフェイクに比べれば、過去の「フェイクニュース」サイトは子供の遊びです。さらに悪いことに、自分自身が比較的高いレベルのメディアリテラシーを持っていると考える人々であっても、欺かれる危険性があります。合成メディアは、ディープラーニングアルゴリズムとジェネレーティブAIを使用して作成されており、社会の基盤を混乱させる可能性があります。デロイトによると、今年だけで、合成メディアは偽の取引やその他の種類の詐欺を通じて、企業に2億5000万ドル以上の損失をもたらす可能性があります。一方、世界経済フォーラムは、ディープフェイクを「AIの最も心配される使用法の一つ」と呼んでおり、「アジェンダに基づくリアルタイムAIチャットボットやアバター」が、新しいタイプの超個別化された（そして超効果的な）操作を容易にする可能性があることを指摘しています。

フォーラムがこの問題に対する提案した対応は、妥当なものです。彼らは、「ゼロトラストマインド」を提唱しています。つまり、デジタルメディアとのすべての遭遇に一定の懐疑心を持ちます。私たちが今後、特に몰입型オンライン環境で、真正と合成の区別を付けるためには、このようなマインドセットがますます重要になります。

ディープフェイク危機に対処するための2つのアプローチ

合成メディアによって生み出される、広がる誤情報に対処するには、私の意見では、2つの異なるアプローチが必要です。

最初のアプローチは、検証です。つまり、一般のインターネットユーザーが、見ているビデオが真正であるかどうかを簡単に判断できるようにすることです。このようなツールは、保険業界などで既に広く使用されており、悪意のある行為者が改ざんされたビデオ、写真、文書を使用して虚偽の請求を行う可能性があるためです。これらのツールを民主化すること（無料で簡単にアクセスできるようにすること）は、この戦いの第一歩であり、すでにこの分野で重大な進展が見られます。

2つ目のステップは、技術的なものではなく、むしろ挑戦です。つまり、認識と批判的思考スキルの向上です。2015年の「フェイクニュース」スキャンダルの後、全国の非営利団体がメディアリテラシープログラムを作成し、ベストプラクティスを広め、地元の市民機関と協力して、日常の市民が虚偽を認識できるようにしました。もちろん、古典的な「フェイクニュース」は、最も高度なディープフェイクに比べれば子供の遊びです。したがって、私たちがこの分野で努力を再度行う必要があり、すべてのレベルで教育に投資する必要があります。

高度なディープフェイクには高度な批判的思考が必要

もちろん、これらの教育イニシアチブは、虚偽がテキストベースの場合には、少し簡単に実行できました。偽のニュースサイトでは、詐欺の兆候はしばしば明らかでした。例えば、ひどいウェブデザイン、乱れたタイポ、奇妙な出典などです。ディープフェイクの場合、兆候ははるかに微妙で、そしてかなり頻繁に最初の目で気づくことはできません。

したがって、すべての年齢のインターネットユーザーは、ディープフェイクの兆候を探すためにデジタルビデオを注意深く調べる必要があります。つまり、次のような要素に注意を払う必要があります。ビデオの場合、現実に似ていないぼやけた領域や影、自然に思えない顔の動きや表情、皮膚の色があまりにも完璧であること、服や動きのパターンが一貫性がないこと、唇の同期が合っていないことなどです。オーディオの場合、声があまりにも清潔に聞こえたり（または明らかにデジタル化された）、人間のような感情のトーンが欠けていること、話し方が奇妙であること、または表現が不自然であることなどです。

短期的には、このような自己トレーニングは非常に有用です。自分自身に、繰り返し「これは疑わしいですか？」と問いかけることで、ディープフェイクを検出する能力を磨くだけでなく、批判的思考スキル全体を向上させることができます。ただし、私たちは、外部の支援なしに事実と虚偽を区別することができなくなる時期に急速に近づいています。視覚的な兆候（上で述べた不規則性）は技術的にスムーズに処理され、完全に作成されたクリップは真正のものと区別がつかなくなります。私たちが残されるのは、状況による直感です。つまり、「ある政治家や有名人が本当にそう言うでしょうか？」または「このビデオの内容は妥当ですか？」のような質問を自分自身に問いかける能力です。

この文脈では、AI検出プラットフォームが非常に重要になります。裸眼でディープフェイクを検出することが不可能になると、現実の最終的な判断者として機能し、認識論的絶望に対するガイドレールとなる可能性があります。ビデオが真正であるように見えても、ある程度の疑わしさがある場合、これらのプラットフォームは、見ているものが真正であるかどうかの基準となることで、事実に基づいたものに私たちを根付かせます。最終的には、このような強力な技術の場合、自分自身を救うことができるのはAIだけです。火を以て火を制す必要があります。つまり、悪意のあるAIの最悪の濫用を根絶するために、良いAIを使用する必要があります。

実際、こうしたスキルの習得は、必ずしも悲観的または否定的なプロセスである必要はありません。ゼロトラストマインドを養うことは、批判的思考、直感、認識を磨く機会とみなすことができます。自分自身に、繰り返し「これは妥当ですか？」「これは疑わしいですか？」と問いかけることで、ディープフェイクだけでなく、広い世界に対処する能力を高めることができます。ディープフェイク時代の銀の弾丸は、これです。私たち自身の思考を深めること、そして日常生活でより経験的になることを強いられているのです。しかしそれは、決して悪いことではありません。