ディスインフォメーションに対する早期警戒システムの開発にAIを利用

ノートルダム大学の研究者たちは、オンラインでのデマ対策プロジェクトに取り組んでおり、暴力の扇動、分裂の助長、民主主義的選挙への介入を目的としたメディアキャンペーンに対処するための早期警戒システムを開発している。

研究チームは、操作された画像、ディープフェイク動画、オンラインのデマを識別できる早期警戒システムを開発するために、人工知能（AI）を利用している。このシステムは、スケーラブルで自動化されたものであり、コンテンツベースの画像検索を使用して、複数のソーシャルメディアネットワーク上の政治的なメームを識別することができる。

ティム・ウェニンガーは、ノートルダム大学のコンピューターサイエンスおよびエンジニアリング学部の准教授である。

「メームは簡単に作成でき、さらに簡単に共有できる」とウェニンガーは述べた。「政治的なメームは、投票を促進するために使用できるが、不正確な情報を広めたり害を及ぼしたりするために使用されることもある」。

ウェニンガーは、ノートルダム大学のコンピューターサイエンスおよびエンジニアリング学部の助教授であるウォルター・シャイラーと共同で研究を行った。

2019年インドネシア総選挙

研究チームは、2019年インドネシア総選挙でこのシステムをテストした。選挙に関連するツイッターとインスタグラムからの画像やコンテンツを2万件以上収集した。

選挙の結果、左派の現職候補が保守的なポピュリスト候補に勝利した。選挙後、8人が死亡し、数百人が負傷する暴力的な抗議活動が発生した。研究チームの調査によると、選挙の影響を与えることを目的としたソーシャルメディア上での自発的および調整されたキャンペーンが発生していた。

調整されたキャンペーンでは、操作された画像が使用され、虚偽の主張が行われ、特定の出来事が歪曲された。正当なニュースロゴを使用して、両党の市民や支持者を刺激するために、ニュース記事やメームが作成された。

世界の他の地域

2019年インドネシア総選挙は、世界の他の地域で起こり得ることの例である。ソーシャルメディアを通じて広がるデマは、民主的なプロセスを脅かす可能性がある。

ノートルダム大学の研究チームには、デジタルフォレンジックの専門家や平和研究の専門家が含まれている。チームによると、このシステムは操作されたコンテンツをフラグし、暴力の防止やジャーナリストおよび選挙監視員への潜在的な脅威の警告を目的として開発されている。

システムはまだ研究開発段階にあるが、最終的にはユーザーがコンテンツを監視するためにスケーラブルでパーソナライズされたものになる。開発の最大の課題の1つは、データの取り込みと処理をどのようにスケールアップするかを決定することである。シャイラーによると、システムは現在評価されており、次のステップは運用への移行である。

このシステムは、2020年アメリカ合衆国総選挙の監視に使用される可能性がある。大量のデマや操作が予想される選挙である。

「デマの時代が到来した」とシャイラーは述べた。「人気映画で俳優を置き換えるディープフェイクは、軽い気持ちで見ることができるかもしれないが、世界のリーダー同士を対立させるために作られたビデオやメームを想像してみて。そうしたコンテンツがどれほど速く広がるかを考えてみて。そうした行動の結果を考えてみて」。