ディープフェイクやその他の偽造メディアを認識するためのAIブラウザツール

最近、テクノロジー企業は、ディープフェイクなどの高度な偽造コンテンツ生成技術がより簡単に使用できるようになり、より洗練されたものになっているため、誤情報や偽造コンテンツに対処するための努力を強化しています。ディープフェイクを検出して対処するための1つの試みは、AI Foundationによって開発されたRealityDefenderです。AI Foundationは、ユーザーがさまざまなタスクを実行するためにトレーニングできる倫理的なAIエージェントとアシスタントを開発することに尽力しています。

AI Foundationの最も注目すべきプロジェクトは、ユーザーが自分自身のデジタル・ペルソナを作成し、仮想ハングアウト・スペースで自分自身を表現できるプラットフォームです。AI Foundationは、VentureBeatによると、ディープフェイクの検出を支援するツールの1つとして、Reality Defenderを開発しました。Reality Defenderは、ユーザーがウェブブラウザで使用できるツールで、ビデオ、画像、その他のタイプのメディアを分析して、メディアが偽造または改変された兆候を検出します。ツールは、インターネット上でのディープフェイクの増加に対抗するのに役立つことが期待されています。ディープフェイクは、過去6ヶ月で約2倍に増加したと推定されています。

Reality Defenderは、画像またはビデオが偽造されている可能性を示唆する兆候を検出できるさまざまなAIベースのアルゴリズムを使用して動作します。AIモデルは、トリックや操作の微妙な兆候を検出します。モデルが検出する誤陽性は、ツールのユーザーによって不正とラベル付けされ、データはモデルを再トレーニングするために使用されます。ディープフェイクを生成するAI企業は、生成されたコンテンツに「正直なAI」というタグまたはウォーターマークを付けることで、ユーザーがAI生成の偽造を簡単に識別できるようにします。

Reality Defenderは、AI Foundationが作成しようとしているツールとAI責任プラットフォームの1つです。AI Foundationは、Guardian AIという責任プラットフォームを開発しようとしています。このプラットフォームは、個人に自分用のAIエージェントが利用できるようにし、悪意のある行為者による搾取から守るという概念に基づいています。基本的に、AI Foundationは、社会におけるAIの普及を拡大し、同時にAIのリスクから守ることを目指しています。

Reality Defenderは、誤情報を減らすために開発された新しいAI駆動型製品の1つではありません。UCバークレーの2人の大学生、Rohan PhadteとAsh Bhatによって作成されたSurfSafeという製品もあります。The Vergeによると、SurfSafeは、ユーザーが気になるメディアをクリックすると、逆画像検索を実行し、さまざまな信頼できるインターネットソースからの類似のコンテンツを検索し、改変された画像をフラグ付けします。

これらの解決策が長期的にどれほど効果的かは不明です。ダートマス大学の教授であり、フォレンジックの専門家であるHany Faridは、The Vergeに引用され、Reality Defenderのようなシステムが有意義な方法で機能する可能性は「非常に懐疑的」であると述べています。Faridは、偽造コンテンツを検出する上での1つの大きな課題は、メディアが完全に偽造されたり本物のものになったりすることはないことを説明しました。Faridは次のように述べています。

「その間には連続体があり、非常に複雑な問題の範囲があります。何らかの変更は無意味ですが、他の変更は画像の性質を根本的に変えます。AIを訓練して違いを検出できるようにすることは、非常に無邪気です。さらに、クラウドソーシングすることは、もっとも無邪気です。」

さらに、クラウドソーシングの要素、たとえば誤陽性をタグ付けすることは、人間が偽造された画像を識別するのが非常に悪いという事実のため、含めることが難しいです。人間は一般的に間違いを犯し、偽造された画像を示す微妙な詳細を見逃します。悪意のある行為者がコンテンツをフラグ付けするときにトロールする方法を扱うことは不明です。

偽造検出ツールが最大限に効果的になるためには、オンラインでやり取りするコンテンツについて人々が推論する方法を教えるデジタル・リテラシー活動と組み合わせる必要があると思われます。