AIブラウザツールがディープフェイクやその他の偽造メディアを認識することを目指す

近年のテクノロジー企業による誤情報や偽造コンテンツ対策の取り組みが本格化している。ディープフェイクのような高度な偽造コンテンツ生成技術が使いやすくなり、洗練されたものになっているからだ。一つの試みとして、AI Foundationが開発したRealityDefenderというツールが登場している。AI Foundationは、ユーザーが様々なタスクを実行するためにトレーニングできる、倫理的なAIエージェントやアシスタントの開発に尽力している。

AI Foundationの最も注目すべきプロジェクトは、ユーザーが自分自身に似たデジタル・ペルソナを作成し、仮想の出会い系スペースで自分を表現できるプラットフォームの開発である。AI Foundationは、グローバルAI評議会の監督を受けており、AIプラットフォームの潜在的な悪影響を予測し、それに対処することが求められている。 VentureBeatによると、AI Foundationが開発したディープフェイク検出ツールの1つは、Reality Defenderと呼ばれる。Reality Defenderは、ユーザーがウェブブラウザで使用できるツールで、ビデオ、画像、他のタイプのメディアを分析して、偽造や改ざんの兆候を検出する。ツールは、インターネット上でのディープフェイクの増加に対抗することを目的としており、過去6ヶ月で約2倍になったと推定されている。

Reality Defenderは、画像やビデオが偽造された可能性を示す兆候を検出できる、様々なAIベースのアルゴリズムを利用して動作する。AIモデルは、トリックや操作の微妙な兆候を検出し、モデルが検出した誤った陽性は、ツールのユーザーによって不正と标記される。データは、モデルを再トレーニングするために使用される。非欺瞞的なディープフェイクを作成するAI企業は、そのコンテンツに「正直なAI」というタグやウォーターマークを付けて、人々がAI生成の偽造物を容易に識別できるようにしている。

Reality Defenderは、AI Foundationが作成しようとしているツールとAI責任プラットフォームの1つである。AI Foundationは、Guardian AIと呼ばれる責任プラットフォームの開発を進めており、個人に働くパーソナルAIエージェントへのアクセスを提供し、悪意のある行為者による搾取から守ることを目的としている。基本的に、AI Foundationは、AIの社会への浸透を拡大し、より多くの人々にAIを提供することを目指しながら、AIのリスクからも守ることを目指している。

Reality Defenderは、誤情報を減らすために開発されている新しいAI駆動型製品の1つではない。同様の製品として、SurfSafeというものがあり、UCバークレーの2人の大学生、Rohan PhadteとAsh Bhatによって作成された。 The Vergeによると、SurfSafeは、ユーザーが気になるメディアをクリックすると、プログラムが逆画像検索を実行し、さまざまな信頼できるソースからの類似のコンテンツを検索して、改ざんされた画像をフラグする。

これらの解決策が長期的にはどれほど効果的かは不明である。ダートマス大学の教授であり、法医学の専門家であるHany Faridは、The Vergeに引用され、Reality Defenderのようなシステムが有意義に機能する可能性は「非常に懐疑的」と語った。Faridは、偽造コンテンツを検出する上での大きな課題は、メディアが完全に偽造されたものでも完全に本物でもないことだと説明した。Faridは次のように述べた。

「連続体があり、取り組むべき問題は非常に複雑である。何らかの変更は無意味で、何らかの変更は画像の性質を根本的に変える。AIが違いを検出できることを想定するのは、非常に無邪気である。さらに、クラウドソーシングを含めることは、人間が偽造された画像を識別するのが非常に悪いという事実があるため、難しい。」

さらに、人間は偽造された画像を識別するのが非常に悪いという事実があるため、クラウドソーシングの要素、たとえば誤った陽性をタグ付けすることは難しい。人間は間違いを犯し、偽造された画像を示す微妙な詳細を見逃すことが多い。また、コンテンツをフラグする悪意のある行為者に対処する方法も不明である。

偽造物検出ツールが最大限に効果的になるためには、オンラインで出会うコンテンツについて如何に推論するかを教えるデジタル・リテラシー活動と組み合わせる必要があるように思われる。