AIブラウザツールはディープフェイクやその他の偽メディアの認識を目指す

ディープフェイクのような高度な偽コンテンツ生成技術が使いやすく、より洗練されているため、最近、偽情報や偽コンテンツに取り組むハイテク企業の取り組みが本格化している。人々がディープフェイクを検出して戦うのを支援する今後の試みの 1 つは、RealityDefender です。 AI財団は、ユーザーがさまざまなタスクを完了するために訓練できる倫理的な AI エージェントとアシスタントの開発に取り組んでいます。

AI Foundation の最も注目すべきプロジェクトは、人々が自分に似た独自のデジタル ペルソナを作成し、仮想ハングアウト スペースで表現できるようにするプラットフォームです。 AI Foundation は Global AI Council によって監督されており、その任務の一環として、AI プラットフォームがもたらす可能性のある悪影響を予測し、これらの問題に先手を打つよう努める必要があります。 VentureBeat が報じたとおり, AI Foundationがディープフェイクの検出を支援するために作成したツールのXNUMXつは、Reality Defenderと呼ばれています。 Reality Defender は、Web ブラウザで使用できるツール (確認してください) で、ビデオ、画像、その他の種類のメディアを分析して、メディアが何らかの方法で偽造または変更された兆候を検出します。 このツールが、インターネット上で増加するディープフェイクの流れに対抗するのに役立つことが期待されており、一部の推定によると、過去 XNUMX か月でその数は約 XNUMX 倍に増加しました。

Reality Defense は、画像やビデオが偽造された可能性を示唆する手がかりを検出できる、さまざまな AI ベースのアルゴリズムを利用して動作します。 AI モデルは、トリックや操作の微妙な兆候を検出し、モデルが検出した誤検知は、ツールのユーザーによって誤ったものとしてラベル付けされます。 その後、データはモデルの再トレーニングに使用されます。 欺瞞的でないディープフェイクを作成する AI 企業は、自社のコンテンツに「正直な AI」タグまたは透かしを付けており、人々が AI によって生成されたフェイクを簡単に識別できるようにしています。

Reality Defender は、AI Foundation が作成しようとしている一連のツールおよび AI 責任プラットフォーム全体の XNUMX つにすぎません。 AI Foundation は、個人が自分のために働き、悪者による搾取を防ぐのに役立つパーソナル AI エージェントにアクセスできるべきであるという教訓に基づいて構築された責任プラットフォームである Guardian AI の作成を推進しています。 基本的に、AI Foundation は、社会における AI の範囲を拡大し、より多くの人々に AI を届けることと、AI のリスクから守ることの両方を目指しています。

米国に関する誤った情報を減らすことを目的とした AI 主導の新しい製品は Reality Defender だけではありません。 同様の製品は SurfSafe と呼ばれ、カリフォルニア大学バークレー校の XNUMX 人の学部生、Rohan Phadte と Ash Bhat によって作成されました。 The Vergeによると, SurfSafe は、ユーザーが興味のあるメディアをクリックできるようにすることで動作し、プログラムは画像の逆検索を実行して、インターネット上のさまざまな信頼できるソースから類似のコンテンツを見つけようとし、不正行為であることが知られている画像にフラグを立てます。医者にされた。

これらのソリューションが長期的にどれだけ効果があるかは不明です。 ダートマス大学教授および法医学専門家 ハニー・ファリドの言葉をThe Vergeが引用 彼は、Reality Defender のような計画システムが有意義に機能するかどうかについて「非常に懐疑的」であると述べています。 ファリド氏は、偽のコンテンツを検出する際の重要な課題の XNUMX つは、メディアが純粋に偽物でも本物でもないということだと説明しました。 ファリド氏はこう説明した。

「連続体がある。 対処しなければならない信じられないほど複雑な問題の範囲。 意味のない変更もあれば、画像の性質を根本的に変える変更もあります。 違いを見分けるように AI を訓練できるかのように振る舞うのは、信じられないほど単純です。 そして、クラウドソーシングができるかのように振る舞うのは、さらにそうです。」

さらに、人間は通常、偽の画像を特定するのが非常に苦手であるため、誤検知のタグ付けなどのクラウドソーシング要素を組み込むことは困難です。 人間はしばしば間違いを犯し、画像が偽物であることを示す微妙な詳細を見逃します。 また、コンテンツにフラグを立てたときに荒らしを行う悪意のある行為者にどのように対処するかも不明瞭だ。

最大限の効果を発揮するには、偽検出ツールを、人々がオンラインでやり取りするコンテンツについて推論する方法を教えるデジタル リテラシーの取り組みと組み合わせる必要があると思われます。