ディープフェイクとは何ですか?

ディープフェイクの作成が容易になり、多作になるにつれて、ディープフェイクへの注目も高まっています。ディープフェイクは、AI 倫理、誤った情報、情報とインターネットのオープン性、規制を含む議論の焦点となっています。ディープフェイクに関する情報を入手し、ディープフェイクとは何かを直感的に理解することは有益です。この記事では、ディープフェイクの定義を明確にし、そのユースケースを検討し、ディープフェイクを検出する方法について説明し、ディープフェイクが社会に与える影響を検討します。

ディープフェイクとは何ですか?

ディープフェイクについてさらに議論する前に、少し時間を取って明確にすることをお勧めします。 「ディープフェイク」とは実際何ですか。 ディープフェイクという用語に関してはかなりの混乱があり、本物のディープフェイクであるかどうかに関係なく、この用語は偽のメディアに誤って適用されることがよくあります。 ディープフェイクとして認定されるためには、問題の偽造メディアが機械学習システム、特にディープ ニューラル ネットワークを使用して生成されている必要があります。

ディープフェイクの重要な要素は機械学習です。機械学習により、コンピューターはビデオとオーディオを比較的迅速かつ簡単に自動的に生成できるようになりました。ディープ ニューラル ネットワークは、対象の環境条件下で人がどのように見え、どのように動くかを学習するために、実際の人の映像でトレーニングされます。次に、訓練されたネットワークが別の個人の画像に使用され、新しい人物と元の映像を組み合わせるために追加のコンピュータ グラフィックス技術で強化されます。エンコーダ アルゴリズムを使用して、元の顔とターゲットの顔の類似性が判断されます。顔の共通の特徴が分離されると、デコーダーと呼ばれる 2 番目の AI アルゴリズムが使用されます。デコーダは、エンコードされた (圧縮された) 画像を検査し、元の画像の特徴に基づいてそれらを再構築します。 2 つのデコーダが使用され、1 つは元の被写体の顔に、もう 1 つはターゲットの人物の顔に使用されます。交換を行うために、人物 X の画像でトレーニングされたデコーダに人物 Y の画像が供給されます。その結果、人物 Y の顔が人物 X の表情と向きに基づいて再構築されます。

現時点では、ディープフェイクの作成にはまだかなりの時間がかかります。 偽物の作成者は、モデルのパラメータを手動で調整するのに長い時間を費やす必要があります。最適ではないパラメータは、偽物の本当の性質を明らかにする顕著な不完全性や画像の不具合につながるためです。

ディープフェイクのほとんどは、生成的敵対的ネットワーク (GAN) と呼ばれるニューラル ネットワークの一種で作成されているとよく考えられていますが、最近作成されるディープフェイクの多く (おそらくほとんど) は GAN に依存していません。ニューヨーク州立大学バッファロー校の Siwei Lyu 氏によると、GAN は初期のディープフェイクの作成で重要な役割を果たしましたが、ほとんどのディープフェイク ビデオは別の方法で作成されています。

GAN をトレーニングするには不釣り合いに大量のトレーニング データが必要であり、GAN は他の画像生成技術と比較して画像のレンダリングに非常に長い時間がかかることがよくあります。 また、GAN はフレーム間の一貫性を維持することが難しいため、ビデオよりも静止画像を生成するのに適しています。 ディープフェイクを作成するには、エンコーダーと複数のデコーダーを使用する方がはるかに一般的です。

ディープフェイクは何に使用されますか?

オンラインで見つかるディープフェイクの多くは本質的にポルノです。 AI企業ディープトレースが行った調査によると、15,000年2019月に撮影された約95万XNUMX本のディープフェイク動画のサンプルのうち、約XNUMX％が本質的にポルノだった。 この事実が示唆する厄介な点は、テクノロジーが使いやすくなるにつれて、偽のリベンジポルノ事件が増加する可能性があるということです。

ただし、すべてのディープ フェイクが本質的にポルノであるわけではありません。 ディープフェイク技術には、より正当な用途があります。 音声ディープフェイク技術は、人々が病気や怪我によって損傷したり失われたりした後、通常の音声をブロードキャストするのに役立つ可能性があります。 ディープフェイクは、敏感で危険な状況にある人々の顔を隠しながら、唇や表情を読み取ることもできます。 ディープフェイク技術は、外国語映画の吹き替えを改善したり、古いメディアや破損したメディアの修復を支援したり、新しいスタイルの芸術を生み出したりするために使用できる可能性があります。

ビデオ以外のディープフェイク

「ディープフェイク」という言葉を聞くと、ほとんどの人はフェイクビデオを思い浮かべますが、ディープフェイク技術で作成されるフェイクメディアの種類はフェイクビデオだけではありません。 ディープフェイク技術は、写真や音声の偽物の作成にも使用されます。 前述したように、GAN は偽の画像を生成するためによく使用されます。 ディープフェイクアルゴリズムで生成されたプロフィール画像を使用した偽のLinkedInやFacebookのプロフィールが多数存在すると考えられている。

音声ディープフェイクを作成することも可能です。 ディープ ニューラル ネットワークは、有名人や政治家など、さまざまな人々の音声クローン/音声スキンを生成するように訓練されています。 音声ディープフェイクの有名な例の XNUMX つは、AI 企業 Dessa が行ったものです。 AIモデルを活用し、 非 AI アルゴリズムによってサポートされ、ポッドキャスト ホストのジョー ローガンの声を再現します。

ディープフェイクを見分ける方法

ディープフェイクがますます洗練されるにつれ、本物のメディアと区別するのはますます難しくなるだろう。 現在、 いくつかの明らかな兆候 人々は、動画が潜在的にディープフェイクであるかどうかを確認するために、口パクの下手さ、不自然な動き、顔の端のちらつき、髪、歯、反射などの細かい部分の歪みなどを探すことができます。 ディープフェイクの他の潜在的な兆候には、同じビデオの低品質部分や不規則な目の瞬きなどがあります。

現時点ではこれらの兆候はディープフェイクを見分けるのに役立つかもしれないが、ディープフェイク技術の進歩により、信頼性の高いディープフェイク検出の唯一の選択肢は、本物のメディアとフェイクを区別するように訓練された他のタイプの AI になる可能性がある。

多くの大手ハイテク企業を含む人工知能企業は、ディープフェイクを検出する方法を研究しています。 昨年 XNUMX 月、Amazon、Facebook、Microsoft の XNUMX つのテクノロジー大手の支援を受けて、ディープフェイク検出チャレンジが開始されました。 世界中の研究チームがディープフェイクの検出方法に取り組み、最良の検出方法の開発を競い合いました。 Google と Jigsaw の共同研究者グループなど、他の研究者グループは、改ざんされたビデオを検出できる一種の「顔フォレンジック」に取り組んでいます。 データセットをオープンソースにする そして他者にディープフェイク検出方法の開発を奨励します。 前述の Dessa はディープフェイク検出技術の改良に取り組み、オープンソース データセットのような事前に作成されたトレーニングおよびテスト データセットだけでなく、実際に (インターネット上で) 見つかったディープフェイク動画でも検出モデルが確実に機能するように努めてきました。 Googleが提供しました。

もあります 他の戦略 ディープフェイクの蔓延に対処するために調査が進められています。 たとえば、ビデオをチェックして他の情報源との一致を確認することも戦略の XNUMX つです。 他の角度から撮影された可能性のあるイベントのビデオを検索したり、ビデオの背景の詳細​​ (天気パターンや場所など) に不一致がないかチェックしたりできます。 これを超えて、 ブロックチェーンオンライン台帳システム 最初の作成時にビデオを登録し、オリジナルのオーディオと画像を保持して、派生ビデオの操作を常にチェックできるようにすることができます。

最終的には、ディープフェイクを検出する信頼できる方法が作成され、これらの検出方法がディープフェイク技術の最新の進歩に追いつくことが重要です。 ディープフェイクの影響を正確に知ることは困難ですが、ディープフェイク (およびその他の形式の偽メディア) を検出する信頼できる方法がなければ、誤った情報が横行し、社会や組織に対する人々の信頼を低下させる可能性があります。

ディープフェイクの影響

ディープフェイクを野放しに増殖させるとどのような危険があるのでしょうか?

現在、ディープフェイクが引き起こす最大の問題の XNUMX つは、人々の顔をポルノビデオや画像と組み合わせて作成された、同意のないポルノです。 AI倫理学者らは、ディープフェイクが偽リベンジポルノの作成にさらに利用されるのではないかと懸念している。 これを超えて、ディープフェイクは、人々を物議を醸す危険なシナリオに陥らせるために使用される可能性があるため、ほぼすべての人をいじめたり評判を傷つけたりするために使用される可能性があります。

企業やサイバーセキュリティの専門家は、詐欺、詐欺、恐喝を促進するためにディープフェイクが使用されることに懸念を表明しています。 ディープフェイク音声は、 従業員を説得するために使われる 詐欺師に送金する会社

ディープフェイクが上記以外にも有害な影響を与える可能性があります。 ディープフェイクは、メディア全般に対する人々の信頼を潜在的に損ない、人々が本物のニュースとフェイクニュースを区別するのを困難にする可能性があります。 ウェブ上の多くのビデオが偽物であれば、政府、企業、その他の団体が正当な論争や非倫理的な行為に疑問を投げかけることが容易になります。

政府に関して言えば、ディープフェイクは民主主義の運営に脅威を与える可能性さえあります。 民主主義では、国民が信頼できる情報に基づいて政治家について十分な情報に基づいた決定を下せることが求められます。 誤った情報は民主主義のプロセスを損ないます。 例えば、ガボンのアリ・ボンゴ大統領は、ガボン国民を安心させようとするビデオに出演した。 大統領は長期間にわたり体調不良と思われていたが、突然姿を現した。 おそらくフェイクビデオがクーデター未遂のきっかけとなった。 ドナルド・トランプ大統領は、女性の性器をつかんだことを自慢する音声録音があったと主張した 偽物だった、それを「ロッカールームトーク」とも表現しているにもかかわらず。 アンドルー王子も エミリー・マイティリスの弁護士が提供した画像は偽物だと主張が、弁護士はその信憑性を主張した。

結局のところ、ディープフェイク技術には正当な用途がありますが、その技術の悪用から生じる可能性のある潜在的な危害は数多くあります。 そのため、メディアの信頼性を判断する方法を作成し、維持することが非常に重要です。