ディープフェイクとは何か？

ディープフェイクの作成が容易になり、より広く使われるようになると、より多くの注意が払われるようになっています。ディープフェイクは、AIの倫理、誤情報、情報の公開、インターネット、規制に関する議論の中心となっています。ディープフェイクについて知ることが重要です。また、ディープフェイクが何であるかを直感的に理解することも重要です。この記事では、ディープフェイクの定義を明確にし、用途を検討し、ディープフェイクを検出する方法を説明し、ディープフェイクが社会に与える影響を検討します。

ディープフェイクとは何か?

ディープフェイクについてさらに議論する前に、「ディープフェイク」とは実際に何を指しているのかを明確にする必要があります。ディープフェイクという用語に関する混乱が多く、誤って適用されることがあります。ディープフェイクと呼ばれるには、機械学習システム、特に深層ニューラルネットワークによって生成されたメディアである必要があります。

ディープフェイクの重要な要素は、機械学習です。機械学習により、コンピューターが自動的にビデオとオーディオを比較的簡単に生成できるようになりました。深層ニューラルネットワークは、ターゲット環境条件下での実在の人物の映像に基づいて訓練され、人物の見た目や動きを学習します。訓練されたネットワークは、別の人物の画像に適用され、追加のコンピューター グラフィックス技術を使用して、元の映像と新しい人物を組み合わせます。エンコーダ アルゴリズムを使用して、元の顔とターゲット顔の類似性を決定します。顔の共通の特徴を分離した後、2 番目の AI アルゴリズムであるデコーダを使用します。デコーダは、エンコードされた（圧縮された）画像を分析し、元の画像の特徴に基づいてそれらを再構築します。2 つのデコーダが使用されます。1 つは元の主体の顔に、もう 1 つはターゲット人物の顔に使用されます。交換を行うには、人物 X の顔に訓練されたデコーダに人物 Y の画像を入力します。結果として、人物 Y の顔が人物 X の表情や向きの上に再構築されます。

現在、ディープフェイクを作成するにはまだ相当の時間がかかります。フェイクの作成者は、モデル内のパラメータを手動で調整する必要があります。最適でないパラメータは、目立つ不完全性や画像のグリッチを引き起こし、フェイクの真の性質を明らかにします。

ディープフェイクのほとんどが、生成対抗ネットワーク (GAN) と呼ばれるタイプのニューラルネットワークを使用して作成されていると考えられがちですが、実際には、現在作成されている多くのディープフェイクは GAN を使用していません。GAN は初期のディープフェイクの作成に重要な役割を果たしましたが、SUNY バッファローの Siwei Lyu によると、ほとんどのディープフェイク ビデオは代替方法で作成されています。

GAN を訓練するには大量のトレーニング データが必要であり、GAN は他の画像生成技術よりも画像をレンダリングするのに長時間かかります。GAN は静的な画像よりもビデオの生成に適しており、フレーム間の一貫性を維持するのに苦労します。エンコーダと複数のデコーダを使用してディープフェイクを作成する方が一般的です。

ディープフェイクは何に使われるのか?

インターネット上で見られるディープフェイクの多くは、ポルノグラフィックな内容です。AI ファームの Deeptrace による調査によると、2019 年 9 月に収集された約 15,000 のディープフェイク ビデオのうち、約 95% がポルノグラフィックな内容でした。この事実の心配される意味は、技術が使いやすくなると、偽の復讐ポルノの事件が増える可能性があることです。

しかし、すべてのディープフェイクがポルノグラフィックな内容ではありません。ディープフェイク技術には、より正当な用途もあります。オーディオ ディープフェイク技術は、病気やけがで声が損なわれた人々が通常の声で放送できるように支援できます。ディープフェイクは、危険な状況にある人々の顔を隠しながら、口元や表情を読むことを許可するために使用できます。ディープフェイク技術は、外国語映画の吹き替えを改善したり、古い損傷したメディアを修復したり、新しい芸術スタイルを作成したりするために使用できます。

非ビデオ ディープフェイク

ディープフェイクと聞くと、多くの人が偽のビデオを想像しますが、偽のビデオはディープフェイク技術で生成される唯一の種類のメディアではありません。ディープフェイク技術は、写真やオーディオのフェイクも生成します。GAN は、フェイク画像を生成するために頻繁に使用されます。ディープフェイク アルゴリズムを使用して生成されたプロフィール画像を持つ LinkedIn や Facebook (META ) の偽のプロフィールが多数存在すると考えられています。

オーディオ ディープフェイクも作成できます。有名人や政治家を含むさまざまな人のボイス クローン/ボイス スキンを生成するために、深層ニューラル ネットワークを訓練します。オーディオ ディープフェイクの有名な例の 1 つは、AI カンパニー Dessa が AI モデルを使用して、ポッドキャスト ホスト Joe Rogan の声を再現したときです。

ディープフェイクをどうやって見分けるか

ディープフェイクがより洗練されると、本当のメディアと見分けることが難しくなります。現在、いくつかの特徴を確認することで、ビデオがディープフェイクである可能性があるかどうかを判断できます。例えば、口の動きと音声の同期が悪い、動きが自然でない、顔の周辺にちらつきや歪みがある、髪の毛、歯、反射などの細かい部分が歪んでいるなどの特徴です。他のディープフェイクの可能性のある兆候には、ビデオの低品質な部分や、目じりの不規則な動きがあります。

これらの特徴は現在、ディープフェイクを特定するのに役立ちますが、ディープフェイク技術が進歩すると、ディープフェイクを信頼性を持って検出する唯一の方法は、フェイクと本当のメディアを区別するように訓練された別の AI になる可能性があります。

人工知能企業、包括して大手テクノロジー企業は、ディープフェイクを検出する方法を研究しています。先月、3 つのテクノロジー企業 (Amazon (AMZN ) 、Facebook、Microsoft (MSFT )) が支援するディープフェイク検出チャレンジが開始されました。世界中の研究チームはディープフェイクを検出する方法を開発するために競争しました。他の研究グループ、例えば Google (GOOGL ) と Jigsaw の共同研究者は、「顔の鑑識」と呼ばれるタイプの技術を開発しています。これは、変更されたビデオを検出できる技術です。また、データセットをオープンソース化し、他の人々にディープフェイク検出方法を開発するよう奨励しています。Dessa もディープフェイク検出技術を改良するために取り組んでいます。検出モデルがインターネット上で見つかるディープフェイク ビデオで機能するように努めています。Google が提供したオープンソース データセットのような、事前に構成されたトレーニングおよびテスト データセットでのみ機能するのではなく、実際のディープフェイク ビデオで機能するように努めています。

ディープフェイクの蔓延に対処するために、他の戦略も調査されています。例えば、ビデオを他の情報源と照合することで、矛盾を検出できる可能性があります。別の角度から撮影されたビデオの検索や、天候パターンや場所などの背景詳細の検証ができます。また、ブロックチェーンを使用して、ビデオが最初に作成されたときに登録し、元のオーディオと画像を保持することで、派生ビデオがいつでも操作を確認できるようにすることができます。

最終的に、ディープフェイクを信頼性を持って検出する方法が開発され、ディープフェイク技術の最新の進歩に追いつくことが重要です。ディープフェイクの影響が何であるかはわかりませんが、ディープフェイクや他の種類のフェイク メディアを検出する信頼性の高い方法がない場合、誤情報が広まり、人々の社会や制度に対する信頼が損なわれる可能性があります。

ディープフェイクの影響

ディープフェイクが制限なく広がることを許すと、どのような危険が生じる可能性がありますか？

ディープフェイクが現在もたらす最大の問題の 1 つは、非同意ポルノグラフィです。人々の顔をポルノグラフィックなビデオや画像と組み合わせて作成されます。AI倫理学者は、ディープフェイクが偽の復讐ポルノの作成に使用されることが増えることを心配しています。また、ディープフェイクは、誰に対しても、論争的または妥協した状況に置くことで、評判を傷つけるために使用できます。

企業やサイバーセキュリティ専門家は、ディープフェイクが詐欺、不正行為、強要に使用されることを心配しています。ディープフェイク オーディオが、会社の従業員をだまして、詐欺師に金銭を転送させるために使用されたと報告されています。

ディープフェイクは、上記のもの以外にも有害な影響を及ぼす可能性があります。ディープフェイクは、一般的にメディアに対する人々の信頼を損ない、本当のニュースと偽のニュースを区別することを困難にさせる可能性があります。ウェブ上に多くのビデオがフェイクである場合、政府、企業、その他の団体が、真正な論争や非倫理的な行為について疑問を投げかけやすくなります。

政府の場合、ディープフェイクは民主主義の運営に対する脅威となる可能性があります。民主主義は、市民が政治家について信頼できる情報に基づいて情報に基づいた決定を下す必要があります。誤情報は民主主義のプロセスを損ないます。例えば、ガボンの大統領 Ali Bongo は、おそらく偽のビデオに出演し、ガボン市民に安心させようとしました。長期間、体調が悪かったと考えられていた大統領の突然の出演は、クーを引き起こしました。ドナルド トランプ大統領は、自分が女性を性器からつかんだと話しているオーディオ録音がフェイクであると主張しましたが、それを「ロッカー ルーム トーク」とも呼んでいました。アンドリュー王子は、エミリー マイティリスの弁護士によって提供された画像がフェイクであると主張しましたが、弁護士はその真正性を主張しました。

最終的に、ディープフェイク技術には正当な用途もありますが、その技術の誤用から生じる多くの潜在的な危害もあります。したがって、メディアの真正性を判断する方法が開発され、維持されることが非常に重要です。