ディープフェイクの専門家「完全にリアルな」ディープフェイクが6ヶ月以内に登場する

印象的だが物議を醸すディープフェイク、つまりディープニューラルネットワークによって操作または生成された画像やビデオは、近い将来、より印象的で物議を醸すものになるだろうと、南カリフォルニア大学のVision and Graphics LabのディレクターであるHao Liは述べている。Liはコンピュータビジョンとディープフェイクの専門家であり、最近のCNBCとのインタビューで、「完全にリアルな」ディープフェイクが半年以内に登場するだろうと述べた。

Liは、現在のディープフェイクの多くはまだ人間の目では偽物と識別できるものであり、より説得力のあるディープフェイクでも、作成者がそれらをリアルに見せるために相当の努力を払う必要があると説明した。ただし、Liは、6ヶ月以内に、アルゴリズムがより洗練されるにつれて、「完全にリアルな」ディープフェイクが登場するだろうと信じている。

Liは当初、非常に説得力のあるディープフェイクが一般的になるまでに2〜3年かかるだろうと予測していたが、これはマサチューセッツ工科大学で開催された最近の会議での予測だった。ただし、Liは、最近の中国アプリZaoやディープフェイク技術に関するその他の最近の開発の露呈を受けて、タイムラインを修正した。LiはCNBCに説明したように、リアルなディープフェイクを作成するために必要な方法は、現在使用されている方法とほぼ同じであり、リアルなディープフェイクを作成する主な要素は、より多くのトレーニングデータである。

Liと彼の同僚の研究者は、非常に説得力のあるディープフェイクの到来を予測して、ディープフェイク検出技術の開発に勤勉に取り組んでいる。Liと彼の同僚、たとえばカリフォルニア大学バークレー校のHany Faridは、ディープフェイクを作成する技術がどのように機能するかを理解するために、最先端のディープフェイクアルゴリズムを実験した。

LiはCNBCに次のように説明した：

「ディープフェイクを検出するには、限界を知る必要がある。非常にリアルなものを検出できるAIフレームワークを構築するには、これらの技術を使用してトレーニングする必要がある。ある意味では、これらを知らないと検出できない。」

Liと彼の同僚は、ディープフェイク技術がもたらす潜在的な問題や危険性を認識して、ディープフェイクを検出するツールを作成することに投資している。Liと同僚は、ディープフェイクの潜在的な影響に懸念を抱き、対策を開発したいと考えているAI研究者のグループからだけではない。

最近、FacebookはMIT、マイクロソフト、オックスフォード大学と共同でディープフェイク検出チャレンジを開始した。このチャレンジは、画像やビデオが改変されたかどうかを検出できるツールを作成することを目的としている。これらのツールはオープンソースであり、企業、メディア組織、政府が使用できる。 한편、南カリフォルニア大学の情報科学研究所の研究者は、約96%の精度で偽のビデオを区別できる一連のアルゴリズムを最近開発した。

しかし、Liは、ディープフェイクの問題は技術そのものではなく、技術が悪用される方法にあると説明した。Liは、ディープフェイク技術の潜在的な正当な使用法、たとえばエンターテインメント業界やファッション業界での使用法をいくつか挙げた。

ディープフェイク技術は、画像やビデオの中の顔の表情を複製するために使用されてきた。研究者は、ジェネレーティブ・アドバーサリアル・ネットワークを使用して、元の画像の表情と同じ表情を持つ完全に新しい顔を作成した。この技術は、ノルウェー科学技術大学によって開発され、機密保持が必要な人々、たとえば内部告発者とのインタビューで顔の表情を読み取るのに役立つ可能性がある。

ディープフェイク技術の洗練度が高まるにつれて、ディープフェイクの正当な使用法も増えるだろう。ただし、危険性も増大するだろう。したがって、Liや他の研究者が行っているディープフェイク検出の仕事は、より重要になる。