Andersonの視点

RedditがSFWのディープフェイクコミュニティを禁止

Martin Anderson
Unite.AI を Google の優先ソースに追加
要点Redditは、不随意のポルノを投稿したためではなく、それを勧誘したためにr/deepfakesfwを禁止した。
もっと見る
  • Redditは、不随意のポルノを投稿したためではなく、それを勧誘したためにr/deepfakesfwを禁止した。
  • GoogleはColabでのディープフェイクトレーニングを禁止したが、それはDeepFaceLabにのみ適用され、他のツールには適用されない。
  • 合法的なディープフェイクコミュニティは、NSFWコンテンツのリクエストに対する厳格なモデレーションによってのみ存続している。

週末、日曜日頃、Redditは「SFW」(職場での閲覧に適した内容)と呼ばれるディープフェイクコミュニティであるr/deepfakesfwを禁止した。 このサブレディットは、2018年に元のAIポルノ満載のr/deepfakesサブを速やかに削除した後の最初の対応の一つだった。

現在表示される比較的定型的な告知(6月13日月曜日の保存画面)には、「本人の同意のないポルノを禁じるRedditの規則に違反したため禁止された」とある。

r/deepfakesfwの新しいフロントページ。

r/deepfakesfwの新しいフロントページ。

r/deepfakesfwサブは頻繁に保存されていなかったが、10日ほど前に取られた最新のWayBack Machineスナップショット(2022年6月3日)では、当時3,095人の読者がいたことがわかる。

これはr/DeepFakesSFW(「s」が1つ多い)より多い。同コミュニティには現在2,827人の読者がいる(2022年6月13日月曜日の保存画面)。最も人気のある「正当な」SFWディープフェイクコミュニティはr/SFWdeepfakesのようで、執筆時点の読者は16,636人である(同日の保存画面)。

要求すらしないこと

r/deepfakesfwが破滅したのは、投稿ではなく、ディープフェイクポルノグラフィーの要求だった。Redditの露骨な性的メディアに関するルールは次の通りである:

「他人の画像や動画を、露骨な性的コンテンツを偽造する目的、または写っている人に似た人物のポルノを要求する目的で投稿すること(例:ディープフェイク、バブルポルノ)も規則違反である」

最終的に利用可能なRSSフィードから、r/deepfakesfwでは、NSFWディープフェイクコンテンツの投稿ではなく、要求が禁止された原因であることがわかる。

現在廃止されたr/deepfakesfwサブレディットからのいくつかの最終的な明らかなNSFW投稿。

現在廃止されたr/deepfakesfwサブレディットからのいくつかの最終的な明らかなNSFW投稿。 ソース:Inoreader。

これらのRSS投稿が指す投稿は現在利用できないが、要求者のプロフィールリンク(上の画像でぼかされている)をクリックすると、多くの投稿者が複数のフォーラムで禁止されたディープフェイクコンテンツを要求しているか、提供していることがわかり、さらにいくつかの最も極端なコンテンツ、近親相姦ポルノや本人の同意のないさまざまなポルノを要求している。

残るSFWコミュニティは、モデレーターの迅速かつ勤勉な対応によって存続しているようだ。Redditは、投稿では直接要求できない不正なディープフェイクを、人々がDMで連絡を取り合って取引する「案内広告」のような場にはなりたくないとみられる。

もし、そうならば、まだ禁止されていないr/DeepFakesSFWは、時間の経過とともに消滅する可能性がある。現在のトップ投稿2つは、ルートサブレディットURLに「古い」Redditテーマを有効にしたときに、明示的に「NSFW」とマークされている(このタグは、このコミュニティでは利用できないはずである)。

状況によっては、r/DeepFakesSFWサブレディットにルールを破る投稿が表示される。

状況によっては、r/DeepFakesSFWサブレディットにルールを破る投稿が表示される。 ソース:https://www.reddit.com/r/DeepFakesSFW/

これらの2つのNSFW投稿は、現在のr/DeepFakesSFWフォーラムのアーカイブで見ることができる:ここ(2022年6月13日月曜日にスナップショットを撮影)。

実際、r/DeepFakesSFWでは、新しい投稿を作成するときに「NSFW」フラグは利用できない。4年間運営されているこのサブレディットのサイドバー情報によると、

r/DeepFakesSFWへの投稿時に利用可能なタグ。

r/DeepFakesSFWへの投稿時に利用可能な「フラグ」。

したがって、r/DeepFakesSFWのNSFWタグは、コミュニティのモデレーターや上位管理者、あるいはアルゴリズムが付けた可能性がある。地元のモデレーターが関与したり異議を唱えたりできない場合も考えられる。筆者は唯一掲載されているモデレーターに問い合わせており、更新があれば公表する。

(編集、2022年6月14日 – r/DeepFakesSFWのモデレーターは、以下の回答を返した。「ユーザーのアカウントがNSFWであるときに発生するようです」。おそらく、SFWディープフェイクサブレディットでのこのような要求を減らす唯一の方法は、NSFWと分類されたユーザーを禁止することである。)

このサブレディットと、より大きなr/SFWdeepfakesのほとんどのコンテンツは、ディープフェイク技術を使用して人気映画や古典映画の俳優を「リキャスト」したり、人気メディアとディープフェイク技術で無害なAIドライブの楽しみ方を探したりすることに関係している。これらは確かに「SFW」に該当する。

これらの投稿の多くは、著作権に基づく禁止に近い危険性があるが、人気のあるYouTubeディープフェイカーであるCtrl-Shift-Faceの「IPを利用した」非ポルノディープフェイクビデオ投稿は、スタジオや権利保有者がこのような活動に対して寛容であることを示唆している。

ディープフェイクプロセスとエコシステムの「無実」の外見

2週間前、GoogleがColabクラウド環境でディープフェイク作成ソフトウェアを突然禁止したことが明らかになり、多くの議論を呼んだ。現在も制限はDeepFaceLab(DFL)の実行時にのみ発動するようだ。DFLは世界で最も人気があり、AIポルノとの関連が最も強い。一方、同じ処理を行うが利用者が少なく評判がよりよいFaceSwapでは同様の制限は発動しない。

このアプローチは、Colabがディープフェイクポルノグラフィーの生産に何らかの制限を設けるために実装できる唯一の方法であったかもしれない。ディープフェイクトレーニングプロセスは、オープンソースソフトウェアと高く切り取られた顔画像(通常は512x512px、またはそれ以下)のみを使用し、画像認識アルゴリズムが実際のポルノグラフィーを傍受する可能性はほとんどないからである。

ディープフェイクモデルがトレーニングされた後、ディープフェイカーはColabや高価なローカルGPUの巨大な処理能力を必要としない。ほとんどの実際の変換(つまり、ビデオへの顔の押し付け、ポルノグラフィーまたはその他のもの)を、ローカルで低性能のラップトップGPUで、またはCPU(処理時間が少し長くなる)で実行できる。ディープフェイクプロセスで何かポルノグラフィーが起こっている時点で、Colabはすでに絵から外されている。

したがって、ディープフェイクポルノグラフィーの創作者が交換する構成要素は、ほとんどの場合、ディープフェイク作成者がYouTubeビデオ、ブルーレイ、テレビ放送、ソーシャルメディア、またはその他のソースから抽出された「顔セット」の形で、著作権侵害の可能性があるものに過ぎない。

ディープフェイクコミュニティに対する「焦土作戦」政策が来るのか?

ディープフェイクDiscordコミュニティ、たとえばDeepFaceLab(DeepFaceLiveを含む)、FaceSwap、Machine Video Editor(MVE、DFL用のGUIベースの環境、多くの追加機能あり)、およびオーディオベースのディープフェイクDiscordサーバー、たとえばAudio Deepfakesの住民が抱える疑問は、ポータルやプラットフォームの運営者は、NSFWの支持者や制作者の波に対処する継続的なモデレーション費用を負担する代わりに、原則としてディープフェイクコミュニティを全面禁止するようになるのか?

FaceSwapの開発者であり、プロジェクトに関連するDiscordサーバーの所有者であるBryan Lyonは、以下のコメントを寄せた†:

「何度かの一掃措置があったが、徹底して健全な状態を保つことでDiscordに残れた。隠しチャンネルや非合法コンテンツが含まれる秘密の2次サーバーはない。数年前に人気のあるDeepFaceLabサーバーが一掃された。すべてのユーザーが禁止された。招待のみのロールと非合意ポルノグラフィーを含むチャンネルへのアクセス権があった」

GoogleがディープフェイクトレーニングをサーバーとGPUで禁止したことを考慮すると、Microsoftが所有するGitHubが、最終的にはこれらの技術を支援する*ことは、道徳的な曖昧さや管理の投資に値しないと判断する可能性がある。

ディープフェイク技術を、ポルノグラフィーから映画やテレビ番組の制作、または非侵害的/非犯罪的な使用に向けて合法化するプロセスはまだ初期段階であるため、プラットフォームやコミュニティホスティングサービスにとって明確なポリシーガイドラインを生み出すには十分ではない。

 

* 2022年6月13日月曜日のhttps://github.com/search?q=deepfakeのアーカイブ。
† DiscordのプライベートDMで。

2022年6月13日初めて公開。画像の修正のために、UTCの3:08 PMに編集。2022年6月14日火曜、6:24 AM UTCに、NSFWステータスについてのRedditモデレーターの回答を追加し、RSSフィードのイラストを修正。

機械学習のライターで、人間画像合成の専門家です。Metaphysic.ai の研究コンテンツ部門の元責任者で、DNEG の Brahma.ai に統合されるまで勤務していました。
ウェブサイト: martinanderson.ai
連絡先: martin@martinanderson.ai