Redditが「SFW」ディープフェイクコミュニティを禁止した

週末、日曜日頃、Redditは「SFW」（職場で安全）と呼ばれるディープフェイクコミュニティであるr/deepfakesfwを禁止した。 このサブレディットは、2018年に元のAIポルノ満載のr/deepfakesサブを削除した後の最初の対応の一つだった。

（比較的）標準的な伝説が現在サブを訪問する人々に説明しているのは、《「Redditのルールに対する違反である無意識のポルノグラフィー」により禁止された》とある。

r/deepfakesfwの新しいフロントページ。

r/deepfakesfwサブは頻繁に保存されていなかったが、10日ほど前に取られた最新のWayBack Machineスナップショット（2022年6月3日）では、当時3,095人の読者がいたことがわかる。

これは、現在2,827人の読者を持つr/DeepFakesSFW（「s」の付加）よりも多い数である。現在最も人気のある「合法的な」SFWディープフェイクコミュニティは、r/SFWdeepfakesのようで、現在16,636人の読者を持っている。

問うことすらできない

r/deepfakesfwが破滅したのは、投稿ではなく、ディープフェイクポルノグラフィーの《要求》だった。Redditのセクシュアルエキスプlicitメディアに関するルールは次の通りである：

《他の人の画像またはビデオが、明示的なコンテンツを偽造する目的または「類似の」ポルノグラフィー（例：「ディープフェイク」または「バブルポルノ」）を募集するために投稿されることは、ルール違反である》

最終的に利用可能なRSSフィードから、r/deepfakesfwでは、NSFWディープフェイクコンテンツの投稿ではなく、要求が禁止された原因であることがわかる。

現在廃止されたr/deepfakesfwサブレディットからのいくつかの最終的な明らかなNSFW投稿。 ソース：Inoreader。

これらのRSS投稿が指す投稿は現在利用できないが、要求者のプロフィールリンク（上の画像でぼかされている）をクリックすると、多くの投稿者が複数のフォーラムで禁止されたディープフェイクコンテンツを要求しているか、提供していることがわかり、さらにいくつかの最も極端なコンテンツ、包括して無意識のポルノグラフィーテーマを要求している。

これは、Redditがディープフェイクポルノグラフィーの「掲示板」フォーラムになることを望んでいないことを示唆しており、SFWディープフェイクサブレディットが生き残るためには、モデレーターの迅速な対応が必要である。

もし、そうならば、まだ禁止されていないr/DeepFakesSFWは、時間の経過とともに消滅する可能性がある。現在のトップ投稿2つは、ルートサブレディットURLに「古い」Redditテーマを有効にしたときに、明示的に「NSFW」とマークされている（このタグは、このコミュニティでは利用できないはずである）。

状況によっては、r/DeepFakesSFWサブレディットにルールを破る投稿が表示される。 ソース：https://www.reddit.com/r/DeepFakesSFW/

これらの2つのNSFW投稿は、現在のr/DeepFakesSFWフォーラムのアーカイブで見ることができる：ここ（2022年6月13日月曜日にスナップショットを撮影）。

実際、r/DeepFakesSFWでは、新しい投稿を作成するときに「NSFW」フラグは利用できない。4年間運営されているこのサブレディットのサイドバー情報によると、

r/DeepFakesSFWへの投稿時に利用可能な「フラグ」。

したがって、r/DeepFakesSFWの「NSFW」タグは、モデレーターまたは管理者によって適用されたものである可能性が高い。r/DeepFakesSFWの唯一のリストされているモデレーターにこの件について問い合わせたところ、以下の回答があった。

(編集、2022年6月14日 – r/DeepFakesSFWのモデレーターは、以下の回答を返した。「ユーザーのアカウントがNSFWであるときに発生するようです」。おそらく、SFWディープフェイクサブレディットでのこのような要求を減らす唯一の方法は、NSFWと分類されたユーザーを禁止することである。

このサブレディットと、より大きなr/SFWdeepfakesのほとんどのコンテンツは、ディープフェイク技術を使用して人気映画やテレビ番組の俳優を「リキャスト」したり、人気メディアとディープフェイク技術で無害なAIドライブの楽しみ方を探したりすることに関係している。これらは確かに「SFW」に該当する。

これらの投稿の多くは、著作権に基づく禁止に近い危険性があるが、人気のあるYouTubeディープフェイカーであるCtrl-Shift-Faceの「IPを利用した」非ポルノディープフェイクビデオ投稿は、スタジオや権利保有者がこのような活動に対して寛容であることを示唆している。

ディープフェイクプロセスとエコシステムの「無実」の外見

2週間前、GoogleがColabクラウド処理環境からディープフェイク作成ソフトウェアを突然禁止したことが明らかになった（そして多くの議論が行われた）。現在でも、ColabはDeepFaceLab（DFL）を実行しようとする試みにのみ「トリガー」が発生しており、DFLは世界で最も人気のあるディープフェイクソフトウェアであり、AIポルノと最も密接に関連している。

このアプローチは、Colabがディープフェイクポルノグラフィーの生産を制限するために実装できる唯一の方法であったかもしれない。ディープフェイクトレーニングプロセスは、オープンソースソフトウェアと高く切り取られた顔画像（通常は512x512px、またはそれ以下）のみを使用し、画像認識アルゴリズムが実際のポルノグラフィーを傍受する可能性はほとんどないからである。

ディープフェイクモデルがトレーニングされた後、ディープフェイカーはColabや高価なローカルGPUの巨大な処理能力を必要としない。ほとんどの実際の《変換》（つまり、ビデオへの顔の押し付け、ポルノグラフィーまたはその他のもの）を、ローカルで低性能のラップトップGPUで、またはCPU（処理時間が少し長くなる）で実行できる。ディープフェイクプロセスで何かポルノグラフィーが起こっている時点で、Colabはすでに絵から外されている。

したがって、ディープフェイクポルノグラフィーの創作者が交換する構成要素は、ほとんどの場合、ディープフェイク作成者がYouTubeビデオ、ブルーレイ、テレビ放送、ソーシャルメディア、またはその他のソースから抽出された「顔セット」の形で、著作権侵害の可能性があるものに過ぎない。

ディープフェイクコミュニティに対する「焦土作戦」政策が来るのか？

ディープフェイクDiscordコミュニティ、たとえばDeepFaceLab（DeepFaceLiveを含む）、FaceSwap、Machine Video Editor（MVE、DFL用のGUIベースの環境、多くの追加機能あり）、およびオーディオベースのディープフェイクDiscordサーバー、たとえばAudio Deepfakesの住民が抱える疑問は、《ディープフェイクコミュニティを原則的に禁止する、プラットフォームやポータルの所有者が現れるのか？》

FaceSwapの開発者であり、プロジェクトに関連するDiscordサーバーの所有者であるBryan Lyonは、以下のコメントを寄せた：

《完全に清潔なままにしているので、Discordに残ることができた。隠しチャンネルや非合法コンテンツが含まれる秘密の2次サーバーはない。2年前に人気のあるDeepFaceLabサーバーが一掃された。すべてのユーザーが禁止された。招待のみのロールと非合意ポルノグラフィーを含むチャンネルへのアクセス権があった》

GoogleがディープフェイクトレーニングをサーバーとGPUで禁止したことを考慮すると、Microsoftが所有するGitHubが、最終的には《これらの技術を支援する》ことは、道徳的な曖昧さや管理の投資に値しないと判断する可能性がある。

ディープフェイク技術を、ポルノグラフィーから映画やテレビ番組の制作、または非侵害的/非犯罪的な使用に向けて合法化するプロセスはまだ初期段階であるため、プラットフォームやコミュニティホスティングサービスにとって明確なポリシーガイドラインを生み出すには十分ではない。

* 2022年6月13日月曜日のhttps://github.com/search?q=deepfakeのアーカイブ。
† DiscordのプライベートDMで。

2022年6月13日初めて公開。画像の修正のために、UTCの3:08 PMに編集。2022年6月14日火曜、6:24 AM UTCに、NSFWステータスについてのRedditモデレーターの回答を追加し、RSSフィードのイラストを修正。