Redditが「SFW」ディープフェイクコミュニティを禁止

週末、日曜日頃、Redditは、名目上「SFW」（職場で安全）と呼ばれるディープフェイクコミュニティであるr/deepfakesfwを禁止した。このサブレディットは、2018年にソーシャルメディアの大手がオリジナルのAIポルノ満たされたr/deepfakesサブを削除したことを受けての初期の対応の一つであった。

(以下、元のテキストと同じ構造で翻訳を続ける)

The (relatively) boiler-plate legend that now greets (archive snapshot taken Monday, June 13) anyone visiting the sub explains that it ‘was banned due to a violation of Reddit’s rules against involuntary pornography’.

r/deepfakesfwの新しいフロントページ。

The r/deepfakesfw sub was not frequently archived by popular conservation platforms, but the most recent WayBack Machine snapshot, taken around ten days ago (on 3rd June 2022), indicates that the sub had 3,095 readers at that time.

That’s actually a higher number of subscribers than r/DeepFakesSFW (note the extra ‘s’), which currently has 2,827 readers (archive snapshot taken Monday, June 13, 2022). The most popular ‘legitimate’ SFW deepfakes community appears currently to be r/SFWdeepfakes, which at the time of writing has 16,636 readers (snapshot taken Monday, June 13, 2022).

質問は

何がr/deepfakesfwを破滅させたのかは、投稿ではなく、ディープフェイクポルノグラフィーの要求であった。Redditのセクシュアルエキスプラスメディアに関するルールは次のように述べている：

‘[画像]または別の人のビデオが、明示的なコンテンツを偽造する目的または「類似の」ポルノグラフィ（例：「ディープフェイク」または「バブルポルノ」）を募集するために投稿されている場合も、ルール違反となる。’

最後に利用可能なr/deepfakesfwのRSSフィードに基づいて、要求よりも投稿が原因で禁止されたわけではないことがわかる：

今は死んだr/deepfakesfwサブレディットからの明らかにNSFW投稿の一部。 ソース: Inoreader.

投稿が指しているRSS投稿は利用できないが、要求者のプロファイルリンク（画像上でぼかしている）をクリックすると、多くの投稿者が複数のフォーラムで禁止されたディープフェイクコンテンツを要求しており、インセストポルノやさまざまな色の非自発的ポルノグラフィーテーマを提供していることがわかる。

これは、残りの「SFW」Redditサブレディットが生き残るためには、モデレーターの迅速性と即時性に依存していることを示唆しており、Redditは、非合法なディープフェイクをDMで接続するための「掲示板」フォーラムになることを望んでいないように見える。

もし那样ならば、まだ禁止されていないr/DeepFakesSFWは、時間の経過とともに生き残る可能性が低い。現在のトップ投稿2つ（「古い」Redditテーマを有効にした場合）は、明示的に「NSFW」とマークされており、このコミュニティではそのタグが利用できすべきではない。

状況に応じて、ルールを破る投稿がr/DeepFakesSFWサブレディットに表示される。 ソース: https://www.reddit.com/r/DeepFakesSFW/

これら2つのNSFW投稿は、現在のr/DeepFakesSFWフォーラムのアーカイブで見ることができるこちら（スナップショットは2022年6月13日に取られた）。

r/DeepFakesSFWでは、新しい投稿を作成するときに「NSFW」タグは利用できない。サブレディットのサイドバー情報によると、このコミュニティは4年間運営されている：

r/DeepFakesSFWに投稿するときに利用可能な「フレイム」。

したがって、r/DeepFakesSFWの「NSFW」タグは、モデレーターまたは管理者によって適用されたものである可能性がある。あるいは、アルゴリズムによって適用された可能性もある。ローカルモデレーターからの介入や反対なしで適用された可能性もある。我々はr/DeepFakesSFWの唯一のリスト化されたモデレーターにこの件について問い合わせており、利用可能なアップデートを投稿する。

(編集、2022年6月14日 – r/DeepFakesSFWのモデレーターは、NSFWステータスについて「ユーザーのアカウントがNSFWである場合に発生するようです」と返信した。つまり、SFWディープフェイクサブレディットでのこのような要求の可能性を減らす唯一の方法は、NSFWと分類されたユーザーを禁止することである。)

このサブレディットと、より大きなr/SFWdeepfakesのほとんどのコンテンツは、ディープフェイク技術を使用して、人気またはクラシック映画の俳優を「リキャスト」したり、または他の無害なAI駆動の楽しみやディープフェイク技術を使用したりすることに関係している。これらは確かに「SFW」と言える。

これらの投稿の多くは、著作権による禁止に近いが、Ctrl-Shift-Faceのような主要なYouTubeディープフェイカーによる「IPを利用した」非ポルノグラフィーのディープフェイクビデオ投稿の継続的な生存は、少なくとも現在のところ、スタジオや権利保有者がこのような活動に対して寛容であることを示唆している。

ディープフェイクプロセスとエコシステムの「無害」な外見

2週間前、GoogleがColabクラウドプロセッシング環境でのディープフェイク作成ソフトウェアを禁止したことが明らかになった（そして多くの議論）。現在でも、Colabは、世界で最も人気のあるディープフェイクソフトウェアであるDeepFaceLab（DFL）の実行を試みることによってのみ「トリガー」されるようである。DFLは、AIポルノと最も密接に関連している。

これは、Colabがディープフェイクポルノグラフィーの制作を制限するために実装できる唯一の方法であった可能性がある。ディープフェイクトレーニングプロセスでは、オープンソースソフトウェアと高く切り取られた顔画像（通常は512x512px、またはそれ以下）のみを使用し、画像認識アルゴリズムが実際のポルノグラフィーコンテンツを傍受する可能性はほとんどない。

ディープフェイクモデルがトレーニングされた後、ディープフェイカーはColabや高価なローカルGPUの巨大な処理能力を必要としない。ほとんどの実際の「変換」（例：顔の映し込み、ポルノグラフィーまたはその他）を、低電力のラップトップGPUで、またはCPU（処理時間が少し長くなる）で実行できる。ディープフェイクプロセスで何かポルノグラフィーが起こっている時点で、Colabはすでに画像から切り離されている。

したがって、ディープフェイクポルノグラフィーの作成者が交換する構成要素は、ほとんどの場合、著作権侵害の可能性がある「顔セット」のみを表し、ディープフェイク作成者はこれらをYouTubeビデオ、ブルーレイ、テレビインタビュー、ソーシャルメディア、またはその他のソースから抽出している。

ディープフェイクコミュニティに対する「焦土化」政策が来るか

ディープフェイクDiscordコミュニティ（例：DeepFaceLab、DeepFaceLive、FaceSwap、Machine Video Editor（MVE）、MVE、Audio Deepfakes）の住民が抱く疑問は、ポータルやプラットフォームの所有者は、NSFWの信者や作成者に対する不断のモデレーションの費用を負担するのではなく、ディープフェイクコミュニティを原則として禁止することになるか。

FaceSwapの開発者であり、プロジェクト関連のDiscordサーバーの所有者であるBryan Lyonは、以下のようにコメントした：

‘私たちは、絶対に清潔なままでいることで、Discordに残ることができました。隠しチャンネルや非合法コンテンツのある秘密の2つ目のサーバーはありません。数年前に人気のあるDeepFaceLabサーバーが一掃されました。すべてのユーザーが禁止されました。非同意ポルノグラフィーを含むチャンネルへのアクセス権を持つ、招待のみのロールがありました。’

Googleが、世界最大のテクノロジー資源の一つであるにもかかわらず、ColabサーバーとGPUでのディープフェイクトレーニングを全面的に禁止したことを考えると、Microsoftが所有するGitHubが、これらのテクノロジーを促進することを最終的に、道徳的な曖昧さや監督の投資に値しないと判断する可能性もある。

現在、ディープフェイクテクノロジーを、ポルノグラフィーから映画やテレビ制作、非侵害的/非犯罪的な使用に向けて正当化するプロセスはまだあまりにも初期段階にあるため、プラットフォームやコミュニティホスティングサービスに対する明確なポリシーガイドラインを生み出すことができない。

* 2022年6月13日月曜日のアーカイブhttps://github.com/search?q=deepfake。
† DiscordのプライベートDMで。

初めて2022年6月13日に公開され、画像の修正のためにUTCの午後3:08に編集されました。
2022年6月14日火曜日の午前6:24に修正され、RedditモデレーターのNSFWステータスに関する返信とRSSフィードイラストの修正が追加されました。