Reddit、「SFW」ディープフェイクコミュニティを禁止

週末、おそらく日曜日あたりに、Reddit は r/deepfakesfw という名目上の「SFW」（Safe For Work）ディープフェイク コミュニティを禁止しました。サブレディットは、ソーシャルメディア巨人のプロンプトに対する初期の対応の 1 つでした 削除 2018 年にオリジナルの AI ポルノだらけの r/ディープフェイク サブタイトルを作成しました。

現在、潜水艦を訪れる人を迎える（比較的）定型的な伝説（13月XNUMX日月曜日に撮影されたアーカイブスナップショット）は、次のように説明しています。 Redditの違反により禁止されました ルール 不本意なポルノグラフィーに反対する」.

r/deepfakesfw の新しいトップページ。

r/deepfakesfw サブファイルは、一般的な保存プラットフォームによって頻繁にアーカイブされることはありませんでしたが、最も 最近の WayBack Machine スナップショット、約3日前（2022年3,095月XNUMX日）に撮影されたもので、その時点で潜水艦の読者がXNUMX人だったことを示しています。

実際にはこれよりも多くのチャンネル登録者がいます。 r/ディープフェイクSFW (余分な「s」に注意してください)、現在は 2,827リーダー (13 年 2022 月 XNUMX 日月曜日に撮影されたアーカイブ スナップショット)。 現在、最も人気のある「正規の」SFW ディープフェイク コミュニティは次のようです。 r/SFWディープフェイク、この記事の執筆時点では 16,636リーダー （13年2022月XNUMX日月曜日に撮影されたスナップショット）。

質問すらしないでください

r/deepfakesfw を破滅させたと思われるのは、投稿ではなく、 要求 ディープフェイクポルノの。 Reddit の性的露骨なメディアに関するルールには次のように記載されています。

「露骨なコンテンツを偽造したり、「そっくりな」ポルノ（「ディープフェイク」や「バブルポルノ」など）を勧誘するという特定の目的で投稿された他人の[画像]やビデオも規則に違反します。」

現在禁止されている SFW サブウーファーからの最後の利用可能な RSS フィードに基づくと、最終的に禁止のきっかけとなったのは、NSFW ディープフェイク コンテンツの投稿ではなく、リクエストでした。

現在は廃止された r/deepfakesfw サブレディットからの、明らかに NSFW の最後の投稿の一部。 出典: イノリーダー。

これらの RSS 投稿が指す投稿はもう利用できなくなっていますが、要求者のプロフィール リンク (上の画像ではぼかされている) をクリックすると、投稿者の多くが複数のフォーラムで禁止されているディープフェイク コンテンツを要求し、要求または提供していることがわかります。このタイプの最も過激なコンテンツには、近親相姦ポルノやさまざまな色合いの不本意なポルノのテーマが含まれます。

これは、Reddit が、人々が接続して違法なディープフェイクを取引するための一種の「広告」フォーラムになることを望んでいないように見えるため、残りの「SFW」Reddit 登録者がモデレーターのスピード、勤勉さ、素早い応答時間によって生き残っていることを示唆しています。 DM (投稿で明示的にリクエストできない場合)。

もしそうなら、まだ禁止されていないr/DeepFakesSFWは時間を借りて生きている可能性があります。 「古い」Reddit テーマを有効にしてルート サブレディット URL に入ると、現在の上位 XNUMX つの投稿には「NSFW」というマークが付けられています (このタグは、おそらくこの特定のコミュニティでも利用できないはずです)。

状況に応じて、現在、ルール違反の投稿が r/DeepFakesSFW サブディレクトリに表示されます。 出典: https://www.reddit.com/r/DeepFakesSFW/

今日の r/DeepFakesSFW フォーラムを締めくくるこれら XNUMX つの NSFW 投稿がアーカイブされています。 こちら （13年2022月XNUMX日月曜日に撮影されたスナップショット）。

サイドバーの情報によると、r/DeepFakesSFW で新しい投稿を作成するときに実際に利用できる NSFW 'flair' はありません。r/DeepFakesSFW は XNUMX 年間運営されています。

r/DeepFakesSFW に投稿するときに利用可能な「フレア」。

したがって NSFW r/DeepFakesSFW のタグは、フォーラムのモデレータまたはより高いレベルの管理者によって適用されたようです。あるいは、おそらくローカルモデレータによる介入や反対もなしに、アルゴリズムによっても適用されたようです。 私はこれについて r/DeepFakesSFW の唯一のリストに載っているモデレーターに連絡を取ったので、入手可能なアップデートがあれば投稿する予定です。

(編集、14 年 2022 月 XNUMX 日火曜日 – r/DeepFakesSFW のモデレータは、「ユーザーのアカウントが NSFW の場合に発生するようです」と回答しました。 したがって、SFW ディープフェイク サブレディットでそのようなリクエストが行われる可能性を遅らせる唯一の方法は、おそらく、この分類を「獲得した」ユーザーを禁止することでしょう)。

このサブレディットとより大きな r/SFWdeepfakes のコンテンツのほとんどは、人気映画や古典的な映画の俳優を「再キャスト」するためにディープフェイク技術を使用すること、または人気のあるメディアとディープフェイク技術を使って AI 主導のより無害な楽しみを楽しむことに関係しています。そして確かに「SFW」としての資格があります。

そうした投稿の多くは、著作権による禁止に危ういほどかすりかかったにもかかわらず、Ctrl-Shift-Face などの主要な YouTube ディープフェイク作成者による「IP を流用した」非ポルノのディープフェイク動画投稿が存続していることは、スタジオと権利所有者が、著作権に基づく禁止行為に対して広範な寛容を示していることを示唆しています。少なくとも当面の間は、そのような活動を続けます。

ディープフェイクのプロセスとエコ構造の「無害」な外観

XNUMX週間前のことですが 光が来た (そしてたくさんの 議論）Googleが人気の高いColabクラウド処理環境からディープフェイク作成ソフトウェアを突然禁止したとのこと。 現在に至るまで、Colab は実行の試みによってのみ「トリガー」されるようです。 ディープフェイスラボ (DFL)、世界で最も人気のあるディープフェイク ソフトウェア (そして最も人気のあるソフトウェアの XNUMX つ) AIポルノと密接な関係がある) のような頻度の低い実装ではなく、 フェイススワップ、DFL とまったく同じタスクを実行しますが、こちらの方が評判が良いです。

ある意味、このアプローチが Colab が実装できた唯一の方法だったかもしれません。 どれか ディープフェイクポルノの制作に対する制限。実際のディープフェイクトレーニングプロセスでは、オープンソースソフトウェアと高度にトリミングされた顔画像（通常はわずか512x512ピクセル、多くの場合それ以下）のみが使用され、画像認識アルゴリズムが実際のポルノを傍受する可能性はほぼゼロであるため。コンテンツ。

ディープフェイク モデルがトレーニングされるまでに、ディープフェイク作成者は Colab の巨大な処理能力や高価なローカル GPU を必要としなくなります。 最も実際的な コンバージョン （つまり、ポルノなどのビデオに顔を印象付けるプロセス）は、ローカルで、低電力のラップトップ GPU で、または CPU (処理時間が少し長くなります) でさえ実現できます。 ディープフェイクのプロセスでポルノ的なことが起こっているときまでに、Colab はずっと前に写真から切り離されています。

したがって、ディープフェイク ポルノの作成者間で受け渡される構成要素が、ディープフェイクの作成者が YouTube ビデオ、ブルーレイ、テレビのインタビューから抽出した「顔セット」の受け渡しという形で、軽微な著作権侵害の可能性以上のものを表すことはほとんどありません。 、ソーシャルメディア、その他さまざまなソース。

ディープフェイクコミュニティに「焦土」政策が導入されるのか？

次のようなディープフェイク Discord コミュニティの住人を悩ませている疑問。 ディープフェイスラボ （含む ディープフェイスライブ), フェイススワップ, マシンビデオエディター (MVE、GUI ベース DFL の環境、多くの追加機能を備えた)、および次のような新しいオーディオベースのディープフェイク Discord サーバー 音声ディープフェイク is 現在のポータルおよびプラットフォームの所有者は、NSFW 支持者やクリエイターの波に対抗して絶えず節度を保つというコストを負担するのではなく、ディープフェイク コミュニティを原則として禁止するだけになるのでしょうか?

FaceSwap の開発者の XNUMX 人であり、プロジェクトに関連する Discord サーバーの所有者であるブライアン・ライオン氏は次のようにコメントしています。^†:

「何度かパージがあったにもかかわらず、私たちは徹底的にクリーンな状態を保つことで、なんとか Discord に留まり続けてきました。 当社には、違法なコンテンツを含む隠しチャンネルや秘密の XNUMX 番目のサーバーはありません。 数年前に人気の DeepFaceLab サーバーがパージされました。 参加者全員が禁止されました。 彼らは、同意のないポルノを含むチャンネルにアクセスできる招待制の役割を持っていました。」

世界最大の技術ホスティング リソースの XNUMX つである Google 自体が、自社のサーバーと GPU でのディープフェイク トレーニングを全面的に禁止していることを考えると、Microsoft 所有の GitHub が次のような決定を下す可能性さえあります。 これらのテクノロジーを促進する* 最終的には、道徳的な曖昧さや監視の投資に値するものではなくなるでしょう。

現時点では、ディープフェイク技術を合法化し、その使用が手製ポルノから映画やテレビ制作、そして非侵害/犯罪的使用へと移行するプロセスはまだ始まったばかりで、プラットフォームやコミュニティホストサービスのための明確なポリシーガイドラインを作成するには至っていません。

※13年2022月XNUMX日月曜日からの https://github.com/search?q=deepfake のアーカイブ。
† Discord のプライベート DM で。

初公開日：13 年 2022 月 3 日。画像修正のため午後 08:XNUMX UTC に編集されました。
14年2022月6日火曜日午前24時XNUMX分（協定世界時）に修正され、一部の投稿者のNSFWステータスに関するRedditモデレーターの回答が追加されました。 RSSフィードのイラストの画像修正も。