Andersonの視点
CivitAI、DeepfakeルールをマスターカードとVisaからの圧力を受けて強化
CivitAIは、インターネット上で最も人気のあるAIモデルリポジトリの1つであり、マスターカードとVisaからの圧力を受けて、NSFWコンテンツに関するポリシーを大幅に改訂しました。特に、有名人のLoRA（Low-Rank Adaptation）モデルに関する利用規約を改訂しました。これらのモデルは、ユーザーが自由にダウンロードして使用できる補助モデルを使用して、有名人のAI表現（ビデオ表現を含む）を作成するために使用されます。
クリックして再生してください。 シビットは正確な数字を提供していません（ラベルの誤りやカテゴリの誤りは珍しくありませんが、それらは数字を歪める可能性があります）。しかし、有名人のAIモデル、特にLoRAモデルは数百または数千個あり、女性が主な対象者となっています。 ソース：civitai.com
シビットは、Twitchのライブストリームで、会社のコミュニティエンゲージメントマネージャーであるアラスデア・ニコルが、会社のために話しました。ニコルは、シビットのモデルクリエイターでもあります。彼は、変更はサイトに対する支払い処理会社の懸念によって強制されたものであり、特に成人向けコンテンツや実在の人物の描写に対する懸念であることを認めました。また、Visaやマスターカードのような主要な支払い処理会社が将来さらに大きな変更を要求する可能性が高いことも認めています。
‘これらの変更は私たちが望んでいたものではありません。これは新しい法律や予定されている法律の問題です。ディープフェイクに関する法律やAIポルノに関する法律があり、支払い処理会社、最終的にはVisaやマスターカードは訴訟を恐れています。彼らはこれらの変更を要求しています。 ‘
‘他の選択肢の1つは、NSFWコンテンツを完全に削除することでした。XやトリプルXコンテンツをシビットAIから別のプラットフォームに移し、そしてそのプラットフォームを地理的にブロックすることでした。なぜなら、米国の半分以上の州ではポルノの地理的ブロックが必要であり、アジアの多くの国やイギリスでも同様です… ‘
‘3つ目の選択肢は、完全に暗号化された支払いのみを受け付けることでした… したがって、良い選択肢はありませんでした。 ‘
シビットのドメインは、変更を実施するために最近何度かダウンしています。サイトはすでに有名人のLoRA/モデル描写におけるNSFWテーマの使用を禁止していましたが、現在はシビットのモデルセクションを閲覧し、有名人のLoRAプレビューを大量のジェネリックNSFWモデルと並べて表示することは不可能です。
公式発表では、次のことが述べられています：
‘実在の人物の名前（「トム・クルーズ」など）でタグ付けされたコンテンツや、POI（実在の人物）リソースとしてフラグ付けされたコンテンツは、フィードから隠されます。 ‘
Twitchセッションで、ニコルは、有名人や実在の人物を保護するための措置の詳細を明らかにしました。シビットは、実在の人物がシビットがホストするAIモデルを削除することを依頼できるようにしてきましたが、ニコルは、初期の拒否後にそのような画像を再アップロードするのを防ぐシステムを導入することを示唆しています。
この目的のために、サイトは現在、Clavata AIモデレーションシステムと提携しています。ただし、Clavataがこれらの新しい機能をどの程度提供するかはまだ明らかではありません。
ニコルは次のように述べました：
‘トム・ハンクスは私たちから彼の肖像権を主張しました。例えば、多くのアダルト女優やAリスト俳優が同様に主張しています… ‘
‘私たちが最初に受けた主張の1つは、バーバラ・エデンの「遺産」でした。彼女は私たちに最初に肖像権を主張した人で、ちょっと面白いです。なぜなら、彼女は年をとっているからです。 ‘
デフォルトで保護されているか？
過去2年間、AI VFX会社のMetaphysic（完全な開示：私は2022年初頭から2024年末までMetaphysic.aiで働きました）は、有名人のデジタル・ツインの著作権管理と商業化を可能にする独自のシステムを作成しようとしました。主に、AIベースのアイデンティティのハイジャックについて心配しているハリウッドの名前を持つ人々を対象として、俳優のアン・ハサウェイ、オクタヴィア・スペンサー、トム・ハンクスなどのサポートを受けています。
論理的に、システムの有用性は、最終的には判例に依存することになります。シビットが今取らざるを得ない措置に基づいて、Metaphysicが提案したサブスクリプションベースのサービスは、ディープフェイク法の急速な成長や潜在的な（無料）共通法の保護の前に、時代遅れになる可能性があります。Metaphysic Proの提供が、Double Negative VFX会社に移行するかどうかは現在わかっていません。Double Negative VFX会社は、昨年Metaphysicの資産を買収しました。
どちらにしろ、世界的な法律や市場の圧力が、商業的な解決策よりも保護と救済を提供する可能性が高くなっています。
カエルをゆっくり煮る
2023年の404 Mediaの報告書は、シビットのセレブやポルノAIモデルについて注目を集めました。ただし、サイトの創設者であるジャスティン・マイアーは、ユーザーが提供したセレブの肖像とポルノグラフィックな素材の生成との関係を軽視しました。
シビットは、LoRAやその他のユーザー提供のモデルを使用することで収益を上げていますが、ニコルは、Visaやマスターカードがサイトに変更を要求する主な懸念はそれではないことを明確にしました：
‘一部の人々は、問題の原因は私たちが生成を許可しているからだということを言います。しかし、それは関係ありません。モデルやコンテンツのホストが問題です。 ‘
コミュニティのコメントスレッドは、シビットが有名人の肖像をホストすることが許可されていることに驚いてきました。クラックダウンが起こる可能性、あるいは必然性に気付いた人々は、シビットまたはアップローダーによって削除されたLoRAを保存するためのいくつかのイニシアチブを提案または実施しました。これには、現在はあまり注目されていないr/CivitaiArchivesサブレディットが含まれます。
多くの人が、トレントベースのイニシアチブが自然な解決策であると提案していますが、まだよく知られたドメインは現れていません。さらに、シビットや他の場所で禁止された活動を最も外側のインターネットの領域、壁に囲まれた庭、そしておそらくダークネットに移すことになるため、現れそうにありません。LoRAの禁止された肖像を収容できるフレームワーク（RedditやDiscordなど）は、すでにそのようなコンテンツを禁止しているか、すぐに禁止することになりそうです。
現在、有名人のLoRAは、シビットで制限付きで表示できますが、生成されたコンテンツのほとんどはデリステッドされ、カジュアルな発見から除外されます。コメント者がTwitchセッションでニコルに提案したように、クラックダウンが深刻化する可能性があります（おそらく、アップロードされたモデルや描写の中で実在の人物の肖像を完全に禁止することまで）。
ニコルは次のように応答しました：
‘「ここで止まらない」と絶対にそうです。そうです。私たちが住む世界です。私たちが大きくなり、より強力になることを願うのは、私たちに与えられるものについて多少の発言力を持つことだけです… ‘
シビットに提示された代替案に失望したニコルは、次のように付け加えました：
‘… 誰もがビットコインを購入してCivitAIジェネレーターを使用することはないので、我々はこれをできるだけ受け入れやすくしようとしました。したがって、これが結果となりました。もしこれがあなたにとって耐えられないものであるなら、申し訳ありません。残念ながら、これが現実です。我々は我々のベストを尽くしました。我々はできる限り抵抗しましたが、最終的には「これをしなければならない」と言われました… ‘
‘… これらの金融機関は、ここで何が行われているかを理解していません。我々は彼らに説明しようとしました。我々は彼らと話そうとしましたが、我々はほぼNSFWコンテンツの最後の砦です。 ‘
ニコルは、シビットが「想像可能なすべての支払い処理会社」にアプローチしたと述べました：
‘… 甚至ポルノサイトで使用されているハイリスク支払い処理会社も、AIコンテンツを非常に警戒しています。問題はAIコンテンツです。私たちが従来のポルノサイトであれば、問題ないでしょう。ただし、AIコンテンツは彼らが恐れているものです。 ‘
次に何が起こるか
この発表の前に、シビットは、現在禁止されているいくつかのカテゴリやコンテンツタイプをカバーするアップロードを削除していることが観察されました。執筆時点で、Hugging FaceウェブサイトにWan 2.1 LoRAの「緊急リポジトリ」が設立されています。アーカイブされているLoRAのうち、いくつかは、Wan 2.1などの新しいビデオモデルでほとんどトレーニングされていない、または欠けている一般的な性的活動を促進するように設計されています。ただし、いくつかは、現在厳格に禁止されている「脱衣」カテゴリ（「裸化」）に該当します。
データホーダーをサポートするサブレディットr/datahoardersは、ドナルド・トランプの政権下での米国政府のオンライン文学の保存の最前線に立ってきましたが、失われたシビットAIコンテンツを保存するという考えに対しては、現在のところ軽蔑の態度を示しています。
シビットAIのNSFW AI生成の容易さは、文学では無視されてきませんでした。ただし、最も引用されている研究である2024年の論文「Civitaiの虐待的な生成AIモデルを探る」は、シビットが有名人や違法なAI生成を許可していないこと、および研究者がシビット自身で証拠を見つけることに尽力したことから、妨げられています。
明らかに、支払い処理会社が心配しているのは、シビット自身で生成されるものやそこで公開されるものではなく、閉じたコミュニティや規制が緩いコミュニティでLoRAが使用されることです。
Mr. Deepfakesウェブサイトは、2022年にStable Diffusionや拡散ベースのモデルが登場するまで、オートエンコーダーベースのNSFWディープフェイク方法と同義でした。最近では、Hunyuan VideoやWan 2.1などの最新のテキストツービデオやイメージツービデオジェネレーターを使用したセレブベースのポルノグラフィックビデオの例を投稿し始めています。これらは、まだ新しいリリースですが、今年のうちに炎上する見込みです。
必須のメタデータ
ニコルによると、支払い処理会社が要求している変更の1つは、サイトのすべての画像にメタデータが含まれている必要があることです。ComfyUIのようなプラットフォームで生成モデルを使用する典型的なワークフローで、出力には、モデル（そのハッシュと名前）と複数の他の設定をリストするメタデータが含まれます。
これらのメタデータのため、ユーザーは誰かが作成したビデオまたは画像を自分のComfyUIワークフローにドラッグアンドドロップして、フローを再作成し、不足している依存関係（元の作成者が持っていたモデルやコンポーネント）を解決できます。
メタデータが不足している画像やビデオの生成は、シビットによって30日以内に削除されることになりました。ユーザーは、シビットのウェブサイト自体で手動でメタデータを追加できます。
メタデータの価値は（おそらく）証拠的なものであるため、この規定は少しわかりにくいです。ファイル間でメタデータをコピーして貼り付けることは容易であり、ウェブフォームを介してメタデータをアドホックに発明することは、この新しい規則を少し混乱させます。
それでも、シビットにアップロードされている数千の画像を持つユーザーは何人もいます。彼らの唯一の選択肢は、手動でそれらを注釈付けたり、メタデータを追加して画像を再アップロードしたりすることです。これにより、元の画像が生成した「いいね」や「ブズ」などの会話がすべて消去されます。
新しいルール
シビットで今日から適用される変更の要約は以下のとおりです：
- 実在の人物の名前でタグ付けされたコンテンツ、または実在の人物リソースとして識別されたコンテンツは、パブリックフィードに表示されなくなります。
- 子供/未成年向けテーマのコンテンツはフィードから除外されます。
- メタデータが不足しているXまたはXXX評価のコンテンツは、パブリックビューから隠され、警告でフラグ付けられます。アップローダーは不足している詳細を追加できます。コンテンツは削除されませんが、アップローダー以外のユーザーには表示されません。
- Bring Your Own Image（BYOI）機能を使用して生成された画像は、生成中に少なくとも50%のノイズ変更を適用する必要があります。つまり、AIはアップロードされた画像を大きく変更する必要があり、実在の人物のほぼ同じレプリカを生成する可能性は低くなります。ただし、シビットAIで完全に作成された画像やシビットAIのコンテンツからリミックスされた画像は、このルールの対象外であり、0.0（変更なし）から1.0（完全変換）までの任意のノイズレベルを使用できます。この変更は、BYOIツールの悪用を減らし、ほぼ変更されていない実在の人物の画像を生成することを目的としています。
- XまたはXXXコンテンツを有効にした状態で、有名人の名前で検索すると、結果は返されません。有名人の名前と成熟コンテンツを組み合わせることは禁止です。
- 実在の人物の外見を模倣するように設計された画像またはリソースに広告は表示されません。
- 実在の人物を描写する画像またはリソースでは、チップ（ブズ）は無効になります。
- 実在の人物を模倣するように設計されたモデルは、Early AccessというシビットAIの機能に適格ではありません。この機能により、クリエイターはコンテンツを最初に支払うサポーターに公開できます。有名人または実在の人物の肖像の商業化が制限されます。
- プラットフォームでは、すべての明示的なコンテンツが合成であることを確認するために、2257コンプライアンス声明が追加されました。
- 誰でもログインせずに、虐待的または違法なコンテンツを報告できるコンテンツ削除リクエストページが導入されました。登録ユーザーは、各投稿の組み込みレポートツールを使用して続ける必要があります。これは、プラットフォームから自分の肖像を削除するための既存のフォームとは別です。
- シビットAIは、Clavataとのパートナーシップを通じて、新しいモデレーションシステムを導入しました。Clavataの画像分析ツールは、Amazon RekognitionやHiveなどの以前のソリューションを上回りました。
** 2025年5月20日11:23:47（それ以前に発生した可能性もあります）時点で、Twitchライブストリームは削除されました。報告されている事実を確認できるように、私はコピーを保持しています。
* バーバラ・エデンの「遺産」について言及されているにもかかわらず、I Dream of Jeannie の女優はまだ生きており、現在93歳です。
† アーカイブ：https://archive.ph/tsMb0
202. 4月24日に初めて公開され、2025年4月24日14:32:28に修正されました。日付を修正するために。2025年5月20日に、Twitchコンテンツの削除を反映するために変更されました。
