CivitAI、マスターカードとビザからの圧力を受けディープフェイク規制を強化

インターネット上で最も人気のあるAIモデルリポジトリであるCivitAIは、決済代行業者のMasterCardとVisaからの圧力についに屈し、NSFWコンテンツに関するポリシーを根本的に改訂した。特に、有名人のLoRAに関する利用規約は改訂された。有名人のLoRAは、ユーザーが投稿したコンテンツの中で最も人気のあるストリームの1つであり、無料でダウンロードできる補助モデルを使用できる。 LoRA AIによる描写を作成する（ ビデオ描写）の著名人。

クリックして再生します。 Civit は正確な数字を提供していませんが (誤ったラベル付けや誤分類は珍しくなく、数字が歪んでいる可能性があります)、有名人の AI モデル (主に LoRA) の数は明らかに数百、あるいは数千に上り、明らかに女性被験者が大部分を占めています。 出典: civitai.com

明らかにプレッシャーの下で Twitchライブストリーム** 同社を代表して、同社のコミュニティエンゲージメントマネージャーであるアラスデア・ニコルは、 クリエイター Civitの（SFW）モデル担当は、決済代行業者がアダルトコンテンツや実在の人物の描写を懸念したため、サイトに変更を余儀なくされたことを認めた。また、決済代行業者の背後にいる主要企業であるVisaとMasterCardが、今後さらに大きな変更を要求する可能性もあることを認めている。

「これらは私たちが望んでいた変化ではありません。これは、新たな、そして差し迫った法律制定に繋がるものです。ディープフェイクに関する法律、AIポルノに関する法律など、様々な法律が存在します。決済代行業者、そしてVisaとMasterCardは、訴訟を起こされるのを恐れ、最終的にこれらの変化を推し進めています。」

「我々に与えられた他の選択肢には、職場で閲覧できないコンテンツを完全に削除すること、CivitAIからXとトリプルXコンテンツを削除して完全に新しいプラットフォームに移行し、そのプラットフォームをジオブロックすることなどがありました。米国の州の半分以上、多くのアジア諸国、イギリスでは何らかの形のポルノのジオブロックが義務付けられているためです…」

「3番目の選択肢は、完全な暗号通貨、暗号通貨での支払いのみにすることだった…つまり、これに関しては文字通り良い選択肢がなかったのだ。」

Civitドメインはここ数日、改訂作業のため定期的にダウンしており、どうやら変更を反映させるためと思われます。サイトは既に有名人LoRA/モデルの描写におけるNSFWテーマの使用を禁止していましたが、現在ではCivitのモデルセクションを閲覧し、有名人LoRAのプレビューと、成人向けコンテンツ制作のために作成された膨大な数の一般的なNSFWモデルを並べて表示することができなくなっています。

当学校区の 公式発表 状態：

「実在の人物の名前（「トム・クルーズ」など）でタグ付けされたコンテンツ、または POI（実在の人物）リソースとしてフラグが付けられたコンテンツは、フィードから非表示になります。」

Twitchセッションで、ニコル氏は著名人や実在の人物を保護するための対策の詳細を明らかにした。Civitはこれまでも、実在の人物がCivitがホストするAIモデルに自分の姿が映っている場合、削除をリクエストできるようにしてきた。しかし今回、ニコル氏は、そのような画像が最初に拒否された後、再アップロードを阻止できるシステムについて言及した。このシステムは、システムがこれまで見たことのない画像であっても、「保護対象」の人物を特定する機能を備えている。

この目的のため、同サイトは現在、Clavata AI モデレーション システムと提携しているが、Clavata がこれらの新しい機能にどの程度まで貢献するかはまだ明らかではない。

ニコル氏はこう語った。

例えば、トム・ハンクスは私たちに似せていると主張しています。多くのアダルト女優もそうしていますし、A級の俳優や女優もそうしています…

「私たちが最初に所有したのはバーバラ・エデンだったと思います。彼女の遺産*です。彼女は自分の肖像権を主張した最初の人の一人でした。彼女は高齢なので、ちょっとおかしなことです。」

デフォルトで保護されていますか?

過去数年間、AI VFX会社Metaphysic（完全開示：私は2022年初頭から2024年後半までMetaphysic.aiで働いていました）は、 独自のシステム 誰でも自分の肖像を登録できるようにするもので、主にAIによる個人情報の乗っ取りを懸念するハリウッドスターを対象としており、俳優の支援も受けている。 など アン・ハサウェイ、オクタヴィア・スペンサー、トム・ハンクス（ロバート・ゼメキス監督作品で共演） ここに [2024]）。

論理的に言えば、この制度の有用性は最終的な判例法に常に左右される。Civitが現在取らざるを得ない措置に基づくと、 サブスクリプションベースのサービス^† Metaphysicが提案したサービスは、ディープフェイク関連法の急速な発展と、コモンローによる（無料の）適用の可能性を考えると、もはや不要となる可能性がある。Metaphysic ProのサービスがDouble Negative VFX社に移管されるかどうかは現時点では不明である。 メタフィジックの資産を買収 昨年。

いずれにせよ、この種の商業的解決策とは対照的に、世界的な法律と一般的な市場の圧力の方が保護と救済策を提供する可能性が高いように思われます。

カエルを茹でる

2023 Mediaによる404年のレポート 注目を集めた CivitのセレブやポルノAIモデルの性癖についてだが、サイトの創設者ジャスティン・マイヤーは 軽視 ユーザーが投稿した有名人の肖像と、それがポルノ素材の生成に利用されることとの関係。

Civit は、LoRA やその他のユーザー提供モデルのサイト内での使用を促進することで収益を得ていますが、ニコル氏は、これが Visa と MasterCard が収益化を継続するためにサイトに変更を加える主な理由ではないことを明確にしています。

「私たちがこんな混乱に陥っているのは、生成を許可しているからだと言う人もいますが、それは問題ではありません。これらのモデルやコンテンツのホスティングは、サウロンの目を引くには十分です。」

コミュニティのコメントスレッドでは近年、Civitが著名人の肖像を掲載することを許可されていることに驚嘆する声が上がっています。取り締まりの可能性、ひいては必然性を認識し、Civitまたはアップロード者によって削除されたLoRAを保存するための様々な取り組みが提案または実施されてきました。その中には、（これまで）あまり注目されていなかったサブレディットr/CivitaiArchivesも含まれています。

多くの人がトレントベースの取り組みが自然な解決策であると示唆していますが、広くフォローされているドメインはまだ出現していないようです。いずれにせよ、これにより Civit やその他の場所で禁止されているアクティビティがインターネットの最外縁、つまりウォールド ガーデン、そしておそらくダーク ネットへと移行されることは確実と思われます。なぜなら、禁止されている肖像 LoRA に対応できるフレームワークのほとんど (Reddit や Discord など) が、すでにそのようなコンテンツを禁止しているか、または間もなく禁止することが確実だからです。

現時点では、著名人のLoRAはCivitで一部制限付きで閲覧可能ですが、生成されたコンテンツのほとんどはリストから削除され、一般ユーザーによる閲覧からは除外されます。TwitchセッションでNicoll氏にコメントしたある人物は、取り締まりが強化される可能性が高いと示唆しました（おそらく、アップロードされたモデルや描写における実在の人物の肖像のすべて禁止にまで至るでしょう）。

ニコル氏はこう答えた。

「彼らはここで止まらず、どんどん要求し続けるだろう」―まさにその通り！ ええ、その通りです。それが私たちが生きている世界なのです。唯一の希望は、私たちが十分に大きく、十分に力を持つようになり、私たちに押し付けられていることに対してもう少し発言権を持つようになることです[…]

Civit に提示された代替案に絶望したニコル氏は次のように付け加えた。

「[…] CivitAIジェネレータを使うためにビットコインを買う人は誰もいません。ですから、私たちはこれをできるだけ受け入れやすいものにしようと努力しましたが、最終的にこうなりました。もしこれが我慢できないものだったら申し訳ありませんが、残念ながらこれが現実です。私たちは最善を尽くし、できる限り抵抗しましたが、最終的には『もう限界だ。これをやらなければ終わりだ』と言われました[…]」

「[…] 金融機関は、人々がここで何をしているのか理解していません。私たちは彼らに伝えようとし、話し合いを試みましたが、事実上、私たちは[NSFW]コンテンツの最後の砦なのです。」

ニコル氏は、シビットは「考えられるあらゆる決済処理業者」に連絡を取ったと述べた。

「ポルノサイトが利用している高リスクの決済代行業者でさえ、AIコンテンツには非常に警戒しています。問題はAIコンテンツです。私たちが従来のポルノサイトであれば問題ないのですが、彼らが恐れているのはAIコンテンツなのです。」

次はどこ？

この発表に先立ち、Civitは現在禁止されているカテゴリーやコンテンツの種類の一部に該当するアップロードを削除していることが確認されていました。執筆時点では、Wan 2.1 LoRA用の「緊急リポジトリ」が開設されています。 設立 Hugging Faceのウェブサイトで。そこにアーカイブされているLoRAの中には、Wan 2.1のような新しいビデオモデルでは十分に訓練されていない、あるいは存在しない一般的な性行為を促進するように設計されたものもありますが、その中には、現在厳しく禁止されている「脱衣」（つまり「ヌード化」）のカテゴリーに該当するものもあり、中には「過激」または明らかに不快な可能性があると主張されるモデルも含まれています。

サブレディットr/datahoardersは、 最前線 ドナルド・トランプ政権下で米国政府のオンライン文献を保存すること 大量削除キャンペーンは、これまで 軽蔑を示した 失われた CivitAI コンテンツを保存するというアイデアに対して。

文献では、CivitAIがNSFW AI生成を容易に実現していることが注目されています。しかし、最も引用されている研究の一つである2024年の 紙 Civitaiにおける悪質な生成AIモデルの使用に関する調査は、Civit がこれまで著名人や違法な AI 生成を許可していないという事実と、研究者が Civit 自身で証拠を見つけようとする決意によって足かせをはめられている。

しかし、決済処理業者が懸念しているのは、Civit自体でLoRAが何を生み出しているか、あるいはそこで何が公開されているかではなく、これらのモデルがどのような方法で行われているかである。 その他 閉鎖的であるか、一般的に規制が緩いコミュニティ。

Mr. Deepfakesのウェブサイトは、 同義語 一般的な オートエンコーダベースの方法 2022年に安定した拡散と拡散ベースのモデルが登場するまで、NSFWディープフェイキングの主流ではなかったが、最近では、Hunyuan VideoやWan 2.1など、最新のテキストから動画へのジェネレーターや画像から動画へのジェネレーターを使用して、セレブをベースにしたポルノビデオの例を投稿し始めた。どちらもごく最近リリースされたもので、その影響力は初期段階にあるが、今年中にそれぞれのコミュニティが発展するにつれて、刺激的な見出しを集めることになりそうだ。

必須メタデータ

ニコル氏によると、決済代行業者が明らかに求めている興味深い変更点の一つは、サイト上のすべての画像にメタデータを含めることが義務付けられたことだ。ComfyUIのようなプラットフォーム上の典型的なワークフローにおいて、生成モデルによって画像や動画が生成される場合、その出力には通常、使用されたモデル（モデル名だけでなくハッシュ値も含まれるため、ユーザーがモデル名を変更した場合でも、その出所は明確になる）とその他の複数の設定をリストしたメタデータが含まれる。

画像がどのように作成されたかに関するこれらの隠されたデータポイントのおかげで、ユーザーは ドラッグできる 他の人が作成したビデオや画像を独自の ComfyUI ワークフローに組み込んでフロー全体を再作成し、不足している依存関係 (元の作成者が持っていたモデルやコンポーネントなど、ユーザーが探してダウンロードする必要があるもの) に対処します。

Civitは、このデータが欠落している画像や動画の世代は30日以内に削除されると発表しました。ユーザーは、Civitのウェブサイトに入力することで、手動でデータを追加できます。

メタデータの価値は（おそらく）証拠となるため、この規定はむしろ無意味に思えます。メタデータをあるファイルから別のファイルにコピーして貼り付けるのは簡単ですし、 アドホック Web フォームを介したメタデータの発明により、この新しいルールは少し不可解なものになっています。

とはいえ、複数のユーザー（Twitchセッションでコメントしていたユーザーも含む）がCivitに数千枚の画像をアップロードしています。現状では、画像一つ一つに手動で注釈を付けるか、画像を削除してメタデータを追加したバージョンを再アップロードするしかありません。しかし、そうすると元の画像が生み出した「いいね！」や「話題」、会話といった要素はすべて消えてしまいます。

新しいルール

本日より Civit に適用される変更点の概要は次のとおりです。

• 実在の個人の名前でタグ付けされたコンテンツや、実在の人物のリソースとして識別されたコンテンツは、公開フィードに表示されなくなります。
• 子/マイナーテーマのコンテンツはフィードから除外されます。
• 生成メタデータが欠落しているXおよびXXXレーティングのコンテンツは、一般公開されずに警告フラグが付けられ、アップロード者が不足している詳細情報を追加できるようになります。これらのコンテンツは削除されませんが、更新されるまで作成者のみが閲覧できます。
• Bring Your Own Image (BYOI) 機能を使用して作成された画像は、生成時に少なくとも 50% のノイズ除去を適用する必要があります。これは、AI がアップロードされた画像を大幅に修正する必要があることを意味し、ほぼ正確なレプリカが生成される可能性が低くなります。ただし、CivitAI のみで作成された画像、または他の CivitAI コンテンツからリミックスされた画像はこのルールの対象外であり、ノイズ除去レベルは変更なし (0.0) から完全変換 (1.0) まで任意に設定できます。この変更は、BYOI ツールの悪用を減らすことを目的としています。BYOI ツールは、実際の画像をほとんど変更せずに、巧妙に、あるいは検出不可能なディープフェイクを作成するために悪用される可能性があります。最低 50% の変更を強制することで、AI が既存の人物の写真を軽く編集するだけではないことが保証されます。
• XまたはXXXコンテンツを有効にして閲覧する場合、著名人名を検索しても結果は表示されません。著名人名と成人向けコンテンツを組み合わせることは引き続き禁止されています。
• 実在の人物の外見を模倣するようにデザインされた画像やリソースには広告は表示されません。
• 実在の人物を描写した画像やリソースについては、チップ（バズ）は無効になります。
• 実在の人物を模倣したモデルは、Civitaiの機能である早期アクセスの対象となりません。早期アクセスとは、クリエイターが有料サポーターにコンテンツを先行公開できる機能です。これにより、有名人や実在の人物の肖像による収益化が制限されます。
• A 2257コンプライアンスステートメント プラットフォームではAI生成以外のコンテンツは一切許可されないことを明確にするために、このルールが追加されました。これにより、すべての露骨表現が合成であり、実際の写真や動画に基づいていないことが保証され、法的保護が強化されます。
• 新しい コンテンツ削除リクエストページ 誰でもログインなしで、不適切なコンテンツや違法コンテンツを報告できます。登録ユーザーは、引き続き各投稿に組み込まれている報告ツールをご利用ください。これは、プラットフォームから自分の肖像を削除するようリクエストするための既存のフォームとは別のものです。
• CivitAI は、Amazon Rekognition や Hive などの従来のソリューションよりも優れた画像分析ツールを提供する Clavata との提携を通じて、新しいモデレーション システムを導入しました。

** 20年2025月11日（火）23時47分XNUMX秒（それ以前だった可能性あり）現在、Twitchライブ配信は削除されています。配信で報告された事実を確認するため、コピーを保管しています。

* バーバラ・イーデンの「遺産」について言及しているにもかかわらず、 私はジーニーの夢 この女優はまだ存命で、現在93歳です。
^† アーカイブ: https://archive.ph/tsMb0

初回公開は24年202月24日木曜日。修正日は2025年14月32日木曜日28時XNUMX分XNUMX秒です。
参考資料として使用されていた Twitch コンテンツの削除を反映するため、20 年 2025 月 XNUMX 日火曜日に変更されました。