CivitAIが新しい支払いプロバイダー危機に陥る、トランプ大統領がAnti-Deepfake Actに署名

トランプ大統領は、連邦レベルで性的ディープフェイクを犯罪化する「TAKE IT DOWN Act」に署名しました。同時に、CivitAIコミュニティは、NSFW AIとセレブ出力に関する「清掃」に失敗し、支払いプロセッサとの問題により、代替ソリューションを探す必要に迫られました。すべてこれは、世界最大のディープフェイクポルノサイトがオフラインになった2週間以内に起こりました…

ディープフェイクの規制に関する出来事が相次いでいます。2週間前、セレブディープフェイクポルノの共有コミュニティのNo.1ドメイン「Mr. Deepfakes」が、7年以上の歴史をもって突然オフラインになりました。当時、サイトは月に500万回以上の訪問を受けていました。

背景、Mr. Deepfakesドメイン（2025年5月初旬）；挿入、停止通知（現在は404エラーに置き換えられている）、ドメインは2025年5月4日に未知の購入者によって購入された（https://www.whois.com/whois/mrdeepfakes.com）。出典：mrdeepfakes.com

Mr. Deepfakesのサービス停止は、公式に「重要なサービスプロバイダーの撤退」に起因するものとされています（上の画像の挿入を参照）。しかし、ジャーナリズムの共同調査により、サイトの背後にある重要人物が匿名化を解除されましたが、サイトの停止はその個人の個人的な理由、または法的理由による可能性があります。

同時期、セレブやNSFWのLoRAsを使用するために広く使用されている商用プラットフォーム「CivitAI」は、ディープフェイクの生成、モデルホスティング、ルールや制限に関する一連の不慣れな自主規制措置を導入しました。これらの措置は、特定のNSFWフェティシズムや「過激なイデオロギー」に対する全面的な禁止を含みます。

これらの措置は、支払いプロセッサがNSFWコンテンツやセレブAI描写に関する変更を要求したため実施されたものです。

CivitAI Cut Off

現在、CivitAIが実施した措置は、VisaやMastercardを満足させるには十分ではないようです。サイトのコミュニティエンゲージメントマネージャー、Alasdair Nicollの新しい投稿によると、CivitAIのカード支払いは今週金曜日（2025年5月23日）以降停止される予定です。

これにより、ユーザーは月次会員権の更新や新しい「buzz」の購入ができなくなります。ただし、Nicollは、ユーザーが今週金曜日までに年会費会員に切り替えることで、現在の会員特典を維持できることをアドバイスしています（年会費は100〜550米ドル）。しかし、サイトの将来は不確実です（注：年会費プランは、支払いプロセッサの喪失が発表されたときに導入されました）。

支払いプロセッサの不足について、Nicollは「AIイノベーションに慣れ親しんだすべてのプロバイダーと話し合っています」と述べています。

CivitAIのセレブAIとNSFWコンテンツに関する政策の見直しに失敗したことについて、Nicollは次のように述べています。

「一部の支払い会社は、生成型AIプラットフォームを高リスクと見なします。特に、ユーザー生成の成人向けコンテンツを許可する場合です。ユーザーが何かをしたことではなく、このポリシーの選択が、カットオフを引き起こしました。」

CivitAIの「チーフオブスタッフ」として記載されているユーザー「Faeia」のコメントは、この発表に追加の背景を提供しています。

「明確にするために、NSFWおよび成人向けコンテンツをプラットフォームから削除しなかったため、支払いプロセッサから除外されました。すべての種類のクリエイターをサポートするという姿勢を維持しており、代替ソリューションを模索中です。」

伝統的な新技術の推進力として、NSFWコンテンツが関心を呼び起こすことは珍しくありません。ただし、十分な「正当な」資本やユーザーが集まると、初期の支持者は拒否されることがよくあります（つまり、NSFWコンテンツを除外することで、エンティティは存続できるようになります）。

CivitAIがこの道を「浄化」された製品に向かうかどうかはわかりませんでしたが、AI生成コンテンツ全般に対する論争や汚名が重なり、最後の瞬間の救済が困難になりました。現在、公式発表では、ユーザーに代替の支払い方法として暗号通貨を使用することを推奨しています。

Fake Out

ドナルド・トランプ大統領が連邦の「TAKE IT DOWN Act」に署名したことは、これらの出来事に影響を与えた可能性があります。この法律は、非同意の性的画像、包括してAI生成のディープフェイクを、配布することを犯罪化します。

法律では、プラットフォームは48時間以内に報告されたコンテンツを削除する必要があり、連邦取引委員会が執行を担当します。法律の刑事規定は即時発効され、合衆国法域内で、非同意の性的画像（包括してAI生成のディープフェイク）を知識を持って公開または公開を脅迫する個人の起訴を可能にします。

法律は、両党の支持と、テクノロジー企業や支援団体の支持を受けましたが、批判者は、法律が正当なコンテンツを抑制し、暗号化などのプライバシー・ツールを脅かす可能性があると主張しています。先月、電子フロンティア財団（EFF）は、法律に反対する声明を発表し、「法律の削除メカニズムは、法律の他の部分で定義されている非同意の性的画像の狭い定義よりも、はるかに広い範囲のコンテンツを対象としている」と述べています。

「TAKE IT DOWN法の削除規定は、法律の他の部分で定義されている非同意の性的画像の狭い定義よりも、はるかに広い範囲のコンテンツを対象としている。削除規定には、冤罪や悪意のある削除要求に対する重要な安全装置も欠けている。

「サービスは、有名な無能なツールである自動フィルタに頼ることになる。法的使用のコメントやニュース報道など、法的なコンテンツを頻繁にフラグ付けする。法律のタイムフレームは、スピーチが実際に違法であるかどうかを検証するには、48時間ではほとんど時間がない。

「結果として、オンラインサービスプロバイダー、特に小規模なものは、法的リスクを避けるために、スピーチを検証するのではなく、単にスピーチを非公開にする可能性が高い。」

プラットフォームには、正式な通知と削除プロセスを確立するために、法律の施行から1年間の猶予があります。これにより、影響を受ける個人またはその代理人が法律を引用してコンテンツの削除を求めることができます。

これは、刑事規定が即時発効する一方で、プラットフォームは削除インフラストラクチャ（要求の受け付けや処理など）に従う法的義務を負わないことを意味します。

TAKE IT DOWN ActがAI生成のセレブコンテンツをカバーするかどうか

TAKE IT DOWN Actは、州の境界を越えて適用されますが、必ずしもAI駆動のセレブメディア全てを違法化するわけではありません。法律は、合理的なプライバシーの期待をもって描かれた個人の非同意の性的画像、包括してAI生成のディープフェイクの配布を犯罪化します。

法律は次のように述べています。

「（2）本質的な性的視覚的描写に関する犯罪。

「（A）成人を対象とする場合。—」[証拠や報告の目的などを除く]「、合衆国で、インタラクティブなコンピュータサービスを使用して、合理的なプライバシーの期待をもって描かれた、特定の個人の性的視覚的描写を知識を持って公開することは、違法です。

「（i）性的視覚的描写が、個人が知っていたか、合理的に知るべきであった状況で取得または作成された場合；

「（ii）描写されたものが、個人が自発的に公開しなかった場合；

「（iii）描写されたものが、公の関心事ではない場合；および

「（iv）性的視覚的描写の公開—

「（I）損害を与えることを目的としている場合；または

「（II）個人の心理的、金銭的、または評判の損害を含む損害を引き起こす。」

ここで適用される「合理的なプライバシーの期待」の条件は、伝統的にセレブの権利に有利ではありません。最終的に生じる判例によっては、公共の場や商業的な場面で描かれたセレブの明示的なAI生成コンテンツは、法律の禁止の対象外となる可能性があります。

最終条項では、損害の程度を決定することについて、法的用語としては「伸縮性」が高いとされています。ただし、この法律の「損害を与える意図」は、主に「復讐ポルノ」の文脈で適用され、そこでは（不明な）元パートナーが（同様に不明な）別の元パートナーの実際の、または偽の、メディアコンテンツを公開します。

法律の「損害」要件は、匿名のユーザーがセレブのAI生成の描写を投稿する場合には不適切に思えるかもしれませんが、ストーキングのシナリオでは、より関連性がある可能性があります。そこでは、広範な嫌がらせパターンが、個人が故意に、悪意を持って、公共の人物を複数の面で標的にしていることを支持する結論につながります。

法律の「カバーされたプラットフォーム」への参照は、 Signalや電子メールなどのプライベートチャンネルを、削除プロセスの義務から除外していますが、これは、削除メカニズムを2026年5月までに確立する義務にのみ適用され、法律の刑事禁止の対象外であることを意味しません。非同意のAIまたは実際の描写がプライベート通信を通じて共有される場合でも同様です。

当然、サイトの報告メカニズムがないことによって、影響を受ける当事者が警察に違法コンテンツを報告することを妨げるものではなく、当事者は、サイトが提供する通常の連絡方法を使用して、苦情を申し立て、違法なコンテンツの削除を要求することもできます。

残された権利

ディープフェイクコンテンツに関する7年以上の批判が、短期間のうちに集大成したようです。しかし、TAKE IT DOWN Actは、連邦レベルの禁止を提供しますが、すべてのAI生成シミュレーションに適用されるわけではありません。特定のシナリオは、州レベルのディープフェイク立法の増加するパッチワークに残されます。ここでは、法律はしばしば「地元の利益」を反映しています。

たとえば、カリフォルニア州では、「カリフォルニア州セレブの権利法」が、セレブのアイデンティティの独占使用を、セレブ本人とその遺産に限定しています。対照的に、テネシー州の「ELVIS法」は、ミュージシャンを、承認なしにAI生成のボイスやイメージの複製から保護することに重点を置いています。各ケースは、州レベルで優先される利益団体に焦点を当てたアプローチを反映しています。

ほとんどの州には、性的ディープフェイクを対象とする法律がありますが、多くの州では、保護が同等にプライベート個人と公共の人物に拡張されるかどうかを明確にしていません。 한편、政治的なディープフェイクが、ドナルド・トランプの大統領への支持を促したと報告されているが、実践では、特定の状況では、憲法上の障壁に直面する可能性があります。

^† アーカイブ版： https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† アーカイブ版（月額価格は表示されません）：https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* CivitAIのCEOの「チーフオブスタッフ」は、LinkedInで無関係な名前でリストされていますが、似た名前の「Faiona」は、サイトのサブレッドで公式のCivitAIスタッフモデレーターです。

2025年5月20日初版