CivitAI in neuer Zahlungsanbieterkrise, während Trump Anti-Deepfake-Gesetz unterzeichnet

Präsident Trump hat nun den Take It Down Act unterzeichnet, der sexuelle Deepfakes in den USA auf Bundesebene unter Strafe stellt. Gleichzeitig scheiterte der Versuch der CivitAI-Community, in Bezug auf NSFW-KI und Promi-Inhalte „reinen Tisch zu machen“, bei den Zahlungsabwicklern. Die Seite musste sich daher nach Alternativen umsehen, andernfalls droht die Schließung. Und das alles in nur zwei Wochen, seit die älteste und größte Deepfake-Pornoseite der Welt offline ging …

Es waren bedeutsame Wochen für den Zustand des unregulierten Bild- und Video-Deepfakings. Vor etwas mehr als zwei Wochen ging die Nummer-1-Domain für den Community-Austausch von Promi-Deepfakes, Mr. Deepfakes, nach mehr als sieben Jahren in einer dominanten und viel untersucht Position als globaler Treffpunkt für sexualisierte KI-Promi-Inhalte. Als die Seite ausfiel, erhielt sie eine durchschnittlich mehr als fünf Millionen Besuche ein Monat.

Hintergrund: die Mr. Deepfakes-Domain Anfang Mai; im Bild die Sperrmitteilung, die inzwischen durch einen 404-Fehler ersetzt wurde, da die Domain offenbar am 4. Mai 2025 von einem unbekannten Käufer erworben wurde (https://www.whois.com/whois/mrdeepfakes.com). Quelle: mrdeepfakes.com

Die Einstellung der Dienste für Herrn Deepfakes wurde offiziell zugeschrieben zum Rückzug eines „kritischen Dienstanbieters“ (siehe Bild oben, der innerhalb einer Woche durch einen Domänenausfall ersetzt wurde). Eine gemeinsame journalistische Untersuchung hatte jedoch eine Schlüsselfigur de-anonymisiert hinter Mr.Deepfakes direkt vor der Schließung, was die Möglichkeit zulässt, dass die Site aus persönlichen und/oder rechtlichen Gründen dieser Person geschlossen wurde.

Etwa zur gleichen Zeit wurde CivitAI, die kommerzielle Plattform, die häufig für Prominente und NSFW verwendet wird, LoRAsverhängte eine Reihe ungewöhnlicher und umstrittener Selbstzensurmaßnahmen. Diese betrafen die Deepfake-Generierung, das Model-Hosting und eine breitere Palette neuer Regeln und Einschränkungen, darunter vollständige Verbote von sicher marginale NSFW-Fetische und sogenannte „extremistische Ideologien“.

Auslöser dieser Maßnahmen waren offenbar Zahlungsanbieter, die damit drohten, die Dienste der Domain einzustellen, wenn keine Änderungen hinsichtlich der NSFW-Inhalte und der KI-Darstellungen von Prominenten vorgenommen würden.

CivitAI-Abschaltung

Bis heute scheint es, dass die von CivitAI ergriffenen Maßnahmen VISA und Mastercard nicht besänftigt haben: ein neuen Beitrag^† auf der Site, von Community Engagement Manager Alasdair Nicoll, wird enthüllt, dass Kartenzahlungen für CivitAI (dessen „angesagtes“ virtuelles Geldsystem hauptsächlich mit Kredit- und Debitkarten aus der realen Welt betrieben wird) ab diesem Freitag (23. Mai 2025) eingestellt werden.

Dies verhindert, dass Nutzer ihre monatlichen Mitgliedschaften verlängern oder neue Buzz-Mitgliedschaften kaufen können. Nicoll empfiehlt jedoch, die bestehenden Mitgliedschaftsrechte durch den Wechsel zu einer Jahresmitgliedschaft beizubehalten (Kostenberechnung^†† $100-$550 USD) vor Freitag, klar ist die Zukunft für die Domain zu diesem Zeitpunkt etwas unsicher (Es sollte beachtet werden, dass jährliche Mitgliedschaften ging live gleichzeitig erfolgte die Ankündigung über den Verlust der Zahlungsabwickler).

In Bezug auf das Fehlen eines Zahlungsprozessors sagt Nicoll „Wir sprechen mit jedem Anbieter, der mit KI-Innovationen vertraut ist.“.

Was das Scheitern der jüngsten Bemühungen betrifft, die Website angemessen zu überdenken, oft kritisiert Nicoll erklärt in dem Beitrag, dass er Richtlinien zu Promi-KI und NSFW-Inhalten hat:

„Einige Zahlungsunternehmen stufen generative KI-Plattformen als risikoreich ein, insbesondere wenn wir nutzergenerierte Inhalte für Erwachsene zulassen, selbst wenn diese legal und moderiert sind. Diese politische Entscheidung und nicht das Handeln der Nutzer hat die Sperrung erzwungen.“

Ein Kommentar von Benutzer „Faeia“, der in CivitAI als Stabschefin des Unternehmens bezeichnet wird profile*, fügt dieser Ankündigung Kontext hinzu:

„Nur zur Klarstellung: Wir werden aus dem Zahlungsabwickler entfernt, weil wir uns entschieden haben, NSFW- und Erwachseneninhalte nicht von der Plattform zu entfernen. Wir setzen uns weiterhin für die Unterstützung aller Arten von Entwicklern ein und arbeiten an alternativen Lösungen.“

Als traditioneller Treiber neuer Technologien, ist es nicht ungewöhnlich, dass NSFW-Inhalte verwendet werden, um Interesse wecken in einer Domäne, Technologie oder Plattform – nur damit die anfänglichen Anhänger abgelehnt werden, sobald genügend „legitimes“ Kapital und/oder eine Benutzerbasis aufgebaut ist (d. h. genügend Benutzer, damit das Unternehmen überleben kann, wenn es aus einem NSFW-Kontext herausgelöst wird).

Eine Zeit lang schien es, als würde CivitAI folgen tumblr und diverse andere Initiativen auf diesem Weg hin zu einem „sanierten“ Produkt, das bereit ist, seine Wurzeln zu vergessen. Die zusätzlichen und wachsenden Kontroverse/Stigma rund um KI-generierte Inhalte jeglicher Art stellt eine kumulative Belastung dar, die in diesem Fall eine Rettung in letzter Minute zu verhindern scheint. In der Zwischenzeit empfiehlt die offizielle Ankündigung den Nutzern, Kryptowährungen als alternative Zahlungsmethode zu nutzen.

Fake-Out

Der Auftritt von Präsident Donald Trump begeistert Unterzeichnung der Bund NEHMEN SIE ES RUNTER Das Gesetz dürfte einige dieser Ereignisse beeinflusst haben. Es stellt die Verbreitung nicht einvernehmlicher intimer Bilder, darunter auch KI-generierte Deepfakes, unter Strafe.

Das Gesetz schreibt vor, dass Plattformen gekennzeichnete Inhalte innerhalb von 48 Stunden entfernen müssen. Die Durchsetzung wird von der Federal Trade Commission überwacht. Die strafrechtlichen Bestimmungen des Gesetzes treten sofort in Kraft und ermöglichen die strafrechtliche Verfolgung von Personen, die wissentlich nicht einvernehmliche intime Bilder (einschließlich KI-generierter Deepfakes) innerhalb der USA veröffentlichen oder mit der Veröffentlichung drohen.

Obwohl das Gesetz seltene parteiübergreifende Unterstützung sowie Unterstützung von Technologieunternehmen und Interessengruppen erhielt, argumentieren Kritiker, dass es legitime Inhalte unterdrücken und Datenschutzmaßnahmen wie Verschlüsselung gefährden könnte. Letzten Monat erklärte die Electronic Frontier Foundation (EFF): Widerstand gegen den Gesetzentwurf, und behauptet, dass die darin vorgeschriebenen Löschmechanismen auf ein breiteres Spektrum an Material abzielen als die engere Definition nicht einvernehmlicher intimer Bilder, die an anderer Stelle in der Gesetzgebung zu finden ist.

Die Entfernungsbestimmung in TAKE IT DOWN gilt für eine viel breitere Kategorie von Inhalten – potenziell alle Bilder mit intimem oder sexuellem Inhalt – als die engeren NCII-Definitionen an anderer Stelle im Gesetzentwurf. Die Entfernungsbestimmung enthält auch keine wichtigen Schutzmechanismen gegen leichtfertige oder in böser Absicht erfolgte Entfernungsanfragen.

Die Dienste werden auf automatisierte Filter angewiesen sein, die bekanntermaßen stumpfe Werkzeuge sind. Sie kennzeichnen häufig legale Inhalte, von Fair-Use-Kommentaren bis hin zur Nachrichtenberichterstattung. Der enge Zeitrahmen des Gesetzes schreibt vor, dass Apps und Websites Äußerungen innerhalb von 48 Stunden entfernen müssen. Das reicht selten aus, um zu überprüfen, ob die Äußerungen tatsächlich illegal sind.

„Infolgedessen werden sich Online-Dienstanbieter, insbesondere kleinere, wahrscheinlich dafür entscheiden, das belastende rechtliche Risiko zu vermeiden, indem sie die Rede einfach deveröffentlichen, anstatt auch nur zu versuchen, sie zu überprüfen.“

Plattformen haben nun bis zu einem Jahr nach Inkrafttreten des Gesetzes Zeit, ein formelles Notice-and-Takedown-Verfahren einzurichten, das es betroffenen Personen oder ihren Vertretern ermöglicht, sich auf das Gesetz zu berufen und die Entfernung von Inhalten zu erwirken.

Dies bedeutet, dass die strafrechtlichen Bestimmungen zwar sofort in Kraft treten, die Plattformen jedoch erst nach Ablauf dieser einjährigen Frist gesetzlich dazu verpflichtet sind, die Anforderungen der Takedown-Infrastruktur (wie etwa den Empfang und die Bearbeitung von Anfragen) einzuhalten.

Deckt das TAKE IT DOWN-Gesetz KI-generierte Inhalte von Prominenten ab?

Obwohl der TAKE IT DOWN Act alle Staatsgrenzen überschreitet, verbietet er nicht zwangsläufig alle KI-gesteuerten Medien von Prominenten. Das Gesetz kriminalisiert die Verbreitung von nicht einvernehmlichen intimen Bildern. einschließlich KI-generierte Deepfakes, nur wenn die abgebildete Person eine berechtigte Erwartung hinsichtlich der Privatsphäre:

Das Gesetz besagt:

„(2) Straftat, die authentische, intime visuelle Darstellungen beinhaltet.—

„(A) AN DENEN ERWACHSENE TEILNEHMEN. – Außer [zu Beweis-, Berichtszwecken usw.]ist es jeder Person im zwischenstaatlichen oder ausländischen Handel untersagt, einen interaktiven Computerdienst zu nutzen, um wissentlich eine intime visuelle Darstellung einer identifizierbaren Person zu veröffentlichen, die nicht minderjährig ist, wenn:

„(i) die intime visuelle Darstellung wurde unter Umständen erlangt oder erstellt, unter denen die Person wusste oder vernünftigerweise hätte wissen müssen, dass die identifizierbare Person ein berechtigtes Interesse an der Wahrung ihrer Privatsphäre hatte;

(ii) die abgebildete Person hat die Darstellung nicht freiwillig in einem öffentlichen oder kommerziellen Umfeld gezeigt. [d. h. selbstveröffentlichte Pornos];

(iii) die abgebildete Sache kein öffentliches Interesse darstellt; und

„(iv) Veröffentlichung der intimen visuellen Darstellung –

„(I) darauf abzielt, Schaden zu verursachen; oder

„(II) der identifizierbaren Person Schaden zufügt, einschließlich psychologischer, finanzieller oder rufschädigender Schäden.

Die hier angewandte Bedingung der „angemessenen Erwartung der Privatsphäre“ hat traditionell nicht bevorzugt die Rechte von Prominenten. Abhängig von der Rechtsprechung, die sich letztendlich herausbildet, ist es möglich, dass sogar explizit KI-generierte Inhalte, an denen Persönlichkeiten des öffentlichen Lebens in öffentlichen oder kommerziellen Umgebungen beteiligt sind, fallen möglicherweise nicht unter die Verbote des Gesetzes.

Der letzte Absatz über die Bestimmung der Umfang von Schaden ist bekanntlich elastisch in rechtlicher Hinsicht und fügt in diesem Sinne nichts besonders Neues zur Gesetzgebungslast hinzu. Allerdings Absicht Schaden zuzufügen, würde den Anwendungsbereich des Gesetzes offenbar auf den Kontext von „Rachepornos“ beschränken, bei denen ein (unbekannter) Ex-Partner echte oder gefälschte Medieninhalte eines (ebenso unbekannten) anderen Ex-Partners veröffentlicht.

Während die im Gesetz verankerte „Schadens“-Anforderung für Fälle, in denen anonyme Benutzer KI-generierte Darstellungen von Prominenten veröffentlichen, ungeeignet erscheint, könnte sie sich in Stalking-Szenarien als relevanter erweisen, in denen ein breiteres Muster der Belästigung die Schlussfolgerung stützt, dass eine Person eine Person des öffentlichen Lebens an mehreren Fronten absichtlich und böswillig ins Visier genommen hat.

Obwohl der Verweis des Gesetzes auf „abgedeckte Plattformen“ private Kanäle wie Signal oder E-Mail von den Bestimmungen zur Entfernung von Inhalten ausnimmt, bezieht sich dieser Ausschluss nur auf die Verpflichtung, bis Mai 2026 einen formellen Entfernungsmechanismus einzuführen. Dies bedeutet nicht, dass nicht einvernehmliche KI oder reale Darstellungen, die über private Kommunikation geteilt werden, nicht in den Geltungsbereich der strafrechtlichen Verbote des Gesetzes fallen.

Offensichtlich hindert das Fehlen von Meldemechanismen vor Ort die betroffenen Parteien nicht daran, nun illegale Inhalte der Polizei zu melden. Ebenso wenig sind sie daran gehindert, alle herkömmlichen Kontaktmethoden zu nutzen, die eine Website zur Verfügung stellt, um eine Beschwerde einzulegen und die Entfernung anstößigen Materials zu verlangen.

Die zurückgelassenen Rechte

Mehr als sieben Jahre zunehmender öffentlicher und medialer Kritik an Deepfake-Inhalten scheinen sich in ungewöhnlich kurzer Zeit zu entfalten. Obwohl der TAKE IT DOWN Act umfassende bundesweite Verbote vorsieht, ist er möglicherweise nicht in allen Fällen anwendbar, in denen KI-generierte Simulationen eine Rolle spielen. Bestimmte Szenarien müssen daher im Rahmen der wachsenden Deepfake-Gesetzgebung auf Landesebene behandelt werden, deren verabschiedete Gesetze oft „lokale Interessen“ widerspiegeln.

In Kalifornien zum Beispiel Kalifornisches Gesetz über die Rechte von Prominenten beschränkt die ausschließliche Nutzung der Identität einer Berühmtheit auf diese selbst und ihren Nachlass, auch nach ihrem Tod; umgekehrt ist Tennessees ELVIS-Gesetz Der Schwerpunkt liegt auf dem Schutz von Musikern vor unberechtigter, KI-generierter Stimm- und Bildwiedergabe, wobei in jedem Fall eine gezielte Ansprache maßgeblicher Interessengruppen auf Landesebene erfolgt.

Die meisten Staaten jetzt haben Gesetze Ziel sexueller Deepfakes, obwohl viele nicht klarstellen, ob dieser Schutz gleichermaßen für Privatpersonen und Persönlichkeiten des öffentlichen Lebens gilt. Inzwischen haben die politischen Deepfakes, die angeblich dazu beigetragen haben, Sporn Donald Trumps Unterstützung für das neue Bundesgesetz könnte in der Praxis auf verfassungsrechtliche Hürden stoßen in bestimmten Kontexten.

^† Archivierte Version: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Archivierte Version (ohne Monatspreise): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Der eigentliche „Stabschef“ des CEO bei CivitAI ist gelistet bei LinkedIn unter einem anderen Namen, während das ähnlich klingende „Faiona“ ein offizieller CivitAI-Mitarbeitermoderator bei der Domäne subreddit.

Erstveröffentlichung: Dienstag, 20. Mai 2025