Reddit verbietet „SFW“-Deepfake-Community

Am Wochenende, offenbar irgendwann um den Sonntag herum, verbot Reddit die nominell „SFW“ (Safe For Work) Deepfakes-Community mit dem Titel r/deepfakesfw. Der Subreddit war eine der ersten Reaktionen auf die Aufforderung des Social-Media-Riesen Löschung des ursprünglichen, von KI-Pornos geplagten R/Deepfakes-Subs aus dem Jahr 2018.

Die (relativ) einprägsame Legende, die nun jeden, der das U-Boot besucht, begrüßt (Archivschnappschuss vom Montag, 13. Juni), erklärt dies 'wurde aufgrund eines Verstoßes gegen Reddit gesperrt Regeln gegen unfreiwillige Pornografie‘.

Die neue Titelseite für r/deepfakesfw.

Das r/deepfakesfw-Sub wurde nicht häufig von populären Naturschutzplattformen archiviert, aber am häufigsten aktueller WayBack Machine-Schnappschuss, aufgenommen vor etwa zehn Tagen (am 3. Juni 2022), zeigt, dass der Sub zu diesem Zeitpunkt 3,095 Leser hatte.

Das ist tatsächlich eine höhere Anzahl an Abonnenten als r/DeepFakesSFW (beachten Sie das zusätzliche „s“), das derzeit 2,827-Leser (Archiv-Schnappschuss vom Montag, 13. Juni 2022). Die beliebteste „legitime“ SFW-Deepfakes-Community scheint derzeit r/SFWdeepfakes, was zum Zeitpunkt des Schreibens der Fall war 16,636-Leser (Schnappschuss aufgenommen am Montag, 13. Juni 2022).

Frag nicht einmal

Was r/deepfakesfw offenbar zum Scheitern verurteilt hat, war nicht das Posting, sondern das anfragen von Deepfake-Pornografie. Reddits Regeln zu sexuell expliziten Medien besagen:

„[Bilder] oder Videos einer anderen Person, die mit dem ausdrücklichen Ziel gepostet werden, explizite Inhalte vorzutäuschen oder „Lookalike“-Pornografie (z. B. „Deepfakes“ oder „Bubble Porn“) anzubieten, verstoßen ebenfalls gegen die Regel.“

Basierend auf den letzten verfügbaren RSS-Feeds des inzwischen gesperrten SFW-Abonnenten ist es eher die Anforderung als das Posten von NSFW-Deepfake-Inhalten, die das Verbot letztendlich ausgelöst hat:

Einige der letzten, eindeutig NSFW-Beiträge aus dem inzwischen toten Subreddit r/deepfakesfw. Quelle: Inoreader.

Obwohl die Beiträge, auf die diese RSS-Posts verweisen, nicht mehr verfügbar sind, zeigt ein Klick auf die Profillinks der Antragsteller (im Bild oben unscharf dargestellt), dass viele der Poster verbotene Deepfake-Inhalte in mehr als einem Forum anfordern und entweder nach extremsten Inhalten dieser Art fragen oder diese anbieten, darunter Inzest-Pornos und verschiedene Schattierungen unfreiwilliger pornografischer Themen.

Dies lässt darauf schließen, dass die verbleibenden „SFW“-Reddit-Subs durch die Geschwindigkeit, Sorgfalt und schnellen Reaktionszeiten ihrer Moderatoren überleben, da Reddit offenbar nicht bereit ist, zu einer Art „Kleinanzeigen“-Forum zu werden, in dem sich Leute vernetzen und über DMs unrechtmäßige Deepfakes austauschen können (sofern dies nicht ausdrücklich in einem Beitrag angefordert werden kann).

Wenn das so ist, dann könnte das noch nicht gesperrte r/DeepFakesSFW auf geborgter Zeit leben; seine beiden aktuellen Top-Beiträge wurden beim Aufrufen der URL des Stamm-Subreddits mit aktiviertem „alten“ Reddit-Design ausdrücklich mit „NSFW“ gekennzeichnet (ein Tag, der in dieser speziellen Community vermutlich nicht einmal verfügbar sein sollte).

Abhängig von den Umständen erscheinen derzeit einige Beiträge, die gegen die Regeln verstoßen, im r/DeepFakesSFW-Sub. Quelle: https://www.reddit.com/r/DeepFakesSFW/

Sie können diese beiden NSFW-Beiträge sehen, die heute das archivierte r/DeepFakesSFW-Forum anführen werden auf dieser Seite erläutert (Schnappschuss aufgenommen am Montag, 13. Juni 2022).

Beim Erstellen eines neuen Beitrags bei r/DeepFakesSFW, das laut den Informationen in der Seitenleiste seit vier Jahren aktiv ist, ist tatsächlich kein NSFW-„Flair“ verfügbar:

Verfügbare „Flairs“ beim Posten auf r/DeepFakesSFW.

Deshalb, die NSFW Tags bei r/DeepFakesSFW scheinen entweder von Moderatoren im Forum oder von übergeordneten Administratoren – oder sogar von Algorithmen – angewendet worden zu sein, möglicherweise ohne jegliches Eingreifen oder verfügbaren Widerstand lokaler Moderatoren. Ich habe diesbezüglich den einzigen aufgeführten Moderator von r/DeepFakesSFW kontaktiert und werde alle verfügbaren Updates veröffentlichen.

(BEARBEITEN, Dienstag, 14. Juni 2022 – Ein Moderator von r/DeepFakesSFW antwortete: „Es scheint zu passieren, wenn der Account des Benutzers nicht für die Arbeit geeignet ist.“ Die einzige Möglichkeit, die Wahrscheinlichkeit solcher Anfragen in SFW-Deepfakes-Subreddits zu verringern, wäre daher vermutlich das Sperren von Benutzern, die diese Klassifizierung „verdient“ haben.)

Die meisten Inhalte in diesem Subreddit und im größeren r/SFWdeepfakes befassen sich mit der Verwendung von Deepfake-Technologie, um Schauspieler aus populären oder klassischen Filmen „neu zu besetzen“ oder um auf andere Weise etwas harmloseren, KI-gesteuerten Spaß mit populären Medien und Deepfake-Technologie zu haben, und gelten tatsächlich als „SFW“.

Auch wenn viele solcher Posts gefährlich nahe an urheberrechtlich bedingten Verboten vorbeiziehen, lässt das anhaltende Überleben von „IP-angeeigneten“ Deepfake-Videoposts mit nicht-pornografischem Inhalt durch große YouTube-Deepfaker wie Ctrl-Shift-Face darauf schließen, dass Studios und Rechteinhaber solchen Aktivitäten zumindest vorerst weitgehende Toleranz entgegenbringen.

Der „unschuldige“ Anschein des Deepfake-Prozesses und der Ökostruktur

Vor zwei Wochen es ist ans Licht gekommen (und viel Diskussion), dass Google plötzlich Deepfake-Erstellungssoftware aus seinen beliebten Colab-Cloud-Verarbeitungsumgebungen verbannt hatte. Bis heute wird Colab offenbar nur durch Versuche „ausgelöst“, DeepFaceLab (DFL), die beliebteste Deepfakes-Software der Welt (und die mit den meisten eng mit KI-Pornos verbunden), anstatt weniger häufige Implementierungen wie Gesicht tauschen, die einen besseren Ruf hat, obwohl sie genau die gleichen Aufgaben wahrnimmt wie die DFL.

In gewisser Weise war dieser Ansatz möglicherweise die einzige Möglichkeit, die Colab hätte umsetzen können für Einschränkung der Produktion von Deepfake-Pornografie, da der eigentliche Deepfake-Trainingsprozess ausschließlich Open-Source-Software und stark beschnittene Gesichtsbilder (normalerweise nur 512 x 512 Pixel, oft auch weniger) verwendet, wobei für Bilderkennungsalgorithmen nahezu keine Möglichkeit besteht, tatsächliche Pornografie abzufangen Inhalt.

Wenn das Deepfake-Modell trainiert ist, benötigt der Deepfaker nicht mehr die enorme Rechenleistung von Colab oder eine teure lokale GPU. Am aktuellsten Konvertierungen (d. h. der Vorgang, einem Video ein Gesicht aufzuzwingen, egal ob pornographisch oder anderweitig), kann lokal, auf Laptop-GPUs mit geringer Leistung oder sogar auf einer CPU (mit etwas längerer Verarbeitungszeit) durchgeführt werden. Als im Deepfake-Prozess irgendetwas Pornografisches passiert, ist Colab längst aus der Bildfläche verschwunden.

Daher stellen die Bestandteile, die zwischen den Erstellern von Deepfake-Pornos ausgetauscht werden, selten mehr dar als eine potenzielle geringfügige Urheberrechtsverletzung in Form der Weitergabe von „Gesichtssets“, die die Ersteller von Deepfake-Pornos aus YouTube-Videos, Blu-rays, Fernsehinterviews, sozialen Medien und verschiedenen anderen Quellen extrahiert haben.

Droht Deepfake-Communitys eine „Politik der verbrannten Erde“?

Die Frage, die die Bewohner von Deepfake-Discord-Communities wie z DeepFaceLab (Einschließlich DeepFaceLive), Gesicht tauschen, Maschinenvideo-Editor (MVE, ein GUI-basiertes Umfeld für die DFL, mit vielen zusätzlichen Funktionen) und neue audiobasierte Deepfake-Discord-Server wie Audio-Deepfakes is Werden die derzeitigen Portal- und Plattformbesitzer Deepfake-Communities bald einfach aus Prinzip verbieten, anstatt die Kosten für die ständige Moderation gegen eine Flut von NSFW-Anhängern und -Erstellern zu tragen?

Bryan Lyon, einer der Entwickler von FaceSwap und Besitzer des zugehörigen Discord-Servers des Projekts, kommentierte^†:

„Wir haben es trotz mehrerer Säuberungen geschafft, auf Discord zu bleiben, indem wir absolut sauber geblieben sind. Wir haben keine versteckten Kanäle oder einen geheimen zweiten Server mit illegalen Inhalten. Vor ein paar Jahren gab es eine Säuberung des beliebten DeepFaceLab-Servers. Alle dort wurden gesperrt. Sie hatten Rollen, die nur auf Einladung zugänglich waren und Zugang zu Kanälen mit nicht einvernehmlicher Pornografie hatten.“

Angesichts der Tatsache, dass Google, selbst eine der weltweit größten technologischen Hosting-Ressourcen, Deepfake-Training auf seinen Servern und GPUs pauschal verboten hat, ist es sogar möglich, dass das Microsoft-eigene GitHub beschließt, dass Erleichterung dieser Technologien* wird letztendlich die moralische Ambiguität oder die Investition in die Aufsicht nicht mehr wert sein.

Zum jetzigen Zeitpunkt ist der Prozess der Legitimierung von Deepfake-Technologien, so dass ihre Nutzung weg von hausgemachtem Porno hin zu Film- und Fernsehproduktionen und nicht verletzenden/kriminellen Nutzungen übergeht, noch zu jung, um klare Richtlinien für Plattformen und Community-Host-Dienste zu entwickeln.

* Archiv von https://github.com/search?q=deepfake vom Montag, 13. Juni 2022.
† In privaten DMs auf Discord.

Erstveröffentlichung am 13. Juni 2022. Bearbeitet um 3:08 Uhr UTC zur Bildänderung.
Geändert am Dienstag, 14. Juni 2022, 6:24 Uhr UTC, um die Antwort des Reddit-Moderators zum NSFW-Status einiger Poster hinzuzufügen. Außerdem wurde die Abbildung des RSS-Feeds geändert.