Reddit interdit la communauté Deepfake 'SFW'

Ce week-end, apparemment vers dimanche, Reddit a banni la communauté deepfakes r/deepfakesfw, prétendument « SFW » (Safe For Work). Ce subreddit a été l'une des premières réponses à la demande du géant des réseaux sociaux. effacement du sous-marin r / deepfakes original, gonflé à l'IA, en 2018.

La légende (relativement) passe-partout qui accueille désormais (instantané d'archive pris le lundi 13 juin) toute personne visitant le sous-marin explique qu'il 'a été interdit en raison d'une violation de Reddit contre la pornographie involontaire.

La nouvelle page d'accueil de r/deepfakesfw.

Le sous-titre r/deepfakesfw n'était pas fréquemment archivé par les plateformes de conservation populaires, mais le plus instantané récent de WayBack Machine, prise il y a une dizaine de jours (le 3 juin 2022), indique que le sub comptait 3,095 XNUMX lecteurs à cette époque.

C'est en fait un nombre d'abonnés plus élevé que r/DeepFakesSFW (notez le « s » supplémentaire), qui a actuellement Lecteurs 2,827 (Photo d'archive prise le lundi 13 juin 2022). La communauté de deepfakes SFW « légitime » la plus populaire semble actuellement être r/SFWdeepfakes, qui au moment de la rédaction a Lecteurs 16,636 (cliché pris le lundi 13 juin 2022).

Ne demandez même pas

Ce qui semble avoir condamné r/deepfakesfw n'était pas la publication mais le demandant de la pornographie deepfake. Les règles de Reddit concernant les médias sexuellement explicites stipulent :

« [Les images] ou vidéos d'une autre personne publiées dans le but spécifique de falsifier un contenu explicite ou de solliciter de la pornographie « similaire » (par exemple, des « deepfakes » ou de la « bubble porn ») sont également contraires à la règle. »

Sur la base des derniers flux RSS disponibles du sous-marin SFW désormais interdit, c'est la demande plutôt que la publication de contenu deepfake NSFW qui a finalement déclenché l'interdiction :

Certains des messages finaux, clairement NSFW, du subreddit r/deepfakesfw maintenant mort. Source : InoReader.

Bien que les publications vers lesquelles pointent ces publications RSS ne soient plus disponibles, cliquer sur les liens du profil des demandeurs (flous dans l'image ci-dessus) révèle que de nombreux afficheurs demandent du contenu deepfake interdit sur plus d'un forum, et demandent ou proposent certains des contenus les plus extrêmes de ce type, y compris du porno inceste et diverses nuances de thèmes pornographiques involontaires.

Cela suggère que les sous-titres « SFW » restants de Reddit survivent grâce à la rapidité, à la diligence et aux temps de réponse rapides de leurs modérateurs, car il semble que Reddit ne soit pas disposé à devenir une sorte de forum de « petites annonces » permettant aux gens de se connecter et d'effectuer des transactions de deepfakes illégitimes via des DM (dans les cas où cela ne peut pas être explicitement demandé dans un message).

Si tel est le cas, alors le r/DeepFakesSFW, qui n'est pas encore banni, vit peut-être sur du temps emprunté ; ses deux principaux messages actuels lors de la saisie de l'URL du subreddit racine avec l'« ancien » thème Reddit activé ont été spécifiquement marqués « NSFW » (une balise qui ne devrait probablement même pas être disponible dans cette communauté particulière).

Selon les circonstances, certains messages enfreignant les règles apparaissent actuellement dans le sous-titre r/DeepFakesSFW. Source : https://www.reddit.com/r/DeepFakesSFW/

Vous pouvez voir ces deux publications NSFW en tête du forum r/DeepFakesSFW d'aujourd'hui archivé ici (cliché pris le lundi 13 juin 2022).

En fait, il n'y a pas de « flair » NSFW disponible lors de la création d'un nouveau message sur r/DeepFakesSFW, qui est opérationnel depuis quatre ans, selon les informations de sa barre latérale :

« Flairs » disponibles lors de la publication sur r/DeepFakesSFW.

Par conséquent, la NSFW les balises de r/DeepFakesSFW semblent avoir été appliquées soit par des modérateurs du forum, soit par des administrateurs de niveau supérieur – ou même des algorithmes, éventuellement sans aucune intervention ou opposition disponible de la part des modérateurs locaux. J'ai contacté le seul modérateur répertorié de r / DeepFakesSFW à ce sujet et publierai toutes les mises à jour disponibles.

(ÉDIT, mardi 14 juin 2022 – Un modérateur de r/DeepFakesSFW a répondu : « Cela semble se produire lorsque le compte de l'utilisateur est NSFW. » La seule façon de réduire la probabilité de telles demandes sur les subreddits deepfakes SFW serait donc de bannir les utilisateurs ayant « mérité » cette classification.)

La plupart du contenu de ce subreddit, et du plus grand r/SFWdeepfakes, concerne l'utilisation de la technologie deepfake pour « recaster » des acteurs de films populaires ou classiques, ou pour s'amuser de manière plus inoffensive grâce à l'IA avec les médias populaires et la technologie deepfake, et est en effet qualifié de « SFW ».

Même si de nombreux messages de ce type frôlent dangereusement les interdictions liées au droit d'auteur, la survie continue des publications de vidéos deepfakes non pornographiques « appropriées par la propriété intellectuelle » par les principaux deepfakers de YouTube tels que Ctrl-Shift-Face suggère une large tolérance des studios et des détenteurs de droits envers une telle activité, du moins pour le moment.

L'apparence « innocente » du processus et de l'écosystème du deepfake

Il y a deux semaines, il venu à la lumière (et beaucoup spirituelle) que Google avait soudainement banni les logiciels de création de deepfakes de ses environnements de traitement cloud Colab, très populaires. À ce jour, Colab ne semble être « déclenché » que par des tentatives d'exécution. Laboratoire DeepFace (DFL), le logiciel de deepfakes le plus populaire au monde (et le plus étroitement associé à la pornographie IA), plutôt que des implémentations moins fréquentes telles que Échange de visage, qui est mieux réputé, même s'il effectue exactement les mêmes tâches que DFL.

Dans une certaine mesure, cette approche a peut-être été la seule façon pour Colab d'implémenter tout restriction sur la production de pornographie deepfake, puisque le processus de formation deepfake n'utilise que des logiciels open source et des images de visage très recadrées (généralement à seulement 512x512px, souvent moins), avec presque aucune possibilité pour les algorithmes de reconnaissance d'images d'intercepter tout pornographique réel contenu.

Au moment où le modèle deepfake est formé, le deepfake n'a plus besoin de l'énorme puissance de traitement de Colab ou d'un GPU local coûteux. Le plus actuel conversions (c'est-à-dire le processus d'imposition d'un visage dans une vidéo, pornographique ou autre), peut être accompli localement, sur des GPU d'ordinateurs portables à faible puissance - ou même sur un CPU (avec un temps de traitement légèrement plus long). Au moment où quelque chose de pornographique se produit dans le processus de deepfake, Colab a depuis longtemps été retiré de l'image.

Par conséquent, les éléments constitutifs qui circulent entre les créateurs de deepfake porn représentent rarement plus qu'une violation potentielle mineure du droit d'auteur, sous la forme de la transmission de « faces sets », que les créateurs de deepfake ont extraites de vidéos YouTube, de Blu-ray, d'interviews télévisées, de médias sociaux et de diverses autres sources.

Une politique de « terre brûlée » est-elle en route pour les communautés Deepfake ?

La question qui hante les habitants des communautés deepfake Discord telles que Laboratoire DeepFace (Y compris DeepFaceLive), Échange de visage, Éditeur vidéo machine (MVE, une interface graphique environnement pour DFL, avec de nombreuses fonctionnalités supplémentaires), et de nouveaux serveurs Discord deepfake basés sur l'audio tels que Deepfake audio is Les propriétaires actuels de portails et de plates-formes vont-ils bientôt simplement interdire les communautés deepfake par principe, plutôt que de supporter les frais d'une modération constante contre une vague d'adhérents et de créateurs de NSFW ?

Bryan Lyon, l'un des développeurs de FaceSwap et propriétaire du serveur Discord associé au projet, a commenté^†:

« Nous avons réussi à rester sur Discord, malgré plusieurs purges, grâce à une propreté irréprochable. Nous n'avons pas de canaux cachés ni de second serveur secret au contenu illicite. Il y a quelques années, le populaire serveur DeepFaceLab a été purgé. Tous ses membres ont été bannis. Ils avaient des rôles sur invitation uniquement, avec accès à des canaux diffusant de la pornographie non consensuelle. »

Étant donné que Google, l'une des plus grandes ressources d'hébergement technologique au monde, a interdit de manière générale la formation deepfake sur ses serveurs et GPU, il est même possible que GitHub, propriété de Microsoft, décide que faciliter ces technologies* ne vaudra finalement pas l'ambiguïté morale ou l'investissement de la surveillance.

À l'heure actuelle, le processus de légitimation des technologies deepfake afin que leur utilisation transite de la pornographie artisanale vers la production de films et de télévision, et les utilisations non contrefaisantes/criminelles, est trop naissante pour produire des directives politiques claires pour les plateformes et les services d'hébergement communautaires.

* Archive de https://github.com/search?q=deepfake du lundi 13 juin 2022.
† Dans des DM privés sur Discord.

Première publication le 13 juin 2022. Modifié à 3 h 08 UTC pour la modification de l'image.
Modifié le mardi 14 juin 2022 à 6h24 UTC pour ajouter la réponse du modérateur de Reddit concernant le statut NSFW de certains participants. L'image a également été modifiée sur l'illustration du flux RSS.