CivitAI en pleine crise des fournisseurs de paiement, alors que Trump signe la loi anti-deepfake

Le président Trump a signé la loi Take It Down, criminalisant les deepfakes sexuels au niveau fédéral aux États-Unis. Parallèlement, la tentative de la communauté CivitAI de « mettre de l'ordre » concernant l'IA NSFW et les publications de célébrités n'a finalement pas réussi à apaiser les processeurs de paiement, poussant le site à chercher des alternatives sous peine de fermeture. Tout cela en seulement deux semaines depuis la fermeture du plus ancien et plus grand site pornographique deepfake au monde…

Ces dernières semaines ont été mémorables pour le deepfakeing non réglementé d'images et de vidéos. Il y a un peu plus de deux semaines, le domaine numéro 1 du partage communautaire de deepfakes pornographiques de célébrités, Mr. Deepfakes, a soudainement été mis hors ligne après plus de sept ans de domination et de domination. beaucoup étudié position de lieu mondial de diffusion de contenu sexualisé par des célébrités IA. Au moment de sa panne, le site recevait une moyenne de plus de cinq millions de visites un mois.

Contexte, le domaine Mr. Deepfakes début mai ; en médaillon, l'avis de suspension, désormais remplacé par une erreur 404, puisque le domaine a apparemment été acheté par un acheteur inconnu le 4 mai 2025 (https://www.whois.com/whois/mrdeepfakes.com). Source : mrdeepfakes.com

La cessation des services de Mr. Deepfakes a été officiellement attribué au retrait d'un « fournisseur de services critiques » (voir l'image ci-dessus, remplacé par une panne de domaine en l'espace d'une semaine). Cependant, une enquête journalistique collaborative a désanonymisé un personnage clé derrière Mr.Deepfakes juste avant la fermeture, permettant la possibilité que le site ait été fermé pour des raisons personnelles et/ou juridiques de cet individu.

À la même époque, CivitAI, la plateforme commerciale largement utilisée pour les célébrités et le NSFW LoRA, a imposé un ensemble de mesures inhabituelles et controversées mesures d'autocensure. Ces derniers ont affecté la génération de deepfakes, l'hébergement de modèles et un ensemble plus large de nouvelles règles et restrictions, y compris des interdictions totales certaines fétiches NSFW marginaux et ce qu'il a appelé des « idéologies extrémistes ».

Ces mesures ont été motivées par des fournisseurs de paiement qui menacent apparemment de retirer leurs services du domaine à moins que des modifications concernant le contenu NSFW et les représentations de célébrités par l'IA ne soient apportées.

CivitAI Cut Off

À ce jour, il semble que les mesures prises par CivitAI n’aient pas apaisé VISA et Mastercard : nouveau poste^† sur le site, du responsable de l'engagement communautaire Alasdair Nicoll, révèle que les paiements par carte pour CivitAI (dont le système d'argent virtuel « buzz » est principalement alimenté par des cartes de crédit et de débit réelles) seront interrompus à partir de ce vendredi (23 mai 2025).

Cela empêchera les utilisateurs de renouveler leur abonnement mensuel ou d'acheter de nouveaux buzz. Nicoll conseille toutefois aux utilisateurs de conserver leurs privilèges d'abonnement actuels en optant pour un abonnement annuel (coûts^{† †} 100 à 550 USD) avant vendredi, il est clair que l'avenir du domaine est quelque peu incertain à ce stade (il convient de noter que les adhésions annuelles est allé vivre au même moment où l'annonce de la perte des processeurs de paiement a été faite).

Concernant l'absence d'un processeur de paiement, Nicoll déclare « Nous discutons avec tous les fournisseurs qui sont à l'aise avec l'innovation en matière d'IA ».

Quant à l’échec des efforts récents visant à repenser de manière adéquate le site, souvent critiqué politiques autour de l'IA des célébrités et du contenu NSFW, Nicoll déclare dans le post :

« Certaines sociétés de paiement considèrent les plateformes d'IA générative comme à haut risque, notamment lorsque nous autorisons le contenu adulte généré par les utilisateurs, même légal et modéré. C'est ce choix politique, et non une action des utilisateurs, qui a imposé cette suppression. »

Un commentaire de l'utilisateur « Faeia », désigné comme chef de cabinet de l'entreprise dans leur CivitAI profil*, ajoute du contexte à cette annonce :

« Juste pour clarifier, nous sommes exclus du processeur de paiement car nous avons choisi de ne pas supprimer les contenus NSFW et pour adultes de la plateforme. Nous restons déterminés à soutenir tous les types de créateurs et travaillons à des solutions alternatives. »

En moteur traditionnel des nouvelles technologies, il n'est pas rare que du contenu NSFW soit utilisé pour susciter l'intérêt dans un domaine, une technologie ou une plateforme – uniquement pour que les adhérents initiaux soient rejetés une fois qu'un capital « légitime » suffisant et/ou une base d'utilisateurs sont établis (c'est-à-dire suffisamment d'utilisateurs pour que l'entité survive, lorsqu'elle est débarrassée d'un contexte NSFW).

Il semblait pendant un certain temps que CivitAI suivrait Tumblr et diverses autres initiatives allant dans ce sens, vers un produit « assaini », prêt à oublier ses racines. Cependant, les initiatives supplémentaires et croissantes controverse/stigmatisation autour du contenu généré par l'IA de toute nature représente un poids cumulé qui semble devoir empêcher un sauvetage de dernière minute, dans ce cas précis. En attendant, l'annonce officielle recommande aux utilisateurs d'adopter les cryptomonnaies comme moyen de paiement alternatif.

Faire semblant

L'arrivée au pouvoir du président Donald Trump a été saluée avec enthousiasme. signature le Fédéral ENLÈVE-LE Il est probable que la loi ait influencé certains de ces événements. La nouvelle loi criminalise la diffusion d'images intimes non consensuelles, y compris les deepfakes générés par l'IA.

La législation impose aux plateformes de supprimer les contenus signalés dans les 48 heures, sous la supervision de la Commission fédérale du commerce. Les dispositions pénales de la loi entrent en vigueur immédiatement, permettant de poursuivre les personnes qui publient ou menacent de publier sciemment des images intimes non consensuelles (y compris des deepfakes générés par l'IA) sur le territoire des États-Unis.

Bien que la loi ait bénéficié d'un soutien bipartisan exceptionnel, ainsi que du soutien des entreprises technologiques et des groupes de défense des droits, ses détracteurs affirment qu'elle risque de supprimer des contenus légitimes et de menacer les outils de confidentialité comme le chiffrement. Le mois dernier, l'Electronic Frontier Foundation (EFF) a déclaré opposition au projet de loi, affirmant que les mécanismes de retrait qu'elle impose ciblent un éventail plus large de matériel que la définition plus étroite d'images intimes non consensuelles trouvée ailleurs dans la législation.

La disposition de retrait de TAKE IT DOWN s'applique à une catégorie de contenu beaucoup plus large – potentiellement toute image à caractère intime ou sexuel – que les définitions plus restrictives du NCII figurant ailleurs dans le projet de loi. Cette disposition manque également de garanties essentielles contre les demandes de retrait frivoles ou de mauvaise foi.

Les services s'appuieront sur des filtres automatisés, des outils notoirement peu fiables. Ils signalent fréquemment des contenus légaux, allant des commentaires d'usage loyal aux reportages d'actualité. Le délai serré imposé par la loi impose aux applications et aux sites web de supprimer les propos dans les 48 heures, ce qui est rarement suffisant pour vérifier si le propos est réellement illégal.

« En conséquence, les fournisseurs de services en ligne, en particulier les plus petits, choisiront probablement d’éviter le risque juridique onéreux en dépubliant simplement le discours plutôt que de tenter de le vérifier. »

Les plateformes ont désormais jusqu'à un an à compter de la promulgation de la loi pour établir un processus formel de notification et de retrait, permettant aux personnes concernées ou à leurs représentants d'invoquer la loi pour demander la suppression du contenu.

Cela signifie que même si les dispositions pénales sont immédiatement en vigueur, les plateformes ne sont pas légalement tenues de se conformer à l’infrastructure de retrait (comme la réception et le traitement des demandes) avant l’expiration de ce délai d’un an.

La loi TAKE IT DOWN couvre-t-elle le contenu de célébrités généré par l’IA ?

Bien que la loi TAKE IT DOWN soit applicable à tous les États, elle n'interdit pas nécessairement tous les médias de célébrités utilisant l'IA. Elle criminalise la diffusion d'images intimes non consensuelles. comme Deepfakes générés par l'IA, uniquement lorsque l'individu représenté avait un attente raisonnable de la vie privée:

La loi stipule :

« (2) INFRACTION IMPLIQUANT DES REPRÉSENTATIONS VISUELLES INTIMES AUTHENTIQUES. —

« (A) IMPLIQUANT DES ADULTES.—Sauf [à des fins de preuve, de rapport, etc.], il est illégal pour toute personne, dans le commerce interétatique ou étranger, d'utiliser un service informatique interactif pour publier sciemment une représentation visuelle intime d'une personne identifiable qui n'est pas mineure si—

« (i) la représentation visuelle intime a été obtenue ou créée dans des circonstances dans lesquelles la personne savait ou aurait raisonnablement dû savoir que la personne identifiable avait une attente raisonnable de respect de sa vie privée ;

« (ii) ce qui est représenté n’a pas été volontairement exposé par la personne identifiable dans un cadre public ou commercial [c'est-à-dire du porno auto-édité];

« (iii) ce qui est représenté n’est pas une question d’intérêt public ; et

« (iv) la publication de la représentation visuelle intime —

« (I) a pour but de causer un préjudice ; ou

« (II) cause un préjudice, notamment psychologique, financier ou à la réputation, à la personne identifiable.

L'hypothèse de « l'attente raisonnable de confidentialité » appliquée ici a pas traditionnellement favorisé les droits des célébrités. Selon la jurisprudence qui émergera, il est possible que même explicite Le contenu généré par l’IA impliquant des personnalités publiques dans des contextes publics ou commerciaux peut ne pas être soumis aux interdictions de la loi.

La clause finale sur la détermination de la ampleur du mal est célèbre pour son élasticité en termes juridiques, et en ce sens, n'ajoute rien de particulièrement nouveau à la charge législative. Cependant, intention causer du tort semblerait limiter la portée de la loi au contexte de la « vengeance pornographique », où un ex-partenaire (inconnu) publie du contenu médiatique réel ou faux d'un autre ex-partenaire (tout aussi inconnu).

Bien que l’exigence de « préjudice » de la loi puisse sembler inadaptée aux cas où des utilisateurs anonymes publient des représentations de célébrités générées par l’IA, elle pourrait s’avérer plus pertinente dans les scénarios de harcèlement, où un modèle plus large de harcèlement soutient la conclusion qu’un individu a délibérément et malicieusement ciblé une personnalité publique sur plusieurs fronts.

Bien que la référence de la loi aux « plateformes couvertes » exclue les chaînes privées telles que Signal ou le courrier électronique de ses dispositions de retrait, cette exclusion ne s'applique qu'à l'obligation de mettre en œuvre un mécanisme de retrait formel d'ici mai 2026. Cela ne signifie pas que l'IA non consensuelle ou les représentations réelles partagées via des communications privées échappent au champ d'application des interdictions pénales de la loi.

De toute évidence, l’absence de mécanismes de signalement sur place n’empêche pas les parties concernées de signaler à la police ce qui est désormais un contenu illégal ; ces parties ne sont pas non plus empêchées d’utiliser les méthodes de contact conventionnelles qu’un site peut mettre à disposition pour déposer une plainte et demander le retrait du contenu offensant.

Les droits laissés pour compte

Plus de sept ans de critiques croissantes de la part du public et des médias à l'encontre des contenus deepfake semblent avoir abouti en un laps de temps inhabituellement court. Cependant, si la loi TAKE IT DOWN prévoit des interdictions fédérales radicales, elle pourrait ne pas s'appliquer à tous les cas impliquant des simulations générées par l'IA. Certains scénarios doivent donc être traités dans le cadre de la législation croissante des États sur les deepfakes, où les lois adoptées reflètent souvent des « intérêts locaux ».

Par exemple, en Californie, le Loi californienne sur les droits des célébrités limite l'usage exclusif de l'identité d'une célébrité à elle-même et à sa succession, même après sa mort ; à l'inverse, le Tennessee Loi ELVIS se concentre sur la protection des musiciens contre les reproductions non autorisées de voix et d'images générées par l'IA, chaque cas reflétant une approche ciblée des groupes d'intérêt qui sont importants au niveau de l'État.

La plupart des États ont maintenant des lois ciblant les deepfakes sexuels, bien que beaucoup ne précisent pas si ces protections s'étendent également aux particuliers et aux personnalités publiques. Parallèlement, les deepfakes politiques qui auraient contribué à éperon Le soutien de Donald Trump à la nouvelle loi fédérale pourrait, en pratique, se heurter à des barrières constitutionnelles dans certains contextes.

^† Version archivée : https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^{† †} Version archivée (ne présente pas les prix mensuels) : https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Le véritable « chef de cabinet » du PDG de CivitAI est énumérés sur LinkedIn sous un nom sans rapport, tandis que le nom similaire « Faiona » est un modérateur officiel du personnel de CivitAI au domaine subreddit.

Première publication le mardi 20 mai 2025