CivitAI en crise de fournisseur de paiement, alors que Trump signe la loi anti-deepfake

Le président Trump a maintenant signé la loi TAKE IT DOWN, qui criminalise les deepfakes sexuels à l’échelle fédérale aux États-Unis. Au même moment, la communauté CivitAI a tenté de « nettoyer son acte » en ce qui concerne les contenus NSFW et les sorties de célébrités, mais cela n’a finalement pas réussi à apaiser les processeurs de paiement, ce qui a conduit le site à rechercher des alternatives ou à faire face à une fermeture. Tout cela en à peine deux semaines depuis que le plus ancien et le plus grand site de deepfake pornographique au monde est hors ligne…

Il s’est écoulé une poignée de semaines mouvementées pour l’état de la création non réglementée d’images et de vidéos deepfake. Il y a plus de deux semaines, le numéro un du domaine pour la communauté partageant des deepfakes de célébrités, Mr. Deepfakes, s’est soudainement mis hors ligne après plus de sept ans en position dominante et largement étudiée en tant que centre mondial pour les contenus de célébrités sexualisés par IA. Au moment de sa fermeture, le site recevait en moyenne plus de cinq millions de visites par mois.

Arrière-plan, le domaine Mr. Deepfakes en début mai; encadré, l’avis de suspension, désormais remplacé par une erreur 404, depuis que le domaine a été apparemment acheté par un acheteur inconnu le 4 mai 2025 (https://www.whois.com/whois/mrdeepfakes.com). Source: mrdeepfakes.com

La cessation des services de Mr. Deepfakes a été officiellement attribuée au retrait d’un « fournisseur de services critique » (voir l’image ci-dessus, qui a été remplacée par la défaillance du domaine dans la semaine qui a suivi). Cependant, une enquête journalistique collaborative avait déanonymisé un personnage clé derrière Mr. Deepfakes directement avant la fermeture, laissant la possibilité que le site ait été fermé pour des raisons personnelles et/ou juridiques de cet individu.

Au même moment, CivitAI, la plateforme commerciale largement utilisée pour les contenus de célébrités et NSFW LoRAs, a imposé un ensemble de mesures de censure inhabituelles et controversées. Ces mesures ont affecté la génération de deepfakes, l’hébergement de modèles et un ensemble plus large de nouvelles règles et de restrictions, notamment des interdictions totales sur certains fétiches NSFW marginaux et ce qu’elle a qualifié d’« idéologies extrémistes ».

Ces mesures ont été provoquées par des fournisseurs de paiement qui ont apparemment menacé de retirer leurs services du domaine à moins que des changements concernant les contenus NSFW et les représentations de célébrités par IA ne soient apportés.

CivitAI Coupé

À ce jour, il semble que les mesures prises par CivitAI n’ont pas apaisé VISA et Mastercard: un nouvel article^† sur le site, de la part du responsable des relations avec la communauté Alasdair Nicoll, révèle que les paiements par carte pour CivitAI (dont le système d’argent virtuel « buzz » est principalement alimenté par des cartes de crédit et de débit réelles) seront interrompus à partir de ce vendredi (23 mai 2025).

Cela empêchera les utilisateurs de renouveler leurs abonnements mensuels ou d’acheter de nouveaux buzz. Bien que Nicoll conseille aux utilisateurs de conserver leurs avantages d’abonnement actuels en passant à un abonnement annuel (coûtant^†† 100 $ à 550 $ USD) avant vendredi, il est clair que l’avenir est quelque peu incertain pour le domaine à ce stade (il convient de noter que les abonnements annuels sont devenus disponibles au même moment que l’annonce concernant la perte de processeurs de paiement a été faite).

En ce qui concerne le manque de processeur de paiement, Nicoll déclare ‘Nous parlons à chaque fournisseur confortable avec l’innovation de l’IA’.

En ce qui concerne l’échec des efforts récents pour repenser de manière adéquate les politiques du site en matière de contenus de célébrités et NSFW, Nicoll déclare dans l’article:

‘Certaines sociétés de paiement qualifient les plateformes de génération d’IA de risque élevé, en particulier lorsque nous autorisons des contenus matures générés par les utilisateurs, même lorsqu’ils sont légaux et modérés. Ce choix de politique, et non ce que les utilisateurs ont fait, a forcé la coupure.’

Un commentaire de l’utilisateur ‘Faeia’, désigné comme le chef d’état-major de l’entreprise dans son profil CivitAI*, ajoute du contexte à cette annonce:

‘Juste pour clarifier, nous sommes supprimés du processeur de paiement parce que nous avons choisi de ne pas supprimer les contenus NSFW et pour adultes de la plateforme. Nous restons engagés à soutenir tous les types de créateurs et travaillons sur des solutions alternatives.’

Comme un moteur traditionnel de nouvelles technologies, il n’est pas rare que les contenus NSFW soient utilisés pour lancer l’intérêt pour un domaine, une technologie ou une plateforme – seulement pour que les premiers adeptes soient rejetés une fois qu’un capital et/ou une base d’utilisateurs « légitimes » suffisants sont établis (c’est-à-dire suffisamment d’utilisateurs pour que l’entité survive, lorsqu’elle est privée d’un contexte NSFW).

Il a semblé pendant un moment que CivitAI allait suivre Tumblr et diverses autres initiatives sur cette voie vers un produit « sanifié » prêt à oublier ses racines. Cependant, la controverse et la stigmatisation croissantes autour des contenus générés par IA représentent un poids cumulatif qui semble destiné à empêcher une sauvegarde de dernière minute, dans ce cas. Entre-temps, l’annonce officielle conseille aux utilisateurs d’adopter le crypto comme méthode de paiement alternative.

Fausse Sortie

L’arrivée du président Donald Trump signant avec enthousiasme la loi fédérale TAKE IT DOWN est susceptible d’avoir influencé certains de ces événements. La nouvelle loi criminalise la distribution d’images intimes non consenties, y compris les deepfakes générés par IA.

La législation exige que les plateformes suppriment le contenu signalé dans les 48 heures, avec une application de la loi supervisée par la Federal Trade Commission. Les dispositions pénales de la loi entrent en vigueur immédiatement, permettant la poursuite des personnes qui publient sciemment ou menacent de publier des images intimes non consenties (y compris les deepfakes générés par IA) dans le cadre des États-Unis.

Bien que la loi ait reçu un rare soutien bipartisan, ainsi que le soutien des entreprises technologiques et des groupes de défense, les critiques affirment qu’elle peut supprimer des contenus légitimes et menacer les outils de confidentialité tels que le cryptage. Le mois dernier, la Electronic Frontier Foundation (EFF) a déclaré s’opposer au projet de loi, affirmant qu’il ciblait une catégorie de contenus plus large que la définition plus étroite des images intimes non consenties trouvée ailleurs dans la législation.

‘La disposition de retrait dans TAKE IT DOWN s’applique à une catégorie de contenus beaucoup plus large — potentiellement toute image impliquant du contenu intime ou sexuel — que les définitions NCII plus étroites trouvées ailleurs dans le projet de loi. La disposition de retrait manque également de garanties critiques contre les demandes de retrait frivoles ou de mauvaise foi.

‘Les services s’appuieront sur des filtres automatisés, qui sont des outils infâmes. Ils signalent fréquemment des contenus légaux, des commentaires à usage équitable à des rapports d’information. Le délai serré de la loi exige que les applications et les sites Web suppriment les discours dans les 48 heures, rarement suffisamment de temps pour vérifier si le discours est réellement illégal.

‘En conséquence, les fournisseurs de services en ligne, en particulier les plus petits, choisiront probablement d’éviter le risque juridique onéreux en dépubliant simplement le discours plutôt que d’essayer de le vérifier.’

Les plateformes ont maintenant jusqu’à un an à compter de la promulgation de la loi pour établir un processus de notification et de retrait formel, permettant aux personnes touchées ou à leurs représentants d’invoquer la loi pour demander le retrait du contenu.

Cela signifie que même si les dispositions pénales sont immédiatement en vigueur, les plateformes ne sont pas légalement tenues de se conformer à l’infrastructure de retrait (telle que la réception et le traitement des demandes) jusqu’à ce que cette fenêtre d’un an se soit écoulée.

La loi TAKE IT DOWN couvre-t-elle les contenus de célébrités générés par IA?

Bien que la loi TAKE IT DOWN traverse toutes les frontières étatiques, elle n’interdit pas nécessairement tous les médias générés par IA mettant en scène des célébrités. La loi criminalise la distribution d’images intimes non consenties, y compris les deepfakes générés par IA, uniquement lorsque la personne représentée avait une attente raisonnable de confidentialité:

La loi stipule:

« (2) INFRACTION IMPLIQUANT DES REPRÉSENTATIONS INTIMES AUTHENTIQUES. —

« (A) IMPLIQUANT DES ADULTES. — Sauf [à des fins de preuve, de déclaration, etc.], il est illégal pour toute personne, dans le commerce interétatique ou étranger, d’utiliser un service informatique interactif pour publier sciemment une représentation visuelle intime d’une personne identifiable qui n’est pas mineure si —

« (i) la représentation visuelle intime a été obtenue ou créée dans des circonstances dans lesquelles la personne savait ou aurait dû savoir que la personne identifiable avait une attente raisonnable de confidentialité;

« (ii) ce qui est représenté n’a pas été exposé volontairement par la personne identifiable dans un cadre public ou commercial ;

« (iii) ce qui est représenté n’est pas une question d’intérêt public; et

« (iv) la publication de la représentation visuelle intime —

« (I) est destinée à causer un préjudice; ou

« (II) cause un préjudice, y compris un préjudice psychologique, financier ou de réputation, à la personne identifiable.

La condition d’« attente raisonnable de confidentialité » appliquée ici n’a pas traditionnellement favorisé les droits des célébrités. Selon la jurisprudence qui émergera finalement, il est possible que même les contenus générés par IA explicites mettant en scène des personnalités publiques dans des cadres publics ou commerciaux ne tombent pas sous les interdictions de la loi.

La dernière clause déterminant l’étendue du préjudice est familièrement élastique en termes juridiques, et à cet égard, n’ajoute rien de particulièrement nouveau au fardeau législatif. Cependant, l’intention de causer un préjudice semble limiter la portée de la loi au contexte du « revenge porn », où un (inconnu) ex-partenaire publie des contenus médiatiques réels ou faux d’un (également inconnu) autre ex-partenaire.

Alors que l’exigence de « préjudice » de la loi peut sembler mal adaptée aux cas où des utilisateurs anonymes publient des représentations générées par IA de célébrités, elle pourrait s’avérer plus pertinente dans les scénarios de harcèlement, où un modèle plus large de harcèlement soutient la conclusion qu’un individu a délibérément et malicieusement ciblé une personnalité publique à travers plusieurs fronts.

Alors que la référence de la loi aux « plateformes couvertes » exclut les canaux privés tels que Signal ou le courrier électronique de ses dispositions de retrait, cette exclusion s’applique uniquement à l’obligation de mettre en œuvre un mécanisme de retrait formel d’ici mai 2026. Elle ne signifie pas que les représentations non consenties ou les dépictions réelles partagées par le biais de communications privées se trouvent en dehors du champ d’application des interdictions pénales de la loi.

Évidemment, le manque de mécanismes de signalement sur site n’empêche pas les parties touchées de signaler ce qui est maintenant un contenu illégal à la police; ni ne les empêche d’utiliser les méthodes de contact conventionnelles qu’un site peut rendre disponibles pour déposer une plainte et demander le retrait du matériel offensant.

Les Droits Laissés Pour Compte

Plus de sept ans de critiques publiques et médiatiques croissantes sur les contenus deepfake semblent avoir abouti dans un laps de temps inhabituellement court. Cependant, même si la loi TAKE IT DOWN offre des interdictions fédérales étendues, elle peut ne pas s’appliquer dans tous les cas impliquant des simulations générées par IA, laissant certains scénarios à être abordés dans le cadre croissant de la législation sur les deepfakes au niveau des États, où les lois adoptées reflètent souvent « l’intérêt local ».

Par exemple, en Californie, la loi californienne sur les droits des célébrités limite l’utilisation exclusive de l’identité d’une célébrité à elle-même et à son héritage, même après sa mort; inversement, la loi ELVIS du Tennessee se concentre sur la protection des musiciens contre les reproductions de voix et d’images générées par IA non autorisées, chaque cas reflétant une approche ciblée sur les groupes d’intérêt qui sont importants au niveau de l’État.

La plupart des États ont maintenant des lois visant les deepfakes sexuels, bien que beaucoup ne précisent pas si ces protections s’étendent également aux particuliers et aux personnalités publiques. Entre-temps, les deepfakes politiques qui auraient incité le soutien de Donald Trump à la nouvelle loi fédérale peuvent, dans la pratique, heurter des barrières constitutionnelles dans certains contextes.

^† Version archivée: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Version archivée (ne comporte pas de prix mensuels): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Le véritable « chef d’état-major » du PDG de CivitAI est répertorié sur LinkedIn sous un nom sans rapport, tandis que le nom similaire « Faiona » est un modérateur officiel du personnel de CivitAI sur le subreddit du domaine civitai.

Publié pour la première fois mardi 20 mai 2025