CivitAI em Crise de Fornecedor de Pagamento, à Medida que Trump Assina Lei Anti-Deepfake

O presidente Trump assinou a Lei TAKE IT DOWN, que criminaliza as deepfakes sexuais em nível federal nos EUA. Ao mesmo tempo, a comunidade CivitAI tentou “limpar seu ato” em relação ao conteúdo NSFW e de celebridades, mas acabou falhando em aplacar os processadores de pagamento, levando o site a buscar alternativas ou enfrentar o fechamento. Tudo isso em apenas duas semanas desde que o maior site de deepfake pornô do mundo foi offline…

Foram semanas memoráveis para o estado de deepfaking de imagem e vídeo não regulamentado. Há mais de duas semanas, o número #1 de domínio para a comunidade que compartilha deepfakes de celebridades, Mr. Deepfakes, foi offline após mais de sete anos em uma posição dominante e muito estudada como o locus global para conteúdo de celebridades sexualizado. No momento em que foi fechado, o site recebia uma média de mais de cinco milhões de visitas por mês.

Fundo, o domínio Mr. Deepfakes em meados de maio; inseto, o aviso de suspensão, agora substituído por um erro 404, desde que o domínio foi aparentemente comprado por um comprador desconhecido em 4 de maio de 2025 (https://www.whois.com/whois/mrdeepfakes.com). Fonte: mrdeepfakes.com

A cessação dos serviços do Mr. Deepfakes foi oficialmente atribuída à retirada de um “fornecedor de serviços crítico” (veja a imagem de inseto acima, que foi substituída pelo falha do domínio dentro de uma semana). No entanto, uma investigação jornalística colaborativa havia desanônimizado uma figura-chave por trás do Mr. Deepfakes diretamente antes do fechamento, permitindo a possibilidade de que o site foi fechado por razões pessoais e/ou legais daquele indivíduo.

Ao redor do mesmo tempo, a CivitAI, a plataforma comercial amplamente usada para celebridades e NSFW LoRAs, impôs um conjunto de medidas de autocensura incomuns e controversas. Essas medidas afetaram a geração de deepfakes, a hospedagem de modelos e uma gama mais ampla de novas regras e restrições, incluindo proibições totais de certos fetiches NSFW marginais. e o que chamou de “ideologias extremistas”.

Essas medidas foram provocadas por fornecedores de pagamento que aparentemente ameaçaram retirar os serviços do domínio, a menos que mudanças fossem feitas em relação ao conteúdo NSFW e às representações de celebridades.

CivitAI Cortado

Até hoje, parece que as medidas tomadas pela CivitAI não aplacaram a VISA e o Mastercard: um novo post^† no site, do Gerente de Engajamento da Comunidade Alasdair Nicoll, revela que os pagamentos por cartão para a CivitAI (cujo sistema de “buzz” virtual é alimentado principalmente por cartões de crédito e débito do mundo real) serão interrompidos a partir desta sexta-feira (23 de maio de 2025).

Isso impedirá que os usuários renovem as assinaturas mensais ou comprem novo “buzz”. Embora Nicoll aconselhe que os usuários possam manter os privilégios de assinatura atualizados mudando para uma assinatura anual (custando^†† $100-$550 USD) antes de sexta-feira, claramente o futuro é um pouco incerto para o domínio neste momento (Deve-se notar que as assinaturas anuais foram ao ar ao mesmo tempo que o anúncio sobre a perda de processadores de pagamento foi feito).

Com relação à falta de um processador de pagamento, Nicoll diz ‘Estamos conversando com todos os fornecedores confortáveis com a inovação em IA’.

Quanto à falha dos esforços recentes para repensar adequadamente as políticas do site em torno de conteúdo de celebridades e NSFW, Nicoll afirma no post:

‘Algumas empresas de pagamento rotulam plataformas de IA gerativa como de alto risco, especialmente quando permitimos conteúdo maduro gerado pelo usuário, mesmo quando é legal e moderado. Essa escolha de política, e não algo que os usuários fizeram, forçou o corte.’

Um comentário do usuário ‘Faeia’, designado como o chefe de gabinete da empresa no perfil da CivitAI *, adiciona contexto a este anúncio:

‘Apenas para esclarecer, estamos sendo removidos do processador de pagamento porque escolhemos não remover conteúdo NSFW e adulto da plataforma. Continuamos comprometidos em apoiar todos os tipos de criadores e estamos trabalhando em soluções alternativas.’

Como um motor tradicional de novas tecnologias, não é incomum que o conteúdo NSFW seja usado para iniciar o interesse em um domínio, tecnologia ou plataforma – apenas para os primeiros adeptos serem rejeitados uma vez que capital e/ou uma base de usuários seja estabelecida (i.e., usuários suficientes para a entidade sobreviver, quando privada de um contexto NSFW).

Parecia por um tempo que a CivitAI seguiria Tumblr e diversas outras iniciativas pelo caminho de um produto “sanitizado” pronto para esquecer suas raízes. No entanto, a controvérsia e o estigma crescentes em torno do conteúdo gerado por IA de qualquer tipo representam um peso cumulativo que parece destinado a evitar um resgate de última hora, neste caso. Enquanto isso, o anúncio oficial aconselha os usuários a adotar criptomoedas como um método de pagamento alternativo.

Fake Out

A assinatura entusiástica do presidente Donald Trump da Lei Federal TAKE IT DOWN provavelmente influenciou alguns desses eventos. A nova lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo deepfakes gerados por IA.

A legislação exige que as plataformas removam o conteúdo sinalizado dentro de 48 horas, com a aplicação da lei supervisionada pela Comissão Federal de Comércio. As disposições criminais da lei entram em vigor imediatamente, permitindo a persecução de indivíduos que publicam ou ameaçam publicar imagens íntimas não consensuais (incluindo deepfakes gerados por IA) dentro da jurisdição dos EUA.

Embora a lei tenha recebido apoio bipartidário raro, bem como apoio de empresas de tecnologia e grupos de defesa, críticos argumentam que pode suprimir conteúdo legítimo e ameaçar ferramentas de privacidade, como criptografia. No mês passado, a Electronic Frontier Foundation (EFF) declarou oposição ao projeto de lei, afirmando que os mecanismos de remoção que ele exige visam uma gama mais ampla de material do que a definição mais estreita de imagens íntimas não consensuais encontrada em outras partes da legislação.

‘A disposição de remoção da TAKE IT DOWN se aplica a uma categoria de conteúdo muito mais ampla – potencialmente qualquer imagem envolvendo conteúdo íntimo ou sexual – do que a definição mais estreita de imagens íntimas não consensuais encontrada em outras partes do projeto de lei. A disposição de remoção também carece de salvaguardas críticas contra solicitações de remoção frívolas ou de má-fé.

‘Os serviços confiarão em filtros automatizados, que são ferramentas infamemente grosseiras. Eles frequentemente sinalizam conteúdo legal, desde comentários de uso justo até relatórios de notícias. O prazo apertado da lei exige que os aplicativos e sites removam a fala dentro de 48 horas, raramente tempo suficiente para verificar se a fala é ilegal.

‘Como resultado, os provedores de serviços online, particularmente os menores, provavelmente escolherão evitar o risco legal oneroso simplesmente despublicando a fala, em vez de tentar verificá-la.’

As plataformas agora têm até um ano a partir da promulgação da lei para estabelecer um processo formal de notificação e remoção, permitindo que indivíduos afetados ou seus representantes invoquem a lei para solicitar a remoção do conteúdo.

Isso significa que, embora as disposições criminais estejam em vigor imediatamente, as plataformas não são legalmente obrigadas a cumprir a infraestrutura de remoção (como receber e processar solicitações) até que a janela de um ano tenha expirado.

A Lei TAKE IT DOWN Aborda o Conteúdo de Celebridades Gerado por IA?

Embora a Lei TAKE IT DOWN ultrapasse todas as fronteiras estaduais, não proíbe necessariamente todos os meios de comunicação de IA de celebridades. A lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo deepfakes gerados por IA, apenas quando o indivíduo retratado tinha uma expectativa razoável de privacidade:

A lei afirma:

“(2) OFENSA ENVOLVENDO DEPIÇÕES VISUAIS ÍNTIMAS AUTÊNTICAS.—

“(A) ENVOLVENDO ADULTOS.—Exceto [para fins de evidência, relatórios, etc.], será ilegal para qualquer pessoa, no comércio interestadual ou estrangeiro, usar um serviço de computador interativo para publicar intencionalmente uma representação visual íntima de um indivíduo identificável que não é menor de idade se—

“(i) a representação visual íntima foi obtida ou criada sob circunstâncias em que a pessoa sabia ou deveria ter sabido que o indivíduo identificável tinha uma expectativa razoável de privacidade;

“(ii) o que é representado não foi exposto voluntariamente pelo indivíduo identificável em um ambiente público ou comercial [i.e., autopublicação de pornografia];

“(iii) o que é representado não é uma questão de interesse público; e

“(iv) a publicação da representação visual íntima—

“(I) tem a intenção de causar dano; ou

“(II) causa dano, incluindo dano psicológico, financeiro ou de reputação, ao indivíduo identificável.

A contingência de “expectativa razoável de privacidade” aplicada aqui não favoreceu tradicionalmente os direitos das celebridades. Dependendo da lei que eventualmente emerge, é possível que mesmo o conteúdo gerado por IA explícito envolvendo figuras públicas em ambientes públicos ou comerciais possa não cair sob as proibições da Lei.

A cláusula final sobre a determinação da extensão do dano é famosamente elástica em termos legais, e, nesse sentido, não acrescenta nada particularmente novo ao fardo legislativo. No entanto, a intenção de causar dano parece limitar o escopo da Lei ao contexto de “pornografia de vingança”, onde um (desconhecido) ex-parceiro publica conteúdo de mídia real ou falso de um (igualmente desconhecido) outro ex-parceiro.

Embora o requisito de “dano” da Lei possa parecer mal adaptado a casos em que usuários anônimos postam representações de celebridades geradas por IA, pode ser mais relevante em cenários de assédio, onde um padrão mais amplo de assédio apoia a conclusão de que um indivíduo foi deliberadamente e maliciosamente visado por uma figura pública em múltiplos fronts.

Embora a referência da Lei a “plataformas cobertas” exclua canais privados, como Signal ou e-mail, de suas disposições de remoção, essa exclusão se aplica apenas à obrigação de implementar um mecanismo formal de remoção até maio de 2026. Não significa que as representações não consensuais de IA ou reais compartilhadas por meio de comunicações privadas fiquem fora do escopo das proibições criminais da Lei.

Obviamente, a falta de mecanismos de relatórios no local não impede as partes afetadas de relatar o que agora é conteúdo ilegal à polícia; tampouco essas partes são proibidas de usar qualquer método de contato convencional que o site possa disponibilizar para fazer uma reclamação e solicitar a remoção do material ofensivo.

Os Direitos Deixados Para Trás

Mais de sete anos de críticas públicas e midiáticas crescentes sobre o conteúdo de deepfakes parecem ter culminado dentro de um período de tempo excepcionalmente curto. No entanto, enquanto a Lei TAKE IT DOWN oferece proibições federais abrangentes, pode não se aplicar em todos os casos envolvendo simulações geradas por IA, deixando certos cenários para serem abordados sob a crescente tapeçaria de legislação estadual sobre deepfakes, onde as leis aprovadas muitas vezes refletem “interesse local”.

Por exemplo, na Califórnia, a Lei de Direitos de Celebridades da Califórnia limita o uso exclusivo da identidade de uma celebridade a si mesmo e ao seu espólio, mesmo após a morte; por outro lado, a Lei ELVIS do Tennessee se concentra em proteger os músicos contra reproduções de voz e imagem geradas por IA não autorizadas, com cada caso refletindo uma abordagem direcionada a grupos de interesse proeminentes em nível estadual.

A maioria dos estados agora tem leis que visam deepfakes sexuais, embora muitas parem de esclarecer se essas proteções se estendem igualmente a indivíduos privados e figuras públicas. Enquanto isso, os deepfakes políticos que relatadamente impulsionaram o apoio de Donald Trump à nova lei federal podem, na prática, enfrentar barreiras constitucionais em certos contextos.

^† Versão arquivada: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Versão arquivada (não apresenta preços mensais): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* O verdadeiro “chefe de gabinete” do CEO da CivitAI é listado no LinkedIn sob um nome não relacionado, enquanto o nome semelhante “Faiona” é um moderador oficial da equipe da CivitAI no subreddit do domínio .

Publicado pela primeira vez na terça-feira, 20 de maio de 2025