Reddit proíbe comunidade Deepfake 'SFW'

No fim de semana, aparentemente por volta de domingo, o Reddit baniu a comunidade de deepfakes nominalmente ‘SFW’ (Safe For Work) intitulada r/deepfakesfw. O subreddit foi uma das primeiras respostas à solicitação do gigante da mídia social eliminação do sub original r/deepfakes cheio de pornografia de IA em 2018.

A lenda (relativamente) padronizada que agora saúda (instantâneo de arquivo tirado na segunda-feira, 13 de junho) qualquer pessoa que visite o sub explica que 'foi banido devido a uma violação do Reddit's regras contra a pornografia involuntária'.

A nova página inicial do r/deepfakesfw.

O sub r/deepfakesfw não era frequentemente arquivado por plataformas populares de conservação, mas o mais instantâneo recente do WayBack Machine, tirada há cerca de dez dias (em 3 de junho de 2022), indica que o sub tinha 3,095 leitores naquele momento.

Na verdade, é um número maior de inscritos do que r/DeepFakesSFW (note os 's' extras), que atualmente tem Leitores 2,827 (instantâneo de arquivo tirado na segunda-feira, 13 de junho de 2022). A comunidade 'legítima' mais popular de deepfakes SFW parece ser atualmente r/SFWdeepfakes, que no momento da escrita tem Leitores 16,636 (foto tirada na segunda-feira, 13 de junho de 2022).

Nem pergunte

O que parece ter condenado r/deepfakesfw não foi a postagem, mas o solicitando de pornografia deepfake. As regras do Reddit sobre mídia sexualmente explícita declaram:

'[Imagens] ou vídeo de outra pessoa postado com o propósito específico de falsificar conteúdo explícito ou solicitar pornografia “semelhante” (por exemplo, “deepfakes” ou “bubble porn”) também é contra a regra.'

Com base nos últimos feeds RSS disponíveis do agora banido sub SFW, foi a solicitação, e não a postagem, do conteúdo deepfake NSFW que finalmente desencadeou a proibição:

Algumas das postagens finais, claramente NSFW, do agora morto subreddit r/deepfakesfw. Fonte: Inoreader.

Embora as postagens para as quais essas postagens de RSS apontam não estejam mais disponíveis, clicar nos links de perfil dos solicitantes (desfocados na imagem acima) revela que muitos dos postadores solicitam conteúdo deepfake banido em mais de um fórum e estão pedindo ou oferecendo alguns dos conteúdos mais extremos desse tipo, incluindo pornografia de incesto e vários tons de temas pornográficos involuntários.

Isso sugere que os subs do Reddit 'SFW' restantes sobrevivem pela velocidade, diligência e tempos de resposta rápidos de seus moderadores, uma vez que parece que o Reddit não está disposto a se tornar uma espécie de fórum de 'anúncios classificados' para as pessoas se conectarem e negociarem deepfakes ilegítimos via DMs (nos casos em que isso não pode ser solicitado explicitamente em uma postagem).

Nesse caso, o r/DeepFakesSFW ainda não banido pode estar vivendo em tempo emprestado; suas duas principais postagens atuais ao inserir o URL do subreddit raiz com o tema 'antigo' do Reddit ativado foram especificamente marcadas como 'NSFW' (uma tag que presumivelmente nem deveria estar disponível nesta comunidade em particular).

Dependendo das circunstâncias, algumas postagens que quebram as regras aparecem atualmente no sub r/DeepFakesSFW. Fonte: https://www.reddit.com/r/DeepFakesSFW/

Você pode ver essas duas postagens NSFW no topo do fórum r/DeepFakesSFW de hoje arquivado SUA PARTICIPAÇÃO FAZ A DIFERENÇA (foto tirada na segunda-feira, 13 de junho de 2022).

Na verdade, não há 'talento' NSFW disponível ao fazer uma nova postagem no r/DeepFakesSFW, que está em operação há quatro anos, de acordo com as informações da barra lateral:

'Fairs' disponíveis ao postar no r/DeepFakesSFW.

Portanto, o NSFW tags em r/DeepFakesSFW parecem ter sido aplicadas por moderadores no fórum ou por administradores de nível superior – ou mesmo algoritmos, possivelmente sem qualquer intervenção ou oposição disponível por moderadores locais. Entrei em contato com o único moderador listado do r/DeepFakesSFW sobre isso e postarei todas as atualizações disponíveis.

(EDIT, terça-feira, 14 de junho de 2022 – Um moderador do r/DeepFakesSFW respondeu, afirmando 'Parece acontecer quando a conta do usuário é NSFW'. Presumivelmente, a única maneira de diminuir a probabilidade de tais solicitações nos subreddits deepfake do SFW seria, portanto, banir os usuários que 'ganharam' essa classificação.)

A maior parte do conteúdo deste subreddit e do r/SFWdeepfakes maior se preocupa com o uso da tecnologia deepfake para 'reformular' atores de filmes populares ou clássicos, ou de outra forma para se divertir de forma mais inócua com a mídia popular e a tecnologia deepfake, e de fato se qualificam como 'SFW'.

Mesmo que muitas dessas postagens se aproximem perigosamente de proibições baseadas em direitos autorais, a sobrevivência contínua de postagens de vídeo deepfake não pornô 'apropriadas por IP' por grandes deepfakers do YouTube, como Ctrl-Shift-Face, sugere uma ampla tolerância do estúdio e do detentor de direitos em relação tal atividade, pelo menos por enquanto.

A aparência 'inocente' do processo e da ecoestrutura Deepfake

Duas semanas atrás veio à luz (e mais discussão) que o Google baniu repentinamente o software de criação de deepfake de seus populares ambientes de processamento em nuvem Colab. Até o momento, o Colab aparentemente é apenas 'acionado' por tentativas de execução DeepFace Lab (DFL), o software deepfakes mais popular do mundo (e o mais intimamente associado à pornografia de IA), em vez de implementações menos frequentes, como Troca de rosto, que tem melhor reputação, embora execute exatamente as mesmas tarefas que o DFL.

Até certo ponto, essa abordagem pode ter sido a única maneira pela qual o Colab poderia ter implementado qualquer restrição à produção de pornografia deepfake, uma vez que o processo de treinamento deepfake real usa nada além de software de código aberto e imagens de rosto altamente cortadas (geralmente em meros 512x512px, geralmente menos), com quase zero possibilidade de algoritmos de reconhecimento de imagem interceptar qualquer conteúdo pornográfico real contente.

No momento em que o modelo deepfake é treinado, o deepfaker não precisa mais do enorme poder de processamento do Colab ou de uma GPU local cara. mais real conversões (ou seja, o processo de impor um rosto em um vídeo, pornográfico ou não), pode ser realizado localmente, em GPUs de laptop de baixa potência – ou mesmo em uma CPU (com um tempo de processamento um pouco maior). No momento em que algo pornográfico está acontecendo no processo de deepfake, o Colab há muito foi cortado de cena.

Portanto, os elementos constitutivos que passam entre os criadores de pornografia deepfake raramente representam mais do que uma possível infração menor de direitos autorais, na forma de passagem de 'face sets', que os criadores deepfake extraíram de vídeos do YouTube, Blu-rays, entrevistas na televisão , mídia social e várias outras fontes.

Uma política de 'terra arrasada' está chegando para as comunidades deepfake?

A questão que assombra os habitantes das comunidades deepfake do Discord, como DeepFace Lab (Incluindo DeepFace Live), Troca de rosto, Editor de vídeo da máquina (MVE, um software baseado em GUI ambiente para DFL, com muitos recursos adicionados) e novos servidores Discord deepfake baseados em áudio, como Deepfakes de áudio is Os proprietários atuais de portais e plataformas simplesmente banirão as comunidades deepfake por princípio, em vez de arcar com as despesas de moderação constante contra uma maré de adeptos e criadores do NSFW?

Bryan Lyon, um dos desenvolvedores do FaceSwap e proprietário do servidor Discord associado ao projeto, comentou^†:

'Conseguimos permanecer no Discord, apesar de vários expurgos, permanecendo absolutamente limpos. Não temos canais ocultos ou um segundo servidor secreto com conteúdo ilícito. Houve um expurgo do popular servidor DeepFaceLab alguns anos atrás. Todos nele foram banidos. Eles tinham papéis apenas para convidados com acesso a canais com pornografia não consensual.'

Dado que o Google, ele próprio um dos maiores recursos tecnológicos de hospedagem do mundo, baniu totalmente o treinamento deepfake em seus servidores e GPUs, é até possível que o GitHub, de propriedade da Microsoft, decida que facilitando essas tecnologias* eventualmente não valerá a ambigüidade moral ou o investimento da supervisão.

Neste momento, o processo de legitimar as tecnologias deepfake para que seu uso transite da pornografia caseira para a produção de filmes e TV e usos não infratores/criminosos é muito incipiente para produzir diretrizes políticas claras para plataformas e serviços de hospedagem da comunidade.

* Arquivo de https://github.com/search?q=deepfake de segunda-feira, 13 de junho de 2022.
† Em DMs privados no Discord.

Publicado pela primeira vez em 13 de junho de 2022. Editado às 3h08 UTC para correção de imagem.
Alterado na terça-feira, 14 de junho de 2022, às 6h24 UTC, para adicionar a resposta do moderador do Reddit sobre o status NSFW de alguns pôsteres. Também a imagem altera na ilustração de feeds RSS.