Reddit Prohibe la Comunidad ‘SFW’ de Deepfakes

Durante el fin de semana, aparentemente alrededor del domingo, Reddit prohibió la comunidad de deepfakes nominalmente ‘SFW’ (Segura Para El Trabajo) titulada r/deepfakesfw. El subreddit era una de las primeras respuestas a la eliminación de la comunidad original de r/deepfakes por parte de la gigante de los medios sociales en 2018.

La leyenda relativamente estándar que ahora saluda a cualquier persona que visite el sub explica que ‘fue prohibida debido a una violación de las reglas de Reddit contra la pornografía involuntaria’.

La nueva página principal para r/deepfakesfw.

El sub r/deepfakesfw no fue archivado con frecuencia por plataformas de conservación populares, pero la instantánea más reciente de WayBack Machine, tomada hace unos diez días (el 3 de junio de 2022), indica que el sub tenía 3,095 lectores en ese momento.

En realidad, es un número mayor de suscriptores que r/DeepFakesSFW (nota la ‘s’ adicional), que actualmente tiene 2,827 lectores (instantánea de archivo tomada el lunes 13 de junio de 2022). La comunidad de deepfakes ‘legítima’ SFW más popular parece ser actualmente r/SFWdeepfakes, que en el momento de escribir tiene 16,636 lectores (instantánea tomada el lunes 13 de junio de 2022).

No Preguntes

Lo que parece haber condenado a r/deepfakesfw no fue la publicación, sino la solicitud de pornografía de deepfakes. Las reglas de Reddit sobre Medios de Comunicación Sexualmente Explícitos establecen:

‘[Imágenes] o video de otra persona publicados con el propósito específico de falsificar contenido explícito o solicitar “pornografía de parecidos” (por ejemplo, “deepfakes” o “pornografía de burbujas”) también está en contra de la Regla.’

Basado en los últimos feeds de RSS disponibles del subreddit SFW prohibido, ha sido la solicitud en lugar de la publicación de contenido de deepfakes NSFW lo que finalmente ha desencadenado la prohibición:

Algunos de los últimos posts claramente NSFW del subreddit r/deepfakesfw ahora muerto. Fuente: Inoreader.

Aunque los posts a los que apuntan estos feeds de RSS ya no están disponibles, hacer clic en los enlaces de perfil de los solicitantes (desdibujados en la imagen de arriba) revela que muchos de los publicadores solicitan contenido de deepfakes prohibido en más de un foro y están pidiendo o ofreciendo algunos de los contenidos más extremos de este tipo, incluyendo pornografía incestuosa y varios matices de temas pornográficos involuntarios.

Esto sugiere que los subreddit de deepfakes SFW restantes sobreviven gracias a la velocidad, diligencia y tiempos de respuesta rápidos de sus moderadores, ya que parece que Reddit no está dispuesto a convertirse en una especie de foro de anuncios clasificados para que las personas se conecten y transacten deepfakes ilegítimos a través de DM (en casos donde esto no se puede solicitar explícitamente en un post).

Si es así, entonces el subreddit r/DeepFakesSFW aún no prohibido puede estar viviendo de prestado; sus dos publicaciones principales actuales cuando se ingresa la URL del subreddit raíz con el tema ‘old’ de Reddit habilitado han sido marcadas específicamente como ‘NSFW’ (una etiqueta que presumiblemente no debería estar disponible en esta comunidad en particular).

Dependiendo de las circunstancias, algunos posts que violan las reglas pueden aparecer actualmente en el subreddit r/DeepFakesSFW. Fuente: https://www.reddit.com/r/DeepFakesSFW/

Puedes ver estos dos posts NSFW en la parte superior del foro r/DeepFakesSFW archivado aquí (instantánea tomada el lunes 13 de junio de 2022).

En realidad, no hay etiqueta ‘NSFW’ disponible cuando se crea una nueva publicación en r/DeepFakesSFW, que ha estado en funcionamiento durante cuatro años, según la información de su barra lateral:

Etiquetas disponibles al publicar en r/DeepFakesSFW.

Por lo tanto, las etiquetas NSFW en r/DeepFakesSFW parecen haber sido aplicadas por los moderadores del foro o por administradores de nivel superior, o incluso algoritmos, posiblemente sin ninguna intervención o oposición por parte de los moderadores locales. Me puse en contacto con el único moderador enumerado de r/DeepFakesSFW sobre esto y publicaré cualquier actualización disponible.

(EDICIÓN, martes 14 de junio de 2022 – Un moderador de r/DeepFakesSFW ha respondido, afirmando ‘Parece que sucede cuando la cuenta del usuario es NSFW’. Presumiblemente, la única forma de ralentizar la probabilidad de tales solicitudes en subreddits de deepfakes SFW sería prohibir a los usuarios que han ‘ganado’ esta clasificación.)

La mayoría del contenido en este subreddit, y en el más grande r/SFWdeepfakes, se ocupa de utilizar la tecnología de deepfakes para ‘rehacer’ a actores de películas populares o clásicas, o de otra manera tener algo de diversión más inofensiva con medios populares y tecnología de deepfakes, y de hecho califican como ‘SFW’.

Aunque muchos de esos posts se acercan peligrosamente a las prohibiciones por derechos de autor, la supervivencia continua de publicaciones de videos de deepfakes no pornográficos ‘apropiados por la propiedad intelectual’ de deepfakers importantes de YouTube como Ctrl-Shift-Face sugiere una amplia tolerancia de los estudios y titulares de derechos hacia dicha actividad, al menos por ahora.

La ‘Inocente’ Apariencia del Proceso y la Estructura de Deepfakes

Hace dos semanas se supo (y mucho debate) que Google había prohibido repentinamente el software de creación de deepfakes en sus entornos de procesamiento en la nube Colab. Incluso hasta la fecha, Colab aparentemente solo se ‘dispara’ por intentos de ejecutar DeepFaceLab (DFL), el software de deepfakes más popular del mundo (y el más estrechamente asociado con el porno de IA), en lugar de implementaciones menos frecuentes como FaceSwap, que tiene mejor reputación, aunque realiza exactamente las mismas tareas que DFL.

Hasta cierto punto, este enfoque puede haber sido la única forma en que Colab podría haber implementado alguna restricción en la producción de pornografía de deepfakes, ya que el proceso de capacitación de deepfakes real utiliza solo software de código abierto y imágenes de caras recortadas (generalmente a un mero 512x512px, a menudo menos), con casi cero posibilidad de que los algoritmos de reconocimiento de imágenes intercepten algún contenido pornográfico real.

Una vez que el modelo de deepfake está capacitado, el creador de deepfakes ya no necesita la enorme potencia de procesamiento de Colab o una GPU local costosa. La mayoría de las conversaciones reales (es decir, el proceso de imponer una cara en un video, pornográfico o de otro tipo), se pueden realizar localmente, en GPUs de laptops de baja potencia, o incluso en una CPU (con un tiempo de procesamiento ligeramente más largo). Para cuando sucede algo pornográfico en el proceso de deepfake, Colab ya ha sido eliminado de la imagen.

Por lo tanto, los elementos constituyentes que pasan entre los creadores de pornografía de deepfakes rara vez representan más que una posible infracción menor de derechos de autor, en la forma de ‘conjuntos de caras’ que los creadores de deepfakes han extraído de videos de YouTube, Blu-rays, entrevistas televisadas, redes sociales y varias otras fuentes.

¿Está Llegando una Política de ‘Tierra Quemada’ para las Comunidades de Deepfakes?

La pregunta que acecha a los habitantes de las comunidades de Discord de deepfakes como DeepFaceLab (incluyendo DeepFaceLive), FaceSwap, Machine Video Editor (MVE, un entorno basado en GUI para DFL, con muchas características agregadas), y nuevos servidores de Discord de deepfakes de audio como Audio Deepfakes es ¿Pronto los propietarios actuales de portales y plataformas simplemente prohibirán a las comunidades de deepfakes por principio, en lugar de soportar el gasto de una moderación constante contra una marea de adherentes y creadores de NSFW?

Bryan Lyon, uno de los desarrolladores de FaceSwap y propietario del servidor de Discord asociado, comentó^†:

‘Hemos logrado permanecer en Discord, a pesar de varias purgas, manteniéndonos absolutamente limpios. No tenemos canales ocultos ni un servidor secreto con contenido ilícito. Hubo una purga del servidor popular de DeepFaceLab hace un par de años. Todos los que estaban en él fueron prohibidos. Tenían roles de solo invitación con acceso a canales con pornografía no consensuada.’

Dado que Google, una de las mayores recursos tecnológicos del mundo, ha prohibido en blanco la capacitación de deepfakes en sus servidores y GPUs, es posible que GitHub, propiedad de Microsoft, decida que facilitar estas tecnologías* no valdrá la pena la ambigüedad moral o la inversión de supervisión.

En este momento, el proceso de legitimar las tecnologías de deepfakes para que su uso se aleje de la pornografía casera hacia la producción de películas y televisión, y usos no infractores/criminales, es demasiado incipiente para producir pautas de política claras para plataformas y servicios de alojamiento de comunidades.

* Archivo de https://github.com/search?q=deepfake del lunes 13 de junio de 2022.
† En DM privados en Discord.

Publicado por primera vez el 13 de junio de 2022. Editado a las 15:08 UTC para enmendar la imagen.
Enmendado el martes 14 de junio de 2022 a las 6:24 UTC para agregar la respuesta del moderador de Reddit sobre el estado NSFW de algunos publicadores. También se enmendó la ilustración de los feeds de RSS.