Reddit prohíbe la comunidad deepfake 'SFW'

Durante el fin de semana, aparentemente alrededor del domingo, Reddit prohibió la comunidad de deepfakes supuestamente "SFW" (Seguro para el Trabajo) llamada r/deepfakesfw. El subreddit fue una de las primeras respuestas a la solicitud del gigante de las redes sociales. eliminación del sub original r/deepfakes plagado de IA en 2018.

La leyenda (relativamente) repetitiva que ahora saluda (instantánea de archivo tomada el lunes 13 de junio) a cualquiera que visite el submarino explica que 'fue prohibido debido a una violación de Reddit's reglas 'contra la pornografía involuntaria'.

La nueva portada de r/deepfakesfw.

El sub r/deepfakesfw no fue archivado con frecuencia por las plataformas de conservación populares, pero la mayoría instantánea reciente de WayBack Machine, tomada hace unos diez días (el 3 de junio de 2022), indica que el sub tenía 3,095 lectores en ese momento.

En realidad, ese es un número mayor de suscriptores que r/DeepFakesSFW (nótese la 's' adicional), que actualmente tiene Lectores 2,827 (instantánea de archivo tomada el lunes 13 de junio de 2022). La comunidad de deepfakes de SFW "legítima" más popular actualmente parece ser r/SFW falsificaciones profundas, que al momento de escribir tiene Lectores 16,636 (instantánea tomada el lunes 13 de junio de 2022).

Ni siquiera preguntes

Lo que parece haber condenado a r/deepfakesfw no fue la publicación, sino la solicitando De pornografía deepfake. Las normas de Reddit sobre contenido sexualmente explícito establecen:

'[Las imágenes] o videos de otra persona publicados con el propósito específico de falsificar contenido explícito o solicitar pornografía "similar" (por ejemplo, "deepfakes" o "pornografía burbuja") también están en contra de la Regla.'

Según las últimas fuentes RSS disponibles del sub SFW ahora prohibido, ha sido la solicitud en lugar de la publicación de contenido falso profundo de NSFW lo que finalmente ha desencadenado la prohibición:

Algunas de las publicaciones finales, claramente NSFW, del ahora muerto subreddit r/deepfakesfw. Fuente: Inoreader.

Aunque las publicaciones a las que apuntan estas publicaciones RSS ya no están disponibles, al hacer clic en los enlaces de los perfiles de los solicitantes (borrosos en la imagen de arriba) se revela que muchos de los autores solicitan contenido deepfake prohibido en más de un foro y están pidiendo u ofreciendo algunos de los contenidos más extremos de este tipo, incluyendo pornografía incestuosa y varios matices de temas pornográficos involuntarios.

Esto sugiere que los suscriptores "SFW" restantes de Reddit sobreviven gracias a la velocidad, la diligencia y los rápidos tiempos de respuesta de sus moderadores, ya que parece que Reddit no está dispuesto a convertirse en una especie de foro de "anuncios clasificados" para que las personas se conecten y realicen transacciones de deepfakes ilegítimos a través de mensajes directos (en los casos en que esto no se pueda solicitar explícitamente en una publicación).

Si es así, entonces el aún no baneado r/DeepFakesSFW puede estar viviendo un tiempo prestado; sus dos principales publicaciones actuales al ingresar la URL del subreddit raíz con el "viejo" tema de Reddit habilitado han sido marcadas específicamente como "NSFW" (una etiqueta que presumiblemente ni siquiera debería estar disponible en esta comunidad en particular).

Dependiendo de las circunstancias, algunas publicaciones que rompen las reglas aparecen actualmente en el sub r/DeepFakesSFW. Fuente: https://www.reddit.com/r/DeepFakesSFW/

Puedes ver estas dos publicaciones NSFW encabezando el foro r/DeepFakesSFW archivado hoy. aqui (instantánea tomada el lunes 13 de junio de 2022).

En realidad, no hay ningún "estilo" NSFW disponible al hacer una nueva publicación en r/DeepFakesSFW, que ha estado operativo durante cuatro años, según la información de su barra lateral:

'Flags' disponibles al publicar en r/DeepFakesSFW.

Por lo tanto, el NSFW Las etiquetas en r/DeepFakesSFW parecen haber sido aplicadas por moderadores en el foro o por administradores de alto nivel, o incluso algoritmos, posiblemente sin ninguna intervención u oposición disponible por parte de los moderadores locales. Me puse en contacto con el único moderador de la lista de r/DeepFakesSFW sobre esto y publicaré cualquier actualización disponible.

(EDITAR, martes, 14 de junio de 2022 Un moderador de r/DeepFakesSFW respondió: «Parece que ocurre cuando la cuenta del usuario es NSFW». Por lo tanto, presumiblemente, la única manera de reducir la probabilidad de este tipo de solicitudes en subreddits de deepfakes SFW sería banear a los usuarios que se han ganado esta clasificación.

La mayor parte del contenido de este subreddit y del más amplio r/SFWdeepfakes trata sobre el uso de tecnología deepfake para "reclutar" actores de películas populares o clásicas, o de otro modo para tener una diversión más inocua impulsada por IA con medios populares y tecnología deepfake, y de hecho califica como "SFW".

Aunque muchas de esas publicaciones rozan peligrosamente las prohibiciones basadas en derechos de autor, la supervivencia continua de publicaciones de videos deepfake no pornográficos "apropiados de IP" realizadas por los principales deepfakes de YouTube como Ctrl-Shift-Face sugiere una amplia tolerancia de los estudios y los titulares de los derechos hacia esa actividad, al menos por el momento.

La apariencia "inocente" del proceso y la ecoestructura del deepfake

Hace dos semanas lo salió a la luz (y mucho discusión) que Google había prohibido repentinamente el software de creación de deepfakes en sus populares entornos de procesamiento en la nube Colab. Incluso hasta la fecha, Colab aparentemente solo se activa cuando se intenta ejecutar... ProfundoFaceLab (DFL), el software de deepfakes más popular del mundo (y el más estrechamente asociado con la pornografía AI), en lugar de implementaciones menos frecuentes como Intercambio cara, que tiene mejor reputación, aunque realiza exactamente las mismas tareas que DFL.

Hasta cierto punto, este enfoque puede haber sido la única forma en que Colab podría haber implementado cualquier Restricción en la producción de pornografía deepfake, ya que el proceso de capacitación real de deepfake no usa más que software de código abierto e imágenes de rostros muy recortadas (generalmente en solo 512x512px, a menudo menos), con una posibilidad casi nula de que los algoritmos de reconocimiento de imágenes intercepten cualquier pornografía real. contenido.

En el momento en que se entrena el modelo deepfake, el deepfaker ya no necesita la enorme potencia de procesamiento de Colab o una costosa GPU local. más real conversiones (es decir, el proceso de imponer una cara en un video, pornográfico o de otro tipo), se puede lograr localmente, en GPU portátiles de baja potencia, o incluso en una CPU (con un tiempo de procesamiento un poco más largo). En el momento en que ocurre algo pornográfico en el proceso de deepfake, Colab hace mucho tiempo que se eliminó de la imagen.

Por lo tanto, los elementos constitutivos que pasan entre los creadores de pornografía deepfake rara vez representan más que una posible infracción menor de derechos de autor, en forma de paso de "conjuntos de caras" que los creadores de deepfake han extraído de videos de YouTube, Blu-rays, entrevistas televisadas, redes sociales y varias otras fuentes.

¿Se avecina una política de “tierra arrasada” para las comunidades deepfake?

La pregunta que atormenta a los habitantes de las comunidades falsas de Discord como ProfundoFaceLab disponibles (Incluyendo cara profunda en vivo), Intercambio cara, Editor de video de máquina (MVE, un GUI basado ambiente para DFL, con muchas características adicionales), y nuevos servidores de Discord deepfake basados ​​en audio, como Falsificaciones profundas de audio is ¿Los actuales propietarios de portales y plataformas pronto simplemente prohibirán las comunidades deepfake por principio, en lugar de asumir el costo de la moderación constante contra una marea de adherentes y creadores de NSFW?

Bryan Lyon, uno de los desarrolladores de FaceSwap y propietario del servidor Discord asociado al proyecto, comentó^†:

Hemos logrado permanecer en Discord, a pesar de varias purgas, manteniéndonos completamente limpios. No tenemos canales ocultos ni un segundo servidor secreto con contenido ilícito. Hace un par de años, se purgó el popular servidor DeepFaceLab. Todos sus usuarios fueron baneados. Tenían roles solo por invitación con acceso a canales con pornografía no consentida.

Dado que Google, uno de los recursos de alojamiento tecnológico más grandes del mundo, ha prohibido por completo el entrenamiento de deepfakes en sus servidores y GPU, es incluso posible que GitHub, propiedad de Microsoft, decida que facilitar estas tecnologías* eventualmente no valdrá la pena la ambigüedad moral o la inversión de la supervisión.

En este momento, el proceso de legitimación de tecnologías deepfake para que su uso pase de la pornografía casera a la producción de películas y televisión, y usos no infractores/criminales, es demasiado incipiente para producir pautas de políticas claras para plataformas y servicios de alojamiento comunitario.

* Archivo de https://github.com/search?q=deepfake del lunes 13 de junio de 2022.
† En DM privados en Discord.

Publicado por primera vez el 13 de junio de 2022. Editado a las 3:08 p. m. UTC para modificar la imagen.
Modificado el martes 14 de junio de 2022 a las 6:24 a. m. UTC para añadir la respuesta de un moderador de Reddit sobre la clasificación NSFW de algunos usuarios. También se modificó la imagen en la ilustración de los feeds RSS.