Google ha prohibido el entrenamiento de deepfakes en Colab

En algún momento de las últimas dos semanas, Google ha cambiado silenciosamente los términos de servicio para sus usuarios de Colab, agregando una estipulación que establece que los servicios de Colab ya no se pueden utilizar para entrenar deepfakes.

La actualización de mayo trae una prohibición de deepfakes a Colab. Fuente: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

La primera versión archivada en la web que presenta la prohibición de deepfakes fue capturada el martes pasado, el 24 de mayo. La última versión capturada de la FAQ de Colab que no menciona la prohibición fue el 14 de mayo.

De las dos distribuciones de creación de deepfakes más populares, DeepFaceLab (DFL) y FaceSwap, ambas son bifurcaciones del código controvertido y anónimo publicado en Reddit en 2017, solo la más notoria DFL parece haber sido directamente objetivo de la prohibición. Según el desarrollador de deepfakes ‘chervonij’ en el Discord de DFL, ejecutar el software en Google Colab ahora produce una advertencia:

‘Puede que esté ejecutando código que no está permitido, y esto puede restringir su capacidad para utilizar Colab en el futuro. Por favor, tenga en cuenta las acciones prohibidas especificadas en nuestra FAQ.’

Sin embargo, interesantemente, el usuario actualmente puede continuar con la ejecución del código.

La nueva advertencia que saludó a los deepfakers que intentaron ejecutar el código en Google Colab. Fuente: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Según un usuario en el Discord de la distribución rival FaceSwap, el código de ese proyecto aparentemente no desencadena la advertencia, lo que sugiere que el código para DeepFaceLab (también la arquitectura de alimentación para la implementación de streaming de deepfakes en tiempo real DeepFaceLive), por mucho la método de deepfakes más dominante, ha sido específicamente objetivo de Colab.

El co-líder del desarrollo de FaceSwap, Matt Tora, comentó*:

‘Me parece muy poco probable que Google esté haciendo esto por alguna razón ética en particular, más que Colab es para que los estudiantes/científicos de datos/investigadores puedan ejecutar código de GPU computacionalmente costoso de manera fácil y accesible, sin costo. Sin embargo, sospecho que una cantidad no insignificante de usuarios están explotando este recurso para crear modelos de deepfakes, a gran escala, lo que es computacionalmente costoso y requiere un tiempo de entrenamiento no insignificante para producir resultados.

‘Podrías decir que Colab se inclina más hacia el lado educativo, de investigación de la IA. Ejecutar scripts que requieren poca entrada del usuario, ni comprensión, tiende a ir en contra de esto. En FaceSwap nos esforzamos por educar al usuario en IA y los mecanismos involucrados, mientras que reducimos la barrera de entrada. Nosotros muy mucho animamos al uso ético del software y sentimos que hacer que estas herramientas estén disponibles para una audiencia más amplia ayuda a educar a las personas en términos de lo que es alcanzable en el mundo de hoy, en lugar de mantenerlo oculto para unos pocos elegidos.

‘Desafortunadamente, no podemos controlar cómo se utilizan finalmente nuestras herramientas, ni dónde se ejecutan. Me entristece que se haya cerrado una vía para que la gente experimente con nuestro código, sin embargo, en términos de proteger este recurso particular para asegurar su disponibilidad para la audiencia objetivo real, lo encuentro comprensible.’

No hay evidencia de que la nueva restricción se limite solo a la versión gratuita de Google Colab – al final de la lista de actividades prohibidas a las que se han agregado los deepfakes, hay una nota que dice ‘Existen restricciones adicionales para los usuarios pagados’, lo que indica que estas son regulaciones básicas. En cuanto a la prohibición de deepfakes, esto ha confundido a algunos, ya que ‘minería de criptomonedas’ y ‘participar en intercambio de archivos peer-to-peer’ están incluidos en ambas secciones de ‘Restricciones’ de la versión gratuita y de pago.

Según esa lógica, todo lo que esté prohibido en la sección de ‘Restricciones’ de la versión gratuita está permitido en la versión Pro, siempre y cuando la versión Pro no lo prohíba explícitamente, incluyendo ‘ejecutar ataques de denegación de servicio’ y ‘romper contraseñas’. Las restricciones adicionales para la versión Pro se ocupan principalmente de no ‘subarrendar’ el acceso a Colab Pro, a pesar de las prohibiciones duplicadas confusas y selectivas.

Google Colab es una implementación dedicada de entornos de Jupyter notebook, que permiten el entrenamiento remoto de proyectos de aprendizaje automático en GPUs mucho más potentes de las que muchos usuarios pueden permitirse.

Como el entrenamiento de deepfakes es un proceso voraz de VRAM, y desde la aparición de la escasez de GPUs, muchos deepfakers en los últimos años han abandonado el entrenamiento en casa en favor del entrenamiento remoto en Colab, donde es posible, dependiendo de la suerte y del nivel, entrenar un modelo de deepfake en tarjetas poderosas como la Tesla T4 (16GB de VRAM, alrededor de $2k USD), la V100 (32GB de VRAM, alrededor de $4k USD), y la poderosa A100 (80GB de VRAM, MSRP de $32,097.00), entre otras.

La prohibición del entrenamiento en Colab parece probable que reduzca el grupo de deepfakers que pueden entrenar modelos de mayor resolución, donde las imágenes de entrada y salida son más grandes, más adecuadas para resultados de alta resolución y capaces de extraer y reproducir más detalles faciales.

Algunos de los entusiastas y aficionados a los deepfakes más comprometidos, según publicaciones en Discord y foros, han invertido mucho en hardware local en los últimos dos años, a pesar de los altos precios de las GPUs.

Sin embargo, dado el alto costo involucrado, han surgido subcomunidades para hacer frente a los desafíos de entrenar deepfakes en Colabs, con la asignación aleatoria de GPU como la queja más común desde que Colab limitó el uso de GPUs de alta gama a los usuarios gratuitos.

* En mensajes privados en Discord

Publicado por primera vez el 28 de mayo de 2022.
Revisado a las 7:28 AM EST, corrección de error tipográfico de cita.
Revisado a las 12:40 PM EST – se agregó aclaración sobre la prohibición de deepfakes en los niveles gratuito y de pago, según se puede entender de las listas de prohibiciones ‘gratuito’ y ‘pro’.