Google a interdit la formation de deepfakes dans Colab

Il y a deux semaines, Google a modifié discrètement les conditions d’utilisation de ses utilisateurs Colab, en ajoutant une stipulation selon laquelle les services Colab ne peuvent plus être utilisés pour former des deepfakes.

La mise à jour de mai apporte une interdiction de formation de deepfakes à Colab. Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

La première version archivée sur Internet Archive qui comporte l’interdiction de formation de deepfakes a été capturée le mardi 24 mai. La dernière version capturée de la FAQ Colab qui ne mentionne pas l’interdiction date du 14 mai.

Sur les deux distributions de création de deepfakes les plus populaires, DeepFaceLab (DFL) et FaceSwap, qui sont toutes deux des forks du code controversé et anonyme publié sur Reddit en 2017, seul le plus notoire DFL semble avoir été directement visé par l’interdiction. Selon le développeur de deepfakes ‘chervonij’ sur le Discord de DFL, l’exécution du logiciel dans Google Colab produit maintenant un avertissement:

‘Vous pouvez exécuter du code qui n’est pas autorisé, ce qui peut restreindre votre capacité à utiliser Colab à l’avenir. Veuillez noter les actions interdites spécifiées dans notre FAQ.’

Cependant, il est intéressant de noter que l’utilisateur est actuellement autorisé à continuer l’exécution du code.

Le nouvel avertissement qui accueille les créateurs de deepfakes de DFL qui tentent d’exécuter le code sur Google Colab. Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Selon un utilisateur du Discord de la distribution rivale FaceSwap, le code de ce projet ne déclenche pas encore l’avertissement, suggérant que le code de DeepFaceLab (qui est également l’architecture d’alimentation pour la mise en œuvre de la diffusion de deepfakes en temps réel DeepFaceLive), de loin la méthode de deepfakes la plus dominante, a été spécifiquement ciblée par Colab.

Le co-développeur de FaceSwap, Matt Tora, a commenté*:

‘Je trouve très peu probable que Google fasse cela pour des raisons éthiques particulières, mais plutôt parce que l’objectif de Colab est de permettre aux étudiants, aux scientifiques et aux chercheurs d’exécuter des codes de traitement de données gourmands en ressources informatiques de manière facile et accessible, sans frais. Cependant, je soupçonne qu’un nombre non négligeable d’utilisateurs exploitent cette ressource pour créer des modèles de deepfakes, à grande échelle, ce qui est à la fois gourmand en ressources informatiques et nécessite un temps de formation non négligeable pour produire des résultats.

‘On pourrait dire que Colab penche plus vers le côté éducatif et de recherche de l’IA. L’exécution de scripts qui nécessitent peu d’interaction utilisateur, ni de compréhension, va à l’encontre de cela. Chez FaceSwap, nous nous efforçons de nous concentrer sur l’éducation de l’utilisateur en matière d’IA et des mécanismes impliqués, tout en abaissant les barrières à l’entrée. Nous encourageons fortement l’utilisation éthique du logiciel et pensons que rendre ces outils disponibles à un public plus large aide les gens à comprendre ce qui est réalisable dans le monde d’aujourd’hui, plutôt que de le cacher pour une poignée de personnes sélectionnées.

‘Malheureusement, nous ne pouvons pas contrôler la façon dont nos outils sont finalement utilisés, ni où ils sont exécutés. Cela me peine que une voie ait été fermée pour les gens pour expérimenter avec notre code, cependant, en termes de protection de cette ressource pour assurer sa disponibilité au public cible, je trouve cela compréhensible.’

Il n’y a aucune preuve que la nouvelle restriction soit limitée uniquement au niveau gratuit de Google Colab – au bas de la liste des activités interdites auxquelles les deepfakes ont maintenant été ajoutés, se trouve la note ‘Des restrictions supplémentaires existent pour les utilisateurs payants’, indiquant que ce sont des réglementations de base. En ce qui concerne l’interdiction de deepfakes, cela a déconcerté certains, puisque ‘l’extraction de cryptomonnaies’ et ‘la participation à des échanges de fichiers peer-to-peer’ sont inclus dans les sections de restrictions à la fois pour les utilisateurs gratuits et payants.

Par cette logique, tout ce qui est interdit dans la section de restrictions pour les utilisateurs gratuits est autorisé dans la version Pro, tant que la version Pro n’interdit pas explicitement, y compris ‘l’exécution d’attaques de déni de service’ et ‘le cracking de mots de passe’. Les restrictions supplémentaires pour le niveau Pro sont principalement concernées par le fait de ne pas ‘sous-louer’ l’accès à Colab Pro, malgré les interdictions de duplication confuse et sélective.

Google Colab est une mise en œuvre dédiée d’environnements de cahiers Jupyter, qui permettent la formation à distance de projets d’apprentissage automatique sur des GPU beaucoup plus puissants que ce que de nombreux utilisateurs peuvent se permettre.

Étant donné que la formation de deepfakes est une entreprise gourmande en VRAM, et que depuis l’avènement de la pénurie de GPU, de nombreux créateurs de deepfakes ces dernières années ont abandonné la formation à domicile pour la formation à distance dans Colab, où il est possible, selon la chance et le niveau, de former un modèle de deepfake sur des cartes puissantes telles que la Tesla T4 (16 Go de VRAM, actuellement autour de 2 000 $ US), la V100 (32 Go de VRAM, autour de 4 000 $ US), et le puissant A100 (80 Go de VRAM, Prix de détail suggéré de 32 097,00 $), entre autres.

L’interdiction de formation de deepfakes dans Colab semble susceptible de réduire le bassin de créateurs de deepfakes capables de former des modèles à plus haute résolution, où les images d’entrée et de sortie sont plus grandes, plus adaptées à des résultats à haute résolution, et capables d’extraire et de reproduire plus de détails faciaux.

Certains des créateurs de deepfakes les plus dévoués et les plus enthousiastes, selon les publications sur Discord et les forums, ont investi lourdement dans du matériel local au cours des deux dernières années, malgré les prix élevés des GPU.

Cependant, étant donné les coûts élevés impliqués, des sous-communautés ont émergé pour faire face aux défis de la formation de deepfakes sur Colab, avec l’allocation aléatoire de GPU la plainte la plus courante depuis que Colab a limité l’utilisation des GPU de haute finition aux utilisateurs gratuits.

* Dans des messages privés sur Discord

Publié pour la première fois le 28 mai 2022.
Révisé à 7h28 du matin, heure de l’Est, correction d’une faute de frappe dans une citation.
Révisé à 12h40 du matin, heure de l’Est – ajout de clarifications concernant les interdictions de deepfakes pour les niveaux gratuit et pro, dans la mesure du possible à partir des listes de restrictions ‘gratuit’ et ‘pro’.