Sur l’éthique des deepfakes hollywoodiens

Pourquoi y a-t-il eu un tel déclin récemment dans le contenu de deepfakes à la télévision et au cinéma? L’auteur a travaillé pour la société de effets visuels Metaphysic.ai pendant plus de deux ans et demi, dont 20 mois en tant qu’employé à temps plein.

Opinion/Caractéristique Quand j’étais enfant, j’étais captivé par les histoires de la fondation d’Industrial Light and Magic (ILM), opérant à partir d’un entrepôt de base à Van Nuys, et construisant avec difficulté la nouvelle génération de méthodes d’effets visuels à commande de mouvement qui allaient dominer la plupart des années 80, jusqu’à l’avènement de la CGI.

Faire exploser des morceaux de la Death Star dans la cour d’ILM à Van Nuys dans le milieu des années 70. Source

C’est une histoire d’origine exceptionnelle, et je recommande les nombreux livres et articles qui racontent comment les effets pour Star Wars (1977) ont été – après beaucoup de peine, de récriminations et de retard – finalement livrés.

La jeune ILM allait plus tard déménager à San Francisco et aller industrialiser la production d’effets photochimiques. Même à l’époque des travaux de VFX sur The Empire Strikes Back en 1978/9, ILM, bien qu’étant toujours une société d’effets innovante et pionnière, était déjà remplie de départements de comptabilité et de ressources humaines.

Mais pendant cette période, et depuis, mon imagination a été captivée par la question de savoir ce que ces premières années « brutes » à Van Nuys étaient comme, cannibalisant des kits de modèles et des méthodes optiques des années 60, et pratiquement inventant une industrie qui avait autrefois été le domaine de spécialistes VFX auteur individuels.

Le visage de la révolution

Dans les près de trois ans que j’ai travaillé chez la société de effets visuels maintenant dissoute Metaphysic.ai, je pense que je me suis approché autant que possible de l’expérience de Van Nuys des années 70.

À cette époque, Metaphysic a produit des effets visuels à base d’IA, spécifiques à l’identifiant, pour certaines des plus grandes franchises, y compris les Mad Max et Alien franchises, ainsi que la production du travail de déjuvenation de deepfake pionnier (bien que critiqué) pour Robert Zemeckis’ Here (2024), et de nombreux autres travaux:

Il y avait plus de réunions de « dailies » (la présentation des dernières images produites, dans des réunions Zoom encombrées) que n’importe quelle personne ne pouvait raisonnablement assister et toujours faire son propre travail, ainsi que des réunions de type skunkworks, où des groupes sélectionnés travaillaient ensemble sur des mini-moonshots, cherchant à faire progresser l’état de l’art de l’entreprise.

Beaucoup du personnel venaient à l’entreprise soit directement d’ILM, soit avaient travaillé pour ILM dans le passé*; et même si il était clair, à partir d’anecdotes, que l’esprit de Van Nuys avait depuis longtemps cédé la place à la rationalisation de masse à ILM, et aux divers autres grandes sociétés d’effets visuels dont certains membres du personnel venaient, l’association est restée électrique pour moi.

George Lucas examine des images d’effets avec John Dykstra, Richard Edlund, Joe Johnston et Rose Duignan pendant la production de Star Wars. Source

Je ne sais pas si l’on peut affirmer que Metaphysic inventerait un équivalent d’IA au DykstraFlex motion-control rig qui est sorti de l’atelier de Van Nuys; mais il a mis les effets visuels à base d’IA sur la carte, et a été responsable de plus de remplacement et d’altération de visages à base d’IA au niveau professionnel que toute autre société d’effets ou projet n’a entrepris pendant cette période, ou n’a entrepris depuis.

Ralentissement

Et je dois noter que depuis que l’entreprise a été absorbée par la société Brahma AI de DNEG, ce flux régulier de travaux d’effets visuels à base d’IA semble s’être ralenti à un rythme d’escargot.

Malgré les titres tels que le partenariat VFX Netflix à base d’IA de Ben Affleck, et un engagement en faveur de l’IA de la part des réalisateurs Soderbergh et Aronofsky, je n’ai pas vu beaucoup de visages de deepfakes dans les films et les émissions de télévision récemment (à l’exception de The Capture simulation de la technologie de deepfake), par rapport au « pic Metaphysic ».

Étant donné l’ampleur du retour de flamme de l’IA dans de nombreux domaines et secteurs, je me demande si nous ne commençons pas tous à « lire la pièce » sur les identités modifiées par l’IA; et si les efforts facilités par l’IA, tels que la résurrection d’Ian Holm, la jeunification de Harrison Ford, et la résurrection du Rat Pack pour vendre du gin pourraient bientôt susciter le mème désormais classique ‘C’était une autre époque’.

Associations négatives

C’est en grande partie un problème d’association; mais ce n’est pas le même problème d’association qu’il y avait en 2021, lorsque Metaphysic a été fondée.

À cette époque, les deepfakes pornographiques étaient devenus un phénomène viral, avec toutes les sorties SFW et NSFW provenant de l’un des deux dépôts de logiciels open source^† . Contrairement à aujourd’hui, il n’y avait pas de moyen « gardé » ou censuré de produire du contenu photoréaliste à base d’IA.

Alors, le plus grand site de deepfakes pornographiques au monde (destiné à être fermé par une enquête en 2025) était où les instructions officielles étaient pour le plus grand dépôt de logiciels de deepfakes, DeepFaceLab, lui-même la fondation admise des approches originales de Metaphysic:

Le guide d’utilisateur original pour DeepFaceLab, à une époque le logiciel de deepfakes le plus populaire – hébergé sur le plus grand site de deepfakes pornographiques. Depuis, le logiciel a été archivé et le site a été fermé. Source

Depuis que les développeurs de logiciels ne se dérobaient pas clairement de l’association entre la pornographie et les deepfakes, cela affecterait inévitablement toute entreprise essayant de légitimement adopter cette technologie.

Par conséquent (peut-être pas moins parce que le fondateur de l’entreprise était inclus avec le fondateur de DeepFaceLab dans l’auteur d’un document de position Arxiv sur les deepfakes en 2020, et a été sujet à beaucoup de critiques sur ces associations) Metaphysic avait un département d’éthique dédié, et l’entreprise était vocale et très publique sur ce sujet.

Ces jours-ci, avec l’ampleur et la tranche croissante de législation mondiale criminalisant le contenu de deepfakes, cette « association malheureuse » concernant les identités créées par l’IA s’est déplacée de la pornographie vers la pauvreté, car les forces de travail mondiales menacées par différents types d’IA (généralement des grands modèles de langage, ou LLM) commencent à démoniser le terme dans son ensemble.

Les villageois se révoltent

À un certain moment, peut-être au milieu de 2023, en assistant à diverses réunions d’entreprise, j’ai commencé à ressentir, admettant à distance, une vague croissante de résistance ad hoc aux services que l’entreprise offrait, coïncidant avec les premiers mouvements sociaux autour de l’IA en tant que menace existentielle pour les travailleurs (bien qu’il faille noter que les syndicats de Hollywood étaient à la pointe à cet égard).

L’IA semblait être considérée dans certains quartiers comme « pas valeureux le risque ». De plus, pendant la période de pointe de production de Metaphysic, elle n’a jamais vraiment eu un succès incontesté après la valeur de choc de la mise d’un jeune Elvis Presley dans America’s Got Talent. En fait, aucune entreprise qui produisait du contenu généré par l’IA dans des films et des émissions de télévision mainstream n’a eu de succès.

Il y a toujours eu une raison de haïr: la vallée de l’incertitude omniprésente; l’association avec la pornographie; et puis, l’association avec un apocalypse économique à base d’IA.

Le moment « Tyrannosaure » de l’IA

Il m’a semblé, pendant longtemps, que recréer des humains avec une fidélité de 100 % dans un contexte de VFX qui avait été échoué par la CGI pendant longtemps, était un objectif valable, sinon inévitable.

J’ai imaginé que l’évolution de l’IA dans les effets visuels culminerait dans un troisième « changement d’époque » pour l’industrie, au grand plaisir des spectateurs. Le premier avait été la première vue du destroyer d’étoiles tonnant au-dessus dans Star Wars en 1977, et le deuxième, le Tyrannosaure furieux s’échappant de son enclos dans Jurassic Park, en 1993.

Chacun a conduit à des changements radicaux dans l’industrie, et chacun a été précédé par des précurseurs poussant les limites d’une technologie ou d’une méthode naissante.

Ainsi, il m’a semblé que le flux de sorties de Metaphysic conduirait inévitablement à ce « moment du Tyrannosaure »; qu’un jour, nous verrions quelque chose impossible dans un film; quelque chose foncièrement fait par l’IA (plutôt que papier mâché avec de la CGI), qui nous couperait le souffle.

Maintenant… Je ne sais pas. Ce n’est pas nécessairement que je ne crois pas que ce moment d’émerveillement viendra, pour l’IA au cinéma; ni uniquement que il y a de nombreux problèmes critiques pour la vidéo à base d’IA à surmonter avant de pouvoir rejoindre les professionnels à la table.

C’est plus que j’ai commencé à partager, d’une manière vague (et peut-être moralement lâche), ce sentiment public naissant d’association négative entre l’IA dans les VFX et les ramifications négatives de l’IA dans d’autres secteurs, pendant cette période.

En plus de cela, je ne suis pas actuellement convaincu que l’influence historique de jeux de données non payants et non gratuits tels que Common Crawl a vraiment été prise en compte; et je considère que de nombreux accords de « licence d’IA » qui ont fait les gros titres au cours des 18 derniers mois ou environ représentent une certaine mesure de lavage d’IP.

Par conséquent, le moment où un Marilyn Monroe ou un Humphrey Bogart parfaitement régénérés par l’IA posera le pied sur l’écran, je pense que des sentiments jumeaux d’émerveillement et de gêne sont susceptibles de surgir en moi, car le bagage de la magie de l’IA a commencé à me peser.

Conclusion

Les deux précédentes avancées technologiques sont venues sans ces réserves: l’avènement d’ILM et des systèmes de commande de mouvement a effectivement inventé une industrie qui avait auparavant été une série de commandes sporadiques remplies par une élite clairsemée de ad hoc freelancers; et l’avènement de la CGI a considérablement augmenté le nombre d’emplois dans l’industrie des VFX, et a créé de la valeur dans les logiciels de développement adjacents, ainsi que dans divers services de soutien.

Mon intérêt pour la vision par ordinateur est toujours intact, ainsi que mon intérêt pour le potentiel de l’IA dans un large éventail d’applications audiovisuelles possibles; et mon enthousiasme pour des applications plus larges de l’apprentissage automatique, dans une gamme d’autres secteurs, est inentamé.

Je ne souhaite qu’une chose, c’est de pouvoir continuer à attendre ce « moment wow » de l’IA au cinéma.

En ce qui concerne la raison pour laquelle il y a une pénurie soudaine de visages générés par l’IA dans les films et les émissions de télévision, par rapport aux années les plus actives de Metaphysic – une possibilité est que les ajustements à base d’IA sont maintenant appliqués par les maisons de production avec peu ou pas de publicité (par rapport aux communiqués de presse tonitruants de la période 2022-23), étant donné que la réponse du public à l’innovation de l’IA dans le divertissement est devenue si hostile ces derniers temps.

Deuxièmement, pour répéter: après AGT, où l’entreprise a fait ses débuts, Metaphysic n’a jamais vraiment eu un succès incontesté en ce qui concerne sa propre contribution à un film ou une émission de télévision; et ni le deepfake d’Indiana Jones 4 ni aucun des autres travaux des autres maisons de production n’a été bien accueilli, suffisamment rentable pour déclencher une ruée de copieurs, ou pour donner à l’IA dans les VFX une crédibilité et une convivialité pour les investisseurs.

* Ceci est facilement vérifiable en regardant simplement les profils LinkedIn publics et les crédits IMDB.

^† DeepFaceLab, et le moins associé à la pornographie FaceSwap.

Publié pour la première fois lundi 27 avril 2026