Sobre la ética de los deepfakes de Hollywood

¿Por qué ha habido un descenso tan grande en el contenido de deepfakes en TV y películas últimamente? El autor trabajó para la empresa de efectos visuales pionera Metaphysic.ai durante más de dos años y medio, incluyendo 20 meses como empleado a tiempo completo.

Opinión/Característica De niño, me fascinaban las historias sobre la fundación de Industrial Light and Magic (ILM), que operaba en un almacén básico en Van Nuys, y que construyó con esfuerzo los nuevos métodos de efectos visuales de control de movimiento que dominarían la mayoría de la década de 1980, hasta el advenimiento de la CGI.

Destruyendo partes de la Estrella de la Muerte en el patio de ILM en Van Nuys a mediados de la década de 1970. Fuente

Es una historia de origen destacada, y recomiendo los muchos libros y artículos que relatan cómo se entregaron los efectos para Star Wars (1977) después de mucho esfuerzo, recriminación y retraso.

La incipiente ILM más tarde se mudaría a San Francisco y continuaría industrializando la producción de efectos fotoquímicos. Incluso en la época de los trabajos de VFX en El Imperio Contraataca en 1978/9, ILM, aunque todavía era una casa de efectos pionera e innovadora, ya estaba llena de departamentos de contabilidad y recursos humanos.

Pero en ese período, y desde entonces, mi imaginación se vio capturada por la idea de saber cómo fueron esos primeros años “crudos” en Van Nuys, canibalizando kits de modelos y métodos ópticos de la década de 1960, e inventando prácticamente una industria que había sido el dominio de especialistas en VFX auteur individuales.

La cara de la revolución

En los casi tres años que trabajé en la ahora disuelta empresa de efectos visuales Metaphysic.ai, creo que me acerqué tanto como pude al experiencia de Van Nuys de la década de 1970.

En ese tiempo, Metaphysic produjo tomas de efectos impulsados por IA, específicas de ID, para algunas de las franquicias más grandes, incluyendo Mad Max y Alien franquicias, así como la producción de la pionera (aunque muy criticada) obra de rejuvenecimiento de deepfake para Robert Zemeckis’ Aquí (2024), y muchas otras obras:

Había más reuniones de “dailies” (la presentación de la última filmación producida, en reuniones de Zoom congestionadas) de las que cualquier persona podría razonablemente asistir y aún así hacer su propio trabajo, así como reuniones de estilo skunkworks, donde grupos selectos trabajaban juntos en mini-metas, buscando avanzar en el estado del arte de la empresa.

Muchos del personal vinieron a la empresa directamente desde ILM, o habían trabajado para ILM en el pasado*; y aunque estaba claro, por anécdotas, que el espíritu de Van Nuys había dado paso a la racionalización en masa en ILM, y en las otras grandes casas de VFX de las que algunos del personal provenían, la asociación seguía siendo eléctrica para mí.

George Lucas revisa tomas de efectos con John Dykstra, Richard Edlund, Joe Johnston y Rose Duignan durante la producción de Star Wars. Fuente

No sé si se podría argumentar que Metaphysic inventaría un equivalente de IA a la rig de control de movimiento DykstraFlex que surgió del taller de Van Nuys; pero puso a los efectos visuales impulsados por IA en el mapa, y fue responsable de más reemplazos y alteraciones de caras con IA a nivel profesional que cualquier otra casa de efectos o proyecto individual en el período, o ha emprendido desde entonces.

Desaceleración

Y debo señalar que desde que la empresa se fusionó con la subempresa Brahma AI de DNEG, Brahma AI, ese flujo constante de trabajo de efectos visuales basados en IA parece haber disminuido hasta casi detenerse.

A pesar de titulares como la asociación de VFX de IA de Netflix con Ben Affleck, y un compromiso con la IA de los directores Soderbergh y Aronofsky, no he visto muchos rostros de deepfake en películas y TV últimamente (excluyendo La captura que simula la tecnología de deepfake), en comparación con el “pico Metaphysic”.

Dado el alcance de la reacción en contra de la IA en muchos campos y sectores, me pregunto si no estamos empezando a “leer la habitación” sobre las identidades alteradas por la IA; y si los esfuerzos facilitados por la IA, como la resurrección de Ian Holm, la juvenilización de Harrison Ford, y la revival de la Rat Pack para vender ginebra podrían pronto suscitar el meme clásico ‘Era una época diferente’.

Asociaciones negativas

En muchos sentidos, es un problema de asociación; pero no es el mismo problema de asociación que había en 2021, cuando Metaphysic se formó.

En ese momento, el deepfake pornográfico se había convertido en un fenómeno viral, con toda la salida SFW y NSFW proveniente de uno de los dos repositorios de software de código abierto^† . En contraste con hoy en día, no había una forma “gatekeep” o censurada de producir contenido fotorealista de IA.

Entonces, el sitio web de deepfake pornográfico más grande del mundo (destinado a ser derrumbado por una investigación en 2025) era donde se encontraban las instrucciones oficiales para el repositorio de software de deepfake más grande, DeepFaceLab, que era la fundación admitida de los enfoques originales de Metaphysic:

La guía de usuario original para DeepFaceLab, en su momento el software de deepfake más popular – alojado en el sitio web de deepfake pornográfico más grande del mundo. Desde entonces, el software ha sido archivado y el sitio web ha sido derrumbado. Fuente

Desde que los desarrolladores de software no se alejaban de la asociación entre pornografía y deepfakes, esto inevitablemente afectaría a cualquier empresa que intentara adoptar legítimamente esta tecnología.

Consecuentemente (quizás no menos porque el fundador de la empresa estaba incluido con el fundador de DeepFaceLab en la autoría de un documento de posición de Arxiv sobre deepfakes en 2020, y fue sujeto a mucha crítica sobre estas asociaciones) Metaphysic tenía un departamento de ética dedicado, y la empresa era vocal y muy pública sobre este tema.

Estos días, con la legislación global extensa y creciente que criminaliza el contenido de deepfake, esa “desafortunada” asociación con respecto a las identidades creadas por IA ha pasado de la pornografía a la pobreza, ya que las fuerzas laborales globales directamente amenazadas por diferentes tipos de IA (generalmente modelos de lenguaje grande, o LLM) están comenzando a demonizar el término en general.

Los aldeanos se rebelan

En un momento determinado, quizás a mediados de 2023, asistiendo a varias reuniones de la empresa, comencé a sentir, admitidamente de segunda mano, una creciente ola de resistencia casual ad hoc a los servicios que la empresa ofrecía, coincidiendo con los primeros levantamientos sociales en torno a la IA como una amenaza existencial para los trabajadores (aunque hay que señalar que los sindicatos de Hollywood estaban a la vanguardia en este sentido).

La IA parecía ser vista en algunos cuartos como “no vale la pena el riesgo”. Además, en el período de mayor producción de Metaphysic, nunca tuvo un éxito indiscutible después del valor de choque de poner a un joven Elvis Presley en America’s Got Talent. De hecho, ninguna empresa que producía contenido generado por IA en trabajo de película y TV mainstream lo hizo.

Siempre parecía haber alguna razón para odiar: el valle inquietante siempre presente ; la asociación con la pornografía; y luego, la asociación con un apocalipsis económico impulsado por la IA.

El momento de ‘Tyrannosaur’ de la IA

Me parecía que, durante mucho tiempo, recrear a los humanos con una fidelidad del 100% en un contexto de VFX que había fallado a la CGI durante mucho tiempo, era un objetivo valioso, si no inevitable.

Imaginé que la evolución de la IA en los efectos visuales culminaría en un tercer momento de “cambio épico” para la industria, para deleite de los espectadores. El primero había sido la primera visión del destructor de estrellas que pasaba por encima en Star Wars en 1977, y el segundo, el tiranosaurio que escapaba de su recinto en Parque Jurásico, en 1993.

Cada uno había llevado a cambios radicales en la industria, y cada uno había sido presagiado por los primeros adoptantes que empujaban los límites de una tecnología o método naciente.

Así que me parecía que la corriente de lanzamientos de Metaphysic, aunque no necesariamente suministrando a las audiencias ese “momento de tiranosaurio”, inevitablemente conduciría a él; que un día veríamos algo imposible en una película; algo fundamentalmente hecho por la IA (en lugar de cubierto con CGI), que nos dejaría con la boca abierta.

Ahora… no lo sé. No es necesariamente que no crea que ese momento de asombro vendrá para la IA en el cine; ni que haya muchos problemas críticos para que el video de IA supere antes de que pueda unirse a los profesionales en la mesa.

Es más que he comenzado a compartir, de una manera vaga (y quizás moralmente cobarde), ese sentimiento de asociación negativa creciente entre la IA en los VFX y las ramificaciones negativas de la IA en otros sectores, en este período.

Además, no estoy actualmente convencido de que la influencia histórica de conjuntos de datos no pagados y no gratuitos como Common Crawl haya sido realmente contabilizada, y considero que muchos de los tratos de “licencia de IA” que han hecho titulares en los últimos 18 meses o así representan algún grado de lavado de IP.

Por lo tanto, el momento en que un Marilyn Monroe o Humphrey Bogart perfecto y no inquietante regenerado por la IA suba al escenario, creo que sentimientos de asombro y vergüenza probablemente surgirán en mí, porque la magia de la IA ha comenzado a pesarme.

Conclusión

Los dos avances tecnológicos anteriores vinieron con ninguna de estas salvedades: el advenimiento de ILM y los controles de movimiento efectivamente inventaron una industria que había sido una serie de comisiones esporádicas cumplidas por una élite escasa de ad hoc freelancers; y el advenimiento de la CGI aumentó enormemente la cantidad de trabajos en la industria de los VFX, y creó valor en el desarrollo de software adjunto, así como en varios servicios de apoyo.

Mi interés en la visión por computadora sigue intacto, junto con mi interés en el potencial de la IA en una amplia gama de aplicaciones audiovisuales posibles; y mi entusiasmo por aplicaciones más amplias del aprendizaje automático, en una variedad de otros sectores, no se ha desvanecido.

Solo deseo que pueda seguir adelante con ese momento de “wow” de la IA en el cine.

En cuanto a la razón por la que hay una escasez repentina de caras generadas por IA en la película y la TV, en comparación con los años más activos de Metaphysic, una posibilidad es que los ajustes con ayuda de IA ahora se aplican por las casas de producción con poca o ninguna publicidad (en comparación con los comunicados de prensa estruendosos del período 2022-23), dado que la respuesta pública a la innovación de la IA en el entretenimiento se ha vuelto tan hostil últimamente.

En segundo lugar, para reiterar: después de AGT, donde la empresa hizo su debut, Metaphysic nunca tuvo un éxito indiscutible en cuanto a su contribución a ninguna película o programa de TV; y ni el deepfake de Indiana Jones 4 ni ninguno de los otros trabajos de otras casas de producción fueron lo suficientemente bien recibidos, o lo suficientemente rentables como para comenzar una carrera de copias, o para dar a la IA en los VFX credibilidad genuina y amabilidad para los inversores.

* Esto es fácilmente verificable simplemente mirando los perfiles de LinkedIn y los créditos de IMDB disponibles públicamente.

^† DeepFaceLab, y el menos asociado con la pornografía FaceSwap.

Publicado por primera vez el lunes 27 de abril de 2026