Sull’etica dei deepfake di Hollywood

Perché c’è stato un calo così netto di recente nel contenuto deepfake di TV e film? L’autore ha lavorato per la pioniera dei deepfake cinematografici Metaphysic.ai per oltre due anni e mezzo, compresi 20 mesi come dipendente full-time.

Opinione / Approfondimento Da bambino, ero affascinato dalle storie della fondazione di Industrial Light and Magic (ILM), che operava in un semplice magazzino a Van Nuys, e costruiva con cura i nuovi metodi di effetti visivi a controllo del movimento che avrebbero dominato la maggior parte degli anni ’80, fino all’avvento della CGI.

Far esplodere pezzi della Morte Nera nel cortile di ILM a Van Nuys a metà degli anni ’70. Fonte

È una storia di origine eccezionale, e consiglio i molti libri e articoli che raccontano come gli effetti per Star Wars (1977) siano stati – dopo molto lavoro, recriminazioni e ritardi – finalmente consegnati.

La giovane ILM si sarebbe poi trasferita a San Francisco e avrebbe continuato a industrializzare la produzione di effetti fotochimici. Anche all’epoca del lavoro di effetti visivi per L’Impero colpisce ancora nel 1978/9, ILM, sebbene ancora una casa di effetti pionieristica e innovativa, era già piena di dipartimenti di contabilità e risorse umane.

Ma in quel periodo, e da allora, la mia immaginazione è stata catturata dal chiedermi cosa fossero stati quei primi anni “grezzi” a Van Nuys, cannibalizzando kit di modelli e metodi ottici degli anni ’60 allo stesso modo, e praticamente inventando un’industria che un tempo era stata il dominio di singoli auteur specialisti di effetti visivi.

Il volto della rivoluzione

Nei quasi tre anni in cui ho lavorato alla ora sciolta società di effetti visivi Metaphysic.ai, credo di essere stato il più vicino possibile all’esperienza di Van Nuys della metà degli anni Settanta.

In quel periodo, Metaphysic ha prodotto shot di effetti guidati da AI, specifici per determinate identità, per alcune delle più grandi franchise, tra cui Mad Max e Alien, nonché la produzione del lavoro di de-aging deepfake pionieristico (sebbene molto criticato) per Here di Robert Zemeckis (2024), e molti altri lavori:

C’erano più riunioni di “dailies” (la presentazione dell’ultimo footage prodotto, in riunioni Zoom affollate) di quante una persona potesse ragionevolmente seguire e comunque svolgere il proprio lavoro, nonché incontri di stile skunkworks, dove gruppi selezionati lavoravano insieme su piccoli progetti molto ambiziosi, cercando di avanzare lo stato dell’arte dell’azienda.

Molti dei dipendenti sono arrivati alla società direttamente da ILM o avevano lavorato per ILM in passato*; e anche se era chiaro, dalle storie, che lo spirito di Van Nuys aveva da tempo ceduto il passo alla razionalizzazione di massa a ILM, e alle varie altre grandi case di effetti visivi da cui provenivano alcuni dei dipendenti, l’associazione rimaneva elettrica per me.

George Lucas esamina gli effetti con John Dykstra, Richard Edlund, Joe Johnston e Rose Duignan durante la produzione di Star Wars. Fonte

Non so se si possa sostenere che Metaphysic avrebbe inventato un equivalente AI del DykstraFlex, il sistema di controllo del movimento che è uscito dal laboratorio di Van Nuys; ma ha messo gli effetti visivi guidati da AI sulla mappa, ed è stato responsabile di più lavori di sostituzione e alterazione del viso a livello professionale di qualsiasi altra casa di effetti o progetto singolo intrapreso nel periodo, o da allora.

Rallentamento

E devo notare che da quando l’azienda è stata assorbita dalla controllata di DNEG, Brahma AI, quel flusso costante di lavoro di effetti visivi basati su AI sembra essersi ridotto a un ritmo lentissimo.

Nonostante titoli come il partenariato di VFX AI di Netflix con Ben Affleck (NFLX ), e un impegno per l’AI da parte di registi come Soderbergh e Aronofsky, non ho visto molte facce deepfake nei film e nella TV di recente (escluso The Capture che simula la tecnologia deepfake), rispetto al “picco Metaphysic”.

Data l’entità del contraccolpo dell’AI in molti campi e settori, mi chiedo se non stiamo iniziando a cogliere il clima generale sull’identità alterata dall’AI; e se gli sforzi facilitati dall’AI come la resurrezione di Ian Holm, il ringiovanimento di Harrison Ford, e la rivitalizzazione del Rat Pack per vendere gin potrebbero presto suscitare la classica frase ‘Era un altro tempo’.

Associazioni negative

In molti modi, è un problema di associazione; ma non è lo stesso problema di associazione che c’era nel 2021, quando Metaphysic si è formata.

A quel tempo, i deepfake porn erano diventati un fenomeno virale, con tutta la produzione SFW e NSFW proveniente da uno dei due repository di software open source^† . In contrasto con oggi, non c’era un metodo con accesso controllato o censurato per produrre contenuti AI fotorealistici.

Quindi, il più grande sito di deepfake porn del mondo (destinato a essere chiuso a seguito di un’indagine nel 2025) era dove si trovavano le istruzioni ufficiali per il più grande repository di software deepfake, DeepFaceLab, esso stesso la base riconosciuta degli approcci originali di Metaphysic:

La guida originale per DeepFaceLab, un tempo il software deepfake più popolare del mondo – ospitato sul più grande sito di deepfake porn del mondo. Da allora, il software è stato archiviato e il sito chiuso. Fonte

Poiché gli sviluppatori di software chiaramente non evitavano l’associazione tra pornografia e deepfake, ciò avrebbe inevitabilmente influenzato qualsiasi azienda che cercasse di adottare legittimamente questa tecnologia.

Di conseguenza (forse non meno perché il fondatore dell’azienda era incluso con il fondatore di DeepFaceLab tra gli autori di un lavoro di posizione Arxiv sui deepfake nel 2020, e fu soggetto a molte critiche per queste associazioni) Metaphysic aveva un dipartimento di etica dedicato, e l’azienda era molto esplicita e pubblica su questo argomento.

Oggi, con l’ampia e crescente quantità di legislazione globale che criminalizza il contenuto deepfake, quell’associazione “sfortunata” riguardante le identità create dall’AI si è trasferita dal porn alla povertà, poiché le forze lavoro globali direttamente minacciate da diversi tipi di AI (solitamente Large Language Models, o LLM) stanno iniziando a demonizzare il termine in generale.

Gli abitanti del villaggio si ribellano

A un certo punto, forse a metà del 2023, partecipando a vari incontri di azienda, ho iniziato a sentire, seppure, lo ammetto, attraverso testimonianze di seconda mano, un’onda crescente di resistenza casuale ad hoc ai servizi offerti dall’azienda, coincidendo con le prime ondate sociali intorno all’AI come minaccia esistenziale per i lavoratori (sebbene debba essere notato che i sindacati di Hollywood erano in prima linea in questo senso).

L’AI sembrava essere vista in alcuni ambienti come “non vale il rischio”. Inoltre, nel periodo di picco di Metaphysic, non ha mai realmente avuto un successo indiscusso dopo il valore di shock di mettere (un giovane piuttosto pigro) Elvis Presley in America’s Got Talent. In realtà, nessun’altra azienda che produceva contenuti generati da AI in lavori di film e TV mainstream lo ha fatto.

C’è sempre stato un motivo per odiarlo: la persistente valle perturbante; l’associazione con il porn; e poi, l’associazione con una temuta apocalisse economica causata dall’AI.

Il momento del tirannosauro dell’AI

Mi era sembrato, per molto tempo, che ricreare gli esseri umani con fedeltà del 100% in un contesto di effetti visivi in cui la CGI aveva fallito a lungo, fosse un obiettivo degno, se non inevitabile.

Immaginavo che l’evoluzione dell’AI negli effetti visivi sarebbe culminata in un terzo “cambiamento epocale” per l’industria, per la gioia degli spettatori. Il primo era stato la prima vista dello Star Destroyer che tuonava sopra in Star Wars nel 1977, e il secondo, il tirannosauro infuriato che sfuggiva al suo recinto in Jurassic Park, nel 1993.

Entrambi avevano portato a cambiamenti radicali nell’industria, e entrambi erano stati preceduti da early adopter che spingevano i limiti di una tecnologia o metodo nascente.

Quindi, mi sembrava che il flusso di rilasci di Metaphysic, sebbene non necessariamente fornendo agli spettatori quel “momento del tirannosauro”, avrebbe inevitabilmente portato a esso; che un giorno, avremmo visto qualcosa di impossibile in un film; qualcosa realizzato fin dalle fondamenta dall’AI (piuttosto che coperto con CGI), che ci avrebbe fatto saltare sulla sedia.

Ora… non lo so. Non è necessariamente che non creda che quel momento di meraviglia arriverà per l’AI nel cinema; né solo che ci siano molti problemi critici per il video AI da superare prima di poter unirsi ai professionisti al tavolo.

È più che io abbia iniziato a condividere, in un modo vago (e forse moralmente codardo), quel sentimento nascente e crescente di associazione negativa tra l’AI nei VFX e le ramificazioni negative dell’AI in altri settori, in questo periodo.

Oltre a questo, non sono attualmente convinto che l’influenza storica di dataset utilizzati senza remunerazione e non liberi come Common Crawl sia stata veramente presa in considerazione, e considero che molti dei tanto decantati accordi di “licenza AI” che hanno fatto notizia negli ultimi 18 mesi o giù di lì rappresentino una certa misura di lavaggio di proprietà intellettuale.

Quindi, il momento in cui una Marilyn Monroe o un Humphrey Bogart perfetti e non inquietanti, ricreati dall’AI, appariranno sullo schermo, credo che sentimenti di meraviglia e imbarazzo saranno probabilmente suscitati in me, perché il fardello della magia dell’AI ha iniziato a pesarmi.

Conclusione

I due precedenti progressi tecnologici sono arrivati senza queste riserve: l’avvento di ILM e dei motion control rigs ha effettivamente inventato un’industria che un tempo era una serie di incarichi sporadici soddisfatte da una ristretta élite di freelance che intervenivano ad hoc; e l’avvento della CGI ha aumentato notevolmente il numero di lavori nell’industria degli effetti visivi, e ha creato valore nello sviluppo di software correlato e in vari servizi di supporto.

Il mio interesse per la visione computerizzata rimane intatto, insieme al mio interesse per il potenziale dell’AI in una vasta gamma di applicazioni audiovisive possibili; e il mio entusiasmo per applicazioni più ampie dell’apprendimento automatico, in una gamma di altri settori, è inalterato.

Vorrei soltanto poter continuare ad attendere con entusiasmo quel momento di stupore dell’AI al cinema.

Per quanto riguarda il motivo per cui c’è una mancanza improvvisa di facce generate da AI nei film e nella TV, rispetto agli anni più attivi di Metaphysic – una possibilità è che gli aggiustamenti aiutati dall’AI siano ora applicati dalle case di produzione con poca o nessuna pubblicità (rispetto ai comunicati stampa strombazzati del periodo 2022-23), dato che la risposta pubblica all’innovazione dell’AI nel settore dello spettacolo è diventata così ostile di recente.

In secondo luogo, per ribadire: dopo AGT, dove l’azienda ha fatto il suo debutto, Metaphysic non ha mai realmente avuto un successo indiscusso riguardo al proprio contributo a qualsiasi film o spettacolo TV; e né il deepfake di Indiana Jones 4 né alcun altro lavoro di altre case di produzione è stato ben accolto abbastanza, o abbastanza redditizio da iniziare una corsa di imitatori, o da dare all’AI nei VFX autentica credibilità e attrattiva per gli investitori.

* Questo è facilmente verificabile semplicemente guardando i profili LinkedIn pubblicamente disponibili e i crediti IMDB.

^† DeepFaceLab, e il meno associato al porn FaceSwap.

Pubblicato per la prima volta lunedì, 27 aprile 2026