Sull’Etica dei Deepfake di Hollywood

Perché c’è stato un calo così netto di recente nel contenuto deepfake di TV e film? L’autore ha lavorato per la società di effetti visivi pionieristica Metaphysic.ai per oltre due anni e mezzo, compresi 20 mesi come dipendente full-time.

Opinione/Caratteristica Da bambino, ero affascinato dalle storie della fondazione di Industrial Light and Magic (ILM), che operava in un magazzino vuoto a Van Nuys, e costruiva con cura i nuovi metodi di effetti visivi a controllo del movimento che avrebbero dominato la maggior parte degli anni ’80, fino all’avvento della CGI.

Far esplodere pezzi della Morte Nera nel cortile di ILM a Van Nuys a metà degli anni ’70. Fonte

È una storia di origine eccezionale, e consiglio i molti libri e articoli che raccontano come gli effetti per Star Wars (1977) siano stati – dopo molto lavoro, recriminazioni e ritardi – finalmente consegnati.

La giovane ILM si sarebbe poi trasferita a San Francisco e avrebbe continuato a industrializzare la produzione di effetti fotochimici. Anche all’epoca del lavoro di effetti visivi per Il Impero Colpisce Ancora nel 1978/9, ILM, sebbene ancora una casa di effetti pionieristica e innovativa, era già piena di dipartimenti di contabilità e risorse umane.

Ma in quel periodo, e da allora, la mia immaginazione è stata catturata dal chiedermi cosa fossero stati quei primi anni “grezzi” a Van Nuys, cannibalizzando kit di modelli e metodi ottici degli anni ’60 allo stesso modo, e praticamente inventando un’industria che un tempo era stata il dominio di singoli auteur specialisti di effetti visivi.

Il Volto della Rivoluzione

Nei quasi tre anni in cui ho lavorato alla ora sciolta società di effetti visivi Metaphysic.ai, credo di essere stato il più vicino possibile all’esperienza di Van Nuys del 1975.

In quel periodo, Metaphysic ha prodotto shot di effetti guidati da AI, specifici per l’ID, per alcune delle più grandi franchise, tra cui Mad Max e Alien franchise, nonché la produzione del lavoro di de-aging deepfake pionieristico (sebbene molto criticato) per Robert Zemeckis’ Here (2024), e molti altri lavori:

C’erano più riunioni di “dailies” (la presentazione dell’ultimo footage prodotto, in riunioni Zoom affollate) di quanto una persona potesse ragionevolmente partecipare e comunque svolgere il proprio lavoro, nonché incontri di stile skunkworks, dove gruppi selezionati lavoravano insieme su mini-missioni, cercando di avanzare lo stato dell’arte dell’azienda.

Molti dei dipendenti sono arrivati alla società direttamente da ILM o avevano lavorato per ILM in passato*; e anche se era chiaro, dalle storie, che lo spirito di Van Nuys aveva da tempo ceduto il passo alla razionalizzazione di massa a ILM, e alle varie altre grandi case di effetti visivi da cui provenivano alcuni dei dipendenti, l’associazione rimaneva elettrica per me.

George Lucas esamina gli effetti con John Dykstra, Richard Edlund, Joe Johnston e Rose Duignan durante la produzione di Star Wars. Fonte

Non so se si possa sostenere che Metaphysic avrebbe inventato un equivalente AI del DykstraFlex motion-control rig che è uscito dal laboratorio di Van Nuys; ma ha messo gli effetti visivi guidati da AI sulla mappa, ed è stato responsabile di più lavori di sostituzione e alterazione del viso a livello professionale di qualsiasi altra casa di effetti o progetto singolo intrapreso nel periodo, o da allora.

Rallentamento

E devo notare che da quando l’azienda è stata assorbita dalla società di sottocompany di DNEG, Brahma AI, quel flusso costante di lavoro di effetti visivi basati su AI sembra essersi ridotto a un crawl.

Nonostante titoli come il partenariato di VFX AI di Netflix con Ben Affleck, e un impegno per l’AI da parte di registi come Soderbergh e Aronofsky, non ho visto molte facce deepfake nei film e nella TV di recente (escluso The Capture che simula la tecnologia deepfake), rispetto al “picco Metaphysic”.

Data l’entità del contraccolpo dell’AI in molti campi e settori, mi chiedo se non stiamo iniziando a “leggere la stanza” sull’identità alterata dall’AI; e se gli sforzi facilitati dall’AI come la resurrezione di Ian Holm, la ringiovanimento di Harrison Ford, e la rivitalizzazione del Rat Pack per vendere gin potrebbero presto suscitare la classica frase ‘Era un altro tempo’.

Associazioni Negative

In molti modi, è un problema di associazione; ma non è lo stesso problema di associazione che c’era nel 2021, quando Metaphysic si è formata.

Al quel tempo, i deepfake porn erano diventati un fenomeno virale, con tutta la produzione SFW e NSFW proveniente da uno dei due repository di software open source^† . In contrasto con oggi, non c’era un modo “gatekept” o censurato per produrre contenuti AI fotorealistici.

Quindi, il più grande sito di deepfake porn del mondo (destinato a essere chiuso a seguito di un’indagine nel 2025) era dove si trovavano le istruzioni ufficiali per il più grande repository di software deepfake, DeepFaceLab, esso stesso l’ammissione fondamentale degli approcci originali di Metaphysic:

La guida originale per DeepFaceLab, un tempo il software deepfake più popolare del mondo – ospitato sul più grande sito di deepfake porn del mondo. Da allora, il software è stato archiviato e il sito chiuso. Fonte

Da allora, gli sviluppatori di software non si sono certamente tirati indietro dall’associazione tra porn e deepfake, questo avrebbe inevitabilmente influenzato qualsiasi azienda che cercasse di adottare legittimamente questa tecnologia.

Di conseguenza (forse non meno perché il fondatore dell’azienda era incluso con il fondatore di DeepFaceLab nell’autorizzazione di un lavoro di posizione Arxiv sui deepfake nel 2020, e fu soggetto a molte critiche per queste associazioni) Metaphysic aveva un dipartimento di etica dedicato, e l’azienda era vocale e molto pubblica su questo argomento.

Questi giorni, con l’estensiva e crescente tranche di legislazione globale che criminalizza il contenuto deepfake, quell’associazione “sfortunata” riguardante le identità create dall’AI si è trasferita dal porn alla povertà, poiché le forze lavoro globali direttamente minacciate da diversi tipi di AI (solitamente Large Language Models, o LLM) stanno iniziando a demonizzare il termine in generale.

I Villani Si Ribellano

A un certo punto, forse a metà del 2023, partecipando a vari incontri di azienda, ho iniziato a sentire, ammettendo a livello secondario, un’onda crescente di resistenza casuale ad hoc ai servizi offerti dall’azienda, coincidendo con le prime ondate sociali intorno all’AI come minaccia esistenziale per i lavoratori (sebbene debba essere notato che i sindacati di Hollywood erano in prima linea in questo senso).

L’AI sembrava essere vista in alcuni quartieri come “non vale il rischio”. Inoltre, nel periodo di picco di Metaphysic, non ha mai realmente avuto un successo indiscusso dopo il valore di shock di mettere (un giovane piuttosto pigro) Elvis Presley in America’s Got Talent. In realtà, nessun’altra azienda che produceva contenuti generati da AI in lavori di film e TV mainstream lo ha fatto.

C’è sempre stato un motivo per odiarlo: la valle inquietante sempre presente; l’associazione con il porn; e poi, l’associazione con un’apocalisse economica guidata dall’AI.

Il Momento del Tirannosauro dell’AI

Mi era sembrato, per molto tempo, che ricreare gli esseri umani con fedeltà del 100% in un contesto di effetti visivi che era stato fallito dalla CGI per molto tempo, fosse un obiettivo degno, se non inevitabile.

Immaginavo che l’evoluzione dell’AI negli effetti visivi sarebbe culminata in un terzo “cambiamento epocale” per l’industria, al piacere degli spettatori. Il primo era stato la prima vista della stella della distruzione che tuonava sopra in Star Wars nel 1977, e il secondo, il tirannosauro infuriato che sfuggiva al suo recinto in Jurassic Park, nel 1993.

Entrambi avevano portato a cambiamenti radicali nell’industria, e entrambi erano stati preceduti da early adopter che spingevano i limiti di una tecnologia o metodo nascente.

Quindi, mi sembrava che il flusso di rilasci di Metaphysic, sebbene non necessariamente fornendo agli spettatori quel “momento del tirannosauro”, avrebbe inevitabilmente portato a esso; che un giorno, avremmo visto qualcosa impossibile in un film; qualcosa fondata dall’AI (piuttosto che coperto con CGI), che ci avrebbe fatto saltare sulla sedia.

Ora… non lo so. Non è necessariamente che non creda che quel momento di meraviglia arriverà per l’AI nel cinema; né solo che ci siano molti problemi critici per il video AI da superare prima di poter unirsi ai professionisti al tavolo.

È più che io abbia iniziato a condividere, in un modo vago (e forse moralmente codardo), quel sentimento nascente e crescente di associazione negativa tra l’AI nei VFX e le ramificazioni negative dell’AI in altri settori, in questo periodo.

Oltre a questo, non sono attualmente convinto che l’influenza storica di dataset non pagati e non gratuiti come Common Crawl sia stata veramente presa in considerazione, e considero che molti dei tanto decantati accordi di “licenza AI” che hanno fatto titoli negli ultimi 18 mesi o giù di lì rappresentino una certa estensione di lavaggio di proprietà intellettuale.

Quindi, il momento in cui un perfetto e non inquietante AI-rigenerato Marilyn Monroe o Humphrey Bogart salirà sullo schermo, credo che sentimenti di meraviglia e imbarazzo saranno probabilmente suscitati in me, perché il bagaglio dell’AI wizardry ha iniziato a pesarmi.

Conclusione

I due precedenti progressi tecnologici sono arrivati senza queste riserve: l’avvento di ILM e dei motion control rigs ha effettivamente inventato un’industria che un tempo era una serie di commissioni sporadiche soddisfatte da un élite sparso di ad hoc freelancer; e l’avvento della CGI ha aumentato notevolmente il numero di lavori nell’industria degli effetti visivi, e ha creato valore in sviluppo software adiacente, nonché vari servizi di supporto.

Il mio interesse per la visione computerizzata rimane intatto, insieme al mio interesse per il potenziale dell’AI in una vasta gamma di applicazioni audiovisive possibili; e il mio entusiasmo per applicazioni più ampie dell’apprendimento automatico, in una gamma di altri settori, è inalterato.

Solo desidero poter continuare a guardare avanti a quel momento “wow” dell’AI al cinema.

Per quanto riguarda il motivo per cui c’è una mancanza improvvisa di facce generate da AI nei film e nella TV, rispetto agli anni più attivi di Metaphysic – una possibilità è che gli aggiustamenti aiutati dall’AI siano ora applicati dalle case di produzione con poca o nessuna pubblicità (rispetto ai comunicati stampa strombazzati del periodo 2022-23), dato che la risposta pubblica all’innovazione dell’AI nel settore dello spettacolo è diventata così ostile di recente.

In secondo luogo, per ribadire: dopo AGT, dove l’azienda ha fatto il suo debutto, Metaphysic non ha mai realmente avuto un successo indiscusso riguardo al proprio contributo a qualsiasi film o spettacolo TV; e né il deepfake di Indiana Jones 4 né alcun altro lavoro di altre case di produzione è stato ben accolto abbastanza, o abbastanza redditizio da iniziare una corsa di copie, o da dare all’AI nei VFX una credibilità genuina e amichevole per gli investitori.

* Questo è facilmente verificabile semplicemente guardando i profili LinkedIn pubblicamente disponibili e i crediti IMDB.

^† DeepFaceLab, e il meno associato al porn FaceSwap.

Pubblicato per la prima volta lunedì, 27 aprile 2026