Despre Etica Hollywood-ului Deepfakes

De ce a fost o scădere atât de bruscă în ultima vreme a conținutului de deepfake din TV și filme? Autorul a lucrat pentru Metaphysic.ai, pionierul deepfake-urilor din filme, timp de peste doi ani și jumătate, inclusiv 20 de luni ca angajat cu normă întreagă.

Opinie/Articol Ca copil, am fost captivat de poveștile despre fondarea Industrial Light and Magic (ILM), care opera dintr-un depozit simplu din Van Nuys, și care a construit cu greutate o nouă generație de metode de efecte vizuale controlate de mișcare, care ulterior au dominat majoritatea anilor 1980, până la apariția CGI-ului.

Distrugerea unor bucăți ale Stelei Morții în curtea ILM din Van Nuys în mijlocul anilor 1970. Sursă

Este o poveste de origine remarcabilă, și vă recomand multe cărți și articole care retell cum efectele pentru Războiul stelelor (1977) au fost – după multă trudă, recriminare și întârziere – în cele din urmă livrate.

Tânăra ILM ulterior s-a mutat la San Francisco și a continuat să industrializeze producția de efecte fotochimice. Chiar și în perioada lucrului la efectele vizuale pentru Imperiul contraatacă în 1978/9, ILM, deși încă o casă de efecte pionieră și inovatoare, era deja plină de departamente de contabilitate și resurse umane.

Dar în acea perioadă, și de atunci, imaginația mea a fost captivată de gândul la ce ar fi fost acei primi ani “brutali” la Van Nuys, canibalizând kituri de modele și metode optice din anii 1960, și practic inventând o industrie care fusese odată rezervată specialiștilor auteur VFX individuali.

Fața Revoluției

În cei aproape trei ani în care am lucrat la dizolvata companie de efecte vizuale Metaphysic.ai, cred că am fost cât mai aproape de experiența de la Van Nuys din anii ’70.

În acea perioadă, Metaphysic a produs imagini cu efecte speciale conduse de IA, specifice ID, pentru unele dintre cele mai mari francize, incluzând Mad Max și Alien, precum și producerea de deepfake-uri de îmbătrânire inovatoare (chiar dacă mult criticată) pentru Here (2024) al lui Robert Zemeckis, și multe alte lucrări:

A existat o mulțime de “dailies” (prezentarea ultimelor imagini produse, în întâlniri Zoom aglomerate) decât orice persoană ar fi putut rezonabil să participe și să-și facă propria muncă, precum și întâlniri de tip skunkworks, unde grupuri selectate lucrau împreună la mini-proiecte, căutând să avanseze stadiul actual al companiei.

Mulți dintre angajați au venit la companie direct de la ILM, sau altfel au lucrat pentru ILM în trecut*; și chiar dacă era clar, din anecdote, că spiritul Van Nuys dispăruse de mult și fusese înlocuit de raționalizarea în masă la ILM, și de alte case mari de efecte vizuale de la care proveneau unii angajați, asociația a rămas electrică pentru mine.

George Lucas revizuiește efecte cu John Dykstra, Richard Edlund, Joe Johnston și Rose Duignan în timpul producției Războiul stelelor. Sursă

Nu știu dacă s-ar putea argumenta că Metaphysic ar fi putut inventa un echivalent AI pentru DykstraFlex, rigul de control al mișcării care a apărut din atelierul Van Nuys; dar a pus efectele vizuale conduse de IA pe hartă, și a fost responsabilă pentru mai multe efecte profesionale de înlocuire și modificare a feței decât orice altă casă de efecte sau proiect a întreprins în perioada respectivă, sau de atunci.

Încetinire

Și trebuie să remarc că, de când compania a fost absorbită de Brahma AI, un subsidiar al DNEG, acel flux constant de lucrări de efecte vizuale bazate pe IA pare să se fi oprit.

În ciuda titlurilor precum parteneriatul lui Ben Affleck cu AI VFX Netflix, și angajamentul față de IA din partea unor regizori de marcă precum Soderbergh și Aronofsky, nu am văzut prea multe fețe create de deepfake în filme și emisiuni TV în ultima vreme (excluzând The Capture‘s simularea tehnologiei de deepfake), comparativ cu “vârful” Metaphysic.

Având în vedere amploarea reacției negative la IA în atâtea domenii și sectoare, mă întreb dacă nu începem să “citim camera” în legătură cu identitățile modificate de IA; și dacă eforturile facilitatoare de IA, cum ar fi învierea lui Ian Holm, întinerirea lui Harrison Ford, și reînvierea Rat Pack-ului pentru a vinde gin ar putea în curând să provoace meme-ul clasic ‘A fost o altă vreme’.

Asocieri Negative

În multe feluri, este o problemă de asocieri; dar nu este aceeași problemă de asocieri pe care o avea în 2021, când Metaphysic a fost fondată.

La acea vreme, deepfake-urile porno deveniseră un fenomen viral, cu toate ieșirile SFW și NSFW provenind de la una dintre cele două surse de software open source^† . În contrast cu astăzi, nu exista niciun mod “păzit” sau cenzurat de a produce conținut photorealistic AI.

Atunci, cel mai mare site de deepfake-uri porno din lume (destinat să fie distrus de o anchetă în 2025) era unde se aflau instrucțiunile oficiale pentru cel mai mare depozit de software deepfake, DeepFaceLab, care era fundamentul admis al abordărilor originale ale Metaphysic:

Ghidul original pentru DeepFaceLab, la un moment dat cel mai popular software de deepfake din lume – găzduit pe cel mai mare site de deepfake-uri porno. De atunci, software-ul a fost arhivat, iar site-ul a fost închis. Sursă

Deoarece dezvoltatorii de software nu se fereau de asocierile dintre pornografie și deepfake-uri, acest lucru va afecta inevitabil orice companie care încearcă să adopte în mod legitim această tehnologie.

În consecință (poate nu în ultimul rând, deoarece fondatorul companiei a fost inclus, împreună cu fondatorul DeepFaceLab, în autoritatea unui articol de poziție Arxiv despre deepfake-uri în 2020, și a fost supus unei critici severe din cauza acestor asocieri) Metaphysic a avut un departament dedicat eticii, și compania a fost vocală și foarte publică pe acest subiect.

Aceste zile, cu legislația globală extinsă și în creștere care incriminează conținutul de deepfake, acea asociație “nefericită” cu identitățile create de IA s-a transferat de la pornografie la sărăcie, pe măsură ce forțele de muncă globale, amenințate direct de diferite tipuri de IA (de obicei, Large Language Models, sau LLM-uri), încep să demonizeze termenul în general.

Și Sătenii Se Răzvrătesc

La un moment dat, poate în mijlocul anului 2023, participând la diverse întâlniri ale companiei, am început să simt, într-un mod indirect, o undă crescândă de rezistență informală la serviciile oferite de companie, coincizând cu primele valuri sociale în jurul IA ca o amenințare existențială pentru lucrători (deși trebuie remarcat că sindicatele din Hollywood au fost în avangardă în acest sens).

IA părea să fie văzută în unele sfere ca “nu meritând riscul”. În plus, în perioada de vârf a producției Metaphysic, nu a avut niciodată un succes necontestat după valoarea de șoc a plasării unui tânăr Elvis Presley în America’s Got Talent. De fapt, nici o companie care producea conținut generat de IA în lucrări mainstream de film și TV nu a avut.

A existat întotdeauna un motiv de a urî: valea neplăcută; asocierile cu pornografia; și apoi, asocierile cu o apocalipsă economică condusă de IA.

Momentul “Tyrannosaurus”

Părea să-mi fi fost, pentru o perioadă foarte lungă, că recrearea oamenilor cu fidelitate de 100% într-un context de efecte vizuale care fusese eșuat de CGI de mult timp, era un obiectiv demn de urmărit, dacă nu inevitabil.

M-am imaginat că evoluția IA în efectele vizuale va culmina într-o a treia schimbare “epocală” pentru industrie, spre deliciul spectatorilor. Prima a fost prima vedere a distrugătorului de stele care trece pe deasupra în Războiul stelelor în 1977, și a doua, tiranul înfuriat care evadează din parc în Parcul Jurassic, în 1993.

Fiecare a condus la schimbări radicale în industrie, și fiecare a fost precedat de early-adopterii care au împins limitele unei tehnologii sau metode în curs de dezvoltare.

Așa că mi s-a părut că fluxul de lansări Metaphysic, deși nu a furnizat neapărat spectatorilor acel “moment tiranosaurus”, va duce inevitabil la el; că, într-o zi, vom vedea ceva imposibil într-un film; ceva fundamental făcut de IA (și nu acoperit cu CGI), care ne va lăsa fără suflare.

Acum…nu știu. Nu este neapărat că nu cred că acel moment de uimire va veni, pentru IA în cinematografie; nici că nu există multe probleme critice pentru video-ul IA de depășit înainte de a putea să se alăture profesioniștilor la masă.

Este mai mult că am început să împărtășesc, într-un mod vag (și, poate, moralmente laș), acea senzație publică crescândă de asocieri negative între IA în VFX și ramificațiile negative ale IA în alte sectoare, în această perioadă.

Pe lângă aceasta, nu sunt în prezent convins că influența istorică a seturilor de date neplătite și gratuite, cum ar fi Common Crawl, a fost cu adevărat luată în considerare; și consider că multe dintre contractele de “licențiere IA” care au făcut titluri în ultimele 18 luni sau aproximativ reprezintă o anumită extindere a “spălării de IP”.

Prin urmare, în momentul în care o perfectă și ne-uncannică regenerare AI a lui Marilyn Monroe sau Humphrey Bogart va apărea pe ecran, cred că sentimente de uimire și jenă vor apărea în mine, deoarece bagajul de IA a început să mă împovăreze.

Concluzie

Cele două înainte de avansurile tehnologice au venit fără astfel de rezerve: apariția ILM și a rigurilor de control al mișcării au inventat efectiv o industrie care fusese anterior o serie de comisioane sporadice îndeplinite de un grup răzleț de freelanceri ad hoc; și apariția CGI a mărit considerabil numărul de locuri de muncă în industria VFX, și a creat valoare în servicii software și servicii conexe.

Interesul meu pentru Viziunea Computerului rămâne intact, împreună cu interesul meu pentru potențialul IA într-o gamă largă de aplicații audiovizuale; și entuziasmul meu pentru aplicații mai largi ale învățării automate, într-o varietate de alte sectoare, este neștirbit.

Doar îmi doresc să pot continua să aștept acel moment “wow” al IA la cinematograf.

În ceea ce privește motivul pentru care există o lipsă bruscă de fețe generate de IA în filme și emisiuni TV, comparativ cu anii cei mai activi ai Metaphysic – o posibilitate este că ajustările ajutate de IA sunt acum aplicate de casele de producție cu puțină sau deloc publicitate (comparativ cu comunicatele de presă zgomotoase din perioada 2022-23), având în vedere că răspunsul public la inovațiile IA în divertisment a devenit atât de ostil în ultima vreme.

În al doilea rând, pentru a reitera: după AGT, unde compania și-a făcut debutul, Metaphysic nu a avut niciodată un succes neîmpăiat în ceea ce privește contribuția sa la vreun film sau emisiune TV; și nici Indiana Jones 4 deepfake, nici una dintre celelalte lucrări de la alte case de producție nu a fost suficient de bine primită, sau suficient de profitabilă pentru a începe o avalanșă de copii, sau pentru a oferi IA în VFX o credibilitate și o prietenie cu investitorii.

* Acest lucru este ușor de verificat prin simpla examinare a profilurilor publice de pe LinkedIn și a creditelor IMDB.

^† DeepFaceLab, și mai puțin asociat cu pornografia, FaceSwap.

Publicat pentru prima dată luni, 27 aprilie 2026