Despre Etica Hollywood Deepfakes

De ce a fost o scădere atât de bruscă în ultima vreme a conținutului de televiziune și film cu deepfakes? Autorul a lucrat pentru pionierul deepfakes Metaphysic.ai timp de peste doi ani și jumătate, inclusiv 20 de luni ca angajat cu normă întreagă.

Opinie/Articol Ca copil, am fost capturat de poveștile despre fondarea Industrial Light and Magic (ILM), care opera dintr-un depozit basic în Van Nuys, și care a construit cu greutate noi generații de metode de efecte vizuale controlate de mișcare, care urmau să domine majoritatea anilor 1980, până la apariția CGI-ului.

Distrugerea unor părți ale Stelei Morții în curtea ILM din Van Nuys în mijlocul anilor 1970. Sursă

Este o poveste de origine remarcabilă, și vă recomand multe cărți și articole care spun cum efectele pentru Războiul stelelor (1977) au fost – după multă trudă, recriminare și întârziere – în cele din urmă livrate.

ILM în curs de dezvoltare s-a mutat mai târziu la San Francisco și a continuat să industrializeze producția de efecte fotochimice. Chiar și în perioada lucrului la Imperiul contraatacă în 1978/9, ILM, deși încă o casă de efecte pionieră și inovatoare, era deja plină de departamente de contabilitate și resurse umane.

Dar în acea perioadă, și de atunci, imaginația mea a fost capturată de gândul la ce ar fi fost acei primi ani “brutali” la Van Nuys, cannibalizând kituri de model și metode optice din anii 1960, și practic inventând o industrie care fusese odată domeniul unor specialiști VFX auteur individuali.

Fața Revoluției

În cei aproape trei ani în care am lucrat la dizolvata companie de efecte vizuale Metaphysic.ai, cred că am fost cât mai aproape de experiența de la Van Nuys din anii ’70.

În acea perioadă, Metaphysic a produs imagini cu efecte specifice, conduse de IA, pentru unele dintre cele mai mari francize, incluzând Mad Max și Alien, precum și producerea de lucrări de îmbătrânire pentru filmul lui Robert Zemeckis Aici (2024), și multe alte lucrări:

Au fost mai multe întâlniri de “dailies” (prezentarea celor mai recente imagini produse, în întâlniri Zoom aglomerate) decât orice persoană ar fi putut rezonabil să participe și să-și facă propriul său lucru, precum și întâlniri de tip “skunkworks”, unde grupuri selectate lucrau împreună la mini-proiecte, căutând să avanseze stadiul companiei.

Mulți dintre angajați au venit la companie direct de la ILM sau au lucrat pentru ILM în trecut*; și, deși era clar, din anecdote, că spiritul Van Nuys dispăruse de mult la ILM, și la alte case de efecte vizuale majore de la care proveneau unii angajați, asociația a rămas electrică pentru mine.

George Lucas revizuiește efecte cu John Dykstra, Richard Edlund, Joe Johnston și Rose Duignan în timpul producției Războiului stelelor. Sursă

Nu știu dacă s-ar putea argumenta că Metaphysic ar fi putut inventa un echivalent AI pentru rigul de control al mișcării DykstraFlex care a apărut din atelierul Van Nuys; dar a pus efectele vizuale conduse de IA pe hartă și a fost responsabilă pentru mai multe efecte de înlocuire și alterare a feței la nivel profesional decât orice altă casă de efecte sau proiect a făcut în perioada respectivă, sau a făcut de atunci.

Încetinire

Și trebuie să observ că, de când compania a fost absorbită de sub-compania Brahma AI a DNEG, Brahma AI, fluxul constant de lucrări de efecte vizuale bazate pe IA pare să se fi oprit brusc.

În ciuda titlurilor precum parteneriatul lui Ben Affleck cu AI VFX Netflix, și un angajament față de IA din partea regizorilor Soderbergh și Aronofsky, nu am văzut prea multe fețe create de deepfake în filme și emisiuni TV în ultima vreme (excluzând The Capture‘s simularea tehnologiei deepfake), comparativ cu “vârful Metaphysic”.

Dată fiind amploarea reacției negative la IA în multe domenii și sectoare, mă întreb dacă nu suntem toți începând să “citim camera” în legătură cu identitățile modificate de IA; și dacă eforturile facilitatoare de IA, cum ar fi învierea lui Ian Holm, întinerirea lui Harrison Ford și reînvierea Rat Pack-ului pentru a vinde gin, ar putea în curând provoca reacția clasică ‘A fost o altă vreme’.

Asocieri Negative

În multe feluri, este o problemă de asocieri; dar nu este aceeași problemă de asocieri pe care o avea în 2021, când Metaphysic s-a format.

La acea vreme, deepfake-urile porno deveniseră un fenomen viral, cu toate ieșirile SFW și NSFW provenind de la una dintre cele două surse de software open-source^† . În contrast cu astăzi, nu exista o modalitate “gatekept” sau cenzurată de a produce conținut fotorealist cu IA.

Apoi, cel mai mare site de deepfake-uri porno din lume (destinat să fie distrus de o anchetă în 2025) a fost unde se aflau instrucțiunile oficiale pentru cel mai mare depozit de software de deepfake, DeepFaceLab, el însuși temelia abordărilor originale ale Metaphysic:

Ghidul original pentru DeepFaceLab, la un moment dat cel mai popular software de deepfake – găzduit pe cel mai mare site de deepfake-uri porno. De atunci, software-ul a fost arhivat, iar site-ul a fost închis. Sursă

Deoarece dezvoltatorii de software nu se fereau de asociația dintre porno și deepfake-uri, acest lucru ar afecta inevitabil orice companie care încerca să adopte în mod legitim această tehnologie.

În consecință (poate nu în ultimul rând pentru că fondatorul companiei a fost inclus, împreună cu fondatorul DeepFaceLab, în autorii unui articol de poziție Arxiv despre deepfake-uri în 2020, și a fost supus unei critici aspre în legătură cu aceste asocieri) Metaphysic a avut un departament dedicat de etică, și compania a fost vocală și foarte publică pe această temă.

În zilele noastre, cu legislația globală extinsă și în creștere care incriminează conținutul de deepfake, acea asociație “nefericită” cu identitățile create de IA s-a transferat de la porno la sărăcie, pe măsură ce forțele de muncă globale, amenințate direct de diferite tipuri de IA (de obicei, modele de limbaj mare, sau LLM), încep să demonizeze termenul în general.

Țăranii se Revoltă

La un moment dat, poate în mijlocul anului 2023, participând la diverse întâlniri ale companiei, am început să simt, la modul indirect, o undă crescândă de rezistență casuală, ad hoc, la serviciile oferite de companie, coincizând cu primele valuri sociale în jurul IA ca o amenințare existențială pentru lucrători (deși trebuie remarcat că sindicatele din Hollywood au fost în avangardă în acest sens).

IA părea să fie văzută în unele sfere ca “nu merită riscul”. În plus, în perioada de vârf a producției Metaphysic, nu a avut niciodată un succes necontestat după valoarea de șoc a introducerii unui Elvis Presley tânăr în America’s Got Talent. De fapt, nici o companie care producea conținut generat de IA în lucrări de film și TV mainstream nu a avut.

A existat întotdeauna un motiv de a urî: valea neplăcută; asociația cu porno; și apoi, asociația cu o apocalipsă economică condusă de IA.

Momentul “Tyrannosaurus” al IA

Mi s-a părut, pentru o perioadă de timp, că recrearea oamenilor cu fidelitate de 100% într-un context de efecte vizuale care fusese eșuat de CGI de mult timp, era un obiectiv demn de urmărit, dacă nu inevitabil.

Mă imaginasem că evoluția IA în efecte vizuale va culmina cu o a treia schimbare “epocală” pentru industrie, spre deliciul spectatorilor. Prima a fost primul avion de luptă care a zburat deasupra în Războiul stelelor în 1977, și a doua, Tyrannosaurus care a evadat din încăpere în Parcul Jurassic, în 1993.

Fiecare a condus la schimbări radicale în industrie, și fiecare a fost precedat de adoptatori timpurii care au împins limitele unei tehnologii sau metode în curs de dezvoltare.

Așa că mi s-a părut că fluxul de lansări al Metaphysic va duce în mod inevitabil la acest moment; că, într-o zi, vom vedea ceva imposibil într-un film; ceva fundamental făcut de IA (și nu acoperit cu CGI), care ne va lăsa fără suflare.

Acum… Nu este neapărat că nu cred că momentul acela de uimire va veni, pentru IA în cinematografie; nici că nu există multe probleme critice pentru video-ul cu IA de depășit înainte de a putea să se alăture profesioniștilor la masă.

Este mai mult că am început să împărtășesc, într-un mod vag (și, poate, laș), sentimentul public în creștere de asocieri negative între IA în efecte vizuale și ramificațiile negative ale IA în alte sectoare, în această perioadă.

Pe lângă aceasta, nu sunt convins în prezent că influența istorică a seturilor de date neplătite și non-gratuite, cum ar fi Common Crawl, a fost cu adevărat luată în considerare încă, și consider că multe dintre contractele de “licențiere IA” care au făcut titluri în ultimele 18 luni sau aproximativ reprezintă o anumită măsură de spălare de proprietate intelectuală.

Prin urmare, în momentul în care o Marilyn Monroe sau Humphrey Bogart perfect regenerată de IA va apărea pe ecran, cred că sentimentele mele de uimire și jenă vor fi probabile, pentru că bagajul de IA a început să mă încarce.

Concluzie

Cele două înainte de acestea au venit fără asemenea rezerve; apariția ILM și a rigurilor de control al mișcării a inventat efectiv o industrie care fusese anterior o serie de comisioane ocazionale îndeplinite de un grup restrâns de freelanceri ad hoc; și apariția CGI a mărit semnificativ numărul de locuri de muncă în industria de efecte vizuale și a creat valoare în domenii conexe, cum ar fi dezvoltarea de software și diverse servicii de suport.

Interesul meu pentru Viziunea Computerizată rămâne intact, alături de interesul meu pentru potențialul IA într-o gamă largă de aplicații audiovizuale; și entuziasmul meu pentru aplicații mai largi ale învățării automate, într-o varietate de alte sectoare, este neatins.

Doar îmi doresc să pot continua să mă uit cu nerăbdare la acel moment “wow” al IA la cinematograf.

Cât despre motivul pentru care există o lipsă bruscă de fețe generate de IA în filme și emisiuni TV, comparativ cu anii cei mai activi ai Metaphysic – o posibilitate este că ajustările cu IA sunt acum aplicate de casele de producție cu puțină sau deloc publicitate (comparativ cu comunicatele de presă zgomotoase din perioada 2022-23), având în vedere că răspunsul public la inovațiile IA în divertisment a devenit atât de ostil în ultima vreme.

În al doilea rând, pentru a reafirma: după AGT, unde compania și-a făcut debutul, Metaphysic nu a avut niciodată un succes neîmpărtășit în ceea ce privește contribuția sa la vreun film sau emisiune TV; și nici Indiana Jones 4 deepfake, nici una dintre lucrările altor case de producție, nu a fost suficient de bine primită pentru a începe o avalanșă de copii, sau pentru a oferi IA în VFX o credibilitate și o prietenie cu investitorii.

* Acest lucru este ușor de verificat, doar uitându-vă la profilurile publice LinkedIn și creditele IMDB.

^† DeepFaceLab, și mai puțin asociat cu porno, FaceSwap.

Publicat pentru prima dată luni, 27 aprilie 2026