Unghiul lui Anderson

Despre etica deepfake-urilor de la Hollywood

Martin Anderson
Adaugă Unite.AI la sursele tale preferate pe Google
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Puncte cheieAbsorbția Metaphysic.ai în Brahma AI a DNEG a coincis cu o scădere bruscă a producției…
Vezi mai mult
  • Absorbția Metaphysic.ai în Brahma AI a DNEG a coincis cu o scădere bruscă a producției de deepfake-uri la Hollywood.
  • Ostilitatea publică față de AI în divertisment a făcut ca studiourile să fie reticente în a publiciza munca de efecte vizuale asistată de AI.
  • Lipsa unui succes comercial definitiv după debutul Metaphysic la AGT a împiedicat efectele vizuale AI să câștige credibilitate în rândul investitorilor.

De ce a fost o scădere atât de bruscă în ultima vreme a conținutului de televiziune și film cu deepfakes? Autorul a lucrat pentru pionierul deepfakes Metaphysic.ai timp de peste doi ani și jumătate, inclusiv 20 de luni ca angajat cu normă întreagă.

 

Opinie/Articol Ca copil, am fost captivat de poveștile despre fondarea Industrial Light and Magic (ILM), care opera dintr-un depozit simplu în Van Nuys, și care a construit cu greutate noi generații de metode de efecte vizuale controlate de mișcare, care urmau să domine majoritatea anilor 1980, până la apariția CGI-ului.

Distrugerea unor părți ale Stelei Morții în curtea ILM din Van Nuys în mijlocul anilor 1970. Sursă - https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

Distrugerea unor părți ale Stelei Morții în curtea ILM din Van Nuys în mijlocul anilor 1970. Sursă

Este o poveste de origine remarcabilă, și vă recomand multe cărți și articole care spun cum efectele pentru Războiul stelelor (1977) au fost – după multă trudă, recriminare și întârziere – în cele din urmă livrate.

ILM în curs de dezvoltare s-a mutat mai târziu la San Francisco și a continuat să industrializeze producția de efecte fotochimice. Chiar și în perioada lucrului la Imperiul contraatacă în 1978/9, ILM, deși încă o casă de efecte pionieră și inovatoare, era deja plină de departamente de contabilitate și resurse umane.

Dar în acea perioadă, și de atunci, imaginația mea a fost capturată de gândul la ce ar fi fost acei primi ani “neșlefuiți” la Van Nuys, cannibalizând kituri de model și metode optice din anii 1960, și practic inventând o industrie care fusese odată domeniul unor specialiști VFX auteur individuali.

Fața revoluției

În cei aproape trei ani în care am lucrat la dizolvata companie de efecte vizuale Metaphysic.ai, cred că am fost cât mai aproape de experiența de la Van Nuys de la mijlocul anilor ’70.

În acea perioadă, Metaphysic a produs cadre cu efecte realizate prin IA, specifice unor identități, pentru unele dintre cele mai mari francize, incluzând Mad Max și Alien, precum și munca inovatoare, deși mult criticată, de întinerire prin deepfake pentru filmul lui Robert Zemeckis Aici (2024), și multe alte lucrări:

Au fost mai multe întâlniri de “dailies” (prezentarea celor mai recente imagini produse, în întâlniri Zoom aglomerate) decât ar fi putut urmări în mod rezonabil o singură persoană, continuând să-și îndeplinească propria muncă, precum și întâlniri de tip “skunkworks”, unde grupuri selectate lucrau împreună la mici proiecte foarte ambițioase, căutând să avanseze stadiul companiei.

Mulți dintre angajați au venit la companie direct de la ILM sau au lucrat pentru ILM în trecut*; și, deși era clar, din anecdote, că spiritul Van Nuys cedase de mult locul raționalizării la scară mare la ILM, și la alte case de efecte vizuale majore de la care proveneau unii angajați, asociația a rămas electrică pentru mine.

George Lucas revizuiește efecte cu John Dykstra, Richard Edlund, Joe Johnston și Rose Duignan în timpul producției Războiului stelelor, în timp ce echipa lucrează la planificarea practică a efectelor vizuale și designul cadrelor. Sursă - https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas revizuiește efecte cu John Dykstra, Richard Edlund, Joe Johnston și Rose Duignan în timpul producției Războiului stelelor. Sursă

Nu știu dacă s-ar putea argumenta că Metaphysic ar fi putut inventa un echivalent AI pentru rigul de control al mișcării DykstraFlex care a apărut din atelierul Van Nuys; dar a pus efectele vizuale conduse de IA pe hartă și a fost responsabilă pentru mai multe efecte de înlocuire și alterare a feței la nivel profesional decât orice altă casă de efecte sau proiect a făcut în perioada respectivă, sau a făcut de atunci.

Încetinire

Și trebuie să observ că, de când compania a fost absorbită de filiala DNEG Brahma AI, fluxul constant de lucrări de efecte vizuale bazate pe IA pare să fi încetinit până aproape de oprire.

În ciuda titlurilor precum parteneriatul lui Ben Affleck cu AI VFX Netflix (NFLX ), și un angajament față de IA din partea regizorilor Soderbergh și Aronofsky, nu am văzut prea multe fețe create de deepfake în filme și emisiuni TV în ultima vreme (excluzând The Capture și simularea sa a tehnologiei deepfake), comparativ cu “vârful Metaphysic”.

Dată fiind amploarea reacției negative la IA în multe domenii și sectoare, mă întreb dacă nu începem cu toții să simțim starea de spirit a publicului în legătură cu identitățile modificate de IA; și dacă eforturile facilitatoare de IA, cum ar fi învierea lui Ian Holm, întinerirea lui Harrison Ford și reînvierea Rat Pack-ului pentru a vinde gin, ar putea în curând provoca reacția clasică ‘A fost o altă vreme’.

Asocieri negative

În multe feluri, este o problemă de asocieri; dar nu este aceeași problemă de asocieri pe care o avea în 2021, când Metaphysic s-a format.

La acea vreme, deepfake-urile porno deveniseră un fenomen viral, cu toate ieșirile SFW și NSFW provenind de la una dintre cele două surse de software open-source† . În contrast cu astăzi, nu exista o modalitate cu acces controlat sau cenzurată de a produce conținut fotorealist cu IA.

Apoi, cel mai mare site de deepfake-uri porno din lume (destinat să fie închis de o anchetă în 2025) a fost locul unde se aflau instrucțiunile oficiale pentru cel mai mare depozit de software de deepfake, DeepFaceLab, el însuși temelia recunoscută abordărilor originale ale Metaphysic:

Ghidul original pentru DeepFaceLab, la un moment dat cel mai popular software de deepfake – găzduit pe cel mai mare site de deepfake-uri porno. De atunci, software-ul a fost arhivat, iar site-ul a fost închis. Sursă - https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

Ghidul original pentru DeepFaceLab, la un moment dat cel mai popular software de deepfake – găzduit pe cel mai mare site de deepfake-uri porno. De atunci, software-ul a fost arhivat, iar site-ul a fost închis. Sursă

Deoarece dezvoltatorii de software nu se fereau de asocierea dintre porno și deepfake-uri, acest lucru ar afecta inevitabil orice companie care încerca să adopte în mod legitim această tehnologie.

În consecință (poate nu în ultimul rând pentru că fondatorul companiei a fost inclus, împreună cu fondatorul DeepFaceLab, printre autorii unui articol de poziție Arxiv despre deepfake-uri în 2020, și a fost supus unei critici aspre în legătură cu aceste asocieri) Metaphysic a avut un departament dedicat de etică, și compania a fost vocală și foarte publică pe această temă.

În zilele noastre, cu legislația globală extinsă și în creștere care incriminează conținutul de deepfake, acea asociație “nefericită” cu identitățile create de IA s-a transferat de la porno la sărăcie, pe măsură ce forțele de muncă globale, amenințate direct de diferite tipuri de IA (de obicei, modele de limbaj mare, sau LLM), încep să demonizeze termenul în general.

Sătenii se revoltă

La un moment dat, poate în mijlocul anului 2023, participând la diverse întâlniri ale companiei, am început să simt, recunosc, prin informații la mâna a doua, o undă crescândă de rezistență casuală, ad hoc, la serviciile oferite de companie, coincizând cu primele valuri sociale în jurul IA ca o amenințare existențială pentru lucrători (deși trebuie remarcat că sindicatele din Hollywood au fost în avangardă în acest sens).

IA părea să fie văzută în unele sfere ca “nu merită riscul”. În plus, în perioada de vârf a producției Metaphysic, nu a avut niciodată un succes necontestat după valoarea de șoc a introducerii unui Elvis Presley tânăr și destul de apatic în America’s Got Talent. De fapt, nicio companie care producea conținut generat de IA în lucrări de film și TV mainstream nu a avut.

A existat întotdeauna un motiv de a urî: valea neplăcută; asociația cu porno; și apoi, asociația cu o posibilă apocalipsă economică provocată de IA.

Momentul “Tyrannosaurus” al IA

Mi s-a părut, pentru o perioadă de timp, că recrearea oamenilor cu fidelitate de 100% într-un context de efecte vizuale în care CGI eșuase de mult timp, era un obiectiv demn de urmărit, dacă nu inevitabil.

Mă imaginasem că evoluția IA în efecte vizuale va culmina cu o a treia schimbare “epocală” pentru industrie, spre deliciul spectatorilor. Prima a fost prima apariție a distrugătorului stelar care a trecut vuind pe deasupra în Războiul stelelor în 1977, și a doua, tiranosaurul furios care a evadat din țarc în Parcul Jurassic, în 1993.

Fiecare a condus la schimbări radicale în industrie, și fiecare a fost precedat de adoptatori timpurii care au împins limitele unei tehnologii sau metode în curs de dezvoltare.

Așa că mi s-a părut că fluxul de lansări al Metaphysic, chiar dacă nu oferea încă publicului acel «moment al tiranosaurului», va duce inevitabil la el; că, într-o zi, vom vedea ceva imposibil într-un film; ceva fundamental făcut de IA (și nu acoperit cu CGI), care ne va lăsa fără suflare.

Acum… nu știu. Nu este neapărat că nu cred că momentul acela de uimire va veni, pentru IA în cinematografie; nici doar că există multe probleme critice pentru video-ul cu IA de depășit înainte de a putea să se alăture profesioniștilor la masă.

Este mai mult că am început să împărtășesc, într-un mod vag (și, poate, laș din punct de vedere moral), sentimentul public în creștere de asocieri negative între IA în efecte vizuale și ramificațiile negative ale IA în alte sectoare, în această perioadă.

Pe lângă aceasta, nu sunt convins în prezent că influența istorică a seturilor de date folosite fără remunerație și nelibere, cum ar fi Common Crawl, a fost cu adevărat luată în considerare încă, și consider că multe dintre contractele de “licențiere IA” care au ținut prima pagină în ultimele 18 luni sau aproximativ reprezintă o anumită măsură de spălare de proprietate intelectuală.

Prin urmare, în momentul în care o Marilyn Monroe sau un Humphrey Bogart recreați perfect prin IA, fără senzația de nefiresc, vor apărea pe ecran, cred că probabil voi simți deopotrivă uimire și jenă, pentru că bagajul de IA a început să mă încarce.

Concluzie

Cele două progrese tehnologice anterioare au venit fără asemenea rezerve; apariția ILM și a rigurilor de control al mișcării a inventat efectiv o industrie care fusese anterior o serie de comenzi ocazionale îndeplinite de un grup restrâns de freelanceri ad hoc; și apariția CGI a mărit semnificativ numărul de locuri de muncă în industria de efecte vizuale și a creat valoare în domenii conexe, cum ar fi dezvoltarea de software și diverse servicii de suport.

Interesul meu pentru Viziunea Computerizată rămâne intact, alături de interesul meu pentru potențialul IA într-o gamă largă de aplicații audiovizuale; și entuziasmul meu pentru aplicații mai largi ale învățării automate, într-o varietate de alte sectoare, este neatins.

Doar îmi doresc să pot continua să aștept cu entuziasm acel moment “wow” al IA la cinematograf.

Cât despre motivul pentru care există o lipsă bruscă de fețe generate de IA în filme și emisiuni TV, comparativ cu anii cei mai activi ai Metaphysic – o posibilitate este că ajustările cu IA sunt acum aplicate de casele de producție cu puțină sau deloc publicitate (comparativ cu comunicatele de presă zgomotoase din perioada 2022-23), având în vedere că răspunsul public la inovațiile IA în divertisment a devenit atât de ostil în ultima vreme.

În al doilea rând, pentru a reafirma: după AGT, unde compania și-a făcut debutul, Metaphysic nu a avut niciodată un succes necontestat în ceea ce privește contribuția sa la vreun film sau emisiune TV; și nici Indiana Jones 4 deepfake, nici una dintre lucrările altor case de producție, nu a fost suficient de bine primită sau suficient de profitabilă pentru a declanșa un val de imitatori, sau pentru a oferi IA în VFX credibilitate autentică și atractivitate pentru investitori.

 

* Acest lucru este ușor de verificat, doar uitându-vă la profilurile publice LinkedIn și creditele IMDB.

† DeepFaceLab, și mai puțin asociat cu porno, FaceSwap.

Publicat pentru prima dată luni, 27 aprilie 2026

Scriitor în învățare automată, specialist de domeniu în sinteza imaginilor umane. Fost șef al conținutului de cercetare la Metaphysic.ai, până la dizolvarea sa în Brahma.ai de la DNEG.
Site web: martinanderson.ai
Contact: martin@martinanderson.ai