Hollywoodin Deepfake-eettisyys

Miksi TV- ja elokuva deepfake-sisällön määrä on laskenut viime aikoina? Kirjoittaja työskenteli elokuva deepfake-uransauroja Metaphysic.ai:lle yli kaksi ja puoli vuotta, mukaan lukien 20 kuukautta täysipäiväisenä työntekijänä.

Mielipide/ominaisuuksia Lapsena olin lumoutunut tarinoista Industrial Light and Magicin (ILM) perustamisesta, joka toimi perusvarastossa Van Nuysissa, ja rakensi uuden sukupolven liiketoimintaa ohjaavia visuaalisten efektien menetelmiä, jotka tulisivat hallitsemaan suurinta osaa 1980-luvusta, kunnes CGI:n kehittyminen.

Räjäyttämällä Kuolemantähden osia ILM:n pihalla Van Nuysissa 1970-luvun puolivälissä. Lähde

Se on erinomainen alkuperäistarina, ja suosittelen monia kirjoja ja artikkeleita, jotka kertovat, miten Tähtien sota (1977) -elokuvan efektien toteutus – paljon vaivaa, syytöksiä ja viivästystä – lopulta onnistui.

ILM muutti myöhemmin San Franciscoon ja kehitti teollistaa valokuvallisia efektiä. Vaikka VFX-työ Imperiumin vastaisku -elokuvassa 1978/9, ILM, edelleen uranuurtava ja innovatiivinen efektiyritys, oli jo täynnä kirjanpito- ja HR-osastoja.

Mutta tuona aikana, ja sen jälkeen, mielikuvitukseni oli kiinni siinä, mitä ne ensimmäiset “raakat” vuodet Van Nuysissa olisivat olleet, syövyttäen mallikokoonpanoja ja 1960-luvun optisia menetelmiä, ja käytännössä keksimällä teollisuuden, joka oli kerran ollut yksittäisten auteur VFX-erikoismiesten varassa.

Vallankumouksen Kasvo

Lähes kolmen vuoden aikana, jonka työskentelin nykyisin lakkautetussa Metaphysic.ai -visuaalisen efektiyhtiössä, luulen, että tulin mahdollisimman lähelle 1970-luvun Van Nuysin kokemusta.

Tänä aikana Metaphysic tuotti AI-käyttöisiä, ID-spesifisiä efektiä joillekin suurimmille franchise-yrityksille, mukaan lukien Mad Max ja Alien -franchise, sekä tuotti uraauurtavan (vaikka paljon kritisoitu) vanhenemisdeepfake-työn Robert Zemeckisin Here (2024) -elokuvalle, ja monille muille teoksille:

Siellä oli enemmän “dailies”-kokouksia (näytettiin viimeisintä kuvamateriaalia, ruuhkaisissa Zoom-kokouksissa) kuin kukaan henkilö voisi järkevästi osallistua ja tehdä samalla oman työnsä, sekä skunkworks-tyyppisiä kokouksia, joissa valitut ryhmät työskentelivät yhdessä mini-moonshot-projekteissa, pyrkien edistämään yhtiön valmiuksia.

Monet henkilöstöstä tulivat yhtiöön suoraan ILM:stä tai olivat työskennelleet ILM:llä aiemmin*; ja vaikka oli selvää, että Van Nuysin henki oli jo kauan sitten antanut tilaa massojen rationalisoinnille ILM:llä ja muilla suurilla VFX-taloilla, joista osa henkilöstöstä oli tullut, yhdistys säilyi sähköisenä minulle.

George Lucas tarkastelee efektiä John Dykstran, Richard Edlundin, Joe Johnstonin ja Rose Duignanin kanssa Tähtien sota -elokuvan tuotannon aikana. Lähde

En tiedä, voitko väittää, että Metaphysic keksisi AI-vastineen DykstraFlex -liiketoimintaa, joka kehittyi Van Nuysin verstaasta; mutta se toi AI-käyttöiset VFX-kartalle, ja oli vastuussa ammattitason AI-kasvojen korvaamisesta ja muuttamisesta enemmän kuin mikään muu efektiyhtiö tai yksittäinen projekti oli tehnyt tuona aikana, tai on tehnyt sen jälkeen.

Hitaus

Ja minun on mainittava, että yhtiön siirryttyä DNEG:n Brahma AI -tytäryhtiöön, se tasainen virta AI-pohjaisia visuaalisia efektiä on hidastunut.

Huolimatta otsikoista, kuten Ben Affleckin AI VFX Netflix -yhteistyöstä, ja sitoutumisesta AI:hin ohjaajien Soderberghin ja Aronofskyn taholta, en ole nähnyt paljon deepfake-kasvoja elokuvissa ja TV-sarjoissa viime aikoina (pois lukien The Capture -simulaation deepfake-tekniikkaa), verrattuna “huipputasoon” Metaphysicillä.

Ottaen huomioon AI-vastaisen reaktion laajuuden monilla aloilla ja sektoreilla, ihmettelen, emmekö kaikki aloita “luen huoneen” AI-muokattujen identiteettien suhteen; ja josko AI-tukeutuneet pyrkimykset, kuten Ian Holmin elvytys, Harrison Fordin nuorentaminen ja Rat Packin elvytys myymään ginia, saattavat pian herättää klassisen meemin “Se oli eri aika”.

Negatiiviset Yhdistykset

Monilla tavoin se on yhdistymisen ongelma; mutta se ei ole sama yhdistymisen ongelma, joka se oli vuonna 2021, kun Metaphysic perustettiin.

Silloin deepfake-porno oli johtanut viralliseen ilmiöön, ja kaikki SFW- ja NSFW-sisältö tuli yhdestä kahdesta avoimen lähdekoodin ohjelmistosta^† . Toisin kuin nykyään, ei ollut “porttitekijöiden” tai sensuroitua tapaa tuottaa fotorealistista AI-sisältöä.

Silloin maailman suurin deepfake-porno-sivusto (joka oli määrä sulkea tutkinnan vuonna 2025) oli jossa viralliset ohjeet olivat suurimman deepfake-ohjelmiston, DeepFaceLab, itsessään tunnustettu perusta Metaphysicin alkuperäisille lähestymistavoille:

Alkuperäinen käyttöopas DeepFaceLabille, joka oli aikoinaan maailman suosituin deepfake-ohjelmisto – isännöi maailman suurimman deepfake-porno-sivuston. Sen jälkeen ohjelmisto on arkistoitu, ja sivusto on suljettu. Lähde

Ohjelmistokehittäjät eivät selvästikään väistyneet yhdistymisestä pornoon ja deepfakeen, mikä johtaisi väistämättä vaikutuksiin mihin tahansa yhtiöön, joka yritti laillista tätä tekniikkaa.

Seurauksena (ehkä ei vähiten, koska yhtiön perustaja oli mukana DeepFaceLab-perustajan kanssa Arxiv-position paperissa deepfakeista vuonna 2020, ja oli vastaanottanut paljon kritiikkiä näiden yhdistymisten vuoksi) Metaphysicilla oli omistettu eettinen osasto, ja yhtiö oli äänekas ja erittäin julkisesti tämän aiheen suhteen.

Nyt, laajan ja kasvavan joukon globaaleja lakeja, jotka rikollistavat deepfake-sisällön, se “epäonniset” yhdistymiset AI-luoduille identiteeteille on siirtynyt pornosta köyhyyteen, kun globaalit työvoimat, joita uhkaa erilaiset tyypit AI:ta (yleensä suuria kieli- tai LLM -malleja), ovat alkaneet demonisoida termin yleisesti.

Kyläläiset Kapinoivat

Jossain vaiheessa, ehkä vuoden 2023 puolivälissä, osallistuessaani eri yhtiön kokouksiin, aloin tuntea, toissijaisesti, kasvavan aallon epävirallista ad hoc -vastarintaa palveluja, jotka yhtiö tarjosi, joka osui yhteen sosiaalisten kansannousujen kanssa AI:n olemassaoloon työntekijöiden uhkana (vaikka on huomattava, että Hollywoodin ammattiyhdistykset olivat edelläkävijöitä tässä suhteessa).

AI näytti olevan nähty joissakin neljännesosissa “ei arvoa vaivaa”. Lisäksi Metaphysicin huipputuotantokauden aikana se ei koskaan saavuttanut kiistatonta menestystä sen omassa panoksessaan mihinkään elokuvaan tai TV-sarjaan America’s Got Talent -debyyttinsä jälkeen, jossa se esitti (melko laiskan) nuoren Elvis Presleyn. Itse asiassa, mikään muu yhtiö, joka tuotti AI-luotua sisältöä valtavirran elokuva- ja TV-työssä, ei saavuttanut sitäkään.

Aina näytti olevan jokin syy vihata: aina läsnä oleva epäilyttävä laakso; yhdistys pornon kanssa; ja sitten yhdistys uhkaavaan AI-vallankumoukseen taloudelliseen apokalypsiin.

AI:n “Tyrannosaurus-virkistys”

Se vaikutti minulle, pitkän aikaa, että ihmisten uudelleenluominen 100%:n uskottavuudella VFX-kontekstissa, joka oli epäonnistunut CGI:llä pitkään aikaan, oli arvokas, jos ei välttämätön tavoite.

Kuvittelin, että AI:n kehitys visuaalisissa efekteissä johtaisi kolmanteen “aikakauteen” muutokseen teollisuudelle, katsojien iloksi. Ensimmäinen oli ensimmäinen näky star-destroyerin ylittävän yläpuolella Tähtien sota -elokuvassa vuonna 1977, ja toinen, raivokkaan Tyrannosaurus-rexin pakeneminen häkistään Jurassic Park -elokuvassa vuonna 1993.

Kummallakin oli johtanut radikaaleihin muutoksiin teollisuudessa, ja kummallakin oli edeltänyt varhaiset käyttöönotot, jotka työnsivät uuden teknologian tai menetelmän rajoja.

Näin ollen minusta näytti siltä, että Metaphysicin julkaisujen virta johtaisi vääjämättä siihen; että jonain päivänä näisimme jotain mahdotonta elokuvassa; jotain perustavasti tehtyä AI:lla (eikä paperoiduksi CGI:llä), joka olisi tyrmistyttävä.

Nyt… en tiedä. Se ei välttämättä ole sitä, etten usko, että se ihmeellinen hetki tulee AI:lle elokuvissa; eikä pelkästään sitä, että on kriittisiä ongelmia, joita AI-videolle on ratkottava, ennen kuin se voi liittyä ammattilaisten joukkoon.

Se on enemmän sitä, että olen alkanut jakaa, epämääräisesti (ja ehkä moraalisesti pelkurimaisesti), kasvavaa yleistä tunteita AI:n ja sen negatiivisten seurausten välillä, erityisesti muilla aloilla, tänä aikana.

Lisäksi en ole vakuuttunut siitä, että historiallinen vaikutus maksamattomista ja ei-ilmaisista tietokannoista, kuten Common Crawl, on todella otettu huomioon; ja pidän monia niistä “AI-lisenssisopimuksista”, jotka ovat saaneet otsikot viimeisen vuoden ja puolen aikana, edustavan jonkinlaista IP-pesua.

Siksi, kun täydellinen ja epäilyttävä AI-uudelleenluotu Marilyn Monroe tai Humphrey Bogart astuu valkokankaalle, luulen, että kaksijakoinen tunne ihmetystä ja epämukavuutta nousee minussa, koska AI-velhouden ruumiinavaus on alkanut painaa minua.

Johtopäätös

Edelliset kaksi teknologista läpimurtoa tulivat ilman vastaavia varoituksia: ILM:n ja liiketoimintaa ohjaavien laitteiden kehittyminen keksivät teollisuuden, joka oli aikaisemmin ollut sarja satunnaisia tilauksia, jotka täytettiin harvalukuisen ad hoc -vapaan agentin toimesta; ja CGI:n kehittyminen lisäsi merkittävästi VFX-teollisuuden työpaikkoja ja loi arvoa läheisiin ohjelmistokehitykseen ja muihin tukipalveluihin.

Minun mielenkiintoni tietokoneen näkökulmaan säilyy, samoin kuin mielenkiintoni AI:n potentiaaliin monissa mahdollisissa audiovisuaalisissa sovelluksissa; ja innostukseni laajempien soveltamisen mahdollisuuksista koneoppimisessa eri aloilla on himoittava.

Toivon vain, että voisin jatkaa odottamista AI:n “vau” -hetkeä elokuvissa.

Asian syy, miksi on yllättävä puute AI-luotuja kasvoja elokuvissa ja TV-sarjoissa verrattuna Metaphysicin aktiivisimpiin vuosiin, on yksi mahdollisuus, että AI-tukeutuneet korjaukset ovat nyt sovellettuja tuotantotaloilla vähän tai ei lainkaan julkisuutta, verrattuna vuosiin 2022-23.

Toiseksi, toistamalla: Metaphysicin jälkeen AGT, jossa yhtiö teki debyyttinsä, Metaphysic ei koskaan saavuttanut kiistatonta menestystä omassa panoksessaan mihinkään elokuvaan tai TV-sarjaan; eikä Indiana Jones 4 -deepfake eikä mikään muu työ muiden tuotantotalojen taholta ollut riittävän hyvä, tai enää,