O etice hollywoodských deepfaků

Proč došlo v poslední době k tak prudkému poklesu obsahu deepfaků v televizi a filmech? Autor pracoval pro Metaphysic.ai, průkopníka filmových deepfaků, více než dva a půl roku, včetně 20 měsíců jako plný zaměstnanec.

Opinion/Feature Jako dítě, jsem byl okouzlen příběhy o založení Industrial Light and Magic (ILM), která fungovala z jednoduchého skladu ve Van Nuys, a která bolestivě budovala novou generaci metod vizuálních efektů s pohybovou kontrolou, které později ovládly většinu 80. let, až do příchodu CGI.

Zničení částí Death Staru na dvoře ILM ve Van Nuys v polovině 70. let. Source

Je to výjimečný příběh o původu, a doporučuji četnout mnoho knih a článků, které vyprávějí, jak byly efekty pro Star Wars (1977) po velké námaze, výtkách a zpoždění nakonec dodány.

Mladá ILM se později přestěhovala do San Francisca a šla industrializovat produkci fotochemických efektů. Už v době práce na VFX pro The Empire Strikes Back v roce 1978/9, ILM, přestože byla stále průkopnickou a inovativní efektovou firmou, již měla účetní a personální oddělení.

Ale v té době, a od té doby, moji fantazii zajímal pohled na ty první “syrové” roky ve Van Nuys, kanibalizující modelové sady a optické metody 60. let, a prakticky vynalézající průmysl, který dříve patřil jednotlivým auteur VFX specialistům.

Obličej revoluce

V téměř třech letech, kdy jsem pracoval v nyní rozpuštěné firmě Metaphysic.ai, jsem si myslím, že jsem se dostal co nejblíže k zážitku z počátků Van Nuys.

V té době Metaphysic produkovala AI-poháněné, ID-specifické efektové záběry pro některé z největších franšíz, včetně Mad Max a Alien franšíz, jakož i produkovala průkopnické (i když silně kritizované) de-aging deepfake práce pro Roberta Zemeckise Here (2024), a mnoho dalších děl:

Bylo více “dailies” setkání (zobrazování nejnovějšího materiálu, ve vytížených Zoom setkáních) než by jedna osoba mohla rozumně navštívit a stále dokončit svou vlastní práci, stejně jako skunkworks-styl setkání, kde vybrané skupiny pracovaly společně na mini-měsíčních úkolech, snažících se pokročit ve stavu firmy.

Mnoho zaměstnanců přišlo do firmy buď přímo z ILM, nebo jinde pracovali pro ILM*; a přestože bylo zřejmé, z anekdot, že Van Nuys duch již dávno ustoupil masové racionalizaci v ILM, a v různých dalších velkých VFX domech, ze kterých někteří zaměstnanci přišli, asociace zůstala elektrizující pro mě.

George Lucas prohlíží efektové záběry s Johnem Dykstrou, Richardem Edlundem, Joe Johnstonem a Rose Duignan během produkce Star Wars. Source

Nevím, zda by někdo mohl tvrdit, že Metaphysic vynalezla AI ekvivalent DykstraFlex motion-control rig, který vyšel z Van Nuys dílny; ale umístila AI-poháněné VFX na mapu, a byla zodpovědná za více profesionálních AI tváří a úprav, než kterákoli jiná efektová firma nebo projekt, během tohoto období, nebo od té doby.

Pomalý pokles

A musím poznamenat, že od doby, kdy byla firma pohlcena do Brahma AI sub-spolku DNEG, ten stálý proud AI-založených vizuálních efektů prací se zdá zpomalit na minimum.

Přes titulky, jako je Ben Affleckova AI VFX Netflix partnerství, a závazek k AI od režisérských osobností Soderbergha a Aronofského, neviděl jsem mnoho deepfake tváří v filmech a televizi nedávno (s výjimkou The Capture simulace deepfake technologie), ve srovnání s “peak Metaphysic”.

Vzhledem k rozsahu AI backlash v mnoha oblastech a sektorech, divím se, zda nečteme místnost o AI-upravených identitách; a zda AI-usnadněné úsilí, jako je obnovení Iana Holma, omlazení Harrisona Forda, a obnovení Rat Packu, aby prodali gin, brzy vyvolá klasickou frázi ‘Byla to jiná doba’.

Negativní asociace

Ve mnoha ohledech je to problém asociace; ale není to stejný problém asociace, jako tomu bylo v roce 2021, kdy Metaphysic vznikla.

V té době se deepfake porn stal virálním jevem, se všemi SFW a NSFW výstupy pocházejícími z jednoho ze dvou open source software repozitářů^† . Na rozdíl od dneška, nebyla žádná “bráněná” nebo cenzurovaná cesta, jak produkovat fotorealistické AI obsah.

Pak byl největší deepfake porn web na světě (určený k zavření vyšetřováním v roce 2025) kde byly oficiální instrukce pro největší deepfake software repozitář, DeepFaceLab, sám přiznaný základ Metaphysic původních přístupů:

Původní uživatelská příručka pro DeepFaceLab, kdysi nejpopulárnější deepfake software – hostovaný na největším deepfake porn webu. Od té doby byl software archivován a web uzavřen. Source

Od té doby, co softwaroví vývojáři jasně neváhali s asociací mezi pornem a deepfakes, to nevyhnutelně ovlivnilo jakoukoli firmu, která se snažila legitimně přijmout tuto technologii.

Následkem (možná nejméně proto, že zakladatel firmy byl zahrnut s zakladatelem DeepFaceLab v autorství Arxiv position paper o deepfakes v roce 2020, a byl vystaven kritice kvůli těmto asociacím) Metaphysic měla specializované etické oddělení, a firma byla hlasitá a velmi veřejná na toto téma.

Tyto dny, s rozsáhlou a rostoucí tranší globální legislativy, která kriminalizuje deepfake obsah, ta “nešťastná” asociace týkající se AI-vytvořených identit se přesunula z porna na chudobu, protože globální pracovní síly přímo ohrožené jinými druhy AI (obvykle Large Language Models, nebo LLMs) jsou začínají démonizovat termín napříč deskami.

Vesničané se bouří

V určitém okamžiku, možná uprostřed roku 2023, účastnící se různých firemních setkání, jsem začal cítit, přiznávám, že na druhém místě, rostoucí vlnu neformální ad hoc rezistence vůči službám, které firma nabízela, související s ranými sociálními vlnami kolem AI jako existenční hrozby pro pracovníky (i když je třeba poznamenat, že hollywoodské odbory byly v čele v tomto ohledu).

AI se zdálo být vnímáno v některých čtvrtích jako “nepříjemné riziko”. Kromě toho, v Metaphysic období špičky produkce, nikdy neměla真正ný hit po šokové hodnotě umístění (spíše líného) mladého Elvise Presleyho v America’s Got Talent. Ve skutečnosti, ani žádná firma, která vyráběla AI-generovaný obsah v mainstreamovém filmu a televizi.

Vždy se zdálo, že existuje nějaký důvod, proč nenávidět: stále přítomné uncanny valley; asociace s pornem; a poté asociace s AI-poháněnou ekonomickou apokalypsou.

AI ‘Tyrannosaurus Moment’

Zdálo se mi, po dlouhou dobu, že rekreace lidských bytostí s 100% věrností ve VFX kontextu, který selhal CGI po dlouhou dobu, je smysluplným, pokud ne nevyhnutelným cílem.

Představoval jsem si, že vývoj AI ve vizuálních efektech by vyvrcholil v třetím “epochálním změnovém” okamžiku pro průmysl, k potěšení diváků. První byl první pohled na hvězdný destroyer, který hřmí nad hlavou v Star Wars v roce 1977, a druhý, zuřící Tyrannosaurus, který uniká ze svého výběhu v Jurassic Park, v roce 1993.

Každý z nich vedl k radikálním změnám v průmyslu, a každý byl předznamenán ranými přijímači, kteří tlačili hranice nové technologie nebo metody.

Takže se mi zdálo, že Metaphysic proud vydání, ačkoli nesupplyoval divákům ten “tyrannosaurus moment”, by nevyhnutelně vedl k němu; že jeden den uvidíme něco nemožného ve filmu; něco zásadně vytvořeného AI (spíše než papírováním s CGI), které nás ohromí.

Nyní…nevím. Není to nutně proto, že nevěřím, že ten moment úžasu přijde, pro AI v kině; ani výhradně proto, že existuje mnoho kritických problémů, které AI video musí překonat, než může usednout mezi profesionály.

Je to více to, že jsem začal sdílet, vague (a snad morálně zbabělý) způsob, ten rostoucí veřejný pocit negativní asociace mezi AI ve VFX a negativními důsledky AI v jiných sektorech, v tomto období.

Kromě toho, jsem nyní přesvědčen, že historický vliv nezaplacených a nevolných dat, jako je Common Crawl, nebyl skutečně zohledněn, a považuji, že mnoho much-touted “AI licenčních” dohod, které udělaly titulky za posledních 18 měsíců nebo tak, představují jistou míru IP-washing.

Proto, v okamžiku, kdy dokonalá a ne-uncanny AI-regenerovaná Marilyn Monroe nebo Humphrey Bogart vstoupí na obrazovku, myslím, že dvojité pocity úžasu a nepohodlí se pravděpodobně objeví ve mně, protože AI kouzlo má začíná vážit.

Závěr

Předchozí dvě technologické průlomy přišly bez takových varování: příchod ILM a motion control rigů efektivní inventoval průmysl, který dříve byl série sporadických komisí splněných řídce elitou ad hoc freelancerů; a příchod CGI výrazně zvýšil počet pracovních míst ve VFX průmyslu, a vytvořil hodnotu v sousedních softwarových vývojích, jakož i různých podpůrných služeb.

Můj zájem o Computer Vision zůstává nedotčen, spolu s mým zájmem o potenciál AI v mnoha možných audiovizuálních aplikacích; a můj entuziasmus pro širší aplikace strojového učení, napříč mnoha jinými sektory, je nezměněn.

Jen bych si přál, abych mohl pokračovat v tom, že se těším na ten AI “wow” moment v kině.

Co se týče důvodu, proč je náhlý nedostatek AI-generovaných tváří ve filmech a televizi, ve srovnání s nejaktivnějšími lety Metaphysic – jedna možnost je, že AI-pomocné úpravy jsou nyní aplikovány produkčními domy s malou nebo žádnou publicitou (ve srovnání s hlasitými tiskovými zprávami z roku 2022-23), vzhledem k tomu, že veřejná reakce na AI inovace v zábavě se stala tak nepřátelskou nedávno.

Druhý, aby to zopakoval: po AGT, kde firma debutovala, Metaphysic nikdy neměla真正ný hit, pokud jde o její vlastní příspěvek k jakémukoli filmu nebo televiznímu pořadu; a ani Indiana Jones 4 deepfake, ani žádná jiná práce z jiných produkčních domů nebyla dostatečně dobře přijata, nebo dostatečně lukrativní, aby zahájila nával kopírujících, nebo aby dala AI ve VFX skutečnou kredibilitu a investor-friendly.

* Tohle je snadno ověřitelné tím, že se prostě podíváte na veřejně dostupné LinkedIn profily a IMDB kredity.

^† DeepFaceLab, a méně porn-associativní FaceSwap.

Poprvé publikováno v pondělí, 27. dubna 2026