O etice Hollywoodských deepfakeů

Proč došlo v poslední době k poklesu obsahu deepfake v televizi a filmech? Autor pracoval pro společnost Metaphysic.ai, která je průkopníkem v oblasti deepfake, více než dva a půl roku, včetně 20 měsíců jako zaměstnanec na plný úvazek.

Opinion/Feature Jako dítě jsem byl fascinován příběhy o založení Industrial Light and Magic (ILM), která působila v jednoduchém skladu ve Van Nuys, a která pečlivě budovala novou generaci metod vizuálních efektů, které ovládly většinu 80. let, až do příchodu CGI.

Zničení částí Death Staru na dvoře ILM ve Van Nuys v polovině 70. let. Zdroj

To je výjimečný příběh o původu, a doporučuji číst knihy a články, které vyprávějí, jak byly efekty pro Star Wars (1977) po mnoha problémech a zpožděních nakonec dokončeny.

Mladá ILM se později přestěhovala do San Francisca a začala industrializovat produkci fotochemických efektů. I v době práce na VFX pro The Empire Strikes Back v letech 1978/9 byla ILM, přestože byla stále průkopnickou a inovativní efektovou společností, již plná účetních a personálních oddělení.

Ale v té době, a od té doby, mě fascinovalo, jak asi vypadaly ty první “syrové” roky ve Van Nuys, kdy se používaly modelové sady a optické metody z 60. let, a prakticky vynalezly průmysl, který dříve patřil jednotlivým auteur VFX specialistům.

Obličej revoluce

Během téměř tří let, kdy jsem pracoval v nyní zaniklé společnosti Metaphysic.ai, jsem si myslel, že jsem se dostal co nejblíže k zkušenosti z Van Nuys z 70. let.

V té době společnost Metaphysic produkovala AI-poháněné, ID-specifické efekty pro některé z největších franšíz, včetně Mad Max a Alien franšíz, jakož i průkopnické (i když silně kritizované) práce na omlazování deepfake pro Roberta Zemeckise Here (2024), a mnoho dalších děl:

Bylo více setkání “dailies” (zobrazování nejnovějších záběrů, pořízených v přeplněných Zoom setkáních) než by jedna osoba mohla rozumně navštívit a přitom dokončit svou vlastní práci, stejně jako skunkworks-styl setkání, kde se vybrané skupiny soustředily na mini-měsíční úkoly, snažící se pokročit ve stavu společnosti.

Mnozí zaměstnanci přišli do společnosti buď přímo z ILM, nebo dříve pracovali pro ILM*; a přestože bylo zřejmé, že duch Van Nuys už dávno ustoupil masové racionalizaci v ILM a dalších velkých VFX domech, odkud někteří zaměstnanci přišli, asociace zůstala pro mě elektrizující.

George Lucas prohlíží efekty se Johnem Dykstrou, Richardem Edlundem, Joe Johnstonem a Rose Duignan během produkce Star Wars. Zdroj

Nevím, zda by někdo mohl tvrdit, že Metaphysic vynalezla AI ekvivalent DykstraFlex motion-control rig, který vznikl ve Van Nuys; ale společnost uvedla AI-poháněné VFX na mapu a byla zodpovědná za více profesionálních AI tváří a úprav, než jakákoli jiná efektová společnost nebo projekt v té době, nebo od té doby.

Pomalejší tempo

A musím poznamenat, že od doby, kdy společnost byla začleněna do Brahma AI dceřiné společnosti, se stálý proud AI-poháněných vizuálních efektů zdá být zpomalený.

Přes titulky, jako je partnerství Ben Afflecka s AI VFX Netflix, a závazek k AI od režisérů Soderbergha a Aronofského, nevidím mnoho deepfake tváří v filmech a televizi v poslední době (s výjimkou The Capture‘s simulace deepfake technologie), ve srovnání s “peak Metaphysic”.

Vzhledem k rozsahu AI backlash v mnoha oblastech a sektorech, přemýšlím, zda nezačínáme všichni “číst místnost” o AI-alterovaných identitách; a zda AI-usnadněné úsilí, jako je obnovení Iana Holma, omlazování Harrisona Forda a obnovení Rat Packu k prodeji ginu, by mohlo brzy vyvolat klasickou mem ‘Byla to jiná doba’.

Negativní asociace

V mnoha ohledech je to problém asociace; ale není to stejný problém asociace, jako tomu bylo v roce 2021, kdy Metaphysic vznikla.

V té době se deepfake porn stal virálním jevem, se všemi SFW a NSFW výstupy, pocházejícími z jedné ze dvou open source software repozitářů^† . Na rozdíl od dneška nebyla žádná “gatekept” nebo cenzurovaná cesta, jak produkovat fotorealistické AI obsah.

Pak byl největší deepfake porn web na světě (určený k zrušení vyšetřováním v roce 2025) kde se nacházely oficiální instrukce pro největší deepfake software repozitář, DeepFaceLab, sám přiznaný základ původních přístupů Metaphysic:

Originální uživatelská příručka pro DeepFaceLab, kdysi nejoblíbenější deepfake software – hostovaný na největším deepfake porn webu. Od té doby byl software archivován a web zrušen. Zdroj

Od té doby, co vývojáři softwaru jasně neváhali s asociací mezi pornem a deepfakes, tato asociace nevyhnutelně ovlivnila jakoukoli společnost, která se snažila legitimně přijmout tuto technologii.

Následkem toho (možná nejméně proto, že zakladatel společnosti byl zahrnut do autorství Arxiv position paper o deepfakes v roce 2020 a byl předmětem kritiky kvůli těmto asociacím) Metaphysic měla specializované etické oddělení, a společnost byla hlasitá a velmi veřejná na toto téma.

Tyto dny, s rozsáhlou a rostoucí globální legislativou, která kriminalizuje deepfake obsah, se ta “nešťastná” asociace ohledně AI-vytvořených identit přenesla z porna na chudobu, protože globální pracovní síly, přímo ohrožené jinými typy AI (obvykle Large Language Models, nebo LLMs), začínají démonizovat termín napříč deskami.

Vesničané se bouří

V určitém okamžiku, možná uprostřed roku 2023, účastníce se různých firemních setkání, jsem začal cítit, nepřímo, rostoucí vlnu neformální ad hoc rezistence vůči službám, které společnost nabízela, které se shodovaly s prvními sociálními vlnami kolem AI jako existenční hrozby pro pracovníky (ačkoli je třeba poznamenat, že hollywoodské odbory byly v avantgardě v tomto ohledu).

AI se zdálo být vnímáno v některých čtvrtích jako “nepříliš dobré riziko”. Kromě toho, v období největší produkce Metaphysic, nikdy neměl společnost opravdový hit po AGT, kde společnost debutovala; a ani Indiana Jones 4 deepfake, ani žádná jiná práce z jindy produkčních domů nebyla dostatečně dobře přijata, nebo nebyla dostatečně lucrativní, aby spustila vlnu napodobitelů, nebo aby poskytla AI ve VFX opravdovou důvěryhodnost a investiční přitažlivost.

There vždy bylo nějakého důvodu, proč nenávidět: neustále přítomné uncanny valley; asociace s pornem; a poté asociace s ohroženou AI-poháněnou ekonomickou apokalypsou.

AI ‘Tyrannosaur Moment’

Zdálo se mi, že po dlouhou dobu, že rekreace lidí s 100% věrností v kontextu VFX, který selhal u CGI, je smysluplným cílem.

Představoval jsem si, že evoluce AI ve vizuálních efektech by vyvrcholila v třetím “epochálním změnovém” okamžiku pro průmysl, k radosti diváků. První změna byla první pohled na hvězdnou loď, která letěla nad hlavou v Star Wars v roce 1977, a druhá, únik tyrannosaura z jeho ohrady v Jurassic Park, v roce 1993.

Každá z nich vedla k radikálním změnám v průmyslu a každá byla předznamenána ranými přijímači, kteří tlačili hranice nové technologie nebo metody.

Takže mi připadalo, že proud Metaphysicových vydání, i když neposkytoval divákům ten “tyrannosaur moment”, by nevyhnutelně vedl k němu; že jednoho dne uvidíme něco nemožného ve filmu; něco základně vytvořeného AI (spíše než papírově s CGI), co by nás ohromilo.

Nyní…nevím. Není to nutně proto, že jsem přesvědčen, že ten AI “wow” moment ve filmu přijde; ani že existují kritické problémy, které AI video musí překonat, než se může připojit k profesionálům.

Jde spíše o to, že jsem začal sdílet, způsobem, který je vágní (a možná morálně zbabělý), ten rostoucí veřejný pocit negativní asociace mezi AI ve VFX a negativními důsledky AI v jiných sektorech, v tomto období.

Kromě toho jsem přesvědčen, že historický vliv nezaplacených a nevolných datových sad, jako je Common Crawl, nebyl dosud dostatečně zohledněn a že mnohé z těch tolik propagovaných “AI licenčních” dohod, které udělaly titulky za poslední rok a půl, představují určitou formu IP-washing.

Proto, když uvidím dokonalou a ne-uncanny AI-regenerovanou Marilyn Monroe nebo Humphreyho Bogarta na obrazovce, myslím, že ve mně budou probuzeny pocity úžasu a nepohodlí, protože AI kouzlo má již začalo vážit na mě.

Závěr

Předchozí dva technologické průlomy přišli bez těchto varování: vznik ILM a motion control rigů efektivní vytvořily průmysl, který dříve byl série sporadických komisí, které splňovaly sparse elitu ad hoc freelancerů; a vznik CGI výrazně zvýšil počet pracovních míst ve VFX průmyslu a vytvořil hodnotu v adjacentním softwarovém vývoji, jakož i v různých podpůrných službách.

Můj zájem o Computer Vision zůstává nezměněn, spolu s mým zájmem o potenciál AI v širokém spektru možných audiovizuálních aplikací; a můj entuziasmus pro širší aplikace strojového učení, napříč řadou dalších sektorů, je neotřesitelný.

Jen si přeji, abych mohl dál vypadat вперед na ten AI “wow” moment ve filmu.

Co se týče důvodu, proč je náhlý nedostatek AI-generovaných tváří ve filmech a televizi, ve srovnání s nejaktivnějšími roky Metaphysic – jedna z možností je, že AI-pomocné úpravy jsou nyní aplikovány produkčními domy s malou nebo žádnou publicitou (ve srovnání s hlasitými tiskovými zprávami z let 2022-23), protože veřejná reakce na AI inovace v zábavě se stala tak nepřátelskou.

Zadruhé, aby se zopakovalo: po AGT, kde společnost debutovala, Metaphysic nikdy neměl opravdový hit, pokud jde o jeho vlastní příspěvek k jakémukoliv filmu nebo televiznímu pořadu; a ani Indiana Jones 4 deepfake, ani žádná jiná práce z jindy produkčních domů nebyla dostatečně dobře přijata, nebo nebyla dostatečně lucrativní, aby spustila vlnu napodobitelů, nebo aby poskytla AI ve VFX opravdovou důvěryhodnost a investiční přitažlivost.

* To je snadno ověřitelné pouhým pohledem na veřejně dostupné LinkedIn profily a IMDB kredity.

^† DeepFaceLab, a méně pornograficky spojený FaceSwap.

Poprvé publikováno v pondělí, 27. dubna 2026