Andersonův úhel

O etice hollywoodských deepfakeů

Martin Anderson
Přidejte Unite.AI mezi své preferované zdroje na Google
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Klíčové bodyAbsorpce Metaphysic.ai do Brahma AI společnosti DNEG se časově shodovala s prudkým…
Zobrazit více
  • Absorpce Metaphysic.ai do Brahma AI společnosti DNEG se časově shodovala s prudkým poklesem produkce deepfake v Hollywoodu.
  • Veřejné nepřátelství vůči AI v zábavním průmyslu způsobilo, že studia váhají zveřejňovat práci na vizuálních efektech s podporou AI.
  • Nedostatek jednoznačného komerčního hitu po debutu Metaphysic v soutěži AGT zabránil tomu, aby si AI vizuální efekty získaly důvěru investorů.

Proč došlo v poslední době k poklesu obsahu deepfake v televizi a filmech? Autor pracoval pro společnost Metaphysic.ai, která je průkopníkem v oblasti deepfake, více než dva a půl roku, včetně 20 měsíců jako zaměstnanec na plný úvazek.

 

Názor / Analýza Jako dítě jsem byl fascinován příběhy o založení Industrial Light and Magic (ILM), která působila v jednoduchém skladu ve Van Nuys, a která pečlivě budovala novou generaci metod vizuálních efektů s řízením pohybu, které ovládly většinu 80. let, až do příchodu CGI.

Zničení částí Death Staru na dvoře ILM ve Van Nuys v polovině 70. let. Zdroj - https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

Zničení částí Death Staru na dvoře ILM ve Van Nuys v polovině 70. let. Zdroj

To je výjimečný příběh o původu, a doporučuji číst knihy a články, které vyprávějí, jak byly efekty pro Star Wars (1977) po mnoha problémech a zpožděních nakonec dokončeny.

Mladá ILM se později přestěhovala do San Francisca a začala industrializovat produkci fotochemických efektů. I v době práce na VFX pro The Empire Strikes Back v letech 1978/9 byla ILM, přestože byla stále průkopnickou a inovativní efektovou společností, již plná účetních a personálních oddělení.

Ale v té době, a od té doby, mě fascinovalo, jak asi vypadaly ty první “syrové” roky ve Van Nuys, kdy se používaly modelové sady a optické metody z 60. let, a prakticky vynalezly průmysl, který dříve patřil jednotlivým auteur VFX specialistům.

Obličej revoluce

Během téměř tří let, kdy jsem pracoval v nyní zaniklé společnosti Metaphysic.ai, jsem si myslel, že jsem se dostal co nejblíže ke zkušenosti z Van Nuys v polovině 70. let.

V té době společnost Metaphysic produkovala AI-poháněné, vázané na konkrétní identitu efekty pro některé z největších franšíz, včetně Mad Max a Alien, jakož i průkopnické (i když silně kritizované) práce na omlazování deepfake pro Roberta Zemeckise Here (2024), a mnoho dalších děl:

Bylo více setkání “dailies” (zobrazování nejnovějších vyrobených záběrů v přeplněných setkáních přes Zoom) než by jedna osoba mohla rozumně navštívit a přitom dokončit svou vlastní práci, stejně jako skunkworks-styl setkání, kde se vybrané skupiny soustředily na malé ambiciózní projekty, snažící se posunout technologickou úroveň společnosti.

Mnozí zaměstnanci přišli do společnosti buď přímo z ILM, nebo dříve pracovali pro ILM*; a přestože bylo zřejmé, že duch Van Nuys už dávno ustoupil masové racionalizaci v ILM a dalších velkých VFX domech, odkud někteří zaměstnanci přišli, asociace zůstala pro mě elektrizující.

George Lucas prohlíží efekty s Johnem Dykstrou, Richardem Edlundem, Joe Johnstonem a Rose Duignan během produkce Star Wars, zatímco tým prochází plánováním praktických VFX a návrhem záběrů. Zdroj - https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas prohlíží efekty s Johnem Dykstrou, Richardem Edlundem, Joe Johnstonem a Rose Duignan během produkce Star Wars. Zdroj

Nevím, zda by někdo mohl tvrdit, že Metaphysic vynalezla AI obdobu zařízení DykstraFlex pro řízení pohybu, který vznikl ve Van Nuys; ale společnost uvedla AI-poháněné VFX na mapu a byla zodpovědná za více profesionálních náhrad a úprav tváří pomocí AI, než jakákoli jiná efektová společnost nebo projekt v té době, nebo od té doby.

Pomalejší tempo

A musím poznamenat, že od doby, kdy společnost byla začleněna do Brahma AI, dceřiné společnosti DNEG, se stálý proud AI-poháněných vizuálních efektů zdá zpomalovat až na hlemýždí tempo.

Přes titulky, jako je partnerství Ben Afflecka s AI VFX Netflix (NFLX ), a závazek k AI od režisérů Soderbergha a Aronofského, nevidím mnoho deepfake tváří v filmech a televizi v poslední době (s výjimkou The Capture‘s simulace deepfake technologie), ve srovnání s “peak Metaphysic”.

Vzhledem k rozsahu AI backlash v mnoha oblastech a sektorech, přemýšlím, zda nezačínáme všichni vnímat náladu publika ohledně identit pozměněných AI; a zda AI-usnadněné úsilí, jako je obnovení Iana Holma, omlazování Harrisona Forda a obnovení Rat Packu k prodeji ginu, by mohlo brzy vyvolat klasický mem ‘Byla to jiná doba’.

Negativní asociace

V mnoha ohledech je to problém asociace; ale není to stejný problém asociace, jako tomu bylo v roce 2021, kdy Metaphysic vznikla.

V té době se deepfake porn stal virálním jevem, se všemi SFW a NSFW výstupy, pocházejícími z jedné ze dvou open source software repozitářů† . Na rozdíl od dneška nebyla žádná s řízeným přístupem nebo cenzurovaná cesta, jak produkovat fotorealistický obsah AI.

Pak byl největší deepfake porn web na světě (určený k zrušení vyšetřováním v roce 2025) kde se nacházely oficiální instrukce pro největší deepfake software repozitář, DeepFaceLab, sám přiznaný základ původních přístupů Metaphysic:

Originální uživatelská příručka pro DeepFaceLab, kdysi nejoblíbenější deepfake software – hostovaný na největším deepfake porn webu. Od té doby byl software archivován a web zrušen. Zdroj - https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

Originální uživatelská příručka pro DeepFaceLab, kdysi nejoblíbenější deepfake software – hostovaný na největším deepfake porn webu. Od té doby byl software archivován a web zrušen. Zdroj

Od té doby, co vývojáři softwaru jasně neváhali s asociací mezi pornem a deepfakes, tato asociace nevyhnutelně ovlivnila jakoukoli společnost, která se snažila legitimně přijmout tuto technologii.

Následkem toho (možná v neposlední řadě proto, že zakladatel společnosti byl spolu se zakladatelem DeepFaceLab mezi autory Arxiv position paper o deepfakes v roce 2020 a byl předmětem kritiky kvůli těmto asociacím) Metaphysic měla specializované etické oddělení, a společnost byla velmi otevřená a veřejně aktivní na toto téma.

Tyto dny, s rozsáhlou a rostoucí globální legislativou, která kriminalizuje deepfake obsah, se ta “nešťastná” asociace ohledně AI-vytvořených identit přenesla z porna na chudobu, protože globální pracovní síly, přímo ohrožené jinými typy AI (obvykle Large Language Models, nebo LLMs), začínají démonizovat tento termín jako celek.

Vesničané se bouří

V určitém okamžiku, možná uprostřed roku 2023, účastníce se různých firemních setkání, jsem začal cítit, přiznávám, že z druhé ruky, rostoucí vlnu neformální ad hoc rezistence vůči službám, které společnost nabízela, které se shodovaly s prvními sociálními vlnami kolem AI jako existenční hrozby pro pracovníky (ačkoli je třeba poznamenat, že hollywoodské odbory byly v avantgardě v tomto ohledu).

V některých kruzích byla AI zřejmě vnímána jako něco, co «nestojí za to riziko». Metaphysic navíc ani v době největší produkce neměla nesporný úspěch po překvapení, které vyvolalo uvedení poněkud apatického mladého Elvise Presleyho v America’s Got Talent. Takový úspěch neměla ani žádná jiná společnost dodávající obsah vytvořený AI pro mainstreamový film a televizi.

Vždy jako by existoval nějaký důvod, proč nenávidět: neustále přítomné uncanny valley; asociace s pornem; a poté asociace s hrozící ekonomickou apokalypsou poháněnou AI.

„Tyranosauří okamžik“ AI

Dlouho se mi zdálo, že znovuvytvoření lidí se stoprocentní věrností je v kontextu VFX, kde CGI dlouho selhávalo, hodnotným, ne-li nevyhnutelným cílem.

Představoval jsem si, že evoluce AI ve vizuálních efektech by vyvrcholila v třetím “epochálním změnovém” okamžiku pro průmysl, k radosti diváků. První změna byla první pohled na hvězdný destruktor, který s burácením přeletěl nad hlavou v Star Wars v roce 1977, a druhá, únik tyrannosaura z jeho ohrady v Jurassic Park, v roce 1993.

Každá z nich vedla k radikálním změnám v průmyslu a každá byla předznamenána prvními uživateli, kteří tlačili hranice nové technologie nebo metody.

Takže mi připadalo, že proud Metaphysicových vydání, i když divákům nutně ještě neposkytoval ten “tyrannosaur moment”, by nevyhnutelně vedl k němu; že jednoho dne uvidíme něco nemožného ve filmu; něco základně vytvořeného AI (spíše než papírově s CGI), co by nás ohromilo.

Nyní…nevím. Není to nutně tím, že bych nevěřil, že ten AI “wow” moment ve filmu přijde; ani pouze tím, že existuje mnoho zásadních problémů, které AI video musí překonat, než se může připojit k profesionálům.

Jde spíše o to, že jsem začal sdílet, způsobem, který je vágní (a možná morálně zbabělý), ten rostoucí veřejný pocit negativní asociace mezi AI ve VFX a negativními důsledky AI v jiných sektorech, v tomto období.

Kromě toho nejsem zatím přesvědčen, že historický vliv nezaplacených a nevolných datových sad, jako je Common Crawl, už byl skutečně zohledněn, a domnívám se, že mnohé z těch tolik propagovaných “AI licenčních” dohod, které udělaly titulky za poslední rok a půl, představují určitou formu IP-washing.

Proto, když uvidím dokonalou a ne-uncanny AI-regenerovanou Marilyn Monroe nebo Humphreyho Bogarta na obrazovce, myslím, že ve mně budou probuzeny pocity úžasu a nepohodlí, protože břemeno provázející kouzla AI mě začalo tížit.

Závěr

Předchozí dva technologické průlomy přišly bez těchto varování: vznik ILM a zařízení pro řízení pohybu v podstatě vytvořil průmysl, který dříve byl série sporadických zakázek zajišťovaných malou elitou ad hoc freelancerů; a vznik CGI výrazně zvýšil počet pracovních míst ve VFX průmyslu a vytvořil hodnotu v souvisejícím vývoji softwaru, jakož i v různých podpůrných službách.

Můj zájem o Computer Vision zůstává nezměněn, spolu s mým zájmem o potenciál AI v širokém spektru možných audiovizuálních aplikací; a můj entuziasmus pro širší aplikace strojového učení, napříč řadou dalších sektorů, je neotřesitelný.

Jen si přeji, abych se mohl dál těšit na ten AI “wow” moment ve filmu.

Co se týče důvodu, proč je náhlý nedostatek AI-generovaných tváří ve filmech a televizi, ve srovnání s nejaktivnějšími roky Metaphysic – jedna z možností je, že AI-pomocné úpravy jsou nyní aplikovány produkčními domy s malou nebo žádnou publicitou (ve srovnání s hlasitými tiskovými zprávami z let 2022-23), protože veřejná reakce na AI inovace v zábavě se stala tak nepřátelskou.

Zadruhé, aby se zopakovalo: po AGT, kde společnost debutovala, Metaphysic nikdy neměla opravdový hit, pokud jde o svůj vlastní příspěvek k jakémukoliv filmu nebo televiznímu pořadu; a ani deepfake v Indiana Jones 4, ani žádná jiná práce z jiných produkčních domů nebyla dostatečně dobře přijata, nebo nebyla dostatečně výdělečná, aby spustila vlnu napodobitelů, nebo aby poskytla AI ve VFX opravdovou důvěryhodnost a investiční přitažlivost.

 

* To je snadno ověřitelné pouhým pohledem na veřejně dostupné LinkedIn profily a IMDB kredity.

† DeepFaceLab, a méně pornograficky spojený FaceSwap.

Poprvé publikováno v pondělí, 27. dubna 2026

Spisovatel v oblasti strojového učení, odborník na syntézu lidských obrazů. Bývalý vedoucí výzkumného obsahu ve společnosti Metaphysic.ai, až do jejího sloučení do Brahma.ai společnosti DNEG.
Webová stránka: martinanderson.ai
Kontakt: martin@martinanderson.ai