Погляд Anderson
Про етику голлівудських дипфейків

Ключові моментиПоглинання Metaphysic.ai компанією Brahma AI від DNEG збіглося з різким спадом…
Показати більше
- Поглинання Metaphysic.ai компанією Brahma AI від DNEG збіглося з різким спадом виробництва глибоких фейків у Голлівуді.
- Ворожість громадськості до ШІ в індустрії розваг змусила студії неохоче розголошувати VFX-роботи, виконані за допомогою ШІ.
- Відсутність беззаперечного комерційного хіта після дебюту Metaphysic на AGT завадила ШІ-візуальним ефектам здобути довіру інвесторів.
Чому останнім часом спостерігається спад у кількості телевізійних і кінодипфейків? Автор працював у компанії Metaphysic.ai, піонері кінодипфейків, понад два з половиною роки, включаючи 20 місяців як працівник на повну ставку.
Думка / Аналітична стаття Як дитина, я був захоплений історіями про заснування компанії Industrial Light and Magic (ILM), яка працювала у простому складі у Ван-Нуйсі, і ретельно будувала нове покоління методів візуальних ефектів із керуванням рухом, які згодом домінували у більшості 1980-х років, аж до появи CGI.

Вибухання частини Зірки Смерті на подвір’ї ILM у Ван-Нуйсі в середині 1970-х років. Джерело
Це видатна історія походження, і я рекомендую багато книг і статей, які переповідають, як ефекти для Зоряних війн (1977) були – після великої праці, докорів і затримок – врешті-решт доставлені.
Молода ILM пізніше переїхала до Сан-Франциско і розпочала індустріалізацію виробництва фотохімічних ефектів. Навіть під час роботи над візуальними ефектами для Імперія завдає удар у відповідь у 1978/9 роках, ILM, хоча і була все ще піонерською та інноваційною компанією візуальних ефектів, вже була переповнена бухгалтерськими та кадровими відділами.
Але в той період, і з тих пір, моя уява була захоплена тим, яким були ті перші “сирі” роки у Ван-Нуйсі, канібалізуючи набори моделей і методи оптики 1960-х років, і практично винаходячи індустрію, яка раніше була збережена для окремих спеціалістів із авторським підходом візуальних ефектів.
Обличчя революції
Під час майже трьох років, які я працював у компанії Metaphysic.ai, нині розформованій, я думаю, що я прийшов якнайближче до досвіду середини 70-х років у Ван-Нуйсі.
За цей час Metaphysic створила ефекти на основі штучного інтелекту, прив’язані до конкретних особистостей, для деяких з найбільших франшиз, включаючи Шалений Макс і Чужий, а також створила піонерську (хоча широко критиковану) роботу з омолодженням дипфейків для фільму Роберта Земекіса Тут (2024), і багато інших робіт:
Було більше зустрічей “дейлі” (показу найновішого створеного відеоматеріалу, у переповнених зустрічах Zoom) ніж будь-яка одна людина могла б розсудливо відвідувати і все ж таки виконувати свою роботу, а також зустрічі типу “сканків”, де вибрані групи працювали разом над невеликими амбітними проєктами, щоб просунути компанію до нового рівня.
Багато співробітників прийшли до компанії безпосередньо з ILM або працювали в ILM у минулому*; і хоча було зрозуміло, із розповідей, що дух Ван-Нуйса давно поступився масштабній раціоналізації у великих будинках візуальних ефектів, таких як ILM, і інших великих будинках візуальних ефектів, звідки прийшли деякі співробітники, цей зв’язок залишався захопливим для мене.

Джордж Лукас переглядає ефекти з Джоном Дікстрою, Річардом Едлундом, Джо Джонстоном і Роуз Дуігнан під час виробництва Зоряних війн. Джерело
Я не знаю, чи можна сказати, що Metaphysic створила аналог на основі AI для Дікстрофлекс системи керування рухом, яка вийшла з Ван-Нуйського сарайного будинку; але вона поставила візуальні ефекти, керовані штучним інтелектом, на карту, і була відповідальною за більше професійних замін і змін облич за допомогою AI, ніж будь-яка інша компанія візуальних ефектів або окремий проект у цьому періоді, або після нього.
Уповільнення
І я повинен зазначити, що після того, як компанія була поглинута компанією Brahma AI, дочірньою компанією DNEG, постійний потік робіт візуальних ефектів, керованих штучним інтелектом, здається, сповільнився до мінімуму.
Незважаючи на заголовки, такі як партнерство Бена Аффлека з AI VFX Netflix (NFLX ), і підтримку штучного інтелекту від режисерів Содерберга і Аронофського, я не бачив багато дипфейкових облич у фільмах і на телебаченні останнім часом (окрім The Capture з його імітацією дипфейкової технології), порівняно з піком Metaphysic.
Враховуючи масштаб негативної реакції на штучний інтелект у багатьох галузях і секторах, я задаюсь питанням, чи не починаємо ми всі відчувати суспільні настрої щодо особистостей, змінених штучним інтелектом; і чи не починаємо ми бачити, що зусилля, такі як воскресіння Іана Холма, омолодження Гаррісона Форда і воскресіння Рат Пека для продажу джину, можуть скоро викликати класичну мему ‘То був інший час’.
Негативні асоціації
У багатьох аспектах це проблема асоціації; але це не та сама проблема асоціації, яку було у 2021 році, коли Metaphysic була створена.
У той час дипфейкове порно стало вірусним явищем, з усіма SFW і NSFW виходами, що походили з одного з двох відкритих джерел програмного забезпечення† . На відміну від сьогодні, не було з контрольованим доступом або цензурного способу виробництва фотореалістичного контенту штучного інтелекту.
Тоді найбільший сайт дипфейкового порно у світі (призначений для закриття внаслідок розслідування у 2025 році) був місцем, де були офіційні інструкції для найбільшого репозиторію програмного забезпечення дипфейків, DeepFaceLab, яке було визнане основою оригінальних підходів Metaphysic:

Оригінальне керівництво до DeepFaceLab, яке було найбільш популярним програмним забезпеченням дипфейків – розміщене на найбільшому сайті дипфейкового порно. Відтоді програмне забезпечення було архівовано, а сайт закрито. Джерело
Оскільки розробники програмного забезпечення не уникали асоціації між порно і дипфейками, це неминуче вплинуло на будь-яку компанію, яка намагалася законно застосовувати цю технологію.
Відповідно (можливо, не в останню чергу тому, що засновник компанії разом із засновником DeepFaceLab увійшов до авторів позиційної статті на Arxiv про дипфейки у 2020 році, і був підданий критиці через ці асоціації) Metaphysic мала спеціальний відділ етики, і компанія була громкою і дуже публічною щодо цієї теми.
Ці дні, з великою і розростаючою кількістю законодавчих актів, які криміналізують контент дипфейків, ця “нещасна” асоціація щодо штучно створених ідентичностей перейшла від порно до бідності, оскільки працівники по всьому світу, яким безпосередньо загрожують різні види штучного інтелекту (зазвичай великими мовними моделями, або LLM), починають демонізувати термін у цілому.
Селяни повстали
У певний момент, можливо, у середині 2023 року, відвідуючи різні зустрічі компанії, я почав відчувати, визнаю, що з чужих слів, зростаючу хвилю неформального ситуативного ad hoc опору проти послуг, які надавала компанія, що збігалося з першими соціальними хвилями навколо штучного інтелекту як загрози самому існуванню для працівників (хоча потрібно зазначити, що голлівудські профспілки були в авангарді у цьому відношенні).
Штучний інтелект здавався сприйматимим у деяких колах як “не вартий ризику”. Крім того, у період найбільшої активності Metaphysic ніколи не мала недвозначного хіту після ефекту несподіванки від появи досить млявого молодого Елвіса Преслі в America’s Got Talent. Насправді жодна інша компанія, яка виводила контент, згенерований штучним інтелектом, у головних фільмах і телевізійних роботах, не мала такого хіту.
Завжди здавалося, що є якась причина ненавидіти: постійно присутня моторошна долина; асоціація з порно; і потім, асоціація із загрозою економічного апокаліпсису, спричиненого штучним інтелектом.
‘Тираннозавровий момент’ штучного інтелекту
Мені здавалося, що протягом довгого часу, створення людини з стовідсотковою точністю у контексті візуальних ефектів, яке було провалено комп’ютерною графікою протягом довгого часу, було гідною, якщо не неминучою, метою.
Я уявляв, що еволюція штучного інтелекту у візуальних ефектах призведе до третього “епохального” моменту для індустрії, до задоволення глядачів. Перший був перший погляд на зоряний руйнівник, який із гуркотом пролітає над головою у Зоряних війнах у 1977 році, і другий, тираннозавр, який втікає з свого загону у Парку Юрського періоду, у 1993 році.
Кожен з них привів до радикальних змін у індустрії, і кожен був попереджений першими користувачами, які розширювали межі нової технології або методу.
Отже, здавалося мені, що потік випусків Metaphysic, хоча й не обов’язково вже забезпечував глядачів тим “тираннозавровим моментом”, неминуче призведе до нього; що одного дня ми побачимо щось неможливе у фільмі; щось фундаментально створене штучним інтелектом (а не закритим комп’ютерною графікою), що перехопить нам подих.
Тепер… я не знаю. Це не означає, що я не вірю, що момент здивування прийде для штучного інтелекту у кіно; і не лише в тому, що є багато критичних проблем для відео штучного інтелекту, які потрібно подолати, перш ніж він зможе приєднатися до професіоналів за столом.
Це більше того, що я почав поділяти, у певній невизначеній (і, можливо, морально боязкій) спосіб, зростаюче публічне почуття негативної асоціації між штучним інтелектом у візуальних ефектах і негативними наслідками штучного інтелекту в інших секторах, у цьому періоді.
Окрім цього, я наразі не переконаний, що історичний вплив наборів даних, використаних без винагороди та не вільних для використання, таких як Common Crawl, уже було справді враховано; і я вважаю, що багато широко розрекламованих угод про ліцензування штучного інтелекту, які потрапили в заголовки за останні 18 місяців або близько того, представляють певний рівень відмивання інтелектуальної власності.
Отже, момент, коли ідеально відтворені AI й позбавлені моторошності Мерилін Монро або Гемфрі Богарт вийде на екран, я думаю, що подвійні почуття здивування і незручності, ймовірно, виникнуть у мене, оскільки багаж чарівництва штучного інтелекту почав давити на мене.
Висновок
Два попередні технологічні прориви прийшли без таких застережень: поява ILM і систем керування рухом фактично створила індустрію, яка раніше була серією спорадичних замовлень, виконуваних нечисленною елітою ад хок фрілансерів; і поява комп’ютерної графіки значно збільшила кількість робочих місць у індустрії візуальних ефектів і створила цінність у суміжних розробках програмного забезпечення, а також у різних підтримуючих послугах.
Мій інтерес до комп’ютерного зору залишається цілим, разом з моїм інтересом до потенціалу штучного інтелекту у широкому спектрі можливих аудіовізуальних застосунків; і мій ентузіазм щодо ширших застосунків машинного навчання у різних інших секторах залишається незмінним.
Я тільки бажаю, щоб я міг продовжувати чекати того моменту “вау” штучного інтелекту у кіно.
Що ж до причини, чому зараз спостерігається раптова нестача згенерованих штучним інтелектом облич у фільмах і на телебаченні, порівняно з найбільш активними роками Metaphysic – одна з можливостей полягає в тому, що тепер коригування, здійснені за допомогою штучного інтелекту, застосовуються продюсерськими компаніями з мінімальною публічністю (у порівнянні з гучними прес-релізами періоду 2022-23 років), оскільки публічна реакція на інновації штучного інтелекту у розважальному секторі останнім часом стала дуже ворожою.
Другою причиною є те, що після AGT, де компанія зробила свій дебют, Metaphysic ніколи не мала недвозначного хіту щодо свого внеску у будь-який фільм або телешоу; і ні дипфейк в «Індіані Джонсі 4», ні роботи інших продюсерських компаній не була достатньо добре прийнята або достатньо прибуткова, щоб запустити хвилю копіювань, або щоб надати штучному інтелекту у візуальних ефектах справжню довіру і привабливість для інвесторів.
* Це легко перевірити, просто переглянувши публічно доступні профільні сторінки LinkedIn і дані IMDB.
† DeepFaceLab, і менше асоційоване з порно FaceSwap.
Перша публікація понеділка, 27 квітня 2026 року












