Об этике голливудских дипфейков

Почему в последнее время наблюдается спад в содержании дипфейков в телевизионных и кино-произведениях? Автор работал в компании Metaphysic.ai, пионере в области дипфейков, более двух с половиной лет, включая 20 месяцев в качестве сотрудника на полной ставке.

Мнение / Аналитическая статья В детстве меня увлекали истории о создании Industrial Light and Magic (ILM), работающей из простого склада в Ван-Найсе, и тщательно строящей новые методы контроля движения визуальных эффектов, которые будут доминировать в большинстве 1980-х годов, до появления CGI.

Взрыв части Звезды Смерти во дворе ILM в Ван-Найсе в середине 1970-х годов. Источник

Это выдающаяся история происхождения, и я рекомендую многие книги и статьи, которые пересказывают, как эффекты для Звездных войн (1977) были – после многочисленных испытаний, упреков и задержек – наконец доставлены.

Молодая ILM позже переехала в Сан-Франциско и стала индустриализировать производство фото-химических эффектов. Даже во время работы над визуальными эффектами Империя наносит ответный удар в 1978/9 годах, ILM, хотя и оставалась пионерской и инновационной компанией по эффектам, уже была полна бухгалтерских и кадровых отделов.

Но в тот период, и с тех пор, мое воображение было захвачено размышлениями о том, какими были первые несколько “сырых” лет в Ван-Найсе, когда использовались наборы моделей и методы оптики 1960-х годов, и практически изобреталась индустрия, которая ранее была уделом индивидуальных авторских специалистов по визуальным эффектам.

Лицо революции

За почти три года, которые я работал в ныне расформированной компании Metaphysic.ai по визуальным эффектам, я думаю, что я приблизился как можно ближе к опыту середины 70-х годов в Ван-Найсе.

В это время Metaphysic производила эффекты, управляемые ИИ, привязанные к конкретной личности, для некоторых из самых больших франшиз, включая Безумного Макса и Чужого, а также производила пионерскую (хотя много критикуемую) работу по омоложению дипфейков для фильма Роберта Земекиса Здесь (2024), и многие другие работы:

Было больше “ежедневных” встреч (показа последних созданных кадров, в переполненных встречах Zoom) чем мог посетить любой человек и при этом выполнить свою собственную работу, а также были неформальные встречи, где избранные группы работали вместе над небольшими амбициозными проектами, стремясь продвинуть передовые технологии компании.

Многие сотрудники пришли в компанию либо непосредственно из ILM, либо работали в ILM в прошлом*; и хотя было ясно, из рассказов, что дух Ван-Найса давно уступил место массовой рационализации в ILM и в других крупных компаниях по визуальным эффектам, откуда некоторые сотрудники пришли, ассоциация оставалась электрической для меня.

Джордж Лукас просматривает эффекты с Джоном Дайкстрой, Ричардом Эдлундом, Джо Джонстоном и Роуз Дуигнан во время производства Звездных войн. Источник

Я не знаю, можно ли утверждать, что Metaphysic изобрела ИИ-эквивалент ДайкстраФлекс системы управления движением, которая появилась из Ван-Найсской мастерской; но она поставила ИИ-управляемые визуальные эффекты на карту, и была ответственна за больше профессионального уровня ИИ-замены лица и изменения, чем любая другая компания по эффектам или проект в этот период, или с тех пор.

Замедление

И я должен отметить, что после того, как компания была включена в состав дочерней компании DNEG Brahma AI, тот стабильный поток ИИ-управляемых визуальных эффектов, кажется, замедлился до минимума.

Несмотря на заголовки, такие как партнерство Бена Аффлека по ИИ-визуальным эффектам Netflix (NFLX ), и обязательство по ИИ от режиссеров Содерберга и Ароновского, я не видел много дипфейков в фильмах и телевизионных шоу в последнее время (исключая The Capture симуляции технологии дипфейков), по сравнению с пиком активности Metaphysic.

Учитывая масштаб негативной реакции на ИИ в различных областях и секторах, я задаюсь вопросом, не начинаем ли мы все чувствовать общественное настроение вокруг изменённых ИИ личностей; и если ИИ-облегченные усилия, такие как воскрешение Иана Холма, омоложение Харрисона Форда, и воскрешение Рэт-Пэка, чтобы продать джин, могут вскоре вызвать уже классический мем ‘Это было другое время’.

Отрицательные ассоциации

Во многих отношениях, это проблема ассоциации; но это не та же проблема ассоциации, что и в 2021 году, когда Metaphysic была сформирована.

В то время дипфейк-порно стало вирусным явлением, и весь SFW- и NSFW-контент поступал из одного из двух открытых репозиториев программного обеспечения^† . В отличие от сегодняшнего дня, не было контролируемого посредниками или цензурированного способа производства фотореалистичного ИИ-контента.

Тогда самый большой сайт дипфейк-порно в мире (обреченный быть закрытым в ходе расследования в 2025 году) был местом, где находились официальные инструкции для самого большого репозитория программного обеспечения дипфейков, DeepFaceLab, были сами по себе признанным основанием первоначальных подходов Metaphysic:

Оригинальное руководство пользователя для DeepFaceLab, когда-то самое популярное программное обеспечение дипфейков – размещенное на самом большом сайте дипфейк-порно. С тех пор программное обеспечение было архивировано, а сайт удален. Источник

Поскольку разработчики программного обеспечения явно не избегали ассоциации между порно и дипфейками, это неизбежно повлияло бы на любую компанию, пытающуюся легитимно принять эту технологию.

Следовательно (возможно, не в последнюю очередь потому, что основатель компании был включен с основателем DeepFaceLab в авторство позиционного документа Arxiv о дипфейках в 2020 году, и был подвергнут многочисленной критике по поводу этих ассоциаций) Metaphysic имела специальный отдел этики, и компания была громкой и очень публичной по этому вопросу.

В последнее время, с обширным и растущим массивом глобального законодательства, криминализирующего контент дипфейков, эта “неудачная” ассоциация, связанная с ИИ-созданными идентификациями, перешла от порно к бедности, поскольку глобальные рабочие силы, которым напрямую угрожают разными видами ИИ (обычно Большие Языковые Модели, или БЯМ), начинают демонизировать этот термин во всех отношениях.

Жители восстают

В определенный момент, возможно, в середине 2023 года, посещая различные заседания компании, я начал чувствовать, признаю, что по сведениям из вторых рук, растущую волну неформального ситуативного ad hoc сопротивления услугам, которые предлагала компания, совпадающую с первыми социальными волнениями вокруг ИИ как угрозы самому существованию для рабочих (хотя стоит отметить, что голливудские профсоюзы были в авангарде в этом отношении).

ИИ, казалось, рассматривался в некоторых кругах как “не стоит риска”. Кроме того, в пиковый период Metaphysic никогда не имела недвусмысленного хита после неожиданного появления довольно вялого молодого Элвиса Пресли в Америка ищет таланты. На самом деле ни одна компания, производившая ИИ-генерируемый контент в основной работе над фильмами и телевизионными шоу, не имела.

Всегда, казалось, находился повод для ненависти: вездесущая неуютная долина; ассоциация с порно; и затем, ассоциация с угрозой экономического апокалипсиса, вызванного ИИ.

ИИ-‘Тираннозавровый момент’

Казалось мне, что воссоздание людей с стопроцентной точностью в контексте визуальных эффектов, где CGI не справлялась со своей задачей в течение долгого времени, является достойной, если не неизбежной, целью.

Я представлял, что эволюция ИИ в визуальных эффектах приведет к третьему “эпохальному изменению” моменту для индустрии, к радости зрителей. Первый был первый взгляд на звездный разрушитель, громко летящий над головой в Звездных войнах в 1977 году, и второй, яростный Тираннозавр, сбежавший из своего вольера в Парке Юрского периода, в 1993 году.

Каждый из них привел к радикальным изменениям в индустрии, и каждому предшествовали первые пользователи, продвигающих пределы новой технологии или метода.

Таким образом, казалось мне, что поток выпусков Metaphysic, хотя и не обязательно поставляющий аудитории тот “тираннозавровый момент”, неизбежно приведет к нему; что однажды мы увидим что-то невозможное в фильме; что-то фундаментально созданное ИИ (а не заполненное CGI), что сразит нас наповал.

Теперь… я не знаю. Это не обязательно означает, что я не верю, что момент изумления придет для ИИ в кино; ни только то, что есть много критических проблем для ИИ-видео, которые необходимо преодолеть, прежде чем оно сможет присоединиться к профессионалам за столом.

Это больше того, что я начал делиться, в некотором смысле (и, возможно, морально трусливом), с растущим общественным чувством негативной ассоциации между ИИ в визуальных эффектах и негативными последствиями ИИ в других секторах, в этот период.

Помимо этого, я не убежден, что историческое влияние наборов данных, использованных без вознаграждения и не являющихся свободными, таких как Common Crawl, было действительно учтено; и я считаю, что многие из многочисленных “сделок по лицензированию ИИ”, которые попали в заголовки за последние 18 месяцев или около того, представляют некоторую степень промывания ИП.

Следовательно, момент, когда идеально восстановленный и не-неуютный ИИ-регенерированный Мэрилин Монро или Хамфри Богарт шагнет на экран, я думаю, что двойные чувства изумления и неловкости, вероятно, возникнут во мне, потому что волшебство ИИ имеет багаж, который начал давить на меня.

Заключение

Два предыдущих технологических прорыва пришли без таких оговорок: появление ILM и системы управления движением фактически изобрели индустрию, которая ранее была серией случайных заказов, выполненных немногочисленной элитой ад-хок фрилансеров; и появление CGI значительно увеличило количество рабочих мест в индустрии визуальных эффектов и создало ценность в смежных разработках программного обеспечения, а также в различных поддерживающих услугах.

Мой интерес к компьютерному зрению остается неизменным, вместе с моим интересом к потенциалу ИИ в широком диапазоне возможных аудиовизуальных приложений; и мой энтузиазм по отношению к более широким применениям машинного обучения в различных других секторах не ослабевает.

Я только желаю, чтобы я мог продолжать с нетерпением ждать того момента “вау” от ИИ в кино.

Что касается причины, по которой в фильмах и телевизионных шоу внезапно не хватает ИИ-генерируемых лиц по сравнению с наиболее активными годами Metaphysic, одной из возможностей является то, что ИИ-помощь теперь применяется производственными компаниями с минимальной оглаской или вовсе без неё (по сравнению с громкими пресс-релизами периода 2022-23 года), учитывая, что общественная реакция на инновации ИИ в развлечениях стала настолько враждебной в последнее время.

Во-вторых, чтобы повторить: после Америки ищет таланты, где компания сделала свой дебют, Metaphysic никогда не имела недвусмысленного хита в отношении своего вклада в любой фильм или телевизионное шоу; и ни дипфейк в «Индиане Джонсе 4», ни любая другая работа из других производственных компаний не были достаточно хорошо приняты или достаточно прибыльны, чтобы вызвать волну подражателей, или чтобы дать ИИ в визуальных эффектах настоящую достоверность и привлекательность для инвесторов.

* Это легко проверить, просто посмотрев на публично доступные профили LinkedIn и списки участников работ в IMDB.

^† DeepFaceLab, и менее ассоциированный с порно FaceSwap.

Опубликовано впервые в понедельник, 27 апреля 2026 года