Об этике Голливудских дипфейков

Почему в последнее время наблюдается спад в содержании дипфейков в телевизионных и кино-произведениях? Автор работал в компании Metaphysic.ai, пионере в области дипфейков, более двух с половиной лет, включая 20 месяцев в качестве полного сотрудника.

Мнение/Функция В детстве меня увлекали истории о создании Industrial Light and Magic (ILM), работающей из простого склада в Ван-Найсе, и тщательно строящей новые методы контроля движения визуальных эффектов, которые будут доминировать в большинстве 1980-х годов, до появления CGI.

Взрыв части Звезды Смерти во дворе ILM в Ван-Найсе в середине 1970-х годов. Источник

Это выдающаяся история происхождения, и я рекомендую многие книги и статьи, которые пересказывают, как эффекты для Звездных войн (1977) были – после многочисленных испытаний, упреков и задержек – наконец доставлены.

Молодая ILM позже переехала в Сан-Франциско и стала индустриализировать производство фото-химических эффектов. Даже во время работы над визуальными эффектами Империя наносит ответный удар в 1978/9 годах, ILM, хотя и оставалась пионерской и инновационной компанией по эффектам, уже была полна бухгалтерских и кадровых отделов.

Но в тот период, и с тех пор, мое воображение было захвачено размышлениями о том, какими были первые несколько “сырых” лет в Ван-Найсе, когда использовались наборы моделей и методы оптики 1960-х годов, и практически изобреталась индустрия, которая ранее была уделом индивидуальных авторских специалистов по визуальным эффектам.

Лицо революции

За почти три года, которые я работал в ныне расформированной компании Metaphysic.ai по визуальным эффектам, я думаю, что я приблизился как можно ближе к опыту середины 70-х годов в Ван-Найсе.

В это время Metaphysic производила эффекты, управляемые ИИ, специфичные для идентификации, для некоторых из самых больших франшиз, включая Макса Гнева и Чужого франшиз, а также производила пионерскую (хотя много критикуемую) работу по омоложению дипфейков для фильма Роберта Земекиса Здесь (2024), и многие другие работы:

Было больше “ежедневных” встреч (показа последних снятых кадров, в переполненных встречах Zoom) чем мог посетить любой человек и при этом выполнить свою собственную работу, а также были неформальные встречи, где избранные группы работали вместе над мини-проектами, стремясь продвинуть состояние компании.

Многие сотрудников пришли в компанию либо直接 из ILM, либо работали в ILM в прошлом*; и хотя было ясно, из анекдотов, что дух Ван-Найса давно уступил место массовой рационализации в ILM и другим крупным компаниям по визуальным эффектам, откуда некоторые сотрудники пришли, ассоциация оставалась электрической для меня.

Джордж Лукас просматривает эффекты с Джоном Дайкстрой, Ричардом Эдлундом, Джо Джонстоном и Роуз Дуигнан во время производства Звездных войн. Источник

Я не знаю, можно ли утверждать, что Metaphysic изобрела ИИ-эквивалент ДайкстраФлекс системы управления движением, которая появилась из Ван-Найсской мастерской; но она поставила ИИ-управляемые визуальные эффекты на карту, и была ответственна за больше профессионального уровня ИИ-замены лица и изменения, чем любая другая компания по эффектам или проект в этот период, или с тех пор.

Замедление

И я должен отметить, что после того, как компания была поглощена компанией DNEG’s Brahma AI, тот стабильный поток ИИ-управляемых визуальных эффектов, кажется, замедлился до минимума.

Несмотря на заголовки, такие как партнерство Бена Аффлека по ИИ-визуальным эффектам Netflix, и обязательство по ИИ от режиссеров Содерберга и Ароновского, я не видел много дипфейков в фильмах и телевизионных шоу в последнее время (исключая Пленку симуляции технологии дипфейков), по сравнению с “пиковым Метафизиком”.

Учитывая масштаб отклика ИИ в различных областях и секторах, я задаюсь вопросом, не начинаем ли мы все “читать комнату” об ИИ-измененных идентификациях; и если ИИ-облегченные усилия, такие как воскрешение Иана Холма, омоложение Харрисона Форда, и воскрешение Рэт-Пэка, чтобы продать джин, могут вскоре вызвать теперь-классическую мему ‘Это было другое время’.

Отрицательные ассоциации

Во многих отношениях, это проблема ассоциации; но это не та же проблема ассоциации, что и в 2021 году, когда Metaphysic была сформирована.

В то время дипфейк-порно стало вирусным явлением, и все SFW и NSFW-контент одинаково исходили из одного из двух открытых репозиториев программного обеспечения^† . В отличие от сегодняшнего дня, не было “охраняемого” или цензурированного способа производства фотореалистичного ИИ-контента.

Тогда самый большой сайт дипфейк-порно в мире (обреченный быть снятым в ходе расследования в 2025 году) был где официальные инструкции для самого большого репозитория программного обеспечения дипфейков, DeepFaceLab, были сами по себе признанным основанием первоначальных подходов Metaphysic:

Оригинальное руководство пользователя для DeepFaceLab, когда-то самое популярное программное обеспечение дипфейков – размещенное на самом большом сайте дипфейк-порно. С тех пор программное обеспечение было архивировано, а сайт удален. Источник

Поскольку разработчики программного обеспечения явно не избегали ассоциации между порно и дипфейками, это неизбежно повлияло бы на любую компанию, пытающуюся легитимно принять эту технологию.

Следовательно (возможно, не в последнюю очередь потому, что основатель компании был включен с основателем DeepFaceLab в авторство позиционного документа Arxiv о дипфейках в 2020 году, и был подвергнут многочисленной критике по поводу этих ассоциаций) Metaphysic имела специальный отдел этики, и компания была громкой и очень публичной по этому вопросу.

В последнее время, с обширным и растущим массивом глобального законодательства, криминализирующего контент дипфейков, эта “неудачная” ассоциация, связанная с ИИ-созданными идентификациями, перешла от порно к бедности, поскольку глобальные рабочие силы, напрямую угрожаемые разными видами ИИ (обычно Большие Языковые Модели, или БЯМ), начинают демонизировать этот термин во всех отношениях.

Жители восстают

В определенный момент, возможно, в середине 2023 года, посещая различные заседания компании, я начал чувствовать, хотя и косвенно, растущую волну неформальной ад-хок сопротивления услугам, которые предлагала компания, совпадающую с первыми социальными волнениями вокруг ИИ как существенной угрозы для рабочих (хотя стоит отметить, что голливудские профсоюзы были в авангарде в этом отношении).

ИИ, казалось, рассматривался в некоторых кварталах как “не стоит риска”. Кроме того, в пиковый период Metaphysic никогда не имела недвусмысленного хита после шоковой ценности молодого Элвиса Пресли в Америка ищет таланты. На самом деле, ни одна компания, производившая ИИ-генерируемый контент в основной работе над фильмами и телевизионными шоу, не имела.

Всегда seemed to be some reason to hate: ever-present неуютная долина; ассоциация с порно; и затем, ассоциация с угрожаемой ИИ-обусловленной экономической апокалипсисом.

ИИ-‘Тираннозавровый момент’

Казалось мне, что воссоздание людей с 100% фидельностью в контексте визуальных эффектов, который был неудачно выполнен CGI в течение долгого времени, является достойной и неизбежной целью.

Я представлял, что эволюция ИИ в визуальных эффектах приведет к третьему “эпохальному изменению” моменту для индустрии, к радости зрителей. Первый был первый взгляд на звездный разрушитель, громко летящий над головой в Звездных войнах в 1977 году, и второй, яростный Тираннозавр, сбежавший из своего вольера в Парке Юрского периода, в 1993 году.

Каждый из них привел к радикальным изменениям в индустрии, и каждый был предшественником ранних адептов, продвигающих пределы новой технологии или метода.

Таким образом, казалось мне, что поток выпусков Metaphysic, хотя и не обязательно поставляющий аудитории тот “тираннозавровый момент”, неизбежно приведет к нему; что однажды мы увидим что-то невозможное в фильме; что-то фундаментально созданное ИИ (а не заполненное CGI), что сбросит нам с ног.

Теперь… я не знаю. Это не обязательно означает, что я не верю, что момент изумления придет для ИИ в кино; ни то, что есть много критических проблем для ИИ-видео, которые необходимо преодолеть, прежде чем оно сможет присоединиться к профессионалам за столом.

Это больше того, что я начал делиться, в некотором смысле (и, возможно, морально трусливом), с растущим общественным чувством негативной ассоциации между ИИ в визуальных эффектах и негативными последствиями ИИ в других секторах, в этот период.

Помимо этого, я не убежден, что историческое влияние неплатных и не-бесплатных наборов данных, таких как Common Crawl, было действительно учтено; и я считаю, что многие из многочисленных “сделок по лицензированию ИИ”, которые сделали заголовки за последние 18 месяцев или около того, представляют некоторую степень промывания ИП.

Следовательно, момент, когда идеально восстановленный и не-неуютный ИИ-регенерированный Мэрилин Монро или Хамфри Богарт шагнет на экран, я думаю, что двойные чувства изумления и неловкости, вероятно, возникнут во мне, потому что волшебство ИИ имеет багаж, который начал давить на меня.

Заключение

Два предыдущих технологических прорыва пришли без таких оговорок: появление ILM и системы управления движением фактически изобрели индустрию, которая ранее была серией случайных заказов, выполненных скудным элитным составом ад-хок фрилансеров; и появление CGI значительно увеличило количество рабочих мест в индустрии визуальных эффектов и создало ценность в смежных разработках программного обеспечения, а также в различных поддерживающих услугах.

Мой интерес к компьютерному зрению остается неизменным, вместе с моим интересом к потенциалу ИИ в широком диапазоне возможных аудиовизуальных приложений; и мой энтузиазм по отношению к более широким применениям машинного обучения в различных других секторах не ослабевает.

Я только желаю, чтобы я мог продолжать смотреть вперед к тому моменту “вау” от ИИ в кино.

Что касается причины, по которой в фильмах и телевизионных шоу внезапно не хватает ИИ-генерируемых лиц по сравнению с наиболее активными годами Metaphysic, одной из возможностей является то, что ИИ-помощь теперь применяется производственными компаниями с малой или без публичности (по сравнению с громкими пресс-релизами периода 2022-23 года), учитывая, что общественная реакция на инновации ИИ в развлечениях стала настолько враждебной в последнее время.

Во-вторых, чтобы повторить: после Америки ищет таланты, где компания сделала свой дебют, Metaphysic никогда не имела недвусмысленного хита в отношении своего вклада в любой фильм или телевизионное шоу; и ни Индиана Джонс 4 дипфейк, ни любая другая работа из других производственных компаний не были достаточно хорошо приняты, чтобы начать ажиотаж, или чтобы дать ИИ в визуальных эффектах настоящую достоверность и привлекательность для инвесторов.

* Это легко проверить, просто посмотрев на публично доступные профили LinkedIn и кредиты IMDB.

^† DeepFaceLab, и менее ассоциированный с порно FaceSwap.

Опубликовано впервые в понедельник, 27 апреля 2026 года