Использование «вероятности» в качестве метрики обнаружения глубоких фейков

Если видео и аудио, сгенерированные ИИ, станут достаточно совершенными, детекторы глубоких фейков, основанные на визуальных артефактах или других традиционных сигналах, больше не будут работать. Но учитывая, насколько редко люди отклоняются от предсказуемого поведения, возможно, «вероятность» может быть принята более глубоко в качестве сигнала того, является ли видео или новостная спекуляция вероятной для правды.

Мнение В начале 1990-х годов уважаемый бывший британский футболист и телекомментатор Дэвид Айк небрежно раскрыл на ток-шоу, что он является «сыном Бога» – странное и неожиданное откровение, которое в течение следующих десятилетий будет развиваться в постоянную и разветвленную теорию заговора о секретной и мощной глобальной кабале «рептилоидов».

С учетом того, что интернет еще не был широко распространен, а социальные сети были еще дальше в будущем, огромная диссонанс между известностью Айка и новыми прозрениями оказала глубокое влияние на британскую общественность – не в последнюю очередь из-за полного отсутствия контекста или любого рода подготовки к такому повороту, от известного и хорошо установленного спортивного деятеля.

Более чем через двадцать лет аналогичный, но намного более темный тип социального шока произошел, когда любимый благотворитель и телеведущий для детей Джимми Сэвил был посмертно признан серийным и безжалостным насильником на протяжении всей жизни, который использовал свой добрый публичный образ для облегчения своих преступлений.

Последующее расследование операции Yewtree полиции раскрыло многих других британских знаменитостей с долгой историей сексуальных преступлений; позже суд над Харви Вайнштейном привел к аналогичному открытию знаменитых сексуальных преступников в США, что в конечном итоге привело к движению #metoo и стало неотъемлемой частью американской культуры в таких случаях, как Утреннее шоу. «Шокирующие» новости, казалось, развивали новый и внезапный шаблон – который в конечном итоге будет принят создателями глубоких фейков.

Конец «традиционного» обнаружения глубоких фейков?

Даже если бы социальные сети и ИИ были доступны в начале 1990-х годов, ни одна прогностическая система в мире не могла бы предвидеть откровения Айка на ток-шоу, которые (как я хорошо помню) не были предвосхищены в годы, предшествующие этому событию.

Но если бы ИИ был доступен, ему, возможно, потребовалось бы некоторое время, чтобы убедить более широкую аудиторию в том, что заявления Айка не являются продуктом Google Veo 3 или другого нового поколения сверхреалистичных аудио/видео фреймворков глубоких фейков.

Только в последние 6-12 месяцев методы глубоких фейков на основе ИИ стали достаточно эффективными, чтобы оправдать годы предсказаний СМИ о вмешательстве глубоких фейков в выборы, и способными генерировать быстрый удар по репутации, который является ложным, но трудно искоренить в все более доверчивой культуре.

На данный момент выход ИИ видео обычно не достигает истинного реализма, ограниченного техническими препятствиями и все более поляризованным растущим разрывом между ограниченными западными моделями и некенсорированными китайскими открытыми выпусками^**.

Однако я замечаю все чаще в исследовательской литературе надвигающееся признание этого холодного войны, например, в новой статье Снижение производительности при обнаружении глубоких фейков^†:

‘[Мы] предполагаем, что видео глубоких фейков будут продолжать содержать обучаемые ИИ признаки, которые надежно отличают их от настоящих видео. По мере того, как возможности генеративного ИИ продолжают быстро развиваться, это предположение может оказаться недействительным.

‘В таком сценарии методы водяных знаков и других методов отслеживания происхождения будут предлагать единственный выход для поддержания доверия к цифровым СМИ.’

Но та же статья признает, что решения, основанные на происхождении, такие как инициатива аутентичности контента, возглавляемая Adobe, (и многие меньшие исследовательские предложения за последние 7-8 лет) требуют такого широкого внедрения, что это нереалистично; и статья заканчивается общей нотой отступления, если не поражения.

Если методы обнаружения аудио-видео глубоких фейков будут превзойдены генеративным ИИ, и глобальное внедрение навязчивой системы водяных знаков или происхождения упадет на различные логистические препятствия, какая общая центральная особенность может заменить их в качестве индикаторов потенциально поддельного вывода? Или мы должны смириться с миром, где все СМИ находятся под сомнением, и дивиденды лжеца преобладают?

Графы знаний

Похоже, что пришло время более глубоко использовать вероятность и правдоподобие «сообщаемых событий» в качестве сигнальной характеристики при обнаружении глубоких фейков. Кроме того, поскольку видео и аудио генеративные системы ИИ все больше сходятся, возможно, что отдельные исследовательские направления «фейковых новостей» (как текстового повествовательного события) и фейковых изображений/видео также должны сходиться.

Вероятностная метрика глубоких фейков не является той же, что и RAG-поддерживаемая верификация фактов, где модель ИИ может принести текущие веб-результаты, чтобы получить знания о событиях, которые происходят после своей даты окончания срока действия, и/или чтобы подтвердить свои утверждения.

РATHER, она будет выполнять прогнозы на основе общих статистических тенденций, полученных из исторических закономерностей, соответствующих текущему запросу.

В этом смысле вероятностный метод ближе к статистическому анализу, чем к более современным подходам в текущей сцене машинного обучения.

Хотя ранее затененные более современными подходами эпохи трансформеров, графы знаний делают своего рода возвращение в корпоративном секторе и, кажется, адаптированы к потенциальному развертыванию «вероятностных» метрик при обнаружении глубоких фейков.

Упрощенный граф знаний, показывающий, как люди, места, произведения искусства и события могут быть связаны через помеченные отношения, позволяя машинам рассуждать о реальных сущностях и их связях. Источник

Граф знаний – это способ организации информации путем сопоставления реальных сущностей, таких как люди, компании, события или идеи, в сеть связанных фактов.

Каждая подсущность является узлом, а связи между ними (ребра) описывают, как они относятся друг к другу. Например, «Microsoft » (узел) может быть связан с «OpenAI» (другим узлом) ребром, которое говорит «является клиентом». Эти связи часто хранятся в графических базах данных и следуют структуре субъект-предикат-объект, такой как «Microsoft является клиентом OpenAI».

Постоянная память

Одно китайское исследование из сентября этого года предложило метод без обучения, который использует графические рассуждения для обнаружения тонких несоответствий в мультимодальных глубоких фейках.

Вместо генерации обоснований или тонкой настройки больших моделей система извлекает пары изображений и текста, строит граф сходства и оценивает связи, чтобы извлечь наиболее актуальные примеры, и эти примеры руководят суждением модели без необходимости в новом обучении:

Обзор фреймворка GASP-ICL, который улучшает обнаружение глубоких фейков, сочетая графический выбор образцов с обучением в контексте, позволяя замороженной модели видения-языка классифицировать пары изображений и текста как реальные или фейковые, без обучения или тонкой настройки.  Источник

Это, вероятно, ближайшая работа, которая пересекла мой путь, к «информированному» и осведомленному подходу к оценке и верификации новых медиа-выходов. В основном подходы компьютерного зрения продолжают анализировать изображения (включая кадры видео и временные аномалии, охватывающие несколько кадров), в то время как фреймворки обнаружения «фейковых новостей» продолжают подчеркивать текстовые данные, даже в мультимодальных проектах.

Фичный крейп

Вызовом предсказательной системы такого типа является объем слежки, который может быть необходим для того, чтобы сделать подход полностью функциональным – по крайней мере, за пределами анализа знаменитостей и публичных деятелей, для которых уже существует свободно доступные данные.

Вероятно, наиболее похожий текущий поток в исследованиях – это область преступления, который помечает разнообразные мультимодальные интеллектуальные сигналы как «подозрительные» и представляет себя как стойкий ИИ-страшила в таких случаях, как Человек интереса (2011-2016) Джонатана Нолана и Меньшинство (2002) Стивена Спилберга.

Хотя система Человека интереса-стиля с жадным до информации слежкой будет давать оптимальные результаты, вряд ли западная культура сможет санкционировать уровень личной навязчивости, который китайские внутренние сети навязывают своим гражданам.

Следовательно, в отношении потенциально фейковых новостей о не-знаменитостях только государственные агентства, такие как полиция (а также регистры рождения и смерти и налоговые органы), будут иметь достаточно соответствующей исторической информации, чтобы информировать вероятности в графическом рабочем процессе; и даже они будут нуждаться в CCCP-стиле воли, возможностей, законодательства и ресурсов, чтобы включить обычных граждан в свою сферу действия и анализ (т.е. за пределами банальных, но обязательных точек данных, таких как номера паспортов и автомобилей).

Вероятностное оценка

Похоже, что потенциальная эффективность системы такого типа будет ограничена наиболее очевидными (текущими) случаями использования контента глубоких фейков: дестабилизация (государственные глубокие фейки); глубокие фейки знаменитостей и «неизвестных» порно (которые можно считать злонамеренными, хотя последний случай, как правило, привлекает более глубокую обеспокоенность СМИ); мошенничество (включая аудио/видео глубокие фейки, предназначенные для совершения ‘имперсонификационных ограблений’); и политическое убийство характера.

Система, основанная на знаниях, потребует шкалы вероятностей для разнообразных возможных событий. На одном конце спектра общие человеческие недостатки, такие как сомнительное финансовое управление, неверность, зависимость, безрассудство и т. д.; на другом… раскрытие того, что вы являетесь сыном Бога на прямом телевизионном ток-шоу (или события аналогичного масштаба и воздействия).

Даже в последнем случае личные исторические факторы для любого человека будут взвешивать вероятность результата: известный политический деятель, который публично колебался в спорных вопросах (например, о достоверности лунных посадок 1960-1970-х годов), чтобы получить капитал с все более ‘альтернативно-информированную’ электорат, может получить дополнительный джокер статус в процедурах верификации по сравнению со своими более сдержанными коллегами.

В случае с порно знаменитостей есть достаточный реальный контекст (т. е. утечки фотографий знаменитостей в 2012 году, среди других – довольно редких – инцидентов), чтобы сгенерировать умеренный дивиденд лжеца в определенных контекстах; но поскольку эти инциденты-аутсайдеры, как правило, действуют как исключения, подтверждающие правило, большинство текущих глубоких фейковых видеороликов знаменитостей будут считаться крайне «невероятными» (хотя это не решает проблему присвоения личности для таких целей).

В отношении национального разрушения существует значительное количество статистических данных, которые могут помочь в оценке вероятностей «разрушительных» отчетов. Даже в древней истории, казалось бы, «внезапные» события, такие как извержение неидентифицированного вулкана Везувий в 79 году н.э., были предвосхищены, если вы обратили достаточно внимания; и кроме наличия множества правительственных и НПО-спонсируемых источников, развивающаяся способность ИИ извлекать структуру из сырых данных может обеспечить дополнительный исторический контекст для вероятностной оценки.

Заключение

Даже хорошо реализованная предсказательная система такого типа не смогла бы учесть случайность, акты Бога, случайные события или злонамеренные события, придуманные вдали от любого надзора.

Кроме того, огромный объем и глубина данных, необходимые для обеспечения покрытия не только знаменитостей, но и обычных людей, будут политической проблемой – по крайней мере, на данный момент.

Однако выбор, кажется, сужается; анализ, основанный на видении, готов рухнуть перед лицом улучшенного генеративного ИИ, в то время как схемы верификации и происхождения несут бремя технического долга и трения против принятия. Это делает решения, такие как инициатива аутентичности контента, и незавершенная система лицензирования лица Metaphysic.ai Metaphysic Pro, сложными для популяризации.

В их широком использовании системы, основанные на RAG, могут только определить, подтверждает ли источник власти не проверенное утверждение; и поскольку многие крупные (правдивые) новостные истории возникают без предыдущего контекста, отсутствие подтверждения от источников власти не обязательно значимо.

Их ценность может оказаться больше, если они смогут стать частью более крупного экосистемы данных, связанной с одним из вещей, которые находятся в трудном положении у большинства форм ИИ – историческим контекстом.

* Не путать с ранними автоэнкодерами, которые дебютировали в 2017 году и в конечном итоге будут заменены лучшими подходами.

^† https://arxiv.org/abs/2511.07009

^** Которые могут обычно работать свободно на более мощных домашних компьютерах, а не быть доступными только через ограниченные API, такие как ChatGPT и серия Veo.

^††† Упуская легитимное использование в развлечениях, такое как профессиональные визуальные эффекты в кинопроизводстве и телепроизводстве.

Опубликовано впервые в четверг, 13 ноября 2025 года