Как определить видео-деепфейки, как фэкт-чекер

Дипфейки – это синтетические медиа, где человек заменяет сходство с кем-то другим. Они становятся все более распространенными в Интернете, часто распространяя дезинформацию по всему миру. Хотя некоторые могут показаться безобидными, другие могут иметь злонамеренные намерения, что делает важным для людей различать правду и цифровой фальшивый контент.

К сожалению, не все могут получить доступ к передовому программному обеспечению для выявления видео-деепфейков. Вот взгляд на то, как фэкт-чекеры проверяют видео, чтобы определить его легитимность, и как вы можете использовать их стратегии для себя.

1. Проверьте контекст

Тщательное изучение контекста, в котором представлено видео, имеет решающее значение. Это означает рассмотрение предыстории, обстановки и того, соответствуют ли события видео тому, что вы знаете как истину. Дипфейки часто терпят неудачу здесь, представляя контент, который не выдерживает проверки на соответствие реальным фактам или хронологии при более близком рассмотрении.

Одним из примеров является дипфейк украинского президента Владимира Зеленского. В марте 2022 года на социальных сетях появилось видео-дипфейк, на котором Зеленский якобы призывал украинские войска сложить оружие и сдаться российским силам.

При более близком рассмотрении несколько контекстных подсказок подчеркнули неаутентичность видео. Официальные каналы украинского правительства и сам Зеленский не распространяли это сообщение. Кроме того, время и обстоятельства не соответствовали известным фактам об украинской позиции и военной стратегии. Создание видео было направлено на деморализацию украинского сопротивления и распространение путаницы среди международного сообщества, поддерживающего Украину.

2. Проверьте источник

Когда вы наткнетесь на видео в Интернете, проверьте его источник. Понимание того, откуда взято видео, имеет решающее значение, поскольку хакеры могут использовать его против вас, чтобы развернуть кибератаку. Недавно 75% кибербезопасных специалистов сообщили о росте кибератак, при этом 85% отметили использование генеративного ИИ злонамеренными лицами.

Это связано с ростом видео-дипфейков, и профессионалы все чаще сталкиваются с инцидентами безопасности, которые ИИ-генерируемый контент подогревает. Проверьте источник, посмотрев, откуда возникло видео. Видео, исходящее из сомнительного источника, может быть частью более крупной стратегии кибератаки.

Достоверные источники менее вероятно распространят видео-дипфейки, что делает их более безопасным выбором для надежной информации. Всегда проверяйте видео с авторитетными новостными изданиями или официальными сайтами, чтобы убедиться, что то, что вы смотрите, является подлинным.

3. Ищите несоответствия в выражениях лица

Одним из явных признаков дипфейка является наличие несоответствий в выражениях лица. Хотя технология дипфейков продвинулась вперед, она часто испытывает трудности с точным имитированием тонких и сложных движений, которые происходят естественным образом, когда человек говорит или выражает эмоции. Вы можете обнаружить их, наблюдая за следующими несоответствиями:

• Неестественное моргание: Люди моргают в регулярной, естественной манере. Однако дипфейки могут либо недостаточно представлять моргание, либо делать его слишком часто. Например, дипфейк может показать человека, говорящего в течение длительного периода без моргания или моргая слишком быстро.
• Ошибки синхронизации губ: Когда кто-то говорит в видео, его движение губ может быть несовместимым. Следите внимательно, чтобы увидеть, соответствуют ли движения губ аудио. В некоторых дипфейках несоответствие является тонким, но обнаруживаемым при ближайшем рассмотрении.
• Выражения лица и эмоции: Подлинные человеческие эмоции сложны и отражаются через движения лица. Дипфейки часто не могут уловить это, что приводит к жестким, преувеличенным или не полностью согласованным выражениям. Например, видео-дипфейк может показать человека, улыбающегося или хмурящегося с меньшей нюансировкой, или эмоциональная реакция может не соответствовать контексту разговора.

4. Проанализируйте аудио

Аудио также может дать вам подсказки о том, является ли видео реальным или фальшивым. Технология дипфейков пытается имитировать голоса, но несоответствия часто выдают их. Например, обратите внимание на качество и характеристики голоса. Дипфейки могут звучать роботизированно или плоско в своей речи или могут не иметь эмоциональных интонаций, которые естественным образом проявляет настоящий человек.

Фоновый шум и качество звука также могут дать подсказки. Внезапное изменение может указывать на то, что части аудио были изменены или склеены вместе. Аутентичные видео обычно остаются последовательными на протяжении всего видео.

5. Исследуйте освещение и тени

Освещение и тени играют большую роль в раскрытии аутентичности видео. Технология дипфейков часто испытывает трудности с точным воспроизведением того, как свет взаимодействует с реальными объектами, включая людей. Внимательно наблюдая за освещением и тенями, можно обнаружить различные предметы, которые указывают на то, является ли это дипфейком.

В аутентичных видео освещение и окружение субъекта должны быть последовательными. Видео-дипфейки могут демонстрировать несоответствия, такие как лицо, освещенное по-другому, чем фон. Если направление или источник света в видео не имеет смысла, это может быть признаком манипуляции.

Во-вторых, тени должны вести себя в соответствии с источниками света в сцене. В дипфейках тени могут появляться под неправильными углами или не соответствовать другим объектам. Аномалии в размере, направлении тени и присутствии или отсутствии ожидаемых теней дают вам общее представление.

6. Проверьте на эмоциональную манипуляцию

Дипфейки делают больше, чем просто создают убедительные ложь — люди часто проектируют их, чтобы манипулировать эмоциями и провоцировать реакции. Одним из ключевых аспектов выявления такого контента является оценка того, направлено ли оно на вызывание эмоциональной реакции, которая могла бы затуманить рациональное суждение.

Например, рассмотрим инцидент, когда ИИ-генерируемое изображение бомбы в Пентагоне распространилось на Twitter X. Несмотря на то, что оно было完全 фабриковано, тревожная природа изображения привела к его быстрому распространению и широкому панике. В результате на фондовом рынке произошел убыток в размере 500 миллиардов долларов.

Видео-дипфейки могут вызвать такую же панику, особенно когда в них участвует ИИ. При оценке этих видео задайте себе вопрос:

• Пытается ли контент вызвать сильную эмоциональную реакцию, такую как страх, гнев или шок? Аутентичные источники новостей направлены на информирование, а не на разжигание.
• Соответствует ли контент текущим событиям или известным фактам? Эмоциональная манипуляция часто полагается на отключение аудитории от рационального анализа.
• Отчитываются ли авторитетные источники о той же истории? Отсутствие подтверждения от авторитетных новостных изданий может указывать на фабрикацию эмоционально заряженного контента.

7. Используйте инструменты для обнаружения дипфейков

Поскольку дипфейки становятся более сложными, полагаться исключительно на человеческое наблюдение для их выявления может быть сложной задачей. К счастью, существуют инструменты для обнаружения дипфейков, которые используют передовую технологию для различия между реальным и фальшивым контентом.

Эти инструменты могут проанализировать видео на наличие несоответствий и аномалий, которые могут не быть видны невооруженным глазом. Они используют ИИ и машинное обучение, используя водяные знаки аудио как один из методов. Эти технологии обучены распознавать размещение водяного знака, чтобы определить, было ли аудио изменено.

Microsoft разработала инструмент под названием Video Authenticator, который предоставляет балл достоверности, указывающий на вероятность дипфейка. Аналогично, стартапы и академические учреждения постоянно разрабатывают и совершенствуют технологии, чтобы идти в ногу с эволюционирующими дипфейками.

Успешное обнаружение дипфейков

Технология имеет светлую и темную стороны и постоянно эволюционирует, поэтому важно быть скептичным по отношению к тому, что вы видите в Интернете. Когда вы сталкиваетесь с подозрительным дипфейком, используйте свои чувства и доступные инструменты. Кроме того, всегда проверяйте, откуда оно возникло. Пока вы остаетесь в курсе последних новостей о дипфейках, ваша бдительность будет ключом в сохранении истины в эпоху фальшивых медиа.