Как определить видео-дипфейки, как проверяющий факты

Дипфейки – это синтетические медиа, где лицо одного человека заменяется лицом другого. Они становятся все более распространенными в Интернете, часто распространяя дезинформацию по всему миру. Хотя некоторые из них могут показаться безобидными, другие могут иметь злонамеренные намерения, что делает важным для людей различать правду и цифровую ложь.

К сожалению, не все могут использовать современное программное обеспечение для выявления видео-дипфейков. Вот взгляд на то, как проверяющие факты анализируют видео, чтобы определить его подлинность, и как вы можете использовать их стратегии для себя.

1. Изучите контекст

Критически важно изучить контекст, в котором представлено видео. Это означает рассмотрение предыстории, обстановки и того, соответствуют ли события видео тому, что вы знаете как истину. Дипфейки часто терпят неудачу в этом аспекте, представляя контент, который не выдерживает проверки реальными фактами или хронологией при более близком рассмотрении.

Одним из примеров является дипфейк президента Украины Владимира Зеленского. В марте 2022 года на социальных сетях появилось видео-дипфейк, на котором Зеленский якобы призывал украинских войска сложить оружие и сдаться российским силам.

При более близком рассмотрении несколько контекстных подсказок подчеркнули неаутентичность видео. Официальные каналы украинского правительства и сам Зеленский не распространяли это сообщение. Кроме того, время и обстоятельства не соответствовали известным фактам об украинской позиции и военной стратегии. Создание видео было направлено на деморализацию украинского сопротивления и распространение путаницы среди международного сообщества, поддерживающего Украину.

2. Проверьте источник

Когда вы наткнетесь на видео в Интернете, проверьте его источник. Понимание того, откуда взято видео, имеет решающее значение, поскольку хакеры могут использовать его против вас, чтобы развернуть кибератаку. Недавно 75% специалистов по кибербезопасности сообщили о росте кибератак, при этом 85% отметили использование генеративного ИИ злонамеренными лицами.

Это связано с ростом видео-дипфейков, и профессионалы все чаще сталкиваются с инцидентами безопасности, которые вызваны контентом, сгенерированным ИИ. Проверьте источник, посмотрев, откуда он возник. Видео, исходящее из сомнительного источника, может быть частью более крупной стратегии кибератаки.

Доверенные источники менее вероятно распространят видео-дипфейки, что делает их более безопасным выбором для получения достоверной информации. Всегда проверяйте видео с помощью авторитетных новостных источников или официальных сайтов, чтобы убедиться, что то, что вы смотрите, является настоящим.

3. Ищите несоответствия в выражениях лица

Одним из явных признаков дипфейка является наличие несоответствий в выражениях лица. Хотя технология дипфейков продвинулась вперед, она часто испытывает трудности с точным воспроизведением тонких и сложных движений, которые происходят естественным образом, когда человек говорит или выражает эмоции. Вы можете обнаружить их, ища следующие несоответствия:

• Неестественное моргание: Люди моргают в регулярной, естественной манере. Однако дипфейки могут либо недостаточно представлять моргание, либо слишком часто моргать. Например, дипфейк может показать человека, говорящего в течение длительного периода без моргания или моргая слишком быстро.
• Ошибки синхронизации губ: Когда кто-то говорит в видео, его движения губ могут быть не синхронизированы. Следите за тем, чтобы губы соответствовали аудио. В некоторых дипфейках несоответствие тонкое, но обнаруживается при ближайшем рассмотрении.
• Выражения лица и эмоции: Подлинные человеческие эмоции сложны и отражаются через движения лица. Дипфейки часто не могут воспроизвести это, что приводит к жестким, преувеличенным или не полностью соответствующим выражениям. Например, видео-дипфейк может показать человека, улыбающегося или хмурящегося с меньшей нюансировкой, или эмоциональная реакция может не соответствовать контексту разговора.

4. Проанализируйте аудио

Аудио также может дать вам подсказки о том, является ли видео реальным или фальшивым. Технология дипфейков пытается имитировать голоса, но несоответствия часто выдают их. Например, обратите внимание на качество и характеристики голоса. Дипфейки могут звучать роботизированно или плоско в своей речи или могут не иметь эмоциональных интонаций, которые естественным образом проявляет реальный человек.

Фоновый шум и качество звука также могут дать подсказки. Внезапное изменение может указывать на то, что части аудио были изменены или склеены. Аутентичные видео обычно остаются последовательными на протяжении всего видео.

5. Изучите освещение и тени

Освещение и тени играют большую роль в раскрытии аутентичности видео. Технология дипфейков часто испытывает трудности с точным воспроизведением того, как свет взаимодействует с реальными объектами, включая людей. Обращая пристальное внимание на освещение и тени, можно обнаружить различные предметы, которые указывают на то, является ли это дипфейком.

В аутентичных видео освещение и окружение субъекта должны быть последовательными. Видео-дипфейки могут демонстрировать несоответствия, такие как лицо, освещенное по-другому, чем фон. Если направление или источник света не имеет смысла, это может быть признаком манипуляции.

Во-вторых, тени должны вести себя в соответствии с источниками света в сцене. В дипфейках тени могут появляться под неправильными углами или не соответствовать другим объектам. Аномалии в размере, направлении и присутствии или отсутствии ожидаемых теней дают вам общее представление.

6. Проверьте на эмоциональную манипуляцию

Дипфейки делают больше, чем просто создают убедительные ложь – люди часто проектируют их для манипулирования эмоциями и провокации реакций. Одним из ключевых аспектов выявления такого контента является оценка того, направлено ли оно на вызывание эмоциональной реакции, которая может затуманить рациональное суждение.

Например, рассмотрите инцидент, когда сгенерированное ИИ изображение бомбы в Пентагоне распространилось в Twitter X. Несмотря на то, что это было полностью фабриковано, тревожная природа изображения привела к его распространению и вызвала широкий страх. В результате на фондовом рынке произошел убыток в размере 500 миллиардов долларов.

Видео-дипфейки могут вызвать столько же страха, особенно когда участвует ИИ. При оценке этих видео задайте себе вопрос:

• Пытается ли контент вызвать сильную эмоциональную реакцию, такую как страх, гнев или шок? Аутентичные источники новостей стремятся информировать, а не провоцировать.
• Соответствует ли контент текущим событиям или известным фактам? Эмоциональная манипуляция часто полагается на отключение аудитории от рационального анализа.
• Отчитываются ли авторитетные источники о той же истории? Отсутствие подтверждения от авторитетных новостных источников может указывать на фабрикацию эмоционально заряженного контента.

7. Используйте инструменты обнаружения дипфейков

Поскольку дипфейки становятся более сложными, полагаться исключительно на человеческое наблюдение для их выявления может быть сложно. К счастью, существуют инструменты обнаружения дипфейков, которые используют передовые технологии для различия реального и фальшивого контента.

Эти инструменты могут анализировать видео на наличие несоответствий и аномалий, которые могут не быть видны невооруженным глазом. Они используют ИИ и машинное обучение, используя водяные знаки аудио как один из методов. Эти технологии обучены распознавать размещение водяного знака, чтобы определить, было ли аудио изменено.

Компания Microsoft (MSFT ) разработала инструмент под названием Video Authenticator, который предоставляет оценку достоверности, указывающую на вероятность дипфейка. Аналогично, стартапы и академические учреждения постоянно разрабатывают и совершенствуют технологии, чтобы идти в ногу с эволюционирующими дипфейками.

Успешное обнаружение дипфейков

Технология имеет светлую и темную стороны и постоянно развивается, поэтому важно быть скептиком того, что вы видите в Интернете. Когда вы столкнетесь с подозрительным дипфейком, используйте свои чувства и доступные инструменты. Кроме того, всегда проверяйте, откуда оно возникло. Пока вы будете на вершине последних новостей о дипфейках, ваша бдительность будет ключом в сохранении истины в эпоху фейковых медиа.