Як визначити відео Deepfake, як факт-чекер

Deepfakes – це синтетичні медіа, де індивідуум замінює подобу людини на подобу іншого. Вони стають все більш поширеними в Інтернеті, часто поширюючи дезінформацію по всьому світу. Хоча деякі з них можуть здаватися безневинними, інші можуть мати зловмисну мету, роблячи важливим для людей розрізняти правду від цифрово створеного фальшивого контенту.

На жаль, не кожному доступне сучасне програмне забезпечення для визначення відео Deepfake. Ось погляд на те, як факт-чекери перевіряють відео, щоб визначити його легітимність, і як ви можете використовувати їх стратегії для себе.

1. Перевірте контекст

Перевіряючи контекст, в якому представлено відео, є важливим. Це означає аналіз історії, місця дії та того, чи збігаються події відео з тим, що ви знаєте як правду. Deepfakes часто провалиються в цьому аспекті, представляючи контент, який не витримує критики реальних фактів або хронології при ближчому розгляді.

Одним із прикладів є Deepfake українського президента Володимира Зеленського. У березні 2022 року з’явився Deepfake відео в соціальних мережах, на якому Зеленський ніби-то закликав українських військових скласти зброю та капітулювати перед російськими військами.

При ближчому розгляді кілька контекстних ознак підкреслили неавтентичність відео. Офіційні канали українського уряду та сам Зеленський не поширювали це повідомлення. Крім того, час та обставини не збігалися з відомими фактами про позицію України та військову стратегію. Створення відео мало на меті деморалізувати український опір та поширити плутанину серед міжнародної спільноти, яка підтримує Україну.

2. Перевірте джерело

Коли ви натрапляєте на відео в Інтернеті, перевіряйте його джерело. Знання про походження відео є важливим, оскільки хакери можуть використовувати його проти вас для здійснення кібератаки. Нещодавно 75% фахівців з кібербезпеки повідомили про зростання кібератак, при цьому 85% зазначили використання генеративного ІІ малими особами.

Це пов’язано зі зростанням відео Deepfake, і фахівці все частіше мають справу з інцидентами безпеки, які спричинені цифровим контентом, створеним ІІ. Перевірте джерело, звернувши увагу на походження відео. Відео, яке походять з сумнівного джерела, може бути частиною більшої стратегії кібератаки.

Довіряйте джерелам, які менш схильні поширювати відео Deepfake, що робить їх безпечнішою опцією для отримання надійної інформації. Завжди перевіряйте відео з офіційних сайтів або авторитетних джерел новин, щоб переконатися, що те, що ви дивитеся, є справжнім.

3. Шукайте несуперечності у виразах обличчя

Одним із ознак відео Deepfake є наявність несуперечностей у виразах обличчя. Хоча технологія Deepfake розвинулась, вона часто бореться з точним відтворенням тонких і складних рухів, які відбуваються природно, коли людина говорить або виражає емоції. Ви можете помітити ці несуперечності, звернувши увагу на такі речі:

• Неприроднє моргання: Люди моргають у регулярному, природному порядку. Однак відео Deepfake можуть або недооцінювати моргання, або перебільшувати його. Наприклад, відео Deepfake може показувати людину, яка говорить протягом тривалого часу без моргання або моргає занадто швидко.
• Помилки синхронізації губ: Коли хтось говорить у відео, рух його губ може бути неправильним. Пильно дивіться, чи рух губ збігається з аудіо. У деяких відео Deepfake несуперечність може бути тонкою, але виявляється при ближчому розгляді.
• Вирази обличчя та емоції: Справжні людські емоції є складними та відображаються через рухи обличчя. Відео Deepfake часто не можуть цього відтворити, що призводить до негнучких, перебільшених або не повністю узгоджених виразів. Наприклад, відео Deepfake може показувати людину, яка посміхається або хмуриться з меншою нюансами, або емоційна реакція може не збігатися з контекстом розмови.

4. Аналізуйте аудіо

Аудіо також може дати вам підказки щодо того, чи є відео справжнім чи фальшивим. Технологія Deepfake намагається відтворити голоси, але розбіжності часто видають їх. Наприклад, зверніть увагу на якість та характеристики голосу. Відео Deepfake можуть звучати роботично або плоско у своїй мові, або їм бракує емоційних інтонацій, які справжня людина мала б природно.

Фоновий шум та якість звуку також можуть надати підказки. Раптова зміна може свідчити про те, що частини аудіо були змінені або склеєні. Справжні відео зазвичай залишаються послідовними протягом усієї відео.

5. Дослідіть освітлення та тінь

Освітлення та тінь відіграють велику роль у визначенні автентичності відео. Технологія Deepfake часто бореться з точним відтворенням того, як світло взаємодіє з реальними об’єктами, включаючи людей. Пильно дивіться на освітлення та тінь, щоб помітити різні речі, які вказують на те, чи є це відео Deepfake.

У автентичних відео освітлення та оточення повинні бути послідовними. Відео Deepfake можуть демонструвати нерегулярності, такі як обличчя, освітлене інакше, ніж фон. Якщо напрям або джерело світла не має сенсу, це може бути ознакою маніпуляції.

Другою ознакою є те, що тінь повинна поводитися відповідно до джерел світла в сцені. У відео Deepfake тінь може з’являтися під неправильними кутами або не відповідати з іншими об’єктами. Аномалії у розмірі тені, напрямку та наявності чи відсутності очікуваних теней дають вам загальне уявлення.

6. Перевірте на емоційну маніпуляцію

Відео Deepfake роблять більше, ніж створюють переконливі брехні – люди часто проектують їх для маніпуляції емоціями та викликання реакцій. Ключовим аспектом визначення такого контенту є оцінка того, чи має воно на меті спровокувати емоційну реакцію, яка могла б затуманити раціональне судження.

Наприклад, розгляньте інцидент, коли генерований ІІ зображення бомби в Пентагоні поширилося в Twitter X. Хоча воно було повністю сфабрикованим, його тривожна природа призвела до того, що воно стало вірусним та викликало широкомасштабний пандемоніум. В результаті сталося падіння фондового ринку на 500 мільярдів доларів.

Відео Deepfake можуть викликати такий же рівень паніки, особливо коли в них залучено ІІ. При оцінці цих відео запитайте себе:

• Чи намагається контент викликати сильну емоційну реакцію, таку як страх, гнів чи шок? Автентичні джерела новин мають на меті інформувати, а не підбурювати.
• Чи збігається контент з поточними подіями чи відомими фактами? Емоційна маніпуляція часто спирається на роз’єднання аудиторії з раціональним аналізом.
• Чи повідомляють авторитетні джерела про одну й ту ж історію? Відсутність підтвердження з боку авторитетних джерел новин може свідчити про фабрикацію емоційно зарядженого контенту.

7. Використовуйте інструменти виявлення відео Deepfake

Оскільки відео Deepfake стають все більш складними, спираючись лише на людську спостережливість для їх визначення, може бути складно. На щастя, існують інструменти виявлення відео Deepfake, які використовують сучасну технологію для розрізнення справжніх та фальшивих відео.

Ці інструменти можуть аналізувати відео на наявність несуперечностей та аномалій, які можуть бути не видимими неозброєному оці. Вони використовують ІІ та машинне навчання, використовуючи водяні знаки у мовленні як один із методів. Ці технології навчені розпізнавати розміщення водяного знака, щоб визначити, чи було аудіо змінено.

Microsoft (MSFT ) розробила інструмент під назвою Video Authenticator, який надає оцінку впевненості, яка вказує на ймовірність відео Deepfake. Аналогічно, стартапи та академічні установи продовжують розробляти та удосконалювати технології, щоб збігатися з еволюцією відео Deepfake.

Успішне виявлення відео Deepfake

Технологія має світлу та темну сторони і постійно еволюціонує, тому важливо бути скептичним щодо того, що ви бачите в Інтернеті. Коли ви зустрічаєте підозріле відео Deepfake, використовуйте свої відчуття та інструменти, які доступні. Крім того, завжди перевіряйте, де воно походило.只要 ви залишатиметеся в курсі останніх новин про відео Deepfake, ваша старанність буде ключем у збереженні правди в епоху фальшивих медіа.