Що таке Deepfakes?

Коли deepfakes стають легше зробити та більш поширеними, ними приділяється більше уваги. Deepfakes стали центром дискусій щодо етики штучного інтелекту, дезінформації, відкритості інформації та інтернету, а також регулювання. Користь від того, що ви будете поінформовані щодо deepfakes, і матимете інтуїтивне розуміння того, що таке deepfakes. Ця стаття роз’яснить визначення deepfakes, розгляне їх використання, обговорить, як виявити deepfakes, і розгляне наслідки deepfakes для суспільства.

Що таке Deepfakes?

Перед тим, як продовжити обговорення deepfakes, було б корисно витратити деякий час на роз’яснення чого таке “deepfakes”. Існує багато плутанини щодо цього терміну, і часто його неправильно застосовують до будь-якої підробленої медіа, незалежно від того, чи є це справжнім deepfake. Аби кваліфікуватися як Deepfake, підроблена медіа повинна бути створена за допомогою системи машинного навчання, зокрема глибокої нейронної мережі.

Ключовим інгредієнтом deepfakes є машинне навчання. Машинне навчання зробило можливим для комп’ютерів автоматично генерувати відео та аудіо відносно швидко та легко. Глибокі нейронні мережі тренуються на кадрах реальної людини, щоб мережа могла вивчити, як люди виглядають і рухаються під цільовими умовами середовища. Навчена мережа потім використовується на зображеннях іншої людини та доповнюється додатковими комп’ютерними графічними техніками, щоб поєднати нову людину з оригінальним відео. Алгоритм кодування використовується для визначення подібностей між оригінальним обличчям і цільовим обличчям. Після того, як спільні риси обличь були ізольовані, другий алгоритм штучного інтелекту під назвою декодер використовується. Декодер вивчає закодовані (стиснуті) зображення та реконструює їх на основі рис оригінальних зображень. Використовуються два декодери, один на обличчі оригінальної людини та другий на обличчі цільової людини. Аби здійснити заміну, декодер, навченний на зображеннях людини X, подається на зображення людини Y. Результатом є те, що обличчя людини Y реконструюється над виразами обличчя та орієнтацією людини X.

Наразі створення deepfake все ще займає досить багато часу. Творець підробки повинен витратити багато часу на ручне регулювання параметрів моделі, оскільки субоптимальні параметри призведуть до помітних недоліків і глюків зображення, які викривають справжню природу підробки.

Хоча часто припускають, що більшість deepfakes створені за допомогою типу нейронної мережі під назвою генеративна адверсарна мережа (GAN), багато (можливо, більшість) deepfakes, створені сьогодні, не залежать від GAN. Хоча GAN відігравав провідну роль у створенні перших deepfakes, більшість відео deepfakes створюється за допомогою альтернативних методів, згідно з заявою Siwei Lyu з SUNY Buffalo.

Створити GAN потребує непропорційно великої кількості тренувальних даних, а GAN часто займає більше часу на рендеринг зображення порівняно з іншими техніками генерації зображень. GAN також краще підходить для генерації статичних зображень, ніж відео, оскільки GAN має труднощі з підтриманням послідовності з кадру до кадру. Більш поширено використовувати кодувальник та кілька декодерів для створення deepfakes.

Для чого використовуються Deepfakes?

Багато deepfakes, знайдених в Інтернеті, мають порнографічний характер. За даними дослідження, проведеного компанією Deeptrace, яка займається штучним інтелектом, з вибірки приблизно 15 000 відео deepfakes, зібраних у вересні 2019 року, приблизно 95% з них мали порнографічний характер. Тривожним наслідком цього факту є те, що по мірі полегшення використання технології можуть збільшитися випадки фальшивої помсти порнографії.

Однак не всі deepfakes мають порнографічний характер. Існують більш легітимні використання технології deepfakes. Технологія аудіо deepfakes може допомогти людям транслювати свій звичайний голос після того, як він був пошкоджений або втрачений через хворобу чи травму. Deepfakes також можна використовувати для приховування облич людей, які перебувають у чутливих, потенційно небезпечних ситуаціях, при цьому дозволяючи читати їхні губи та вирази обличчя. Технологія deepfakes потенційно може бути використана для покращення дублювання іноземних фільмів, допомоги у відновленні старих та пошкоджених медіа, а також створення нових стилів мистецтва.

Невідео Deepfakes

Хоча більшість людей думають про фальшиві відео, коли чують термін “deepfake”, фальшиві відео далеко не єдиний тип фальшивої медіа, створеної за допомогою технології deepfakes. Технологія deepfakes використовується для створення фальшивих фотографій та аудіо.
Як вже згадувалося, GAN часто використовується для генерації фальшивих зображень. Вважається, що існували численні випадки фальшивих профілів у LinkedIn та Facebook (META ), які мали профільні зображення, створені за допомогою алгоритмів deepfakes.

Також можливо створити аудіо deepfakes. Глибокі нейронні мережі тренуються на голосах різних людей, включаючи знаменитостей та політиків, для створення голосових клонів/голосових шкір. Одним із відомих прикладів аудіо Deepfake є той, коли компанія штучного інтелекту Dessa використала модель штучного інтелекту, підтриману не-штучними алгоритмами, для реконструкції голосу ведучого подкасту Джо Рогана.

Як виявити Deepfakes

По мірі того, як deepfakes стають все більш досконалими, розрізнення їх від справжньої медіа стане все складніше. Наразі існують декілька ознак, на які люди можуть звернути увагу, щоб визначити, чи є відео потенційним deepfake, наприклад, погана синхронізація губ, ненатуральний рух, мерцання навколо країв обличчя та викривлення дрібних деталей, таких як волосся, зуби чи відблиски. Інші потенційні ознаки deepfakes включають частини відео нижчої якості та нерегулярне моргання очей.

Хоча ці ознаки можуть допомогти виявити deepfake наразі, по мірі поліпшення технології deepfakes єдиним варіантом надійного виявлення deepfakes може бути використання інших типів штучного інтелекту, тренованих на розрізненні фальшивої та справжньої медіа.

Компанії штучного інтелекту, включаючи великі технологічні компанії, досліджують методи виявлення deepfakes. У грудні було розпочато конкурс з виявлення deepfakes, підтриманий трьома технологічними гігантами: Amazon (AMZN ), Facebook та Microsoft. Команди дослідників з усього світу працювали над методами виявлення deepfakes, змагаючись за розробку найкращих методів виявлення. Інші групи дослідників, такі як об’єднані дослідники з Google (GOOGL ) та Jigsaw, працюють над типом “фейс-форензика”, який може виявити відео, які були змінені, роблячи свої набори даних відкритими та заохочуючи інших розробляти методи виявлення deepfakes. Зазначена вище компанія Dessa працювала над вдосконаленням методів виявлення deepfakes, намагаючись забезпечити, щоб моделі виявлення працювали на відео deepfakes, знайдених у відкритому Інтернеті, а не лише на попередньо складених тренувальних та тестових наборах даних, таких як відкритий набір даних, наданий Google.

Існують також інші стратегії, які досліджуються для боротьби з поширенням deepfakes. Наприклад, перевірка відео на узгодженість з іншими джерелами інформації є однією зі стратегій. Можна проводити пошуки відео подій, знятих з інших кутів, або перевірити фонові деталі відео (наприклад, погодні умови та місця) на несумісність. Окрім цього, система реєстру Блокчейн може реєструвати відео під час їх створення, зберігаючи оригінальний аудіо та зображення, щоб похідні відео завжди можна було перевірити на маніпуляцію.

У кінцевому підсумку важливо, щоб були створені надійні методи виявлення deepfakes та щоб ці методи зберігали свою ефективність у міру появи нових досягнень у технології deepfakes. Хоча важко передбачити точні наслідки deepfakes, якщо не буде надійних методів виявлення deepfakes (та інших форм підробленої медіа), дезінформація може потенційно пошириться та підірве довіру людей до суспільства та інститутів.

Наслідки Deepfakes

Які небезпеки походять від того, що deepfakes поширюються без контролю?

Однією з найбільших проблем, які deepfakes створюють зараз, є непорнографічна порнографія, створена шляхом поєднання облич людей з порнографічними відео та зображеннями. Етики штучного інтелекту побоюються, що deepfakes будуть використовуватися для створення фальшивої помсти порнографії. Окрім цього, deepfakes можуть бути використані для знущань та шкоди репутації практично будь-кого, оскільки їх можна використовувати для розміщення людей у суперечливих та компрометуючих ситуаціях.

Компанії та спеціалісти з кібербезпеки висловили занепокоєння щодо використання deepfakes для організації афер, шахрайств та шантажу. Нібито, аудіо deepfakes вже використовувалися для переконання працівників компанії перевести гроші шахраям

Існує можливість, що deepfakes можуть мати шкідливі наслідки навіть за межами перелічених вище. Deepfakes можуть потенційно підірвати довіру людей до медіа загалом та зробити складним розрізнення між справжніми та фальшивими новинами. Якщо багато відео в Інтернеті є фальшивими, то стає легше для урядів, компаній та інших організацій сумніватися у легітимних скандалах та неетичних практиках.

Якщо говорити про уряди, deepfakes можуть становити загрозу для функціонування демократії. Демократія потребує, щоб громадяни могли приймати обґрунтовані рішення щодо політиків на основі надійної інформації. Дезінформація підірває демократичні процеси. Наприклад, президент Габону Алі Бонго з’явився у відео, намагаючись заспокоїти громадян Габону. Президент вважався хворим протягом тривалого часу, і його раптове появлення у ймовірному фальшивому відео спровокувало спробу державного перевороту. Президент Дональд Трамп заявив, що аудіозапис, на якому він хвалиться тим, що хапає жінок за геніталії, є фальшивим, хоча також описував його як “розмови в роздягальні”. Принц Андрій також заявив, що зображення, надане адвокатом Емілі Мейтліс, є фальшивим, хоча адвокат наполягав на його автентичності.

У кінцевому підсумку, хоча існують легітимні використання технології deepfakes, існує багато потенційних шкідливих наслідків, які можуть виникнути у разі неправильного використання цієї технології. Тому важливо, щоб були створені надійні методи визначення автентичності медіа та щоб ці методи підтримувалися.