Що таке Deepfakes?

Як deepfakes стають легшими у створенні та більш поширеними, ними приділяється більше уваги. Deepfakes стали центром дискусій щодо етики штучного інтелекту, дезінформації, відкритості інформації та інтернету, а також регулювання. Користь від того, щоб бути поінформованим щодо deepfakes, та мати інтуїтивне розуміння того, що таке deepfakes. Ця стаття роз’яснить визначення deepfakes, розгляне їх використання, обговорить, як deepfakes можна виявити, та розгляне наслідки deepfakes для суспільства.

Що таке Deepfakes?

Перед тим, як продовжити обговорення deepfakes, було б корисно витратити деякий час на роз’яснення чого таке “deepfakes”. Існує значна кількість плутанини щодо терміну Deepfake, і часто цей термін неправильно застосовується до будь-яких фальшивих медіа, незалежно від того, чи є це справжнім deepfake. Аби кваліфікуватися як Deepfake, фальшиві медіа повинні бути створені за допомогою системи машинного навчання, зокрема глибокої нейронної мережі.

Ключовим інгредієнтом deepfakes є машинне навчання. Машинне навчання зробило можливим для комп’ютерів автоматично генерувати відео та аудіо відносно швидко та легко. Глибокі нейронні мережі тренуються на кадрах реальної людини, щоб мережа могла вивчити, як люди виглядають і рухаються під цільовими умовами середовища. Тренована мережа потім використовується на зображеннях іншої людини та доповнюється додатковими комп’ютерними графічними техніками, щоб поєднати нову особу з оригінальним відео. Алгоритм кодування використовується для визначення подібностей між оригінальним обличчям та цільовим обличчям. Як тільки спільні ознаки обличчь були ізольовані, другий алгоритм штучного інтелекту під назвою декодер використовується. Декодер вивчає закодовані (стиснуті) зображення та реконструює їх на основі ознак оригінальних зображень. Два декодери використовуються, один на обличчі оригінальної людини та другий на обличчі цільової особи. Аби здійснити заміну, декодер, тренований на зображеннях особи X, надходить у зображення особи Y. Результатом є те, що обличчя особи Y реконструйовано над виразами обличчя та орієнтацією особи X.

На даний момент створення deepfake все ще займає досить багато часу. Творець фальшивки повинен витратити багато часу на ручне регулювання параметрів моделі, оскільки субоптимальні параметри призведуть до помітних недоліків та глітчів зображення, які розкриють справжню природу фальшивки.

Хоча часто припускається, що більшість deepfakes створені за допомогою типу нейронної мережі під назвою генеративна адверсативна мережа (GAN), багато (можливо, більшість) deepfakes, створені сьогодні, не залежать від GAN. Хоча GAN відігравав провідну роль у створенні перших deepfakes, більшість відео deepfakes створюються за допомогою альтернативних методів, згідно з Siwei Lyu з SUNY Buffalo.

Створення GAN вимагає великої кількості тренувальних даних, а GAN часто займає більше часу на рендеринг зображення порівняно з іншими техніками генерації зображень. GAN також краще підходить для генерації статичних зображень, ніж відео, оскільки GAN має труднощі у підтриманні послідовності з кадру до кадру. Більш поширено використовувати кодувач та кілька декодерів для створення deepfakes.

Для чого використовуються Deepfakes?

Багато deepfakes, знайдених в інтернеті, мають порнографічний характер. Згідно з дослідженням, проведеним компанією Deeptrace, з приблизно 15 000 відео deepfakes, взятими у вересні 2019 року, приблизно 95% з них мали порнографічний характер. Тривожним наслідком цього факту є те, що по мірі полегшення використання технології можуть зростати випадки фальшивої помсти порнографії.

Однак, не всі deepfakes мають порнографічний характер. Існують більш легітимні використання технології deepfakes. Технологія аудіо deepfakes може допомогти людям транслювати свій звичайний голос після того, як він був пошкоджений або втрачений через хворобу чи травму. Deepfakes можна використовувати для приховування облич людей, які перебувають у чутливих, потенційно небезпечних ситуаціях, при цьому дозволяючи читати їх губи та вирази обличчя. Технологія deepfakes потенційно може бути використана для покращення дублювання іноземних фільмів, допомоги у відновленні старих та пошкоджених медіа, а також створення нових стилів мистецтва.

Невідео Deepfakes

Хоча більшість людей думають про фальшиві відео, коли чують термін “deepfake”, фальшиві відео далеко не єдиний тип фальшивих медіа, створених за допомогою технології deepfakes. Технологія deepfakes використовується для створення фальшивих фотографій та аудіо. Як згадувалося раніше, GAN часто використовується для генерації фальшивих зображень. Вважається, що існували численні випадки фальшивих профілів LinkedIn та Facebook, які мали профільні зображення, згенеровані алгоритмами deepfakes.

Також можливо створити аудіо deepfakes. Глибокі нейронні мережі тренуються на генерації клонів голосів/шкур голосів різних людей, включаючи знаменитостей та політиків. Одним із відомих прикладів аудіо Deepfake є той, коли компанія AI Dessa використала модель AI, підтриману не-ІА алгоритмами, для реконструкції голосу ведучого подкасту Joe Rogan.

Як виявити Deepfakes

По мірі того, як deepfakes стають все більш досконалими, розрізнення їх від справжніх медіа стане все складніше. На даний момент існують декілька ознак, на які люди можуть звернути увагу, щоб визначити, чи є відео потенційним deepfake, наприклад, погана синхронізація губ, ненатуральний рух, мерцання навколо краю обличчя та викривлення дрібних деталей, таких як волосся, зуби чи відблиски. Інші потенційні ознаки deepfakes включають частини відео нижчої якості та нерегулярне мигання очей.

Хоча ці ознаки можуть допомогти виявити deepfake на даний момент, по мірі поліпшення технології deepfakes єдиною опцією для надійної детекції deepfakes може бути інший тип ІА, тренований на розрізенні фейків та справжніх медіа.

Компанії штучного інтелекту, включаючи великі технологічні компанії, досліджують методи детекції deepfakes. У грудні минулого року було розпочато конкурс з детекції deepfakes, підтриманий трьома технологічними гігантами: Amazon, Facebook та Microsoft. Команди дослідників з усього світу працювали над методами детекції deepfakes, змагаючись за розробку найкращих методів детекції. Інші групи дослідників, наприклад, спільна група дослідників з Google та Jigsaw, працюють над типом “фейс-форензіки”, який може виявити відео, які були змінені, роблячи їх набори даних відкритими та заохочуючи інших розробляти методи детекції deepfakes. Зазначена вище компанія Dessa працює над удосконаленням технік детекції deepfakes, намагаючись забезпечити, щоб моделі детекції працювали на відео deepfakes, знайдених в інтернеті, а не лише на попередньо складених тренувальних та тестових наборах даних, таких як відкритий набір даних, наданий Google.

Існують також інші стратегії, які досліджуються для боротьби з поширенням deepfakes. Наприклад, перевірка відео на відповідність іншим джерелам інформації є однією зі стратегій. Можна здійснювати пошуки відео подій, потенційно знятих з інших кутів, або перевірку фонових деталей відео (наприклад, погодних умов та місць) на несумісності. Окрім цього, система онлайн-реєстру Blockchain може реєструвати відео при їх створенні, зберігати оригінальний аудіо та зображення, щоб похідні відео завжди можна було перевірити на маніпуляції.

У кінцевому підсумку, важливо, щоб були створені надійні методи детекції deepfakes та щоб ці методи детекції трималися в步 з останніми досягненнями технології deepfakes. Хоча складно точно передбачити наслідки deepfakes, якщо не будуть створені надійні методи детекції deepfakes (та інших форм фейкових медіа), дезінформація потенційно може пошириться та підірвати довіру людей до суспільства та інститутів.

Наслідки Deepfakes

Які небезпеки створені неперевіреними deepfakes?

Однією з найбільших проблем, які deepfakes створюють зараз, є непорнографічна порнографія, створена шляхом поєднання облич людей з порнографічними відео та зображеннями. Етики штучного інтелекту побоюються, що deepfakes будуть використовуватися для створення фальшивої помсти порнографії. Окрім цього, deepfakes можуть бути використані для знущань та шкоди репутації практично будь-кого, оскільки їх можна використовувати для розміщення людей у суперечливих та компрометуючих ситуаціях.

Компанії та спеціалісти з кібербезпеки висловили занепокоєння щодо використання deepfakes для здійснення афер, шахрайств та шантажу. Нібито, аудіо deepfakes були використані для переконання працівників компанії перевести гроші шахраям

Можливо, що deepfakes можуть мати шкідливі наслідки навіть за межами перелічених вище. Deepfakes потенційно можуть підірвати довіру людей до медіа загалом та зробити складним розрізнення між справжніми новинами та фейковими. Якщо багато відео в інтернеті є фальшивими, це робить легшим для урядів, компаній та інших суб’єктів сумніватися у легітимних скандалах та неетичних практиках.

Що стосується урядів, deepfakes можуть навіть становити загрозу для функціонування демократії. Демократія вимагає, щоб громадяни могли приймати обґрунтовані рішення щодо політиків на основі надійної інформації. Дезінформація підірває демократичні процеси. Наприклад, президент Габону, Алі Бонго, з’явився у відео, намагаючись заспокоїти громадян Габону. Президент вважався хворим протягом тривалого часу, і його раптове появлення у ймовірному фальшивому відео спровокувало спробу державного перевороту. Президент Дональд Трамп заявив, що аудіозапис, на якому він хвалиться тим, що хапає жінок за геніталії, є фальшивим, хоча також описував його як “розмови в шатті”. Принц Андрій також заявив, що зображення, надане адвокатом Емілі Мейтліс, є фальшивим, хоча адвокат наполягав на його автентичності.

У кінцевому підсумку, хоча існують легітимні використання технології deepfakes, існує багато потенційних шкідливих наслідків, які можуть виникнути у разі неправильного використання цієї технології. Через це дуже важливо, щоб були створені методи визначення автентичності медіа та щоб ці методи детекції трималися в bước з останніми досягненнями технології deepfakes.