Експерт каже, що “ідеально реальні” DeepFakes з’являться за 6 місяців

Вражаючі, але спірні DeepFakes, зображення та відео, маніпульовані або згенеровані глибокими нейронними мережами, ймовірно, стануть ще більш вражаючими та спірними в найближчому майбутньому, згідно з Hao Li, директором лабораторії зору та графіки Університету Південної Каліфорнії. Li є експертом у галузі комп’ютерного зору та DeepFakes, і у недавньому інтерв’ю з CNBC він сказав, що “ідеально реальні” Deepfakes, ймовірно, з’являться протягом півроку.

Li пояснив, що більшість DeepFakes все ще впізнавані як фальшиві людським оком, і навіть більш переконливі DeepFakes все ще потребують суттєвих зусиль з боку творця, щоб вони виглядали реалістично. Однак Li переконаний, що протягом шести місяців DeepFakes, які виглядають ідеально реальними, ймовірно, з’являться, оскільки алгоритми стають більш складними.

Li спочатку думав, що це займе два-три роки, щоб надзвичайно переконливі DeepFakes стали більш поширеними, зробивши це передбачення на недавній конференції, проведеній в Масачусетському технологічному інституті. Однак Li переглянув свій графік після відкриття недавнього китайського додатка Zao та інших недавніх розробок щодо технології DeepFakes. Li пояснив CNBC, що методи, необхідні для створення реалістичних DeepFakes, більш-менш ті ж, що й зараз використовуються, і що основним інгредієнтом, який створить реалістичні DeepFakes, є більше навчальних даних.

Li та його колеги- дослідники працювали над технологією виявлення DeepFakes, передбачаючи появу надзвичайно переконливих DeepFakes. Li та його колеги, такі як Hany Farid з Університету Каліфорнії в Берклі, експериментували з сучасними алгоритмами DeepFakes, щоб зрозуміти, як працює технологія, яка їх створює.

Li пояснив CNBC:

“Якщо ви хочете бути в змозі виявити DeepFakes, вам потрібно також побачити, які є їхні межі. Якщо вам потрібно створити框ки штучного інтелекту, які здатні виявляти речі, які є надзвичайно реальними, ці框ки потрібно тренувати, використовуючи ці типи технологій, тому в деяких випадках це неможливо виявити їх, якщо ви не знаєте, як вони працюють.”

Li та його колеги інвестують у створення інструментів для виявлення DeepFakes, визнаючи потенційні проблеми та небезпеки, які ця технологія становить. Li та його колеги далеко не єдина група дослідників штучного інтелекту, які стурбовані можливими наслідками DeepFakes та зацікавлені у створенні протидій їм.

Недавно Facebook (META ) почав спільний проєкт з MIT, Microsoft (MSFT ) та Оксфордським університетом для створення DeepFake Detection Challenge, метою якого є створення інструментів, які можна використовувати для виявлення змінених зображень або відео. Ці інструменти будуть відкритими та доступними для компаній, медіа-організацій та урядів. Тим часом дослідники з Інформаційного інституту Університету Південної Каліфорнії недавно створили серію алгоритмів, які можуть розрізняти фальшиві відео з точністю близько 96%.

Однак Li також пояснив, що проблема з DeepFakes полягає не в самій технології, а в тому, як її можна неправильно використовувати. Li відзначив кілька легітимних можливих застосувань технології DeepFakes, зокрема в розважальній та модній індустрії.

Техніки DeepFakes також були використані для відтворення виразів обличчя людей з закритими обличчями на зображеннях. Дослідники використали генеративні мережі, щоб створити зовсім нове обличчя, яке мало той же вираз, що й оригінальне зображення. Техніки, розроблені Норвезьким університетом природничих наук та технологій, можуть допомогти відтворити вирази обличчя під час інтерв’ю з людьми, які потребують конфіденційності, такими як інформатори. Хтось інший міг би дозволити використовувати своє обличчя як заміну для людини, яка потребує анонімності, але вирази обличчя все одно могли б бути прочитані.

По мірі зростання складності технології DeepFakes легітимні випадки використання DeepFakes також зростатимуть. Однак небезпека також зростатиме, і саме тому робота над виявленням DeepFakes, яку проводять Li та інші, стає ще більш важливою.