Погляд Anderson

Детектори дипфейків освоюють нові напрями: моделі латентної дифузії та GAN

Martin Anderson
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиДослідження виявлення діпфейків зміщує фокус на латентні дифузійні моделі, такі як…
Показати більше
  • Дослідження виявлення діпфейків зміщує фокус на латентні дифузійні моделі, такі як Stable Diffusion та DALL-E 2.
  • Blade Runner пропонує готовий детектор GAN, який використовує шаблони лицьових орієнтирів для організацій з обмеженими ресурсами.
  • DE-FAKE має на меті універсально виявляти та атрибутувати зображення з текст-в-зображення дифузійних моделей за допомогою вбудовувань CLIP.

Думка  

Останнім часом дослідники виявлення дипфейків, які з кінця 2017 року майже винятково займалися підходом на основі автокодувальників, що тоді викликав захоплення (і тривогу) громадськості, почали цікавитися з погляду цифрової криміналістики менш застійними архітектурами. Серед них моделі латентної дифузії, зокрема DALL-E 2 і Stable Diffusion, а також результати генеративних змагальних мереж (GAN). Наприклад, у червні Каліфорнійський університет у Берклі опублікував результати дослідження розробки детектора зображень, створених тоді панівною DALL-E 2.

Цей інтерес, схоже, спричинив раптовий стрибок можливостей і доступності моделей латентної дифузії у 2022 році: навесні відбувся випуск DALL-E 2 із закритим кодом та обмеженим доступом, а наприкінці літа stability.ai сенсаційно відкрила код Stable Diffusion.

GAN також давно вивчають у цьому контексті, хоча менш інтенсивно, адже дуже складно використовувати їх для переконливих і складних відеовідтворень людей, принаймні порівняно з уже усталеними пакетами автокодувальників FaceSwap і DeepFaceLab та спорідненим з останнім засобом прямих трансляцій DeepFaceLive.

Рухомі зображення

В обох випадках рушієм, схоже, є перспектива наступного стрімкого розвитку синтезу відео. Початок жовтня й сезон великих конференцій 2022 року позначилися лавиною раптових і несподіваних рішень давніх проблем синтезу відео: щойно Facebook оприлюднив приклади власної платформи перетворення тексту на відео, Google Research затьмарила початкове захоплення анонсом Imagen-to-Video T2V, здатної створювати відео високої роздільності (хоча лише за допомогою семирівневої мережі підвищення роздільності).

Якщо ви вірите, що такі події приходять трійками, згадайте загадкову обіцянку stability.ai додати відео до Stable Diffusion, очевидно, пізніше цього року. Співрозробник Stable Diffusion Runway дав подібну обіцянку, хоча незрозуміло, чи йдеться про ту саму систему. Повідомлення у Discord генерального директора Stability Емада Мостака також обіцяло «аудіо, відео [та] 3D».

Із несподіваною появою кількох нових систем генерації аудіо (частина заснована на латентній дифузії) та нової дифузійної моделі, здатної створювати природні рухи персонажів, набирає ваги думка, що статичні засоби на кшталт GAN і моделей дифузії зрештою стануть допоміжними доповненнями зовнішніх систем анімації.

Отже, обмежений світ відеодипфейків з автокодувальниками, які ефективно замінюють лише центральну частину обличчя, вже до цієї пори наступного року може поступитися новому поколінню дифузійних технологій дипфейків: популярним відкритим підходам, здатним фотореалістично підробляти цілі тіла й навіть сцени.

Можливо, тому дослідники протидії дипфейкам починають серйозно ставитися до синтезу зображень і розуміти, що його призначення ширше за створення фальшивих фото профілів LinkedIn; і якщо єдиний внесок складних у керуванні латентних просторів у рух у часі — це бути чудовим засобом відтворення текстур, цього насправді може бути більш ніж достатньо.

Blade Runner

Дві найновіші роботи про виявлення дипфейків на основі латентної дифузії та GAN відповідно — це DE-FAKE: Виявлення й визначення походження підроблених зображень, створених дифузійними моделями перетворення тексту на зображення, спільна робота CISPA Helmholtz Center for Information Security та Salesforce (CRM ), і BLADERUNNER: Швидка протидія синтетичним обличчям StyleGAN, створеним ШІ, робота Адама Доріана Вонга з Лабораторії Лінкольна MIT.

Перед поясненням нового методу друга робота розглядає попередні підходи до визначення, чи створено зображення GAN. Стаття стосується саме сімейства StyleGAN NVIDIA.

Метод Brady Bunch — можливо, незрозуміле посилання для тих, хто не дивився телебачення у 1970-х або пропустив екранізації 1990-х, — визначає підробки GAN за фіксованими позиціями певних частин обличчя через повторюваний і шаблонний виробничий процес.

Метод Brady Bunch, представлений вебтрансляцією SANS Institute у 2022 році: генератор облич GAN розміщує певні риси неприродно однаково, що іноді видає синтетичне походження фото.

Метод Brady Bunch, представлений вебтрансляцією SANS Institute у 2022 році: генератор облич GAN розміщує певні риси неприродно однаково, що іноді видає синтетичне походження фото. Джерело: https://arxiv.org/ftp/arxiv/papers/2210/2210.06587.pdf

Ще одна відома корисна ознака — часта нездатність StyleGAN відтворити кілька облич за потреби (перше зображення нижче), брак узгодженості аксесуарів (середнє) і схильність використовувати лінію волосся як початок імпровізованого капелюха (третє).

Третій метод, на який звертає увагу дослідник, — накладання фотографій (приклад можна побачити в нашій серпневій статті про діагностику психічних розладів за допомогою ШІ). Програми змішування зображень, зокрема серія CombineZ, поєднують багато знімків в один і часто виявляють спільні структурні риси — можливу ознаку синтезу.

Архітектура нової роботи має назву, можливо, всупереч усім порадам SEO, Blade Runner — відсилання до тесту Войта-Кампфа, який визначає, чи є антагоністи науково-фантастичної франшизи штучними.

Обробка складається з двох фаз. Перша — аналізатор PapersPlease, який оцінює дані, зібрані з відомих сайтів облич GAN, як-от thispersondoesnotexist.com або generated.photos.

Хоча скорочену версію коду можна переглянути на GitHub (див. нижче), подробиць модуля небагато, крім використання OpenCV та DLIB для окреслення й виявлення облич у зібраному матеріалі.

Друга складова — детектор AmongUs. Він шукає узгоджене розташування очей на фото, сталу ознаку облич StyleGAN з наведеного вище прикладу Brady Bunch. AmongUs працює зі стандартним детектором 68 опорних точок обличчя.

Розмітка точок обличчя від Intelligent Behaviour Understanding Group (IBUG), чий код відображення цих точок використано в пакеті Blade Runner.

Розмітка точок обличчя від Intelligent Behaviour Understanding Group (IBUG), чий код відображення цих точок використано в пакеті Blade Runner.

AmongUs спирається на попередньо навчені опорні точки за відомими координатами Brady Bunch із PapersPlease та призначений для перевірки актуальних, доступних у вебі зразків облич StyleGAN.

За словами автора, Blade Runner — готове до використання рішення для компаній чи організацій без ресурсів на власні засоби такого виявлення дипфейків, а також тимчасовий захід, що дає час на постійніші засоби протидії.

Справді, у настільки мінливому й швидкозростаючому секторі безпеки нині небагато індивідуальних або готових хмарних рішень постачальників, на які може впевнено покластися компанія з обмеженими ресурсами.

Хоча Blade Runner погано виявляє створених StyleGAN людей в окулярах, це поширена проблема подібних систем: вони використовують контури очей як головні опорні точки, але в таких випадках ті закриті.

Скорочену версію Blade Runner опубліковано як відкритий код на GitHub. Є функціональніша пропрієтарна версія, яка обробляє багато фото, тоді як відкрите сховище дозволяє лише одне за операцію. Автор планує, коли дозволить час, довести GitHub-версію до того самого рівня. Він також визнає, що StyleGAN, імовірно, подолає нинішні відомі слабкості, а отже, програмне забезпечення має розвиватися разом із ним.

DE-FAKE

Архітектура DE-FAKE прагне не лише універсально виявляти зображення, створені дифузійними моделями перетворення тексту на зображення, а й визначати, яка саме модель латентної дифузії (LD) створила зображення.

Універсальна система виявлення DE-FAKE охоплює локальні зображення, гібридну систему (зелений) та зображення відкритого світу (синій).

Універсальна система виявлення DE-FAKE охоплює локальні зображення, гібридну систему (зелений) та зображення відкритого світу (синій). Джерело: http://export.arxiv.org/pdf/2210.06998

Відверто кажучи, нині це доволі просте завдання: усі популярні моделі LD, із закритим чи відкритим кодом, мають помітні відмінні риси.

Крім того, більшість має спільні слабкості, наприклад схильність обрізати голови через довільний спосіб внесення не квадратних зображень, зібраних із вебу, до великих наборів даних, на яких працюють DALL-E 2, Stable Diffusion та MidJourney:

Моделі латентної дифузії, як і моделі комп'ютерного зору загалом, потребують квадратних вхідних даних. Масове збирання вебданих для LAION5B не має додаткових функцій розпізнавання й фокусування на обличчях чи інших об'єктах і жорстко обрізає зображення замість додавання полів, яке зберегло б оригінал повністю, але в нижчій роздільності. Після засвоєння під час навчання такі обрізання стають нормою й дуже часто з'являються у виході систем на кшталт Stable Diffusion.

Моделі латентної дифузії, як і моделі комп’ютерного зору загалом, потребують квадратних вхідних даних. Масове збирання вебданих для LAION5B не має додаткових функцій розпізнавання й фокусування на обличчях чи інших об’єктах і жорстко обрізає зображення замість додавання полів, яке зберегло б оригінал повністю, але в нижчій роздільності. Після засвоєння під час навчання такі обрізання стають нормою й дуже часто з’являються у виході систем на кшталт Stable Diffusion. Джерела: https://blog.novelai.net/novelai-improvements-on-stable-diffusion-e10d38db82ac і Stable Diffusion.

DE-FAKE має бути незалежним від алгоритму — давня мета дослідників протидії дипфейкам з автокодувальниками, яка зараз цілком досяжна для систем LD.

Архітектура використовує мультимодальну бібліотеку Contrastive Language-Image Pretraining OpenAI (CLIP), важливу складову Stable Diffusion, що швидко стає основою нової хвилі синтезу зображень і відео, для вилучення векторних представлень підроблених LD-зображень та навчання класифікатора на спостережуваних закономірностях і класах.

У більш непрозорому сценарії, коли блоки PNG з інформацією про створення давно видалені завантаженням або з інших причин, дослідники застосовують систему BLIP Salesforce (також складову принаймні одного дистрибутива Stable Diffusion), щоб без початкових відомостей оцінити ймовірну семантичну структуру запитів, які породили зображення.

Дослідники використали Stable Diffusion, Latent Diffusion (окремий продукт), GLIDE та DALL-E 2, щоб наповнити навчальний і тестовий набір даних на основі MSCOCO та Flickr30k.

Дослідники використали Stable Diffusion, Latent Diffusion (окремий продукт), GLIDE та DALL-E 2, щоб наповнити навчальний і тестовий набір даних на основі MSCOCO та Flickr30k.

Зазвичай ми докладно розглядали б результати експериментів нової системи. Однак висновки DE-FAKE, схоже, корисніші як майбутній орієнтир для наступних версій і подібних проєктів, аніж як змістовна міра успіху, з огляду на мінливе середовище та майже трирічний вік системи порівняння в експериментах — із часу, коли синтез зображень лише зароджувався.

Два крайні ліві зображення: старіша порівняльна система 2019 року очікувано працює гірше за DE-FAKE (два крайні праві) на чотирьох перевірених системах LD.

Два крайні ліві зображення: старіша порівняльна система 2019 року очікувано працює гірше за DE-FAKE (два крайні праві) на чотирьох перевірених системах LD.

Результати команди вкрай позитивні з двох причин: попередніх робіт для порівняння мало, і жодна не забезпечує справедливого зіставлення, охоплюючи лише дванадцять тижнів після відкриття коду Stable Diffusion.

По-друге, хоча синтез зображень LD розвивається експоненційно, вихід нинішніх систем фактично сам себе позначає через власні структурні, дуже передбачувані вади й особливості. Багато з них, принаймні у Stable Diffusion, імовірно, виправить випуск продуктивнішого checkpoint 1.5 — навченої моделі розміром 4 ГБ, що забезпечує роботу системи.

Водночас Stability уже вказала чітку дорожню карту для V2 та V3. З огляду на гучні події останніх трьох місяців будь-яка корпоративна млявість OpenAI та інших конкурентів у синтезі зображень, імовірно, зникла. Отже, можна чекати такого самого швидкого поступу і в секторі закритого коду.

 

Уперше опубліковано 14 жовтня 2022 року.

Martin Anderson

Автор у галузі машинного навчання, фахівець у сфері синтезу зображень людей. Колишній керівник дослідницького контенту в Metaphysic.ai, до його злиття з Brahma.ai, що належить DNEG.
Веб‑сайт: martinanderson.ai
Контакт: martin@martinanderson.ai