Реальні ідентичності можна відновити з синтетичних наборів даних

Якщо 2022 рік став моментом, коли розруйнівний потенціал генеративного ІІ вперше привернув широку увагу громадськості, то 2024 рік став роком, коли питання щодо легальності його основних даних зайняли центральне місце для бізнесу, який прагне використати його силу.

Доктрина справедливого використання США, разом з імпліцитною науковою ліцензією, яка довгий час дозволяла академічним та комерційним дослідницьким секторам вивчати генеративний ІІ, стала все більш неприйнятною, оскільки з’явилися все більше доказів плагіату. Наступним кроком стало тимчасове заборонення США на реєстрацію авторських прав на вміст, згенерований ІІ.

Ці питання ще далеки від вирішення і не будуть вирішені в найближчому майбутньому; у 2023 році, частково через зростаючу увагу ЗМІ та громадськості до юридичного статусу виходу ІІ, Управління з питань авторських прав США розпочало тривале розслідування цього аспекту генеративного ІІ, опублікувавши першу частину (щодо цифрових реплік) у липні 2024 року.

Тим часом бізнес-інтереси залишаються розчарованими можливістю того, що дорогі моделі, які вони бажають використати, можуть піддати їх юридичним наслідкам, коли в кінцевому підсумку з’являться законодавчі визначення.

Дорогим короткостроковим рішенням стало легітимізація генеративних моделей шляхом навчання їх на даних, які компанії мають право використовувати. Архітектура Firefly компанії Adobe, яка перетворює текст у зображення (а тепер і текст у відео), працює в основному завдяки її придбанню набору даних зображень Fotolia у 2014 році, доповненої використанням даних публічного домену, термін авторських прав яких закінчився*. Одночасно з цим постійні постачальники стокових фотографій, такі як Getty та Shutterstock, скористалися новою цінністю своїх ліцензованих даних, укладаючи все більше угод щодо ліцензування вмісту або розробки власних систем генерації ІІ, сумісних з авторськими правами.

Синтетичні рішення

Віддалення даних, захищених авторським правом, з навчального латентного простору моделі ІІ пов’язано з великими труднощами, тому помилки в цій галузі можуть бути дуже дорогостоящими для компаній, які експериментують з споживчими та бізнес-рішеннями, які використовують машинне навчання.

Альтернативним і значно дешевшим рішенням для систем комп’ютерного зору (а також великих мовних моделей, або ЛМ) є використання синтетичних даних, коли набір даних складається з випадково згенерованих прикладів цільової області (наприклад, обличчя, коти, церкви чи навіть більш загальний набір даних).

Сайти, такі як thispersondoesnotexist.com, давно популяризували ідею про те, що автентичні фотографії “неіснуючих” людей можна синтезувати (у цьому конкретному випадку за допомогою генеративно-змагальних мереж, або ГЗМ) без будь-якої стосунку до людей, які насправді існують у реальному світі.

Отже, якщо ви тренуєте систему розпізнавання облич або генеративну систему на таких абстрактних і неіснуючих прикладах, ви можете теоретично досягти фотореалістичного стандарту продуктивності моделі ІІ без необхідності考虑 того, чи є дані юридично використовними.

Балансування

Проблема полягає в тому, що системи, які виробляють синтетичні дані, самі тренуються на реальних даних. Якщо сліди цих даних просачуються у синтетичні дані, це потенційно надає докази того, що обмежені або інші неавторизовані матеріали були використані для фінансової вигоди.

Щоб уникнути цього, а також для виробництва дійсно “випадкових” зображень, такі моделі повинні забезпечувати гарну узагальненість. Узагальнення – це міра здатності тренованої моделі ІІ внутрішньо зрозуміти високорівневі концепції (наприклад, “обличчя”, “чоловік” або “жінка”) без повторення фактичних навчальних даних.

На жаль, може бути складно для тренованих систем виробляти (або розпізнавати) деталі, якщо вони не проходять досить тривале навчання на наборі даних. Це піддає систему ризику заучування: тенденції до певної міри відтворювати приклади фактичних навчальних даних.

Це можна пом’якшити, встановивши більш розслаблений темп навчання, або закінчивши навчання на стадії, на якій основні концепції все ще гнучкі і не пов’язані з якимось конкретним даними (наприклад, з конкретним зображенням людини у випадку набору даних облич).

Однак обидва цих засоби, ймовірно, приведуть до моделей з меншими деталями, оскільки система не мала можливості просунутися далі “основ” цільової області і до конкретик.

Отже, у науковій літературі зазвичай застосовуються дуже високі темпи навчання та комплексні навчальні графіки. Хоча дослідники зазвичай намагаються знайти компроміс між широкою застосовністю та деталями у кінцевій моделі, навіть трохи “заучені” системи можуть часто видавати себе за добре узагальнені – навіть на початкових тестах.

Розкриття обличчя

Це приводить нас до цікавої нової статті зі Швейцарії, яка стверджує, що вона вперше демонструє, що оригінальні, реальні зображення, які живлять синтетичні дані, можна відновити з згенерованих зображень, які, теоретично, повинні бути цілком випадковими:

Результати, як стверджують автори, свідчать про те, що “синтетичні” генератори дійсно заучили багато з точок навчальних даних у своєму пошуку більшої деталізації. Вони також свідчать про те, що системи, які покладаються на синтетичні дані для захисту виробників ІІ від юридичних наслідків, можуть бути дуже ненадійними в цьому відношенні.

Дослідники провели широке дослідження шести синтетичних наборів даних, демонструючи, що в усіх випадках оригінальні (потенційно захищені авторським правом або захищені) дані можна відновити. Вони коментують:

Дослідження показало, що державні синтетичні набори даних для розпізнавання облич містять зразки, які дуже близькі до зразків у навчальних даних їхніх моделей-генераторів. У деяких випадках синтетичні зразки містять дрібні зміни до оригінального зображення, однак ми також можемо спостерігати в деяких випадках, що згенерований зразок містить більше варіацій (наприклад, різні пози, умови освітлення тощо), при цьому зберігається ідентичність. Це свідчить про те, що моделі-генератори вивчають і заучують інформацію, пов’язану з ідентичністю, з навчальних даних і можуть генерувати подібні ідентичності. Це викликає серйозні побоювання щодо застосування синтетичних даних у задачах, чутливих до конфіденційності, таких як біометрія та розпізнавання облич.

Метод, дані та результати

Заучені обличчя у дослідженні були розкриті за допомогою атаки на визначення членства. Хоча ця концепція звучить складно, вона досить самодостатня: визначення членства в цьому випадку означає процес запитання системи, поки вона не розкриє дані, які відповідають шуканим даним або суттєво їм подібні.

Дослідники вивчили шість синтетичних наборів даних, для яких був відомий (реальний) джерело набору даних. Оскільки і реальні, і фальшиві набори даних, які розглядалися, містять дуже великий обсяг зображень, це фактично подібно до пошуку голки в копиці сена.

Отже автори використали готову модель розпізнавання облич^† з основою ResNet100, тренованою на наборі даних WebFace12M, для вивчення шести синтетичних наборів даних.

Косинусна подібність була розрахована для всіх отриманих пар, і склеєна в гістограми, зображені нижче:

Кількість подібностей представлена у вигляді піків на графіку вище. Стаття також містить зразкові порівняння з шести наборів даних та їхніх відповідних оцінених зображень у реальних наборах даних, з яких деякі вибірки представлені нижче:

Стаття коментує:

“[Згенеровані синтетичні набори даних містять дуже схожі зображення з навчального набору їхніх моделей-генераторів, що викликає побоювання щодо генерації таких ідентичностей.”]

Висновок

Останнім часом увагу ЗМІ прикувала до зменшення результатів, отриманих шляхом навчання моделей ІІ на даних, згенерованих ІІ.

Однак нове швейцарське дослідження привертає увагу до питання, яке може бути більш важливим для зростаючої кількості компаній, які бажають використовувати та отримувати прибуток від генерації ІІ – збереження законом захищених або неавторизованих даних, навіть у наборах даних, призначених для боротьби з цією практикою. Якщо ми мали б дати йому визначення, у цьому випадку воно могло б бути названо “обличчям-відмиванням”.

* Однак рішення Adobe про дозволення користувачам завантажувати згенеровані ІІ зображення до Adobe Stock фактично підірвало юридичну “чистоту” цих даних. Bloomberg стверджував у квітні 2024 року, що користувачами надані зображення, згенеровані системою генерації ІІ MidJourney, були включені до можливостей Firefly.

^† Ця модель не ідентифікується в статті.

Перша публікація – середа, 6 листопада 2024 року