Небезпечне визначення “Deepfake”

Приваблива нова робота з Німеччини критикує визначення терміну “deepfake” в законопроєкті ЄС про штучний інтелект як надто розпливчасте, особливо в контексті маніпуляції цифровими зображеннями. Автори стверджують, що акцент законопроєкту на вмісті, що нагадує реальних людей або події, але потенційно виглядає фальшивим, не має ясності.

Вони також підкреслюють, що виключення законопроєкту для “стандартної редакції” (тобто передбачуваних незначних модифікацій зображень за допомогою штучного інтелекту) не враховують як поширену вплив штучного інтелекту на споживчі додатки, так і суб’єктивну природу художніх конвенцій, що передують появі штучного інтелекту.

Неточне законодавство щодо цих питань призводить до двох основних ризиків: “охолоджувального ефекту”, коли широкий інтерпретаційний обсяг законодавства гальмує інновації та впровадження нових систем; і “злочинного ефекту”, коли законодавство ігнорується як надмірне або нерелевантне.

У будь-якому випадку, розпливчасті закони фактично перекладають відповідальність за встановлення практичних юридичних визначень на майбутні судові рішення – це обережний і ризикозмінний підхід до законодавства.

Технології маніпуляції зображеннями на основі штучного інтелекту залишаються помітно попереду можливостей законодавства щодо їх розгляду, здається. Наприклад, одним із помітних прикладів зростаючої еластичності концепції автоматичної післяобробки, пов’язаної зі штучним інтелектом, є функція “Оптимізатор сцени” в останніх камерах Samsung, яка може замінити зображення місяця (складний об’єкт), на зображення, створене за допомогою штучного інтелекту:

Верхній лівий, приклад з нової статті реального зображення місяця, зображення, створене за допомогою Оптимізатора сцени; Праворуч, офіційна ілюстрація процесу створення цього зображення; нижній лівий, приклади з Reddit, що показують (ліворуч) навмисно розмите зображення місяця і (праворуч) зображення, створене за допомогою Оптимізатора сцени – хоча джерельне фото було зображенням монітора, а не справжнім місяцем. Джерела (за годинниковою стрілкою зверху ліворуч): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

У нижньому лівому куті зображення вище, ми бачимо два зображення місяця. Зображення ліворуч – фото, зроблене користувачем Reddit. Тут зображення було навмисно розмито і зменшено користувачем.

Праворуч ми бачимо фото того ж розмитого зображення, зроблене камерою Samsung з післяобробкою, керованою штучним інтелектом. Камера автоматично “підкреслила” визнане “місяць” об’єкт, хоча джерельне зображення не було місяцем.

Стаття критикує функцію “Найкращий кадр” у нових смартфонах Google – суперечливу функцію штучного інтелекту, яка редагує найкращі частини групового фото, скануючи кілька секунд фотографічної послідовності, так що посмішки переміщуються вперед або назад у часі за необхідністю – і ніхто не показується в середині моргання.

Стаття стверджує, що такий композитний процес має потенціал спотворити події:

‘[У] типовому груповому фотознімку середній глядач, ймовірно, все ще вважатиме результатовий фото автентичним. Посмішка, яка вставляється, існувала в межах декількох секунд від решти фото, зробленого в цей час.

‘З іншого боку, десять секунд часу функції найкращого кадру достатньо для зміни настрою. Людина могла перестати посміхатися, тоді як решта групи сміється над жартом на її рахунок.

‘Як наслідок, ми припускаємо, що така груповий фотознімок може бути deepfake.’

Нова стаття називається Що становить Deep Fake? Розмитка межа між законною обробкою та маніпуляцією під законопроєктом ЄС про штучний інтелект і походить від двох дослідників з Лабораторії обчислювального права Університету Тюбінгена та Університету Саарланд.

Старі трюки

Маніпулювання часом у фотографії значно старше споживчого рівня штучного інтелекту. Автори нової статті відзначають існування набагато старших технік, які можна вважати “неавтентичними”, таких як конкатенація декількох послідовних зображень у зображення з високим динамічним діапазоном (HDR) або “шитого” панорамного зображення.

Дійсно, деякі з найдавніших і найзабавніших фотографічних фальсифікацій традиційно створювалися школярами, які бігали від одного кінця шкільної групи до іншого, попереду траєкторії спеціальних панорамних камер, які раніше використовувалися для спортивних та шкільних фотографій – що дозволяло учням з’явитися двічі в одному зображенні:

Спокуса обманути панорамні камери під час групових фотографій була надто великою для багатьох учнів, які були готові ризикнути поганим сеансом у кабінеті директора, щоб “клонувати” себе у шкільних фотографіях. Джерело: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Якщо ви не робите фотознімок у форматі RAW, який фактично виводить датчик камери в великий файл без будь-якої інтерпретації, ваші цифрові фотографії, ймовірно, не є повністю автентичними. Системи камер звичайно застосовують алгоритми “поліпшення” зображень, такі як різкість зображення та баланс білого, за замовчуванням – і робили це з початку споживчої цифрової фотографії.

Автори статті стверджують, що навіть ці старіші види цифрової фотографічної обробки не представляють “реальність”, оскільки такі методи призначені для того, щоб зробити фотографії більш привабливими, а не більш “реальними”.

Дослідження показує, що законопроєкт ЄС про штучний інтелект, навіть з пізнішими поправками, такими як рецитали 123-127, розміщує весь фотографічний вихід у доказовому рамках, не підходящому до контексту, в якому фотографії зараз створюються, на відміну від (номінально об’єктивної) природи кадрів безпеки або судової фотографії. Більшість зображень, розглянутих у законопроєкті ЄС про штучний інтелект, найімовірніше походять з контекстів, у яких виробники та онлайн-платформи активно пропагують творчу інтерпретацію фотографій, включаючи використання штучного інтелекту.

Дослідники припускають, що фотографії “ніколи не були об’єктивним зображенням реальності”. Розгляди, такі як місце розташування камери, вибір глибини поля та вибір освітлення, всі сприяють тому, щоб зробити фотографію глибоко суб’єктивною.

Стаття підкреслює, що звичайні завдання “очищення” – такі як видалення пилу датчика або небажаних ліній електропередачі з інакше добре складеного сценарію – були лише напівавтоматизовані до появи штучного інтелекту: користувачі повинні були вручну вибрати область або ініціювати процес, щоб досягти бажаного результату.

Сьогодні ці операції часто запускаються текстовими запитами користувача, особливо в інструментах, таких як Photoshop. На споживчому рівні такі функції все частіше автоматизуються без введення користувачем – результат, який, як видається, виробники та платформи вважають “очевидно бажаним”.

Розмитка значення “Deepfake”

Одним із центральних викликів законодавства щодо зображень, змінених або створених штучним інтелектом, є двозначність терміну “deepfake”, який мав своє значення помітно розширено за останні два роки.

Спочатку термін застосовувався лише до відеових виходів з систем, заснованих на автокодерах, таких як DeepFaceLab і FaceSwap, обидва похідні від анонімного коду, опублікованого на Reddit у кінці 2017 року.

З 2022 року появилася модель Latent Diffusion (LDM), така як Стабільна дифузія та Флюкс, а також системи генерації відео за текстом, такі як Сора, що дозволяють заміну ідентичності та налаштування з покращеною роздільною здатністю, гнучкістю та вірогідністю. Тепер стало можливим створити дифузійні моделі, які можуть зображувати знаменитостей та політиків. Оскільки термін “deepfake” вже був скарбницею заголовків для виробників медіа, його розширили, щоб охопити ці системи.

Пізніше, як у ЗМІ, так і в науковій літературі, термін також включав текстову імперсонацію. На цьому етапі оригінальне значення “deepfake” було майже втрачено, тоді як його розширене значення постійно еволюціонувало та ставало все більш розмитим.

Але оскільки слово було настільки вибуховим і галванізуючим, і стало потужним політичним та медіа-токеном, воно виявилося неможливим відмовитися від нього. Воно приваблювало читачів на сайти, фінансування дослідникам та увагу політикам. Ця лексична двозначність є основним фокусом нового дослідження.

Як відзначають автори, стаття 3(60) законопроєкту ЄС про штучний інтелект описує чотири умови, які визначають “deepfake”.

1: Справжній Місяць

По-перше, вміст повинен бути створений або маніпульований, тобто створений з нуля за допомогою штучного інтелекту (генерація) або змінений з існуючих даних (маніпуляція). Стаття підкреслює складність у відрізненні між “прийнятними” результатами редагування зображень та маніпулятивними deepfakes, враховуючи, що цифрові фотографії в будь-якому випадку ніколи не є справжнім зображенням реальності.

Стаття стверджує, що зображення місяця, створене Samsung, можна вважати автентичним, оскільки місяць малоймовірно змінить свій вигляд, а зображення, створене штучним інтелектом, навченим на реальних зображеннях місяця, ймовірно, буде точним.

Однак автори також зазначають, що оскільки система Samsung була показана як здатна створити “підкреслене” зображення місяця в разі, коли джерельне зображення не було місяцем, це буде вважатися “deepfake”.

Було б недоцільно складати повний перелік різних випадків використання такого роду функціональності. Тому тягар визначення знову здається, що переходить до суду.

2: Текстові Фальсифікації

По-друге, вміст повинен бути у формі зображення, аудіо чи відео. Текстовий вміст, хоча й підлягає іншим зобов’язанням щодо прозорості, не вважається deepfake згідно з законопроєктом ЄС про штучний інтелект. Це не розглядається у деталі в новому дослідженні, хоча це може мати значний вплив на ефективність візуальних deepfakes (див. нижче).

3: Реальні Проблеми

По-третє, вміст повинен нагадувати існуючі особи, об’єкти, місця, сутності чи події. Ця умова встановлює зв’язок з реальним світом, що означає, що чисто фабриковані зображення, навіть якщо вони фотореалістичні, не кваліфікуються як deepfake. Рецитал 134 законопроєкту ЄС про штучний інтелект підкреслює аспект “нагадування” додаванням слова “помітно” (очевидна відставка до подальших юридичних суджень).

Автори, посилаючись на попередню роботу, розглядають питання, чи повинен штучно створений обличчя належати реальній особі, чи йому потрібно лише бути достатньо схожим на реальну особу, щоб задовольнити це визначення.

Наприклад, як можна визначити, чи має послідовність фотореалістичних зображень, що зображують політика Дональда Трампа, намір імперсонації, якщо зображення (або додані тексти) не згадують його явно? Розпізнавання облич? Опитування користувачів? Визначення “здорового глузу” судді?

Повертаючись до питання “Текстові Фальсифікації” (див. вище), слова часто становлять значну частку акту візуального deepfake. Наприклад, можна взяти (не змінене) зображення або відео “особи аем>“, і сказати в підписі або соціальному медіа-пості, що зображення належить “особі бем>” (припускаючи, що ці дві особи мають схожість).

У такому випадку не потрібно штучний інтелект, і результат може бути досить ефективним – але чи такий низькотехнологічний підхід також становить “deepfake”?

4: Ретуш та Перемоделювання

Нарешті, вміст повинен виглядати автентичним або правдивим для людини. Ця умова підкреслює сприйняття людьми-глядачами. Вміст, який визнається лише алгоритмом, не буде вважатися deepfake.

З усіх умов у 3(60) ця умова найочевидніше віддає судові рішення. Вона не дозволяє жодної інтерпретації через технічні або механізовані засоби.

Є явні труднощі у досягненні консенсусу щодо такого суб’єктивного положення. Автори, наприклад, відзначають, що різні люди, а також різні типи людей (наприклад, діти та дорослі), можуть бути по-різному схильні вірити у конкретний deepfake.

Автори також зазначають, що передові можливості штучного інтелекту інструментів, таких як Photoshop, викликують традиційні визначення “deepfake”. Хоча ці системи можуть включати базові заходи безпеки проти суперечливих або заборонених контентів, вони суттєво розширюють концепцію “ретушування”. Користувачі тепер можуть додавати або видаляти об’єкти у високій мірі переконливому та фотореалістичному вигляді, досягнувши професійного рівня автентичності, який переозначає межі маніпуляції зображеннями.

Автори стверджують:

‘Ми стверджуємо, що поточне визначення deepfakes у законопроєкті ЄС про штучний інтелект та відповідні зобов’язання не достатньо визначені, щоб подолати виклики, пов’язані з deepfakes. Аналізуючи життєвий цикл цифрової фотографії від датчика камери до цифрових функцій редагування, ми знаходимо, що:’

‘(1.) Deepfakes є нечітко визначені у законопроєкті ЄС про штучний інтелект. Визначення залишає занадто багато місця для того, що таке deepfake.’

‘(2.) Непевно, як функції редагування, такі як функція “Найкращий кадр” Google, можуть бути розглянуті як виняток із зобов’язань щодо прозорості.’

‘(3.) Виняток для суттєво відредагованих зображень викликає питання про те, що становить суттєве редагування вмісту та чи потрібно таке редагування бути сприйнятним людиною.’

Виняток

Законопроєкт ЄС про штучний інтелект містить винятки, які, на думку авторів, можуть бути досить перmissive. Стаття 50(2), як зазначають автори, пропонує виняток у випадках, коли більшість джерельного зображення не змінюється. Автори відзначають:

‘Що можна вважати вмістом у сенсі статті 50(2) у випадках цифрового аудіо, зображень та відео? Наприклад, у випадку зображень, чи потрібно розглядати простір пікселів або видимий простір, сприйнятний людьми? Суттєві маніпуляції у просторі пікселів можуть не змінити сприйняття людини, а з іншого боку, малі порушення у просторі пікселів можуть змінити сприйняття суттєво.’

Дослідники наводять приклад додавання пістолета до фотографії людини, яка вказує на когось. Додаванням пістолета ви змінюєте лише 5% зображення, однак семантичне значення зміненої частини є суттєвим. Тому здається, що цей виняток не враховує жодного “здорового глузу” щодо впливу дрібних деталей на загальне значення зображення.

Пункт 50(2) також дозволяє винятки для “асистентської функції стандартної редагування”. Оскільки законопроєкт не визначає, що таке “стандартна редагування”, навіть функції післяобробки, такі як функція “Найкращий кадр” Google, здаються захищеними цим винятком, відзначають автори.

Висновок

Заявлена мета нової роботи – заохотити міжгалузеве дослідження щодо регулювання deepfakes та слугувати початком нових діалогів між фахівцями штучного інтелекту та юридичними вченими.

Однак сама стаття піддається тавтології в кількох пунктах: вона часто використовує термін “deepfake” так, як якщо б його значення було самозрозуміле, одночасно критикуючи законопроєкт ЄС про штучний інтелект за відсутність визначення того, що становить deepfake.

Перше опубліковано понеділком, 16 грудня 2024 року