Європейські та британські пропозиції щодо регулювання Deepfake вражаюче обмежені

Аналіз Для активістів, які сподіваються, що 2022 рік стане роком, коли глибоко підроблені зображення потраплять під суворіше законодавче регулювання, ранні індикатори непромішливі.

Минулий четвер Європарламент ратифікував поправки до Закону про цифрові послуги (DSA, який має вступити в силу в 2023 році), щодо поширення глибоко підроблених зображень. Поправки стосуються глибоко підроблених зображень у двох розділах, кожний з яких безпосередньо пов’язаний з онлайн-рекламою: поправка 1709 щодо статті 30 та пов’язана поправка до статті 63.

Перша пропонує цілком нову статтю 30а, озаглавлену Глибоко підроблені зображення, яка говорить:

‘Якщо велика онлайн-платформа дізнається, що певний контент є згенерованим або відредагованим зображенням, аудіо- або відеоконтентом, який суттєво нагадує існуючі особи, об’єкти, місця або інші сутності чи події і хибно видається людині за автентичне чи правдиве (глибоко підроблені зображення), постачальник повинен позначити контент таким чином, щоб інформувати, що контент є неавтентичним і що це явно видно для одержувача послуги.’

Друга додає текст до існуючої статті 63, яка в основному займається збільшенням прозорості великих рекламних платформ. Пертинентний текст говорить:

‘Крім того, великі онлайн-платформи повинні позначати будь-які відомі глибоко підроблені відео, аудіо чи інші файли.’

Ефективно законодавство, здається, готується до зростаючої практики “легітимних глибоко підроблених зображень”, де дозвіл було надано і права забезпечені для заміни обличчя в промоціональному або рекламному матеріалі – наприклад, ліцензоване використання російською телекомунікаційною компанією Telefon ідентичності Брюса Вілліса в недавній рекламній кампанії.

Вагання законодавчої влади

Закон про цифрові послуги, на даний момент, не здається адресувати проблему активістів щодо використання техніки глибоко підроблених зображень, як вони найчастіше використовуються – для повторного відтворення порнографічних відео. Також він не адресує масштаб, якщо такий є, до якого майбутнє використання глибоко підроблених зображень у фільмах і телебаченні буде потрібно роз’яснити глядачам так само, як глибоко підроблені зображення в рекламі будуть, принаймні в ЄС, з 2023 року.

Процес ратифікації Закону про цифрові послуги тепер переходить до переговорів з державами-членами ЄС, разом з ширшим обсягом Закону про цифрові ринки (DMA).

Звіт Європоліту за грудень 2020 року звіт Мальовничі використання та зловживання штучним інтелектом стверджував, що це буде помилкою для ЄС адресувати конкретні поточні технології глибоко підроблених зображень (наприклад, DeepFaceLive), що може привести до того, що законодавство ЄС буде постійно гнатися за останньою технологією або методом.

Звіт сказав:

‘У особливості, ці політики повинні бути технологічно-агностичними, щоб бути ефективними в довгостроковій перспективі та уникнути необхідності перегляду та заміни цих на регулярній основі, оскільки технологія створення та зловживання глибоко підробленими зображеннями еволюціонує. ‘

‘Однак, такі заходи також повинні уникати перешкоджання позитивним застосуванням ГАНів.’

Висновок у цитаті вище, щодо Генеративних суперницьких мереж (GANs) загалом характеризує європейську та північноамериканську вагання щодо застосування законів, які можуть ослабити новий сектор досліджень штучного інтелекту, який вже сприймається як відстає від Азії (чиї більш дидактичні країни були здатні прискорити законодавство щодо глибоко підроблених зображень).

Наприклад, звіт 2018 року звіт від Комітету з штучного інтелекту Палати лордів підкреслює кілька разів ризик того, що пасивність може утримувати розвиток штучного інтелекту в країні, як це видно в його назві: Штучний інтелект у Великій Британії: готові, бажаючі та здатні?. Останнього квітня Велика Британія також стала першою країною, яка дозволила розгортання самохідних автомобілів на автомагістралях.

Америка не менш ревна; у США Інститут Брукінгса наголосив необхідність збільшення законодавства щодо штучного інтелекту в Сполучених Штатах, критикуючи законодавців за їхню позицію “чекати та побачити” щодо наслідків технологій машинного навчання

Крім безсилля Закону про цифрові послуги щодо адресування соціальних (а не політичних) проблем навколо глибоко підроблених зображень, запропонований ЄС регуляторний框 для штучного інтелекту, опублікований у квітні 2021 року, піддався критиці за свою власну ухилення від цієї теми.

Бідне регулювання глибоко підроблених зображень у Великій Британії

Як додаткова розчарування для активістів проти глибоко підроблених зображень, таких як автор Гелен Морт, яка активно виступала за нове законодавство Великої Британії в 2021 році після того, як вона була зображена без її згоди в порнографічних глибоко підроблених відео, звіт, опублікований сьогодні Комітетом з цифрової культури, медіа та спорту Парламенту Великої Британії критикує уряд Великої Британії за те, що він не адресує глибоко підроблені зображення в Проєкті закону про онлайн-безпеку.

Посилаючись на проєкт закону про онлайн-безпеку, який зараз є законним засобом захисту проти зловживання глибоко підробленими зображеннями, як “неясним і непрактичним”, звіт пропонує, що запропоноване законодавство нічого не робить для адресування “легального, але шкідливого” статусу техніки маніпуляції відео та зображень за допомогою штучного інтелекту:

‘[Ми] рекомендуємо, щоб Уряд активно адресував типи контенту, які є технічно законними, такі як підступні частини послідовностей дитячої порнографії, як хлібні крихти та типи онлайн-жорстокості проти жінок та дівчат, як техно-обладнані “оголені” жінок та глибоко підроблені порнографічні відео, шляхом включення їх до законодавства або як типів шкідливого контенту, охоплених обов’язками піклування.’

Поточне застосовне законодавство у Великій Британії обмежене поширенням “реальних” зображень, таких як випадки помсти-порно, де, наприклад, конфіденційний і приватний експліцитний матеріал публічно поширений колишнім партнером. Якщо переслідувач здійснює та поширює глибоко підроблені матеріали, які надають йому “ціль”, вони можуть бути переслідувані лише якщо вони безпосередньо знущаються над цією людиною, спрямовуючи матеріал на них, або згідно з законодавством, пов’язаним з авторським правом.

У першому випадку легкість, з якою новий глибоко підроблений контент збирає популярність і глядачів, майже напевно означає, що жертва буде повідомлена про це стурбованими друзями або сторонніми третіми особами, а не людиною, яка глибоко підробила їх, дозволяючи вірусності такого матеріалу захистити глибоко підробника, чия робота все ще “досягає цілі”.

У другому випадку переслідування було б можливим лише в тому випадку, якщо неотредагований відеоролик третіх осіб (у який пізніше надбудовується ідентичність жертви) є професійно виробленим і законно захищеним згідно з законодавством Великої Британії про авторське право (хоча підходящий відеоролик можна знайти вільно з будь-якої законної юрисдикції світу). “Аматорський” відеоролик з будь-якої юрисдикції не має чіткого статусу авторського права, а спеціально знятий відеоролик, який глибоко підробник зняв спеціально для того, щоб надбудувати жертву, сам по собі захищений законодавством про авторське право, якщо він відповідає іншим законам.

Позаду кривої

У грудні 2021 року Комісія з законодавства Великої Британії пропонувала розширити закони про ненависть, щоб охопити секс-ворожнечу, але не пропонувала включення глибоко підроблених зображень до цієї категорії, незважаючи на численні приклади такого використання по всьому світу (особливо в Індії) цієї технології проти жінок-політиків та жінок-активісток. Жінки є переважно цілями незаконного глибоко підробленого контенту, незалежно від того, чи є мотиви фейкерів відкрито соціальними (тобто наміром принижувати, знімати з платформи та позбавляти влади) чи просто прурієнтними (тобто порнографічними) за своєю суттю.

У березні 2021 року Національний реєстр законодавства в Іллінойсі критикував законодавчу базу Великої Британії як “повністю недостатню на даний момент для боротьби з глибоко підробленими зображеннями”, і навіть не маючи базових юридичних механізмів, які захищають подобу людини.

Закони про глибоко підроблені зображення в Сполучених Штатах

Натомість Сполучені Штати до певної міри захищають “Право на публічність” своїх громадян, хоча не на федеральному рівні (на даний момент такі статути існують в приблизно половині штатів США, з різними юридичними механізмами).

Хоча це покращення порівняно з законодавством Великої Британії щодо глибоко підроблених зображень, Сполучені Штати можуть похвалитися лише спорадичним, штатним покриттям, і, здається, вирішили адресувати потенційну маніпуляцію політикою цієї технології до того, як звернутися до її впливу на приватних осіб.

У 2019 році штат Техас законом заборонив створення або поширення політичних глибоко підроблених зображень, із Законом Сенату Техасу 751 (SB751), без жодної заяви про глибоко підроблені порнографічні зображення. Того ж року штат Вірджинія додав поправку до існуючого закону щодо Незаконного поширення або продажу зображень іншої людини, додавши широко охоплюючу термінологію ‘фальшиво створене відео- або статичне зображення’.

У 2020 році штат Каліфорнія прийняв Законодавчий акт Каліфорнії 602 (AB 602), який забороняє створення або поширення порнографічних глибоко підроблених зображень. Закон не має строку дії, але має трирічний термін давності, і супроводжується окремим пунктом, який стосується політичних глибоко підроблених зображень.

У кінці 2020 року штат Нью-Йорк прийняв сенатський білль S5959D, який не тільки забороняє створення та/або перепублікацію порнографічних глибоко підроблених зображень, але також активно захищає право користувача на публічність щодо комп’ютерно згенерованої подоби через глибоко підроблені зображення, CGI чи будь-якими іншими засобами, навіть після смерті (якщо людина, про яку йде мова, була жителем Нью-Йорка на момент її смерті).

Нарешті, штат Меріленд змінив свої закони щодо дитячої порнографії, щоб охопити та криміналізувати використання глибоко підроблених зображень, хоча не адресує вплив глибоко підроблених зображень на дорослих цілей.

Чекаючи на ‘DeepfakeGate’

Історія показує, що шкода, яку можуть заподіяти нові технології, повинна стати особистою для нації, щоб прискорити законодавчу реакцію. Дуже недавнє самогубство молодої дівчини в Єгипті, яка, як повідомляється, була шантажована глибоко підробленими порнографічними зображеннями herself, отримало обмежену висвітлення в західних ЗМІ*, тоді як розкриття інформації про крадіжку 35 мільйонів доларів в Об’єднаних Арабських Еміратах, яка стала відомою в 2021 році, також представляє “віддалену подію”, яка не скоро прискорить сенат або розгорить вогонь під 45 іншими штатами, які ще не прийняли законодавство щодо глибоко підроблених зображень.

Якщо Сполучені Штати приймуть більш єдиний фронт щодо зловживання технологією глибоко підроблених зображень, широке законодавство, ймовірно, вплине на аспект управління телекомунікаціями та інфраструктури даних та зберігання, що призведе до швидких змін політики, впроваджених у бізнес-партнерів по всьому світу. Той факт, що прийняття ЄС GDPR не призвело до переходу на політику збору та зберігання даних у Північній Америці, не означає, що ЄС не міг би отримати вплив на менш відповідні країни, з якими він торгує – якщо тільки він колись займе більш прив’язаний законодавчий стан щодо генерації, зберігання та зберігання глибоко підроблених порнографічних зображень.

Але щось має статися на “землі нуля” спочатку, в одній з цих провідних груп країн; і ми все ще чекаємо на це: колосальний обсяг CSAM, вилучений владою; велика крадіжка, здійснена за допомогою аудіо- та/або відео-глибоко підроблених технологій, щоб обманути американського директора компанії та неправильно спрямувати велику суму грошей; або американський аналог зростаючого використання глибоко підроблених зображень для жертвування жінок у більш патріархальних країнах (якщо, власне, американська культура справді оснащена для дзеркального відображення цих подій, що сумнівно). Це важкі речі, які бажані, і хороші речі, яких варто уникнути будь-яким іншим методом, ніж приховування голови в піску або очікування “вогненного” події.

Одна центральна проблема, яку ЄС зараз оминає, спрямовуючи свою законодавчу могутність на рекламні компанії, які хочуть просувати свої розумні та законні глибоко підроблені зображення, полягає в тому, що глибоко підроблені зображення залишаються важкими для виявлення алгоритмічно; більшість методів виявлення, які з’являються на arXiv щомісяця, залежать від водяних знаків, блокчейн-верифікації або певним чином зміни всієї інфраструктури, яку ми зараз використовуємо для вільного споживання відео – рішення, які припускають радикальну законодавчу ревізію поняття відео як проксі для “правди”. Решта регулярно випереджуються триваючими досягненнями в популярних відкритих джерелах глибоко підроблених зображень.

Інша проблема полягає в тому, що великі західні країни цілком праві, в одному сенсі, не реагувати інстинктивно на одну проблематичну нитку в ряді нових технологій штучного інтелекту, багато з яких обіцяють величезну користь суспільству та промисловості, і багато з яких могли б бути негативно вплинуті якимось чином, якщо поспішне заборонення та регулювання систем синтезу зображень мали б розпочатися серйозно, у відповідь на велику подію, і на наступний після цього крик.

Однак, можливо, було б хорошою ідеєю прискорити повільну та іноді безцільну прогулянку, яку ми робимо до регулювання глибоко підроблених зображень, і зустріти потенційні проблеми на середній землі, і на наших власних умовах, замість того, щоб бути змушеними пізніше подіями до менш розглянутої реакції.

* Аллеговані злочинці звинувачуються в шантажі; немає єгипетського закону, який стосується глибоко підроблених порнографічних зображень.

Вперше опубліковано 24 січня 2022 року.