Європейські та британські пропозиції щодо регулювання глибоких підробок є дивно обмеженими

Аналіз Для тих, хто сподівається, що 2022 рік стане роком, коли глибоко підроблені зображення потраплять під суворіше законодавче регулювання, ранні індикатори непромішливі.

Минулий четвер Європарламент ратифікував поправки до Закону про цифрові послуги (DSA, який має вступити в силу в 2023 році), щодо поширення глибоких підробок. Поправки торкаються глибоких підробок у двох розділах, кожний з яких безпосередньо пов’язаний з онлайн-рекламою: поправка 1709 щодо статті 30 та пов’язана поправка до статті 63.

Перша пропонує зовсім нову статтю 30а, названу Глибокі підробки, яка говорить:

‘Якщо велика онлайн-платформа дізнається, що певний контент є згенерованим або відредагованим зображенням, аудіо- або відеоконтентом, який схожий на існуючі особи, об’єкти, місця чи інші сутності чи події та видається особі як автентичний або правдивий (глибокі підробки), постачальник повинен позначити контент таким чином, щоб інформувати, що контент є неавтентичним і що це явно видно для одержувача послуги.’

Друга додає текст до існуючої статті 63, яка в основному займається збільшенням прозорості великих рекламних платформ. Пертинентний текст говорить:

‘Крім того, великі онлайн-платформи повинні позначати будь-які відомі відео-, аудіо- чи інші файли глибоких підробок.’

Відповідно, законодавство, здається, готується до зростаючої практики “легітимних глибоких підробок”, де дозвіл було надано і права були забезпечені для заміни обличчя в промоціонному або рекламному матеріалі – наприклад, ліцензоване використання російською телекомунікаційною компанією Telefon особистості Брюса Вілліса в недавній рекламній кампанії.

Вагання щодо законодавства

DSA, таким чином, поки що не parece звертатися до проблем кампаній щодо використання техніки глибоких підробок, як вони найчастіше використовуються – для переозвучування порнографічних відео. Також він не звертається до ступеня, якщо такий є, до якого використання глибоких підробок у фільмах і телебаченні потребуватиме роз’яснення для глядачів так само, як глибокі підробки в рекламі будуть, принаймні в ЄС, з 2023 року.

Процес ратифікації DSA тепер переходить до переговорів з державами-членами ЄС, разом з більш широким обсягом Закону про цифрові ринки (DMA).

Звіт Європоліції за грудень 2020 року report Малiciousні використання та зловживання штучним інтелектом стверджував, що це буде помилкою для ЄС звернутися до конкретних поточних технологій глибоких підробок (таких як DeepFaceLive), що може привести до того, що законодавство ЄС буде постійно гнатися за останньою рамкою або методом.

Звіт сказав:

‘Зокрема, ці політики повинні бути технологічно-агностичними, щоб бути ефективними в довгостроковій перспективі та уникнути необхідності перегляду та заміни їх на регулярній основі, оскільки технологія створення та зловживання глибокими підробками розвивається. ‘

‘Відповідно, такі заходи також повинні уникати перешкоджання позитивним застосуванням GANs.’

Висновок у цитаті вище, щодо Генеративних суперницьких мереж (GANs) загалом характеризує європейську та північноамериканську вагання щодо застосування законів, які можуть поставити під загрозу появляючийся сектор штучного інтелекту, який вже вважається відсталим від Азії (чиї більш дидактичні країни змогли швидко просунути законодавство щодо глибоких підробок).

Наприклад, звіт 2018 року report від Комітету з штучного інтелекту Палати лордів підкреслює кілька разів ризик дозволити тимідності утримувати розвиток штучного інтелекту в країні, як це видно в його назві: Штучний інтелект у Великій Британії: готові, бажаючі та здатні?. У квітні минулого року Британія також стала першою країною, яка дозволила розгортання безпілотних автомобілів на автомагістралях.

Америка не менш ревна; у США Інститут Брукінгса наголосив необхідність збільшення законодавства щодо штучного інтелекту в США, критикуючи законодавців за їхню позицію “чекати та дивитися” щодо наслідків технологій машинного навчання

Крім безсилої позиції DSA щодо соціальних (а не політичних) проблем навколо глибоких підробок, запропонований ЄС регуляторний.framework для штучного інтелекту, опублікований у квітні 2021 року, піддався критиці за свою власну ухилення від цієї теми.

Маленьке регулювання глибоких підробок у Великій Британії

Як додаткова розчарування для кампаній проти глибоких підробок, таких як автор Гелен Морт, яка активно виступала за нове законодавство Великій Британії в 2021 році після того, як вона була зображена без її згоди в порнографічних відео глибоких підробок, звіт, опублікований сьогодні Комітетом з цифрової культури, медіа та спорту Парламенту Великій Британії, критикує уряд Великій Британії за невиконання вимог щодо глибоких підробок у Проєкті закону про онлайн-безпеку.

Посилаючись на проєкт закону, який зараз має невиразне та непрактичне законодавче вирішення щодо зловживання глибокими підробками, звіт report пропонує, що запропоноване законодавство нічого не робить для вирішення “легального, але шкідливого” статусу техніки маніпуляції зображень та відео з допомогою штучного інтелекту:

‘[Ми] рекомендуємо, щоб уряд активно звертався до типів контенту, які є технічно законними, таких як хитрі частини послідовностей дитячої порнографії, як хлібні крихти та типи онлайн-жорстокості щодо жінок та дівчат, як технічно можливе “оголення” жінок та глибокі підробки порнографії, шляхом включення їх до законодавства або як типів шкідливого контенту, охоплюваного обов’язками піклування.’

Поточне законодавство Великій Британії обмежується поширенням “реальних” зображень, таких як випадки помсти-порнографії, коли, наприклад, конфіденційні та приватні явні матеріали публікуються колишнім партнером. Якщо переслідувач здійснює та поширює глибоко підроблений матеріал, який накладає особистість його “цілі” на порнографічний контент, його можна переслідувати лише якщо він безпосередньо знущається над ціллю, спрямовуючи матеріал на них, або згідно з законодавством, пов’язаним з авторським правом.

У першому випадку легкість, з якою новий глибоко підроблений контент збирає популярність та глядачів, майже напевно означає, що жертва дізнається про це від стурбованих друзів чи не пов’язаних третіх осіб, а не від особи, яка створила глибоку підробку, що дозволяє вірусності такого матеріалу захистити глибоко підробника, чия робота все одно “досягає цілі”.

У другому випадку переслідування було б можливим лише у разі, якщо недоторканий відеоролик третьої особи (у який пізніше накладається особистість жертви) був професійно створений та законно захищений згідно з законодавством про авторське право Великій Британії (хоча підходящий відеоролик можна отримати з будь-якої законної юрисдикції світу). “Аматорський” відеоролик з будь-якої юрисдикції не має явного статусу авторського права, а спеціально створений відеоролик, який глибоко підробник знімав спеціально для накладення особистості жертви, (іронічно) сам захищений законом про авторське право, якщо він відповідає іншим законам.

Позаду кривої

У грудні 2021 року Комісія з законодавства Великій Британії пропонувала розширити закони про ненависть, щоб охопити сексуальну ворожість, але не пропонувала включення глибоких підробок до цієї категорії, незважаючи на численні приклади такого використання по всьому світу (особливо в Індію) цієї технології проти жінок-політиків та жінок-активісток. Жінки переважно стають цілями незаконного контенту глибоких підробок, незалежно від того, чи є мотиви підробників відкрито соціальними (тобто наміром принижувати, знімати з платформи та позбавляти влади) чи просто прурієнтними (тобто порнографічними) за своєю суттю.

У березні 2021 року Національний юридичний огляд у Іллінойсі критикував юридичну базу Великій Британії як “цілком недостатню на даний момент для боротьби з глибокими підробками” і навіть не мали базових юридичних механізмів, які захищали б подобу людини.

Закони про глибокі підробки у США

Натомість Сполучені Штати частково захищають право своїх громадян на “право публічності”, хоча не на федеральному рівні (на даний момент такі статути існують у приблизно половині штатів США, з різними юридичними механізмами).

Хоча це покращення порівняно з законодавством Великій Британії щодо глибоких підробок, США можуть похвалитися лише спорадичним, штатним покриттям і, здається, вирішують технологічну можливість політичної маніпуляції до того, як вони звернуться до її впливу на приватних осіб.

У 2019 році штат Техас законом заборонив створення або поширення політичних глибоких підробок, з Біллем Техасу Сенату 751 (SB751), без будь-якої заяви про глибоко підроблені порнографічні матеріали. У тому ж році штат Вірджинія додав поправку до існуючого закону щодо незаконного поширення або продажу зображень іншої особи, додавши термін ‘фальшиво створене відео- або зображення’.

У 2020 році штат Каліфорнія прийняв Законопроєкт Каліфорнійської асамблеї 602 (AB 602), який забороняє генерацію або поширення порнографічних глибоких підробок. Закон не має строку дії, але має трирічний термін давності та супроводжується окремим пунктом щодо політичних глибоких підробок.

У кінці 2020 року штат Нью-Йорк прийняв сенатський білль S5959D, який не тільки забороняє створення та republication порнографічних глибоких підробок, але також активно захищає право користувача на публічність щодо комп’ютерно згенерованої подоби через глибокі підробки, CGI або будь-якими іншими засобами, навіть після смерті (якщо особа, про яку йдеться, була жителем Нью-Йорка на момент її смерті).

Нарешті, штат Меріленд змінив свої закони щодо дитячої порнографії, щоб охопити та криміналізувати використання глибоких підробок, хоча й не звертається до впливу глибоких підробок на дорослих цілей.

Чекаючи на “Глибокі підробки”

Історія свідчить, що шкода, яку можуть завдати нові технології, повинна стати особистою для нації, щоб прискорити законодавчу реакцію. Недавня смерть молодої дівчини в Єгипті, яку, як кажуть, шантажували глибоко підробленими порнографічними зображеннями, отримала обмежену увагу в західних ЗМІ*, тоді як розголошення про крадіжку 35 мільйонів доларів у Об’єднаних Арабських Еміратах, яке сталося в 2021 році, також представляє “віддалену подію”, яка не скоро прискорить сенат або не запалив вогонь під 45 штатами, які ще не прийняли законодавство щодо глибоких підробок.

Якщо США приймуть більш єдиний фронт щодо зловживання технологією глибоких підробок, широке законодавство, ймовірно, вплине на аспект управління телекомунікаціями та інфраструктури даних та зберігання, що призведе до швидких змін політики, нав’язаних їхнім бізнес-партнерам по всьому світу. Те, що прийняття ЄС Генеральної директиви про захист даних не перейшло до політики збору та зберігання даних у Північній Америці, не означає, що ЄС не міг би отримати вплив над менш відповідними країнами, з якими він торгує – якщо він коли-небудь займе більш рішучу законодавчу позицію щодо генерації, зберігання та розповсюдження глибоких підробок порнографії.

Але щось має статися на “майданчику” спочатку, в одній з цих провідних груп країн; і ми все ще чекаємо на це: колосальний обмін CSAM владою; великий обман, який використовує аудіо- та відеотехнології глибоких підробок, щоб обманути американського директора компанії та змусити його неправильно спрямувати велику кількість грошей; або американський аналог зростаючого використання глибоких підробок для жертвування жінок у більш патріархальних країнах (якщо американська культура дійсно здатна віддзеркалити ці події, що сумнівно). Це важкі речі, які бажати, і хороші речі, яких слід уникати будь-яким іншим способом, ніж заглиблення в пісок або очікування “випаленої” події.

Одна з центральних проблем, яку ЄС зараз обходить, спрямовуючи свою законодавчу могутність на рекламні компанії, які хочуть просувати свої розумні та законні глибокі підробки, полягає в тому, що глибокі підробки залишаються важкими для виявлення алгоритмічно; більшість методів виявлення, які з’являються на arXiv щомісяця, залежать від водяних знаків, блокчейн-верифікації або певним чином зміни всієї інфраструктури, яку ми зараз використовуємо для вільного споживання відео – рішення, які передбачають радикальну правову ревізію поняття відео як заміни “правди”. Решта регулярно випереджаються триваючими досягненнями у популярних відкритих джерелах глибоких підробок.

Інша проблема полягає в тому, що великі західні країни цілком правильно не реагують імпульсивно на одну проблемну нитку в ряді нових технологій штучного інтелекту, багато з яких обіцяють величезну користь суспільству та промисловості, і багато з яких могли б бути негативно вплинуті якимись способами, якщо почалося суворе регулювання систем синтезу зображень у відповідь на велику подію та подальший публічний резонанс.

Однак це може бути хорошою ідеєю прискорити наш повільний і іноді безцільний крок до регулювання глибоких підробок, і зустріти потенційні проблеми на середній дистанції, і на наших умовах, а не бути змушеними пізніше подіями до менш обдуманої реакції.

* Звинувачені звинувачуються у шантажі; немає єгипетського законодавства щодо глибоких підробок порнографії.

Перша публікація 24 січня 2022 року.