Europejskie i brytyjskie propozycje regulacji deepfake są zaskakująco ograniczone

Analiza Dla osób, które liczą, że 2022 rok może być rokiem, w którym deepfake’owe obrazy zostaną objęte surowszymi przepisami prawnymi, wczesne wskaźniki są nieobiecujące.

W zeszłym czwartku Parlament Europejski ratyfikował poprawki do Aktu Usług Cyfrowych (DSA, który ma wejść w życie w 2023 roku), w odniesieniu do rozpowszechniania deepfake’ów. Modyfikacje dotyczą deepfake’ów w dwóch sekcjach, każdej bezpośrednio związanej z reklamą online: poprawka 1709 dotycząca artykułu 30, oraz powiązana poprawka do artykułu 63.

Pierwsza proponuje całkowicie nowy artykuł 30a, zatytułowany Deep fakes, który brzmi:

‘Jeśli bardzo duża platforma online dowiaduje się, że dany treść jest wygenerowanym lub zmodyfikowanym obrazem, dźwiękiem lub filmem, który wygląda na autentyczny lub prawdziwy (deep fake), dostawca powinien oznaczyć ten treść w sposób, który informuje, że treść jest nieautentyczna i jest wyraźnie widoczna dla odbiorcy usług.’

Druga dodaje tekst do istniejącego artykułu 63, który sam w sobie dotyczy głównie zwiększania przejrzystości dużych platform reklamowych. Istotny tekst brzmi:

‘Ponadto, bardzo duże platformy online powinny oznaczyć wszystkie znane deep fake filmy, dźwięki lub inne pliki.’

Skutecznie, legislacja wydaje się przygotowywać do rosnącej praktyki “legalnych deepfake’ów”, gdzie uzyskano pozwolenie i zabezpieczono prawa do zamiany twarzy w materiałach promocyjnych lub reklamowych – takich jak wykorzystanie przez rosyjskiego operatora telekomunikacyjnego Telefon licencjonowanego wykorzystania tożsamości Bruce’a Willisa w kampanii reklamowej.

Wahanie się przed ustawodawstwem

DSA, jak dotąd, nie wydaje się adresować obaw kampanii dotyczących wykorzystania technik deepfake, takich jak są najczęściej używane – do ponownego obsadzenia filmów pornograficznych. Nie adresuje również zakresu, jeśli jest taki, do jakiego wykorzystanie deepfake’ów w filmach i telewizji będzie musiało być ujawnione widzom w ten sam sposób, jak deepfake’ów w reklamie, przynajmniej w UE, od 2023 roku.

Proces ratyfikacji DSA przechodzi teraz do negocjacji z państwami członkowskimi UE, wraz z szerszym zakresem Aktu o Rynkach Cyfrowych (DMA).

Raport Europolu z grudnia 2020 r. stwierdził, że byłoby to błąd, gdyby UE zajmowała się konkretnymi bieżącymi technologiami deepfake (takimi jak DeepFaceLive), co mogłoby doprowadzić do tego, że prawo UE będzie stale doganiało najnowsze ramy lub metody.

Raport stwierdził:

‘W szczególności, te polityki powinny być technologicznie neutralne, aby być skuteczne w długiej perspektywie i uniknąć konieczności przeglądania i zastępowania ich regularnie, gdy technologia tworzenia i nadużywania deepfake’ów ewoluuje. ‘

‘Jednak takie środki powinny również unikać utrudniania pozytywnych zastosowań GAN.’

Końcowy komentarz w cytacie powyżej, dotyczący Sieci Przeciwstawnych Generatywnych (GAN), ogólnie charakteryzuje europejską i północnoamerykańską wahanie się przed zastosowaniem praw, które mogłyby sparaliżować wschodzący sektor badań AI, który jest już postrzegany jako spadający za Azją (która ma bardziej dydaktyczne narody, które były w stanie przyspieszyć legislację dotyczącą deepfake’ów).

Na przykład, raport z 2018 r. z Komitetu ds. Sztucznej Inteligencji w Izbie Lordów podkreśla kilkakrotnie ryzyko, jakie niesie ze sobą pozwolenie na nieśmiałość w rozwoju AI w kraju, co jest uosabiane w jego tytule: AI w Wielkiej Brytanii: gotowi, chętni i zdolni?. W zeszłym kwietniu Wielka Brytania była również pierwszym krajem, który zaakceptował wdrożenie samochodów bezzałogowych na autostradach.

Ameryka nie jest mniej zainteresowana; w Stanach Zjednoczonych, Instytut Brookings naciska na potrzebę zwiększenia legislacji dotyczącej AI w Stanach Zjednoczonych, krytykując ustawodawców za ich postawę “czekaj i zobacz” wobec skutków technologii machine learning.

Oprócz niezdecydowanego podejścia DSA do rozwiązywania problemów społecznych (a nie politycznych) związanych z deepfake’ami, proponowany przez UE ramowy akt regulacyjny dla AI, opublikowany w kwietniu 2021 r., został skrytykowany za unikanie tego tematu.

Ograniczona regulacja deepfake w Wielkiej Brytanii

Jako dodatkowa rozczarowanie dla kampanii przeciwko deepfake’om, takich jak autorka Helen Mort, która aktywnie kampaniowała na rzecz nowych brytyjskich przepisów w 2021 r. po tym, jak została niezgodnie przedstawiona w pornograficznych filmach deepfake, raport opublikowany dzisiaj przez Komitet ds. Kultury, Mediów i Sportu krytykuje brytyjski rząd za niezajmowanie się deepfake’ami w projekcie ustawy o bezpieczeństwie online.

Powołując się na projekt ustawy, którego obecne środki prawne przeciwko nadużyciom deepfake są “niejasne i niepraktyczne”, raport zaleca, że proponowana legislacja nie robi nic, aby rozwiązać problem “prawnych, ale szkodliwych” AI-pomagających technik manipulacji wideo i obrazu:

‘[My] zalecamy, aby rząd aktywnie rozwiązał rodzaje treści, które są technicznie legalne, takie jak niecne części sekwencji maltretowania dzieci, takie jak breadcrumbing i rodzaje przemocy online wobec kobiet i dziewcząt, takie jak technologicznie umożliwione “nudifying” kobiet i deepfake pornografii, poprzez wprowadzenie ich do zakresu albo przez ustawodawstwo podstawowe, albo jako rodzaje szkodliwej treści objętej obowiązkami opieki.’

Obecnie stosowane prawo w Wielkiej Brytanii jest ograniczone do rozpowszechniania “rzeczywistych” obrazów, takich jak przypadki zemsty pornograficznej, gdzie na przykład poufne i prywatne materiały eksploatacyjne są publicznie udostępniane przez byłego partnera. Jeśli prześladowca dokonuje i upublicznia materiały deepfake, które nakładają tożsamość ofiary na treści pornograficzne, może być on ścigany tylko wtedy, gdy bezpośrednio nęka ofiarę, kierując materiały na nią, lub na mocy ustawodawstwa związanego z prawem autorskim.

W pierwszym przypadku, łatwość, z jaką nowe treści deepfake zbierają popularność i widzów, niemal zawsze oznacza, że ofiara zostanie poinformowana przez zatroskanych przyjaciół lub niezwiązanych osób trzecich, a nie przez osobę, która stworzyła deepfake, co pozwala na to, że wirusowość takich materiałów chroni deepfaka, którego praca wciąż “dochodzi do celu”.

W drugim przypadku, ściganie byłoby prawdopodobnie możliwe tylko wtedy, gdy niezmodyfikowany film pornograficzny (do którego tożsamość ofiary jest później nakładana) jest profesjonalnie wyprodukowany i legalnie chroniony przez brytyjskie prawo autorskie (nawet jeśli odpowiedni film może być pozyskany swobodnie z jakiejkolwiek legalnej jurysdykcji na świecie). “Amatorski” film z jakiejkolwiek jurysdykcji nie ma wyraźnego statusu prawnego, a film na zamówienie, który deepfaker nakręcił specjalnie w celu nałożenia ofiary, jest (ironicznie) chroniony prawem autorskim, o ile spełnia inne prawa.

Za kursem

W grudniu 2021 r. brytyjska Komisja Prawna zaproponowała rozszerzenie prawodawstwa o nienawiść, aby objąć nim wrogość ze względu na płeć, ale nie zaproponowała włączenia deepfake’ów do tej kategorii, pomimo wielu przykładów wykorzystania tej technologii na świecie (szczególnie w Indiach) przeciwko kobietom politykom i aktywistkom. Kobiety są przeważnie celem nielegalnych treści deepfake, niezależnie od tego, czy motywy fałszerzy są jawne (tj. z zamiarem upokorzenia, wyłączenia i pozbawienia władzy) czy po prostu lubieżne (tj. pornograficzne) natury.

W marcu 2021 r. Illinois-based National Law Review skrytykował brytyjski system prawny jako “całkowicie niewystarczający” do radzenia sobie z deepfake’ami i nawet pozbawiony podstawowych mechanizmów prawnych, które chronią podobieństwo osoby.

Prawo dotyczące deepfake w Stanach Zjednoczonych

W przeciwieństwie do tego, Stany Zjednoczone chronią w pewnym stopniu “prawo do publiczności”, chociaż nie na poziomie federalnym (obecnie takie statuty istnieją w około połowie stanów USA, z dzikimi wahaniach mechanizmów prawnych).

Chociaż jest to poprawa w stosunku do brytyjskiego podejścia do legislacji dotyczącej deepfake’ów, Stany Zjednoczone mogą pochwalić się jedynie sporadycznym, stanowym zasięgiem i wydają się zdecydowane, aby rozwiązać potencjalne manipulacje polityczne tej technologii, zanim zajmą się jej wpływem na osoby prywatne.

W 2019 r. stan Teksas zakazał tworzenia lub rozpowszechniania politycznych deepfake’ów, przy użyciu Senate Bill 751 (SB751), pomijając jakiekolwiek oświadczenie dotyczące deepfake pornografii. W tym samym roku stan Virginia dodał poprawkę do istniejącego prawa dotyczącego nielegalnego rozpowszechniania lub sprzedaży obrazów innej osoby, dołączając szeroko obejmujący termin ‘fałszywie stworzony wideo lub obraz’.

W 2020 r. stan Kalifornia uchwalił California Assembly Bill 602 (AB 602), który zabrania tworzenia lub rozpowszechniania pornograficznych deepfake’ów. Bill nie ma klauzuli wygaśnięcia, ale ma okres przedawnienia trzech lat i jest acompañany przez odrębną klauzulę dotyczącą politycznych deepfake’ów.

Na koniec 2020 r. stan Nowy Jork przyjął senacki bill S5959D, który nie tylko zabrania tworzenia i ponownego publikowania pornograficznych deepfake’ów, ale aktywnie chroni prawo użytkownika do publiczności w odniesieniu do komputerowo wygenerowanego podobieństwa za pomocą deepfake’ów, CGI lub jakichkolwiek innych środków, nawet po śmierci (jeśli osoba, o której mowa, była mieszkańcem Nowego Jorku w momencie śmierci).

Wreszcie, stan Maryland zmienił swoje prawo dotyczące pornografii dziecięcej, aby objąć i ukarać za używanie deepfake’ów, nie rozwiązując jednak wpływu deepfake’ów na dorosłe ofiary.

Czekając na “DeepfakeGate”

Historia wskazuje, że szkody, jakie nowe technologie mogą spowodować, muszą stać się osobiste dla narodu, aby przyspieszyć jego odpowiedź ustawodawczą. Bardzo niedawne zgony nastolatki w Egipcie, która rzekomo była szantażowana deepfake’ową pornografią, otrzymały ograniczoną uwagę w zachodnich mediach*, podczas gdy ujawnienia o kradzieży 35 milionów dolarów w Zjednoczonych Emiratach Arabskich, które ujawniły się w 2021 r., reprezentują “odległe wydarzenie”, które nie jest prawdopodobne, aby przyspieszyć senat lub rozniecić ogień pod 45 pozostałymi stanami, które jeszcze nie uchwaliły legislacji dotyczącej deepfake’ów.

Jeśli Stany Zjednoczone przyjmą bardziej zjednoczone stanowisko w sprawie nadużywania technologii deepfake, powszechna legislacja prawdopodobnie wpłynie na aspekt rządowy telekomunikacji i infrastruktury danych oraz magazynowania, prowadząc do szybkich zmian politycznych narzuconych partnerom biznesowym na całym świecie. Fakt, że przyjęcie przez Europę RODO nie doprowadziło ostatecznie do “przekroczenia” polityki gromadzenia i przechowywania danych w Ameryce Północnej, nie oznacza, że UE nie mogłaby również uzyskać przewagi nad mniej zgodnymi narodami, z którymi handluje – gdyby kiedykolwiek zajęła się bardziej zdecydowanym stanowiskiem legislacyjnym w sprawie generowania, przechowywania i retencji deepfake pornografii.

Ale coś musi się wydarzyć na “gruntownym” poziomie najpierw, w jednej z tych wiodących grup krajów; i nadal czekamy na to: ogromny połów CSAM przez władze; duży skok wykorzystujący audio i / lub wideo deepfake, aby oszukać amerykańskiego dyrektora firmy w celu przekierowania dużej kwoty pieniędzy; lub amerykański odpowiednik rosnącego wykorzystania deepfake do krzywdzenia kobiet w bardziej patriarchalnych krajach (jeśli amerykańska kultura jest naprawdę przystosowana do odbicia tych wydarzeń, co jest wątpliwe). Są to trudne rzeczy do życzenia i dobre rzeczy do uniknięcia każdym innym sposobem niż wkopanie głowy w piasek lub oczekiwanie na “zapalny” wydarzenie.

Jeden z centralnych problemów, który UE obecnie omija, kierując swoje możliwości legislacyjne na firmy reklamowe, które chcą promować swoje inteligentne i legalne deepfake, polega na tym, że deepfake są trudne do wykrycia algorytmicznie; większość dostępnych metod wykrywania, które pojawiają się co miesiąc w arXiv, opiera się na znakowaniu wodnym, weryfikacji opartej na blockchainie lub w jakiś sposób zmieniającej całą infrastrukturę, którą obecnie używamy do swobodnego konsumpcji wideo – rozwiązania, które sugerują radykalną rewizję pojęcia wideo jako proxy dla “prawdy”. Reszta jest rutynowo wyprzedzana przez ciągłe postępy w popularnych repozytoriach open source deepfake.

Kolejnym problemem jest to, że główne zachodnie narody mają rację w pewnym sensie, nie reagując impulsywnie na jeden problematyczny wątek w wielu nowych technologiach AI, wiele z których obiecuje ogromne korzyści dla społeczeństwa i przemysłu, i wiele z których mogłoby być negatywnie dotkniętych w jakiś sposób, gdyby rozpoczęto gorączkową prohibicję i regulację systemów syntezy obrazu w odpowiedzi na duże wydarzenie i następujący po nim krzyk.

Jednak mogłoby być dobrą ideą, aby przynajmniej przyspieszyć powolny i czasem bezcelowy spacer, który robimy w kierunku regulacji deepfake’ów, i spotkać się z potencjalnymi problemami w połowie drogi, i na naszych własnych warunkach, zamiast być zmuszonym do mniej przemyślanej odpowiedzi przez późniejsze wydarzenia.

* Osoby podejrzane są oskarżone o szantaż; nie ma egipskiego prawa dotyczącego deepfake pornografii.

Pierwotnie opublikowane 24 stycznia 2022 r.