Uwikalona definicja “Deepfake”

Przekonujące nowe badanie z Niemiec krytykuje definicję terminu “deepfake” w prawie UE o sztucznej inteligencji jako zbyt ogólną, szczególnie w kontekście manipulacji cyfrowych obrazów. Autorzy twierdzą, że nacisk ustawy na treści przypominające prawdziwe osoby lub wydarzenia, a jednocześnie potencjalnie wyglądające na fałszywe, brakuje wyjaśnienia.

Podkreślają również, że wyjątki ustawy od “standardowego edytowania” (tj. rzekomo nieznacznych modyfikacji obrazów z użyciem sztucznej inteligencji) nie uwzględniają zarówno powszechnego wpływu sztucznej inteligencji na aplikacje konsumenckie, jak i subiektywnego charakteru konwencji artystycznych, które poprzedzają pojawienie się sztucznej inteligencji.

Niedokładne ustawodawstwo w tych kwestiach daje początek dwóm głównym ryzykom: “efektowi ochładzającemu”, gdzie szeroki zakres interpretacyjny prawa hamuje innowacje i przyjęcie nowych systemów; oraz “efektowi łamania prawa”, gdzie prawo jest ignorowane jako zbyt daleko idące lub nieistotne.

W obu przypadkach niejasne prawa skutecznie przenoszą odpowiedzialność za ustalenie praktycznych definicji prawnych na przyszłe orzeczenia sądowe – ostrożne i niechętne podejście do ustawodawstwa.

Technologie manipulacji obrazu oparte na sztucznej inteligencji pozostają zauważalnie przed legislacją, wydaje się. Na przykład, jeden godny uwagi przykład rosnącej elastyczności pojęcia “automatycznego” przetwarzania obrazu, obserwuje się w funkcji “Scene Optimizer” w niedawnych kamerach Samsunga, która może zastąpić zdjęcia księżyca (trudny temat), z obrazem “uzupełnionym” przy użyciu sztucznej inteligencji:

Top left, an example from the new paper of a real user-taken image of the moon, to the left of a Samsung-enhanced version automatically created with Scene Optimizer; Right, Samsung’s official illustration of the process behind this; lower left, examples from the Reddit user u/ibreakphotos, showing (left) a deliberately blurred image of the moon and (right), Samsung’s re-imagining of this image – even though the source photo was a picture of a monitor, and not the real moon. Sources (clockwise from top-left): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

W dolnej lewej części powyższego obrazu widzimy dwa obrazy księżyca. Ten po lewej to zdjęcie zrobione przez użytkownika Reddita. Tutaj obraz został celowo rozmyty i zmniejszony przez użytkownika.

Obok widzimy zdjęcie tego samego zdegradowanego obrazu zrobionego aparatem Samsunga z włączoną sztuczną inteligencją. Aparat automatycznie “uzupełnił” rozpoznany obiekt “księżyc”, nawet jeśli nie był to prawdziwy księżyc.

Artykuł krytykuje funkcję “Best Take” włączoną w niedawne smartfony Google – kontrowersyjną funkcję sztucznej inteligencji, która edytuje najlepsze części zdjęcia grupowego, skanując wiele sekund sekwencji fotograficznej, tak aby uśmiechy były przesunięte do przodu lub do tyłu w czasie, jeśli to konieczne – i nikt nie jest pokazany w środku mrugania.

Artykuł twierdzi, że tego rodzaju kompozytowy proces ma potencjał, aby zniekształcić wydarzenia:

‘[W] typowym ustawieniu zdjęcia grupowego, przeciętny widz prawdopodobnie nadal uznałby wynikowe zdjęcie za autentyczne. Uśmiech, który został wstawiony, istniał w ciągu kilku sekund od pozostałej części zdjęcia.

‘Z drugiej strony, dziesięciosekundowy czas trwania funkcji “Best Take” jest wystarczający do zmiany nastroju. Osoba mogła przestać się uśmiechać, podczas gdy reszta grupy śmieje się z żartu na jej koszt.

‘W związku z tym zakładamy, że takie zdjęcie grupowe może stanowić deepfake.’

Nowy artykuł tutaj nosi tytuł Czym jest deepfake? Niejasna granica między uzasadnionym przetwarzaniem a manipulacją w ramach prawa UE o sztucznej inteligencji, i pochodzi od dwóch badaczy z Computational Law Lab na Uniwersytecie w Tybindze i Saarland University.

Stare sztuczki

Manipulowanie czasem w fotografii jest o wiele starsze niż konsumencka sztuczna inteligencja. Autorzy nowego artykułu zauważają istnienie starszych technik, które mogą być uznane za “nieautentyczne”, takich jak łączenie wielu sekwencyjnych obrazów w zdjęcie High Dynamic Range (HDR) lub ‘uszczelnione’ panoramiczne zdjęcie.

Rzeczywiście, niektóre z najstarszych i najzabawniejszych fałszywych zdjęć były tradycyjnie tworzone przez uczniów biegnących z jednego końca szkoły do drugiego, przed trajektorią specjalnych kamer panoramicznych, które były kiedyś używane do fotografii sportowej i szkolnej – umożliwiając uczniowi pojawienie się dwa razy na tym samym zdjęciu:

Podczas gdy zachęta do oszukiwania kamer panoramicznych podczas zdjęć grupowych była zbyt wielka, aby ją odpuścić, wielu uczniów było skłonnych ryzykować złe spotkanie w biurze dyrektora, aby “sklonować” siebie na zdjęciach szkolnych. Source: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Chyba że zrobisz zdjęcie w trybie RAW, który podstawowo zrzutuje czujnik soczewki kamery do bardzo dużego pliku bez żadnej interpretacji, Twoje cyfrowe zdjęcia nie są całkowicie autentyczne. Systemy kamery rutynowo stosują “poprawiające” algorytmy, takie jak ostrość obrazu i balans bieli, domyślnie – i robiły to od początku konsumenckiej fotografii cyfrowej.

Autorzy nowego artykułu twierdzą, że nawet te starsze typy cyfrowej augmentacji zdjęć nie reprezentują “rzeczywistości”, ponieważ takie metody są zaprojektowane, aby uczynić zdjęcia bardziej przyjemnymi, a nie bardziej “rzeczywistymi”.

Badanie sugeruje, że prawo UE o sztucznej inteligencji, nawet z późniejszymi poprawkami, takimi jak recitals 123–27, umieszcza wszystkie wyjścia fotograficzne w ramach dowodowego nieodpowiednim do kontekstu, w którym zdjęcia są produkowane dzisiaj, w przeciwieństwie do (nominalnie obiektywnej) natury nagrywania zabezpieczeń lub fotografii sądowej. Większość obrazów objętych prawem UE o sztucznej inteligencji jest bardziej prawdopodobna, aby pochodziła z kontekstów, w których producenci i platformy internetowe aktywnie promują kreatywną interpretację zdjęć, w tym użycie sztucznej inteligencji.

Badacze sugerują, że zdjęcia “nigdy nie były obiektywnym przedstawieniem rzeczywistości”. Uwzględnienia, takie jak położenie kamery, wybrana głębia pola i wybór oświetlenia, wszystkie przyczyniają się do tego, aby zdjęcie było głęboko subiektywne.

Artykuł obserwuje, że rutynowe “czyszczenie” – takie jak usuwanie kurzu z czujnika lub niechcianych linii energetycznych z inaczej dobrze skomponowanego sceny – były tylko połowicznie zautomatyzowane przed pojawieniem się sztucznej inteligencji: użytkownicy musieli ręcznie wybrać obszar lub zainicjować proces, aby osiągnąć pożądany wynik.

Dziś te operacje są często wyzwalane przez tekstowe polecenia użytkownika, szczególnie w narzędziach takich jak Photoshop. Na poziomie konsumenckim takie funkcje są coraz częściej zautomatyzowane bez interwencji użytkownika – wynik, który wydaje się być uważany przez producentów i platformy za “oczywiście pożądany”.

Zdezorientowany sens “Deepfake”

Głównym wyzwaniem dla legislacji dotyczącej obrazów i wideo zmodyfikowanych lub wygenerowanych przy użyciu sztucznej inteligencji jest niejasność terminu “deepfake”, który miał znacznie rozszerzony sens w ciągu ostatnich dwóch lat.

Początkowo terminy odnosiły się tylko do wyjścia wideo z systemów opartych na autoencoderach, takich jak DeepFaceLab i FaceSwap, oba pochodzące z anonimowego kodu opublikowanego na Reddicie pod koniec 2017 roku.

Od 2022 roku, pojawienie się modeli dyfuzyjnych (LDM) takich jak Stable Diffusion i Flux, a także systemów tekst-wideo, takich jak Sora, pozwoliło również na zamianę tożsamości i dostosowanie, przy poprawionej rozdzielczości, elastyczności i wierności. Teraz było możliwe stworzenie modeli dyfuzyjnych, które mogły przedstawiać celebrytów i polityków. Ponieważ termin “deepfake” był już skarbem nagłówków dla producentów mediów, został rozszerzony, aby objąć te systemy.

Później, w mediach i literaturze naukowej, termin ten obejmował również impersonację opartą na tekście. W tym momencie oryginalny sens “deepfake” był już prawie stracony, podczas gdy jego rozszerzony sens był ciągle ewoluujący i coraz bardziej rozmyty.

Ale ponieważ słowo to było tak wybuchowe i galwanizujące, i stało się już potężnym punktem odniesienia politycznym i medialnym, okazało się, że nie można go porzucić. Przyciągało czytelników do witryn, fundusze dla badaczy i uwagę polityków. Ta niejasność leksykalna jest głównym celem nowych badań.

Jak zauważają autorzy, artykuł 3(60) prawa UE o sztucznej inteligencji określa cztery warunki, które definiują “deepfake”.

1: Prawdziwy Księżyc

Po pierwsze, treść musi być wygenerowana lub zmodyfikowana, tj. albo stworzona od podstaw przy użyciu sztucznej inteligencji (wygenerowana), albo zmodyfikowana z istniejących danych (zmodyfikowana). Artykuł podkreśla trudność w odróżnieniu “akceptowalnych” wyników edycji obrazu i manipulacyjnych deepfake, biorąc pod uwagę, że cyfrowe zdjęcia nigdy nie są prawdziwym odzwierciedleniem rzeczywistości.

Artykuł twierdzi, że wygenerowany przez Samsung księżyc jest prawdopodobnie autentyczny, ponieważ księżyc jest mało prawdopodobne, aby zmienił swój wygląd, i ponieważ wygenerowana treść, opracowana na podstawie rzeczywistych obrazów księżyca, jest prawdopodobnie dokładna.

Jednak autorzy stwierdzają również, że ponieważ system Samsunga został pokazany jako generujący “uzupełniony” obraz księżyca w przypadku, gdy obraz źródłowy nie był księżycem, byłby to “deepfake”.

Niewykonalne byłoby stworzenie kompletnego wykazu różnych przypadków użycia takiej funkcjonalności ad hoc. Dlatego też ciężar definicji wydaje się przechodzić, raz jeszcze, do sądów.

2: TextFakes

Po drugie, treść musi być w postaci obrazu, audio lub wideo. Treści tekstowe, chociaż podlegają innym obowiązkom transparentności, nie są uważane za deepfake w prawie UE o sztucznej inteligencji. Kwestia ta nie jest omawiana szczegółowo w nowym badaniu, ale może mieć znaczący wpływ na skuteczność wizualnych deepfake (patrz poniżej).

3: Prawdziwe Problemy Światowe

Po trzecie, treść musi przypominać istniejące osoby, obiekty, miejsca, podmioty lub wydarzenia. Warunek ten ustanawia połączenie z rzeczywistym światem, co oznacza, że czysto sfabrykowane obrazy, nawet jeśli są fotorealistyczne, nie kwalifikują się jako deepfake. Recital 134 prawa UE o sztucznej inteligencji podkreśla aspekt “podobieństwa” przez dodanie słowa “znacznie” (wyraźne odniesienie do późniejszych orzeczeń sądowych).

Autorzy, powołując się na wcześniejsze badania, rozważają, czy wygenerowany przez sztuczną inteligencję obraz twarzy musi należeć do prawdziwej osoby, czy też musi być tylko wystarczająco podobny do prawdziwej osoby, aby spełnić tę definicję.

Na przykład, jak można określić, czy sekwencja fotorealistycznych obrazów przedstawiających polityka Donalda Trumpa ma na celu impersonację, jeśli obrazy (lub dołączone teksty) nie odnoszą się specyficznie do niego? Rozpoznawanie twarzy? Ankiety użytkowników? Definicja “zdrowego rozsądku” sędziego?

Powracając do kwestii “TextFakes” (patrz powyżej), słowa często stanowią znaczącą część aktu wizualnego deepfake. Na przykład, można wziąć (niezmienione) zdjęcie lub wideo “osoby a” i powiedzieć w podpisie lub na portalu społecznościowym, że obraz jest “osoby b” (zakładając, że obie osoby są do siebie podobne).

W takim przypadku nie jest potrzebna sztuczna inteligencja, a wynik może być szczególnie skuteczny – ale czy taki niskotechnologiczny podejście również stanowi “deepfake”?

4: Retusz, Przeróbka

Wreszcie, treść musi wydawać się autentyczna lub prawdziwa dla osoby. Warunek ten podkreśla percepcję ludzkich obserwatorów. Treści, które są rozpoznawane jako reprezentujące prawdziwą osobę lub obiekt tylko przez algorytm, nie są uważane za deepfake.

Wśród wszystkich warunków w 3(60) ten jest najbardziej oczywisty w odniesieniu do późniejszych orzeczeń sądowych, ponieważ nie pozwala na żadną interpretację za pomocą technicznych lub zmechanizowanych środków.

Jasne, że istnieją pewne wewnętrzne trudności w osiągnięciu konsensusu w sprawie tego subiektywnego przepisu. Autorzy zauważają, na przykład, że różne osoby, i różne typy osób (takie jak dzieci i dorośli), mogą być różnie skłonne do uwierzenia w konkretny deepfake.

Autorzy dodatkowo zauważają, że zaawansowane możliwości sztucznej inteligencji w narzędziach takich jak Photoshop wyzywają tradycyjne definicje “deepfake”. Chociaż systemy te mogą zawierać podstawowe zabezpieczenia przed kontrowersyjnymi lub zabronionymi treściami, dramatycznie rozszerzają pojęcie “retuszu”. Użytkownicy mogą teraz dodawać lub usuwać obiekty w bardzo przekonywujący, fotorealistyczny sposób, osiągając profesjonalny poziom autentyczności, który ponownie definiuje granice manipulacji obrazem.

Autorzy stwierdzają:

‘Uważamy, że obecna definicja deepfake w prawie UE o sztucznej inteligencji i odpowiadające im obowiązki nie są wystarczająco określone, aby rozwiązać wyzwania stawiane przez deepfakes. Analizując cykl życia cyfrowego zdjęcia od czujnika kamery do funkcji edycji cyfrowej, stwierdzamy, że:

‘(1.) Deepfakes są źle zdefiniowane w prawie UE o sztucznej inteligencji. Definicja pozostawia zbyt wiele miejsca na to, czym jest deepfake.

‘(2.) Nie jest jasne, jak funkcje edycyjne, takie jak funkcja “Best Take” Google, mogą być uważane za wyjątek od obowiązków transparentności.

‘(3.) Wyjątek dla znacznie zmodyfikowanych obrazów budzi pytania o to, co stanowi istotną modyfikację treści i czy ta modyfikacja musi być odbierana przez osobę fizyczną.’

Biorąc wyjątek

Prawo UE o sztucznej inteligencji zawiera wyjątki, które, zdaniem autorów, mogą być bardzo permissive. Artykuł 50(2), twierdzą oni, oferuje wyjątek w przypadkach, gdy większość oryginalnego obrazu źródłowego nie jest zmieniona. Autorzy zauważają:

‘Co można uznać za treść w rozumieniu artykułu 50(2) w przypadku cyfrowego audio, obrazów i wideo? Na przykład, w przypadku obrazów, czy musimy brać pod uwagę przestrzeń pikseli czy widoczną przestrzeń postrzeganą przez ludzi? Istotne manipulacje w przestrzeni pikseli mogą nie zmieniać postrzegania ludzi, a z drugiej strony, niewielkie perturbacje w przestrzeni pikseli mogą dramatycznie zmieniać postrzeganie.’

Badacze podają przykład dodania pistoletu do zdjęcia osoby, która wskazuje na kogoś. Dodając pistolet, zmienia się tylko 5% obrazu; jednak znaczenie zmienionej części jest znaczące. Wydaje się więc, że ten wyjątek nie uwzględnia “zdroworozsądkowego” zrozumienia wpływu, jaki mała szczegół może mieć na ogólne znaczenie obrazu.

Artykuł 50(2) pozwala również na wyjątki dla “funkcji asystującej do standardowego edytowania”. Ponieważ ustawa nie definiuje, co oznacza “standardowe edytowanie”, nawet funkcje przetwarzania poekspozycyjnego tak ekstremalne, jak funkcja “Best Take” Google, wydają się być chronione przez ten wyjątek, zauważają autorzy.

Wnioski

Stwierdzona intencja nowej pracy jest zachęcenie do międzydyscyplinarnych badań nad regulacją deepfake, oraz posłużenie jako punkt wyjścia do nowych dialogów między naukowcami i prawnikami.

Artykuł sam w sobie ulega tautologii w kilku punktach: często używa terminu “deepfake” tak, jakby jego znaczenie było samooczne, jednocześnie atakując prawo UE o sztucznej inteligencji za brak definicji, co tak naprawdę stanowi deepfake.

Pierwotnie opublikowane w poniedziałek, 16 grudnia 2024