Rzeczywiste tożsamości mogą być odzyskane z syntetycznych zbiorów danych

Jeśli rok 2022 był momentem, w którym potencjał rozrywkowy sztucznej inteligencji po raz pierwszy zwrócił uwagę szerokiej publiczności, to rok 2024 jest rokiem, w którym pytania dotyczące legalności danych, na których opiera się jej działanie, zajęły centralne miejsce dla firm chcących wykorzystać jej moc.

W Stanach Zjednoczonych doktryna fair use, wraz z niejawną licencją akademicką, która przez długi czas pozwalała sektorom badawczym i komercyjnym na eksplorację sztucznej inteligencji, stała się coraz mniej uzasadniona, gdy pojawiły się dowody plagiatu. W związku z tym Stany Zjednoczone, choć na razie, nie zezwalają na copyrightowanie treści generowanych przez sztuczną inteligencję.

Te sprawy są dalekie od rozwiązania i nie będą rozwiązane w najbliższym czasie; w 2023 roku, częściowo z powodu rosnącego zainteresowania mediów i społeczeństwa stanem prawnym wyjść sztucznej inteligencji, Urząd Praw Autorskich Stanów Zjednoczonych rozpoczął wieloletnie śledztwo w tej kwestii, publikując pierwszy segment (dotyczący cyfrowych replik) w lipcu 2024 roku.

W międzyczasie interesy biznesowe są frustrowane możliwością, że drogie modele, które chcą wykorzystać, mogą narażać je na konsekwencje prawne, gdy ostateczne ustawodawstwo i definicje zostaną w końcu ustalone.

Drogie rozwiązanie krótkoterminowe polega na uzasadnieniu modeli generatywnych poprzez szkolenie ich na danych, które firmy mają prawo wykorzystywać. Architektura Firefly Adobea, która generuje obrazy i teraz filmy na podstawie tekstu, jest napędzana głównie przez zakup zbioru danych obrazów stockowych Fotolia w 2014 roku, uzupełniony o wykorzystanie danych z domeny publicznej, które wygasły.

Rozwiązania syntetyczne

Odkąd usunięcie danych objętych prawem autorskim z przestrzeni latentnej modelu sztucznej inteligencji jest obarczone problemami, błędy w tej dziedzinie mogą być bardzo kosztowne dla firm eksperymentujących z rozwiązaniami konsumenckimi i biznesowymi, które wykorzystują uczenie maszynowe.

Alternatywą, a znacznie tańszym rozwiązaniem dla systemów widzenia komputerowego (oraz również dużych modeli językowych, czyli LLM), jest użycie danych syntetycznych, gdzie zbiór danych składa się z losowo wygenerowanych przykładów docelowego obszaru (takiego jak twarze, koty, kościoły lub nawet bardziej uogólniony zbiór danych).

Strony takie jak thispersondoesnotexist.com dawno temu spopularyzowały ideę, że autentycznie wyglądające zdjęcia “nieistniejących” ludzi mogą być syntetyzowane (w tym konkretnym przypadku za pomocą sieci generatywno-dyskryminacyjnych, czyli GAN) bez żadnego związku z ludźmi, którzy naprawdę istnieją na świecie.

Równowaga

Problem polega na tym, że systemy, które generują dane syntetyczne, są same szkolone na danych rzeczywistych. Jeśli ślady tych danych przenikają do danych syntetycznych, to potencjalnie dostarczają dowodów, że wykorzystano materiały objęte ochroną lub w inny sposób nieuprawnione do celów zarobkowych.

Aby temu zapobiec i wytworzyć naprawdę “losowe” obrazy, takie modele muszą zapewnić, że są dobrze uogólnione. Uogólnienie to miara zdolności modelu sztucznej inteligencji do zrozumienia pojęć na wysokim poziomie (takich jak ‘twarz’, ‘mężczyzna’ lub ‘kobieta’) bez polegania na replikowaniu rzeczywistych danych szkoleniowych.

Ujawnienie twarzy

To prowadzi nas do interesującej nowej pracy z Szwajcarii, która twierdzi, że jest to pierwsze badanie, które wykazało, że oryginalne, rzeczywiste obrazy, które napędzają dane syntetyczne, mogą być odzyskane z wygenerowanych obrazów, które powinny teoretycznie być całkowicie losowe:

Wyniki, które autorzy przedstawiają, sugerują, że “syntetyczne” generatory rzeczywiście zapamiętały wiele punktów danych szkoleniowych w poszukiwaniu większej szczegółowości. Sugerują one również, że systemy, które polegają na danych syntetycznych w celu ochrony producentów sztucznej inteligencji przed konsekwencjami prawymi, mogą być bardzo niewiarygodne w tym zakresie.

Metoda, dane i wyniki

Zapamiętane twarze w badaniu zostały ujawnione za pomocą ataku inferencyjnego. Chociaż pojęcie to brzmi skomplikowanie, jest dość samo wyjaśniające: inferencja, w tym przypadku, odnosi się do procesu zadawania pytań systemowi, aż ujawni dane, które albo odpowiadają szukanych danych, albo znacznie im przypominają.

Badacze badali sześć syntetycznych zbiorów danych, dla których znany był (rzeczywisty) źródłowy zbiór danych. Ponieważ zarówno rzeczywiste, jak i fałszywe zbiory danych w question zawierają bardzo duży volumen obrazów, jest to efektywnie jak szukanie igły w stogu siana.

Autorzy wykorzystali gotowy model rozpoznawania twarzy^† z ResNet100 jako podstawę, szkolony na AdaFace funkcji straty (na WebFace12M zbiór danych).

Wnioski

Ostatnio zwrócono uwagę na malejące zwroty uzyskane przez szkolenie modeli sztucznej inteligencji na danych generowanych przez sztuczną inteligencję.

Nowsze badania szwajcarskie przynoszą jednak do uwagi kwestię, która może być bardziej paląca dla rosnącej liczby firm, które chcą wykorzystać i zyskać na sztucznej inteligencji – trwałość wzorców danych chronionych prawem lub nieuprawnionych, nawet w zbiorach danych, które są zaprojektowane do walki z tą praktyką. Gdybyśmy mieli to określić, w tym przypadku można by to nazwać “prania twarzy”.

* Jednak decyzja Adobea, aby zezwolić na przesyłanie obrazów generowanych przez sztuczną inteligencję do Adobea Stock, skutecznie podważyła prawne “czystość” tych danych. Bloomberg utrwalił w kwietniu 2024 roku, że obrazy dostarczone przez użytkowników z systemu generatywnego MidJourney zostały wbudowane w możliwości Firefly.

^† Ten model nie jest określony w pracy.

Pierwotnie opublikowane w środę, 6 listopada 2024