Automatyzacja ochrony praw autorskich w obrazach generowanych przez sztuczną inteligencję

Jak omawialiśmy w zeszłym tygodniu, nawet podstawowe modele fundamentale popularnych systemów generatywnych sztucznej inteligencji mogą produkować treści naruszające prawa autorskie, ze względu na niewystarczającą lub niezgodną kurację, a także ze względu na obecność wielu wersji tego samego obrazu w danych szkoleniowych, co prowadzi do przeuczenia i zwiększa prawdopodobieństwo rozpoznawalnych reprodukcji.

Pomimo wysiłków, aby zdominować przestrzeń generatywnej sztucznej inteligencji, oraz rosnącej presji, aby powstrzymać naruszenia praw autorskich, główne platformy takie jak MidJourney i DALL-E firmy OpenAI nadal stają twarzą w twarz z wyzwaniami w zapobieganiu nieumyślnemu powielaniu chronionych prawem autorskim treści:

Pojemność systemów generatywnych do reprodukcji danych chronionych prawem autorskim pojawia się regularnie w mediach.

Jak nowe modele pojawiają się, a chińskie modele zyskują dominację, tłumienie treści chronionych prawem autorskim w modelach podstawowych jest uciążliwym zadaniem; w rzeczywistości, lider rynku OpenAI oświadczył w zeszłym roku, że jest ‘niemożliwe’ stworzenie skutecznych i użytecznych modeli bez danych chronionych prawem autorskim.

Poprzednie prace

W odniesieniu do nieumyślnego generowania treści chronionych prawem autorskim, scena badawcza stoi przed podobnym wyzwaniem, jak w przypadku włączania treści pornograficznych i innych nieodpowiednich materiałów do danych źródłowych: chcemy skorzystać z wiedzy (tj. poprawnej anatomii ludzkiej, która historycznie zawsze była oparta na studiach nagości) bez możliwości ich nadużycia.

Podobnie, twórcy modeli chcą skorzystać z ogromnego zakresu treści chronionych prawem autorskim, które trafiają do zestawów hiperskali, takich jak LAION, bez rozwoju modelu, który mógłby naruszyć prawa autorskie.

Ignorując ryzyka etyczne i prawne związane z próbami ukrycia wykorzystania treści chronionych prawem autorskim, filtrowanie w przypadku drugiego jest znacznie trudniejsze. Treści nieodpowiednie często zawierają wyraźne, niskopoziomowe, ukryte cechy, które umożliwiają coraz skuteczniejsze filtrowanie bez wymagania bezpośrednich porównań z materiałami świata rzeczywistego. W przeciwieństwie do tego, ukryte osadzenia, które definiują miliony dzieł chronionych prawem autorskim, nie redukują się do zestawu łatwo identyfikowalnych znaczników, co sprawia, że automatyczne wykrywanie jest znacznie bardziej złożone.

CopyJudge

Osąd ludzki jest rzadkim i drogim towarem, zarówno w kuracji danych, jak i w tworzeniu filtrów i systemów “bezpieczeństwa” zaprojektowanych w celu zapewnienia, że materiały objęte prawem autorskim nie są dostarczane użytkownikom API-opartych portali, takich jak MidJourney i możliwości generowania obrazów ChatGPT.

Dlatego nowa współpraca akademicka między Szwajcarią, Sony AI i Chinami oferuje CopyJudge – zautomatyzowaną metodę prowadzenia kolejnych grup współpracujących “sędziów” opartych na ChatGPT, którzy mogą sprawdzić dane wejściowe pod kątem oznak prawdopodobnego naruszenia praw autorskich.

CopyJudge ocenia różne generacje AI, które naruszają prawa autorskie. Źródło: https://arxiv.org/pdf/2502.15278

CopyJudge skutecznie oferuje zautomatyzowany framework wykorzystujący duże modele językowo-wizualne (LVLM) do określenia istotnej podobieństwa między chronionymi prawem autorskim obrazami a tymi, które są generowane przez modele dyfuzyjne oparte na tekście.

Podejście CopyJudge wykorzystuje uczenie wzmocnienia i inne podejścia do optymalizacji podpowiedzi naruszających prawa autorskie, a następnie wykorzystuje informacje z tych podpowiedzi do tworzenia nowych podpowiedzi, które są mniej prawdopodobne, aby wywołać obrazy naruszające prawa autorskie.

Chociaż wiele online generatorów obrazów AI filtruje podpowiedzi użytkowników pod kątem treści nieodpowiednich, materiałów chronionych prawem autorskim, odtworzeń prawdziwych osób i innych zabronionych domen, CopyJudge zamiast tego wykorzystuje wyrafinowane “naruszające” podpowiedzi, aby utworzyć “oczyszczone” podpowiedzi, które są najmniej prawdopodobne, aby wywołać zabronione obrazy, bez zamiaru bezpośredniego blokowania podpowiedzi użytkownika.

Chociaż to nie jest nowe podejście, idzie ono w pewnym stopniu w kierunku uwolnienia systemów generatywnych API od prostego odmawiania wejścia użytkownikom (nie mówiąc już o tym, że pozwala użytkownikom na rozwijanie tzw. “backdoor” dostępu do zabronionych generacji, poprzez eksperymenty).

Oto jeden z niedawnych przykładów (od czasu zamknięcia przez deweloperów), który pozwalał użytkownikom generować materiały pornograficzne na platformie Kling AI, po prostu umieszczając wyraźny krzyż lub krucyfiks w obrazie przesyłanym w procesie obrazu do wideo.

<img class=" wp-image-212910" src="https://www.unite.ai/wp-content/uploads/2025/02/kling-cross.jpg" alt="W luce, która została załatana przez deweloperów Kling w późnym 2024 roku, użytkownicy mogli zmusić system do generowania zabronionych treści NSFW, po prostu umieszczając krzyż lub krucyfiks w obrazie przesłanym w procesie obrazu do wideo. Chociaż nie ma wyjaśnienia, dlaczego ten hack został wycofany, można się domyślać, że mógł on pozwolić na "akceptowalną" religijną chrześcijańską (męską) nagość w przedstawieniach ukrzyżowania; i że wywołanie obrazu "krzyża" skutecznie "odblokowało" szersze treści NSFW; ale możemy nigdy nie dowiedzieć się! Źródło: Discord

Przykłady takie podkreślają potrzebę oczyszczania podpowiedzi w systemach generatywnych online, zwłaszcza od czasu, gdy maszyna “zapomina”, gdzie sam model podstawowy jest zmieniany w celu usunięcia zabronionych pojęć, może mieć niepożądane skutki na użyteczność końcowego modelu.

Szukając mniej drastycznych rozwiązań, system CopyJudge naśladuje ludzkie osądy prawne, wykorzystując sztuczną inteligencję do rozbicia obrazów na kluczowe elementy, takie jak kompozycja i kolor, w celu wyfiltrowania niechronionych części, a następnie porównania pozostałych. Zawiera również metodykę napędzaną sztuczną inteligencją do dostosowania podpowiedzi i modyfikacji generacji obrazu, co pomaga uniknąć problemów z prawem autorskim, zachowując jednocześnie kreatywną treść.

Wyniki eksperymentów, jak twierdzą autorzy, dowodzą równoważności CopyJudge z podejściami na poziomie stanu techniki w tym zakresie i wskazują, że system wykazuje lepszą uogólnialność i interpretowalność w porównaniu z poprzednimi pracami.

Nowy artykuł nosi tytuł CopyJudge: Zautomatyzowane identyfikowanie i łagodzenie naruszeń praw autorskich w modelach dyfuzyjnych opartych na tekście i pochodzi od pięciu badaczy z EPFL, Sony AI i chińskiego Uniwersytetu Westlake.

Metoda

Chociaż CopyJudge wykorzystuje GPT do tworzenia zmiennych trybunałów zautomatyzowanych sędziów, autorzy podkreślają, że system nie jest zoptymalizowany pod kątem produktu OpenAI i że można wykorzystać dowolną liczbę alternatywnych dużych modeli językowo-wizualnych (LVLM).