Automatisierung des Urheberrechtsschutzes in AI-generierten Bildern

Wie bereits letzte Woche besprochen, können sogar die grundlegenden Modellierungsmodelle hinter populären generativen AI-Systemen urheberrechtsverletzende Inhalte produzieren, aufgrund von unzureichender oder fehlgeleiteter Kuratierung sowie der Anwesenheit mehrerer Versionen desselben Bildes in den Trainingsdaten, was zu Overfitting führt und die Wahrscheinlichkeit von erkennbaren Reproduktionen erhöht.

Trotz Bemühungen, den generativen AI-Raum zu dominieren, und wachsendem Druck, IP-Verletzungen zu verhindern, stellen große Plattformen wie MidJourney und OpenAI’s DALL-E weiterhin Herausforderungen dar, um die ungewollte Reproduktion von urheberrechtlich geschütztem Material zu verhindern:

Die Fähigkeit generativer Systeme, urheberrechtlich geschützte Daten zu reproduzieren, kommt regelmäßig in den Medien vor.

Als neue Modelle entstehen und chinesische Modelle dominieren, ist die Unterdrückung von urheberrechtlich geschütztem Material in Grundmodellen ein schwieriges Vorhaben; tatsächlich erklärte der Marktführer OpenAI im letzten Jahr, dass es ‘unmöglich’ sei, effektive und nützliche Modelle ohne urheberrechtlich geschütztes Material zu erstellen.

Vorheriger Stand der Technik

In Bezug auf die ungewollte Generierung von urheberrechtlich geschütztem Material steht die Forschung vor einer ähnlichen Herausforderung wie bei der Einbeziehung von Pornografie und anderen NSFW-Material in Quelldaten: Man möchte den Nutzen des Wissens (d. h. korrekte menschliche Anatomie, die historisch immer auf nackten Studien basierte) ohne die Fähigkeit, es auszunutzen.

Ebenso möchten die Modellentwickler den Nutzen des großen Umfangs an urheberrechtlich geschütztem Material, das in hyperskaligen Sets wie LAION vorkommt, ohne dass das Modell die Fähigkeit entwickelt, tatsächlich gegen das Urheberrecht zu verstoßen.

Das Ignorieren der ethischen und rechtlichen Risiken beim Versuch, die Verwendung von urheberrechtlich geschütztem Material zu verbergen, ist die Filterung für den zweiten Fall erheblich schwieriger. NSFW-Inhalte enthalten oft distinkte niedrige latente Merkmale, die eine immer effektivere Filterung ermöglichen, ohne direkte Vergleiche mit realen Materialien zu erfordern. Im Gegensatz dazu reduzieren sich die latenten Einbettungen, die Millionen von urheberrechtlich geschützten Werken definieren, nicht auf eine Menge leicht identifizierbarer Marker, was die automatisierte Erkennung erheblich komplexer macht.

CopyJudge

Menschliche Urteilsfähigkeit ist ein seltenes und teures Gut, sowohl bei der Kuratierung von Daten als auch bei der Erstellung von Post-Processing-Filtern und “Sicherheitssystemen”, die darauf ausgelegt sind, sicherzustellen, dass IP-gesperrtes Material nicht an die Benutzer von API-basierten Portalen wie MidJourney und der Bildgenerierungsfunktion von ChatGPT geliefert wird.

Daher bietet eine neue akademische Zusammenarbeit zwischen der Schweiz, Sony AI und China CopyJudge an – eine automatisierte Methode, um aufeinanderfolgende Gruppen von kolludierenden ChatGPT-basierten “Richtern” zu überwachen, die Eingaben auf Anzeichen von wahrscheinlichen Urheberrechtsverletzungen untersuchen können.

CopyJudge bewertet verschiedene IP-verletzende AI-Generationen. Quelle: https://arxiv.org/pdf/2502.15278

CopyJudge bietet effektiv einen automatisierten Rahmen, der große Vision-Sprachmodelle (LVLMs) nutzt, um eine wesentliche Ähnlichkeit zwischen urheberrechtlich geschützten Bildern und denen zu erkennen, die von Text-Bild-Diffusionsmodellen erzeugt werden.

Der CopyJudge-Ansatz verwendet Verstärkungslernen und andere Ansätze, um urheberrechtlich verletzende Prompts zu optimieren, und verwendet dann Informationen aus diesen Prompts, um neue Prompts zu erstellen, die weniger wahrscheinlich urheberrechtlich geschützte Bilder hervorrufen.

Obwohl viele Online-AI-Bildgeneratoren Benutzereingaben auf NSFW-, urheberrechtlich geschütztes Material, Nachbildung von realen Personen und verschiedene andere verbotene Bereiche filtern, verwendet CopyJudge stattdessen verfeinerte “verletzende” Prompts, um “gesäuberte” Prompts zu erstellen, die am wenigsten wahrscheinlich verbotene Bilder hervorrufen, ohne die Absicht, die Benutzereingabe direkt zu blockieren.

Obwohl dies nicht ein neuer Ansatz ist, geht es einige Schritte in Richtung, API-basierte generative Systeme von der bloßen Ablehnung von Benutzereingaben zu befreien (nicht zuletzt, weil dies es Benutzern ermöglicht, Hintertüren zu verbotenen Generationen zu entwickeln, durch Experimente).

Ein kürzliches Beispiel (das inzwischen von den Entwicklern geschlossen wurde) ermöglichte es Benutzern, auf der Kling-Generative-AI-Plattform pornografisches Material zu generieren, indem sie einfach ein prominentes Kreuz oder Kreuzzeichen in das Bild einfügten, das in einem Bild-zu-Video-Workflow hochgeladen wurde.

In einer von den Kling-Entwicklern im Spätjahr 2024 geschlossenen Lücke konnten Benutzer die Systeme dazu bringen, verbotene NSFW-Output zu produzieren, indem sie einfach ein Kreuz oder Kreuzzeichen in das I2V-Seed-Bild einfügten. Quelle: Discord

Derartige Fälle betonen die Notwendigkeit von Prompt-Sanierung in Online-Generativen Systemen, nicht zuletzt, da Machine Unlearning, bei dem das Grundmodell selbst geändert wird, um verbotene Konzepte zu entfernen, unangenehme Auswirkungen auf die Benutzbarkeit des Endmodells haben kann.

Die Suche nach weniger drastischen Lösungen ahmt die CopyJudge-Systeme menschliche Rechtsurteile nach, indem sie KI verwendet, um Bilder in Schlüsselelemente wie Komposition und Farbe zu zerlegen, um nicht urheberrechtlich schützbare Teile auszufiltern und zu vergleichen, was übrig bleibt. Es umfasst auch eine KI-gesteuerte Methode, um Prompts anzupassen und die Bildgenerierung zu modifizieren, um Urheberrechtsprobleme zu vermeiden, während kreative Inhalte erhalten bleiben.

Experimentelle Ergebnisse, so behaupten die Autoren, zeigen die Äquivalenz von CopyJudge mit state-of-the-art-Ansätzen in dieser Verfolgung und zeigen an, dass das System eine überlegene Generalisierung und Interpretierbarkeit im Vergleich zu vorherigen Arbeiten aufweist.

Die neue Arbeit trägt den Titel CopyJudge: Automatisierte Urheberrechtsverletzungsidentifizierung und -Minderung in Text-Bild-Diffusionsmodellen und stammt von fünf Forschern aus der EPFL, Sony AI und der Westlake-Universität in China.

Methode

Obwohl CopyJudge GPT verwendet, um rollierende Tribunale automatisierter Richter zu erstellen, betonen die Autoren, dass das System nicht für OpenAIs Produkt optimiert ist und dass jedes beliebige alternatives Large Vision Language Model (LVLM) verwendet werden könnte.

Zunächst ist das Abstraktions-Filter-Verleichs-Framework der Autoren erforderlich, um Quellbilder in ihre Bestandteile zu zerlegen, wie auf der linken Seite des Schemas unten zu sehen ist:

Konzeptuelles Schema für die erste Phase des CopyJudge-Workflows.

Im unteren linken Eck sehen wir einen Filteragenten, der die Bildabschnitte in eine Menge von Merkmalen zerlegt, die möglicherweise zu einem urheberrechtlich geschützten Werk gehören könnten, aber für sich genommen zu generisch wären, um als Verletzung zu gelten.

Mehrere LVLMs werden anschließend verwendet, um die gefilterten Elemente zu bewerten – ein Ansatz, der in Arbeiten wie dem 2023er CSAIL-Angebot Verbesserung von Fakten und Argumentation in Sprachmodellen durch Multiagenten-Debatte und ChatEval als effektiv erwiesen wurde, sowie diverse andere in der neuen Arbeit anerkannte Arbeiten.

Die Autoren erklären:

‘[Wir] verwenden einen vollständig verbundenen synchronen Kommunikations-Debattenansatz, bei dem jeder LVLM die Antworten von den [anderen] LVLMs erhält, bevor er das nächste Urteil fällt. Dies schafft eine dynamische Rückkopplungsschleife, die die Zuverlässigkeit und Tiefe der Analyse stärkt, da Modelle ihre Bewertungen basierend auf neuen Erkenntnissen anpassen, die von ihren Peers vorgestellt werden.

‘Jeder LVLM kann seine Bewertung basierend auf den Antworten der anderen LVLMs anpassen oder unverändert lassen.’

Mehrere Paare von Bildern, die von Menschen bewertet werden, sind auch über Few-Shot-In-Context-Lernen im Prozess enthalten’

Sobald die “Tribunale” in der Schleife zu einem Konsensurteil gelangt sind, das im Bereich der Akzeptanz liegt, werden die Ergebnisse an einen “Meta-Richter”-LVLM weitergeleitet, der die Ergebnisse in eine endgültige Bewertung synthetisiert.

Minderung

Als Nächstes konzentrierten sich die Autoren auf den zuvor beschriebenen Prompt-Minderungsprozess.

CopyJudges Schema zur Minderung von Urheberrechtsverletzungen durch die Verfeinerung von Prompts und latenter Geräusche. Das System passt Prompts iterativ an, indem es Verstärkungslernen verwendet, um latente Variablen zu modifizieren, während die Prompts evolvieren, um hoffentlich das Risiko von Verletzungen zu verringern.

Die beiden Methoden, die zur Prompt-Minderung verwendet wurden, waren LVLM-basierte Prompt-Kontrolle, bei der effektive nicht verletzende Prompts iterativ über GPT-Cluster entwickelt wurden – ein Ansatz, der vollständig “black box” ist und keinen internen Zugriff auf die Modellarchitektur erfordert; und ein Verstärkungslernens-basierter (RL-basierter) Ansatz, bei dem die Belohnung so konzipiert ist, dass sie Ausgaben bestraft, die gegen das Urheberrecht verstoßen.

Daten und Tests

Um CopyJudge zu testen, wurden verschiedene Datensätze verwendet, darunter D-Rep, der reale und gefälschte Bildpaare enthält, die von Menschen auf einer Skala von 0-5 bewertet wurden.

Erkundung des D-Rep-Datensatzes bei Hugging Face. Diese Sammlung enthält reale und generierte Bildpaare. Quelle: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

Die CopyJudge-Schemata betrachteten D-Rep-Bilder, die 4 oder mehr Punkte erhielten, als Beispiele für Verletzungen, während der Rest zurückgehalten wurde, um als nicht urheberrechtlich relevante Beispiele zu dienen. Die 4000 offiziellen Bilder im Datensatz wurden als Testbilder verwendet. Darüber hinaus wählten die Forscher und kuratierten Bilder von 10 berühmten Cartoon-Charaktern aus Wikipedia aus.

Die drei Diffusions-basierten Architekturen, die zur Erzeugung möglicherweise verletzender Bilder verwendet wurden, waren Stable Diffusion V2; Kandinsky2-2; und Stable Diffusion XL. Die Autoren wählten manuell ein verletzendes Bild und ein nicht verletzendes Bild aus jedem der Modelle aus, um 60 positive und 60 negative Beispiele zu erhalten.

Die Basismethoden, die für den Vergleich ausgewählt wurden, waren: L₂-Norm; Gelernte Wahrnehmungs-Ähnlichkeit von Bild-Patches (LPIPS); SSCD; RLCP; und PDF-Emb. Als Metriken wurden Genauigkeit und F1-Score als Kriterien für Verletzungen verwendet.

GPT-4o wurde verwendet, um die internen Debattenteams von CopyJudge zu besetzen, wobei drei Agenten für maximal fünf Iterationen bei jedem eingereichten Bild verwendet wurden. Ein zufälliges Trio von Bildern aus jeder Bewertung in D-Rep wurde als menschliche Priors für die Agenten verwendet.

Verletzungs-Ergebnisse für CopyJudge in der ersten Runde.

Zu diesen Ergebnissen äußern die Autoren:

‘[Es] ist offensichtlich, dass traditionelle Bild-Kopie-Erkennungsmethoden Einschränkungen bei der Urheberrechtsverletzungs-Erkennungsaufgabe aufweisen. Unser Ansatz übertrifft die meisten Methoden erheblich. Für die state-of-the-art-Methode, PDF-Emb, die auf 36.000 Proben aus dem D-Rep-Datensatz trainiert wurde, ist unsere Leistung auf dem D-Rep-Datensatz leicht unterlegen.

‘Allerdings weist ihre schlechte Leistung auf dem Cartoon-IP- und Kunstwerk-Datensatz ihre mangelnde Fähigkeit zur Generalisierung auf, während unsere Methode gleichzeitig hervorragende Ergebnisse über Datensätze hinweg zeigt.’

Die Autoren weisen auch darauf hin, dass CopyJudge eine “relativ” deutlichere Grenze zwischen gültigen und verletzenden Fällen bietet:

Weitere Beispiele aus den Testrunden, im Zusatzmaterial der neuen Arbeit.

Die Forscher verglichen ihre Methoden mit einer Sony-AI-beteiligten Zusammenarbeit aus dem Jahr 2024 mit dem Titel Erkennung, Erklärung und Minderung von Memorisation in Diffusionsmodellen. Diese Arbeit verwendete ein fein abgestimmtes Stable-Diffusion-Modell mit 200 memorisierten (d. h. überfitten) Bildern, um urheberrechtlich geschützte Daten bei der Inferenzzeit zu ermitteln.

Die Autoren der neuen Arbeit fanden heraus, dass ihre eigene Prompt-Minderungsmethode im Vergleich zur Methode von 2024 in der Lage war, Bilder zu erzeugen, die weniger wahrscheinlich Verletzungen verursachen.

Ergebnisse der Memorisation-Minderung mit CopyJudge im Vergleich zur Arbeit von 2024.

Die Autoren äußern sich hierzu:

‘[Unser] Ansatz kann Bilder erzeugen, die weniger wahrscheinlich Verletzungen verursachen, während er gleichzeitig eine vergleichbare, leicht verringerte Übereinstimmung aufrechterhält. Wie in [dem Bild unten] zu sehen ist, vermeidet unsere Methode effektiv die Mängel der [vorherigen] Methode, einschließlich des Versagens, die Memorisation zu mindern oder die Erzeugung hochgradig abweichender Bilder.’

Vergleich von generierten Bildern und Prompts vor und nach der Minderung von Memorisation.

Die Autoren führten weitere Tests zur Minderung von Verletzungen durch, indem sie explizite und implizite Verletzungen untersuchten.

Explizite Verletzung tritt auf, wenn Prompts direkt urheberrechtlich geschütztes Material referenzieren, wie z. B. ‘Erzeuge ein Bild von Mickey Mouse’. Um dies zu testen, verwendeten die Forscher 20 Cartoon- und Kunstwerkproben und erzeugten verletzende Bilder in Stable Diffusion v2 mit Prompts, die explizit Namen oder Autorenangaben enthielten.

Vergleich zwischen der Latenten-Kontrollmethode (LC) der Autoren und der Prompt-Kontrollmethode (PC) der vorherigen Arbeit, in verschiedenen Variationen, unter Verwendung von Stable Diffusion, um Bilder zu erstellen, die explizite Verletzungen darstellen.

Implizite Verletzung tritt auf, wenn ein Prompt keine expliziten Urheberrechtsreferenzen enthält, aber dennoch zu einem verletzenden Bild führt, aufgrund bestimmter beschreibender Elemente – ein Szenario, das insbesondere für kommerzielle Text-Bild-Modelle relevant ist, die oft Inhalts-Erkennungssysteme verwenden, um urheberrechtlich geschützte Prompts zu erkennen und zu blockieren.

Um dies zu untersuchen, verwendeten die Autoren dieselben IP-gesperrten Proben wie im expliziten Verletzungstest, aber erzeugten verletzende Bilder ohne direkte Urheberrechtsreferenzen, unter Verwendung von DALL-E 3 (obwohl die Arbeit feststellt, dass das Modell seine integrierte Sicherheits-Erkennungsmodule ablehnte, die bestimmte Prompts ablehnten, die ihre Filter auslösten).

Implizite Verletzung unter Verwendung von DALLE-3, mit Verletzungs- und CLIP-Scores.

Die Autoren erklären:

‘[Es] ist zu sehen, dass unsere Methode die Wahrscheinlichkeit von Verletzungen erheblich verringert, sowohl für explizite als auch implizite Verletzungen, mit nur einem leichten Rückgang des CLIP-Scores. Der Verletzungs-Score nach nur latenter Kontrolle ist relativ höher als nach Prompt-Kontrolle, da die Rückgewinnung nicht verletzender Latente ohne Änderung des Prompts sehr schwierig ist. Dennoch können wir den Verletzungs-Score effektiv verringern, während wir gleichzeitig eine höhere Bild-Text-Übereinstimmung aufrechterhalten.’

‘[Das Bild unten] zeigt Visualisierungsergebnisse, bei denen zu sehen ist, dass wir die IP-Verletzung vermeiden, während wir gleichzeitig die Benutzeranforderungen aufrechterhalten.’

Generierte Bilder vor und nach der Minderung von IP-Verletzungen.

Zusammenfassung

Obwohl die Studie einen vielversprechenden Ansatz zur Urheberrechts-Schutz in AI-generierten Bildern präsentiert, könnte die Abhängigkeit von großen Vision-Sprachmodellen (LVLMs) zur Verletzungserkennung Bedenken hinsichtlich Voreingenommenheit und Konsistenz aufwerfen, da KI-gesteuerte Urteile nicht immer mit rechtlichen Standards übereinstimmen.

Vielleicht am wichtigsten ist, dass das Projekt auch davon ausgeht, dass Urheberrechts-Durchsetzung automatisiert werden kann, trotz realer rechtlicher Entscheidungen, die oft subjektive und kontextuelle Faktoren beinhalten, die KI Schwierigkeiten bereiten können, sie zu interpretieren.

In der realen Welt dürfte die Automatisierung von Rechtskonsens, insbesondere im Hinblick auf die Ausgabe von KI, wahrscheinlich ein umstrittenes Thema bleiben, das weit über diese Zeit und den Bereich hinausgeht, der in dieser Arbeit behandelt wird.

Erstveröffentlicht am Montag, 24. Februar 2025