KI-Agenten bevorzugen es, urheberrechtlich geschütztes Material zu stehlen, anstatt Open-Source-Alternativen zu verwenden

Forscher haben herausgefunden, dass KI-Agenten häufig urheberrechtlich geschützte Bilder wählen, wenn sie mit kostenlosen und legalen Alternativen konfrontiert werden – und sogar explizite Warnungen können nicht jeden Verstoß verhindern.

Viele akademische Arbeiten haben sich in den letzten zwei Jahren mit der Frage beschäftigt, ob generative KI-Modelle basierend auf urheberrechtlich geschütztem Material arbeiten – ein Szenario, in dem urheberrechtlich geschütztes Material in der Trainingsdatenbank des Modells enthalten ist und das Modell somit in der Lage ist, entweder den Stil eines Künstlers zu imitieren oder sogar ein urheberrechtlich geschütztes Werk vollständig zu reproduzieren.

Weniger häufig untersucht wird die Neigung von agentic KI dazu, urheberrechtlich geschütztes Material auszuwählen und auszunutzen, während sie autonom verfügbare Quellen durchsuchen. Mit anderen Worten: Wenn man einem Vision Language Model (VLM) wie ChatGPT sagt, ein schönes Bild für eine Website zu finden, wie hoch ist die Wahrscheinlichkeit, dass es ein urheberrechtlich geschütztes Werk einem Open-Source-Werk mit einer flexiblen Lizenz vorzieht?

In diesem Beispiel aus dem neuen Forschungsbericht hat ein KI-Agent einen Urheberrechts-Test nicht bestanden, da er ein bekanntes urheberrechtlich geschütztes Bild für den Benutzer ausgewählt hat, anstatt ein leicht verfügbares, gleichwertiges FOSS-Bild zu verwenden. Quelle

Laut einer neuen Studie zwischen der UK, den USA und Israel ist die Wahrscheinlichkeit dafür ziemlich hoch:

Durchschnittliche Urheberrechts-Verletzungsrate für geschlossene KI-Modelle, Open-Source-Modelle und Menschen über vier Benutzeranfragen. Aggregiert aus drei Test-Szenarien, höhere Balken zeigen eine schlechtere Leistung durch höhere Auswahl urheberrechtlich geschützter Bilder, während kürzere Balken eine bessere Einhaltung der Urheberrechte bei der Auswahl legaler Bilder anzeigen. Quelle: Daten aus dem Quellbericht.

Die Forscher fanden heraus, dass sowohl geschlossene als auch Open-Source-KI-Agenten sehr oft urheberrechtlich geschützte Bilder bevorzugen, wenn kostenlose und legale Alternativen verfügbar sind. Ohne eine Urheberrechts-Warnung in der Anfrage häufig jede Gruppe die urheberrechtlich geschützte, “Diebstahl”-Option wählte.

Wenn eine klare Warnung vor Urheberrechts-Verletzungen gegeben wurde, verbesserte sich die Einhaltung der Urheberrechte erheblich (besonders bei Menschen, siehe zweite Spalte von rechts in der obigen Abbildung), aber Zeitdruck (“gehetzt”, in der Abbildung oben) machte das Problem schlimmer. Open-Source-Modelle, so fanden die Forscher heraus, zeigten die schlechteste Leistung unter den Kandidaten, wenn sie angewiesen wurden, Lizenzbeschränkungen zu ignorieren (rechte Spalte in der Abbildung oben):

‘Wir finden heraus, dass die Leistung von KI-Agenten bei der Erfüllung von Aufgaben nicht robust mit der Einhaltung von Urheberrechten korreliert. Agenten priorisieren häufig die Aufgabenerfüllung gegenüber der Einhaltung von Urheberrechten. Darüber hinaus erscheint das Maß an Einhaltung von Urheberrechten bei Agenten als sehr empfindlich und stark von den Anweisungen des Benutzers geprägt.’

‘Open-Source-Modelle erhöhen scharf ihre Auswahl urheberrechtlich geschützter Materialien als Reaktion auf Anweisungen des Benutzers, rechtliche Einschränkungen zu ignorieren. Proprietäre Modelle zeigen dagegen eine höhere Einhaltung von Urheberrechten in der neutralen Anweisungssituation und sind weniger anfällig für Anweisungen des Benutzers, rechtliche Einschränkungen zu ignorieren.’

Trotz der Klarheit der Ergebnisse, die 11 Modelle getestet haben, die um Dezember 2025 verfügbar waren, einschließlich Varianten von ChatGPT und Google Gemini, gibt es derzeit keine klare Lösung für das Problem, außer dass geschlossene Modelle möglicherweise ihre Sicherheitsvorkehrungen in diesem Bereich erhöhen könnten.

Der neue Bericht trägt den Titel Agentic Evaluation of Copyright Law Compliance und stammt von drei Forschern der University of Cambridge, der Fordham University und der Hebrew University of Jerusalem.

Methodik

Überblick über das Copyright-Bench-Evaluationsframework, in dem KI-Agenten an drei kommerziellen Bildauswahl-Aufgaben getestet wurden, die visuell äquivalente öffentlich zugängliche und urheberrechtlich geschützte Bilder verwendeten, die nur durch eingebettete Urheberrechts-Metadaten unterschieden werden konnten.

Freier Wille

Um zu bestimmen, ob KI-Agenten tatsächlich urheberrechtlich geschütztes Material bevorzugen, entfernten die Forscher zunächst die offensichtlichste alternative Erklärung: dass die Agenten einfach keine legale Alternative hatten.

Daher wurde jede Aufgabe im Benchmark so konstruiert, dass mindestens ein frei verfügbares Bild erfolgreich die Aufgabe erfüllen konnte. Dies bedeutete, dass die Auswahl eines urheberrechtlich geschützten Bildes nicht notwendig war, um die Aufgabe abzuschließen.

Wenn ein Agent urheberrechtlich geschütztes Material wählte, geschah dies, weil er die legale Alternative nicht identifizieren oder nicht verwenden konnte, und nicht, weil der Benchmark ihn zur Urheberrechts-Verletzung zwang.

Datensatz

Die Forscher kuratierten die Copyright-Bench-Benchmark-Sammlung aus einem Datensatz von 200 hochauflösenden Bildern, bestehend aus 100 öffentlich zugänglichen Fotografien der U.S. National Park Service und 100 urheberrechtlich geschützten Bildern, die von DepositPhotos lizenziert wurden.

Die urheberrechtlich geschützten/FOSS-Bilder wurden mithilfe von CLIP-ViT-L/14-semantischen Einbettungen und LAION-Aesthetics-V2-Qualitätsscores gepaart, bevor sie manuell verifiziert wurden, um sicherzustellen, dass jedes Paar visuell äquivalent war. Urheberrechts-Informationen wurden dann nur in den Metadaten der Bilder eingebettet (und nicht durch sichtbare Wasserzeichen), was die KI-Agenten dazu zwang, Lizenzdetails zu überprüfen, anstatt sich auf die visuelle Erscheinung allein zu verlassen.

Die Autoren erklären:

‘Um die visuelle Qualität als störenden Faktor zu reduzieren, verwendeten wir eine halbautomatisierte Auswahl-Pipeline, um Paare von Assets zu erstellen, die semantisch und ästhetisch äquivalent sind.

‘Unser Ziel war es, sicherzustellen, dass Assets nicht aufgrund von Pixel-Daten allein bevorzugt werden.’

Drei realistische kommerzielle Workflows wurden für Copyright-Bench entwickelt, alle mit Szenarien, in denen Urheberrechts-Entscheidungen häufig auftreten: im ersten, Web, bauten Agenten eine kommerzielle Website, indem sie ein “Hero-Bild” für eine Startseite auswählten; im zweiten, Merch, wählte der Agent Kunstwerke für gedruckte Merchandise wie T-Shirts und Caps aus; und im dritten, Pitch Deck, baute er eine “Investor-Präsentation” auf, indem er unterstützende Bilder für eine Unternehmenspräsentation auswählte.

Jede Aufgabe maß, ob Agenten frei wiederverwendbare Bilder wählen würden, auch wenn urheberrechtlich geschützte Alternativen gleichwertig erschienen.

Jedes gepaarte Bild wurde manuell überprüft, um falsche Positivergebnisse zu entfernen, wobei urheberrechtlich geschützte Bilder überprüft wurden, um sicherzustellen, dass keine sichtbaren Wasserzeichen oder Agentur-Logos vorhanden waren. Zusätzlich wurde jedes Paar verifiziert, um sicherzustellen, dass es in Auflösung, Beleuchtung und Komposition eng äquivalent war. Auf diese Weise konnte der Urheberrechts-Status nicht allein durch die visuelle Qualität bestimmt werden.

Sehr Meta

Da die öffentlich zugänglichen und urheberrechtlich geschützten Bilder absichtlich für visuelle Ähnlichkeit ausgewählt und von offensichtlichen Hinweisen wie Wasserzeichen befreit wurden, konnte der Urheberrechts-Status nicht allein durch die Erscheinung bestimmt werden. Stattdessen musste ein KI-Agent die Bildmetadaten überprüfen, in denen die Urheberrechts-Informationen im EXIF/IPTC-Header gespeichert waren.

Das Benchmark hing von dem ‘Urheberrechts-Hinweis’-Metadatenfeld ab, um zwischen legalen und eingeschränkten Bildern zu unterscheiden, wobei urheberrechtlich geschützte Fotografien mit ‘ 2025 Deposit Photo’ und öffentlich zugängliche Bilder mit ‘US-Regierungsarbeit; öffentliches Eigentum’ gekennzeichnet waren. Jeder Agent, der diese Metadaten nicht überprüfte, konnte nicht zuverlässig zwischen den beiden unterscheiden.

Aufmerksamkeit für Anweisungen

Das Benchmark wurde auch so konzipiert, dass es misst, wie verschiedene Formen von Benutzeranweisungen die Urheberrechts-Einhaltung beeinflussen, wobei jede Aufgabe unter vier separaten Anweisungsbedingungen präsentiert wurde: eine neutrale Anfrage erwähnte keine Urheberrechte; eine IP-bewusste Anfrage erinnerte den Agenten explizit daran, Urheberrechte zu respektieren; eine gehetzte Anfrage fügte Zeitdruck hinzu; und eine IP-abweisende Anfrage kombinierte Druck mit Anweisungen wie ‘Keine Lizenz sorgen’, um zu testen, ob Agenten ihre rechtlichen Schutzvorkehrungen aufgeben würden, wenn der Benutzer sie dazu auffordert.

Die beiden Metriken, die zur Bewertung der Leistung verwendet wurden, waren Verletzungsrate (VR), die misst, wie oft ein Agent mindestens ein urheberrechtlich geschütztes Bild auswählte, wenn eine legale Alternative verfügbar war; und Aufgabenerfolgsrate (TSR), die misst, wie oft die zugewiesene Aufgabe erfolgreich abgeschlossen wurde, indem gültige Aktionen, korrekt formatierte Ausgaben und Bilder verwendet wurden, die für den Benutzer relevant blieben.

Der menschliche Faktor

Ein menschlicher Vergleichswert wurde auch den gleichen Aufgaben, Bildern und Anweisungsbedingungen zugewiesen. Die Teilnehmer, die keine juristische Ausbildung erhalten hatten, wurden gebeten, ihre Auswahl zu erklären, was es ermöglichte, die Einhaltung der Urheberrechte bei Menschen und Agenten direkt zu vergleichen.

Modelle und Tests

Die für die Tests ausgewählten geschlossenen Modelle, die um Dezember 2025 verfügbar waren, waren GPT-5.2; GPT-5.1; GPT-4o; Claude 4.5 Opus; Claude 4.5 Sonnet; Gemini 3 Pro; und Gemini 3 Flash.

Die für die Tests ausgewählten Open-Source-Modelle waren Llama-4-Maverick-400B; Llama-4-Scout-109B; Qwen-3VL-235B; und DeepSeek-VL.

Um sicherzustellen, dass jedes Modell unter identischen Bedingungen getestet wurde, wurden alle Experimente mit Microsofts AutoGen-Framework durchgeführt. Jedes Modell wurde mit einem Benutzer-Proxy-Agent gepaart, der Aufgaben ausführte, und einem Assistenten-Agent, der Entscheidungen generierte, während Zugriff auf sechs MCP-Tools bereitgestellt wurde, die in der folgenden Tabelle aufgeführt sind:

Zusammenfassung der Model Context Protocol (MCP)-Tools, die während der Bewertung den KI-Agenten zur Verfügung standen, einschließlich Funktionen für Dateinavigation, Bildinspektion, Metadatenabruf und endgültige Asset-Übermittlung.

Vier Umgebungs-Konfigurationen wurden getestet, um zu bestimmen, ob Datei-Organisation und verfügbare Informationen die Urheberrechts-Einhaltung beeinflussten: Std, mit allen Bildern in einem einzigen Ordner; Hier, mit Bildern in beschrifteten Verzeichnissen; Vis, mit Urheberrechts-Metadaten entfernt, so dass Entscheidungen auf visuellem Inhalt basierten; und Web, das ein Web-Such-Tool zur Standard-Umgebung hinzufügte.

Um Konsistenz zu gewährleisten, wurde die Denktemperatur auf 0,1 gesetzt, und jede Kombination von Aufgabe, Anfrage-Variante und Umgebung wurde 240 Mal durchgeführt. Die Open-Source-Modelle wurden mit vLLM auf vier NVIDIA Blackwell B200-GPUs mit jeweils 180 GB HBM3e-Speicher durchgeführt:

Ergebnisse der Haupt-Copyright-Bench-Bewertung, die die durchschnittlichen Urheberrechts-Verletzungs-Raten für Menschen, proprietäre Modelle und Open-Source-Modelle über drei Aufgabenfamilien zeigen.

Zu diesen Ergebnissen erklären die Autoren:

‘[Agenten] erfüllen fast immer erfolgreich die zugrunde liegende Aufgabe (TSR > 98% über alle Aufgaben), wodurch VR als Schlüsselmaß für die Einhaltung von Urheberrechten isoliert wird.’

Über alle drei Aufgabenfamilien hinweg zeigten die Modelle ähnliche Ergebnisse: unter neutralen Anweisungen wählte Claude 4.5 Opus in 38,3% der WebDev-Aufgaben mindestens ein urheberrechtlich geschütztes Bild aus, während die Open-Source-Modelle mehr als 45% erreichten. Die Verletzungs-Raten änderten sich wenig zwischen der Website-Entwicklung, der Merchandise-Erstellung und der Pitch-Deck-Generierung.

Claude 4.5 Opus erreichte die niedrigste Gesamt-Verletzungsrate unter den proprietären Modellen mit 27,6%, gefolgt von Gemini 3 Pro und Claude 4.5 Sonnet mit 28,7%.

GPT-4o erreichte 36,2%, während Llama-4-Maverick die niedrigste Rate unter den Open-Source-Modellen mit 41,0% erreichte.

Die Formulierung der Anweisungen beeinflusste auch die Leistung, wobei urheberrechts-bewusste Anweisungen die Verletzungs-Raten über alle Modelle hinweg reduzierten und ablehnende Anweisungen die Verletzungs-Raten bei den Open-Source-Modellen erhöhten:

‘Wir beobachten eine Verhaltens-Spaltung zwischen proprietären und Open-Source-Modellen unter der ablehnenden/vernachlässigten Anweisung (PDis), bei der der Benutzer den Agenten explizit anweist, Lizenzbeschränkungen zu ignorieren.

‘Für jedes proprietäre Modell, das wir untersucht haben, verringerte sich die Verletzungsrate tatsächlich im Vergleich zur neutralen Anweisung, wenn die Anweisung ablehnend war. Open-Source-Modelle zeigen den gegenteiligen Trend: Llama-4-Mavericks Verletzungsrate steigt von 45,0% (PNeu) auf 52,1% (PDis).’

Um zu verstehen, warum urheberrechtlich geschütztes Material ausgewählt wurde, wurden 100 Fälle von Fehlern, die GPT-5.2, Claude 4.5 Opus und Qwen-3VL betrafen, manuell überprüft und drei wiederkehrende Fehlermodi identifiziert: das Versäumnis, Urheberrechts-Metadaten zu überprüfen; Denkfehler, einschließlich Kontext-Entitlement, bei dem Bilder, die in einem Projekt-Ordner bereitgestellt wurden, als bereits lizenziert angesehen wurden, und Kontext-Fenster-Ermüdung, bei dem zuvor identifizierte urheberrechtlich geschützte Bilder vergessen wurden; und Benutzeranweisungen, die der Einhaltung von Urheberrechten Vorrang gaben, insbesondere unter gehetzten und ablehnenden Anweisungen:

Schließlich wurde ein Vergleich zwischen KI-Agenten und einem menschlichen Vergleichswert durchgeführt, indem Teilnehmer ohne juristische Ausbildung die gleichen Bildauswahl-Aufgaben unter den gleichen Anweisungsbedingungen zugewiesen bekamen. Unter neutralen Anweisungen wählten Menschen urheberrechtlich geschützte Bilder in Raten, die mit denen der KI-Modelle vergleichbar waren.

Wenn explizite Urheberrechts-Erinnerungen gegeben wurden, wurden Verletzungen fast vollständig eliminiert über alle drei Aufgaben hinweg. Eine Verbesserung wurde auch bei KI-Modellen beobachtet, aber eingeschränkte Bilder wurden immer noch viel häufiger ausgewählt.

Unter ablehnenden Anweisungen, die den Benutzer aufforderten, Lizenzbeschränkungen zu ignorieren, verschlechterte sich die Einhaltung der Urheberrechte bei Menschen stark, obwohl die Open-Source-Modelle eine noch stärkere Reaktion auf explizite Urheberrechts-Anweisungen zeigten – und im Allgemeinen zeigten Menschen eine stärkere Reaktion auf explizite Urheberrechts-Anweisungen als KI-Systeme.

Zusammenfassung

Obwohl der Bericht diese Möglichkeit nicht anspricht, ist es vernünftig anzunehmen, dass Unternehmen, die lokale KI betreiben und nicht mit plötzlichen Audits von lokalen Behörden rechnen, wahrscheinlich die billigsten Lösungen implementieren werden, die ihnen das Maximum an Einhaltung ihrer Anforderungen bieten.

Dieses Szenario steht am ehesten mit den “fehlerhaften” Open-Source-Modellen im Einklang, die in dem neuen Bericht untersucht wurden, insbesondere, da kein einziges Modell, das alle notwendigen Mittel hatte, um der Einhaltung nachzukommen, eine Rate von 100% erreichte.

Wenn kein verfügbares KI-System rechtliche Exposition verhindern kann, könnten viele Unternehmen zu dem Schluss kommen, dass sie sich der leistungsfähigsten und einhaltbarsten Modelle bedienen und selbst für die rechtliche Einhaltung sorgen sollten.

Es ist unwahrscheinlich, dass Vorreiter-KI-Plattformen wie Anthropic und OpenAI jemals “rechtlich einhaltbare” Agenten-Systeme ohne caveat emptor anbieten werden. Daher, wenn die Einhaltung von Urheberrechten ein Produkt ist, das die Spitzenmodelle nicht anbieten und nie anbieten werden, sind ihre Schutzmaßnahmen offensichtlich nur für ihren eigenen Schutz und nicht für den Nutzen der Plattform-Benutzer implementiert.

Alles ist ein Argument gegen die Kommerzialisierung von KI und für den Betrieb von lokalen Modellen – insbesondere mit der Aussicht, eine Instanz eines Open-Source-Spitzenmodells wie Kimi auf Bare-Metal-Remote-GPUs zu starten und es sogar an die spezifischen Bedürfnisse des eigenen Unternehmens anzupassen.

Erstveröffentlicht am Dienstag, 28. Juli 2026