Automatisering van auteursrechtbescherming in door AI gegenereerde afbeeldingen

Zoals besproken vorige week, kunnen zelfs de core foundation-modellen achter populaire generatieve AI-systemen inbreukmakend materiaal produceren vanwege onvoldoende of misgealigneerde curatie, evenals de aanwezigheid van meerdere versies van dezelfde afbeelding in de trainingsgegevens, wat leidt tot overfitting en de kans op herkenbare reproducties vergroot.

Ondanks pogingen om de generatieve AI-ruimte te domineren en de groeiende druk om inbreuk op het intellectueel eigendom tegen te gaan, blijven grote platforms zoals MidJourney en OpenAI’s DALL-E uitdagingen ervaren bij het voorkomen van de onbewuste reproductie van beschermd materiaal:

De capaciteit van generatieve systemen om beschermd materiaal te reproduceren, komt regelmatig in de media naar voren.

Als nieuwe modellen verschijnen en Chinese modellen dominantie verwerven, is het onderdrukken van beschermd materiaal in foundation-modellen een zware taak; in feite verklaarde de marktleider open.ai vorig jaar dat het ‘onmogelijk’ is om effectieve en nuttige modellen te creëren zonder beschermd materiaal.

Voorlopig onderzoek

Met betrekking tot de onbewuste generatie van beschermd materiaal, staat de onderzoekssector voor een soortgelijke uitdaging als die van de opname van pornografisch en ander ongepast materiaal in de brondata: men wil het voordeel van de kennis (d.w.z. correcte menselijke anatomie, die historisch altijd gebaseerd was op naaktstudies) zonder de capaciteit om het te misbruiken.

Evenzo willen modelmakers het voordeel van de enorme hoeveelheid beschermd materiaal dat terechtkomt in hyperschaalsets zoals LAION, zonder dat het model de capaciteit ontwikkelt om daadwerkelijk inbreuk te maken op het intellectueel eigendom.

Het negeren van de ethische en juridische risico’s van het proberen te verhullen van het gebruik van beschermd materiaal, is het filteren voor het laatste geval aanzienlijk moeilijker. Ongepast materiaal bevat vaak distincte lage latent kenmerken die effectieve filtering mogelijk maken zonder directe vergelijkingen met werkelijk materiaal te vereisen. In tegenstelling daarmee reduceren de latente insluitingen die miljoenen beschermd werken definiëren, niet tot een set eenvoudig identificeerbare markers, waardoor geautomatiseerde detectie veel complexer wordt.

CopyJudge

Menselijke oordeel is een schaars en duur goed, zowel in de curatie van datasets als in de creatie van post-processing filters en ‘veiligheids’-systemen die zijn ontworpen om te garanderen dat IP-gebonden materiaal niet wordt geleverd aan de gebruikers van API-gebaseerde portals zoals MidJourney en de afbeelding-genererende capaciteit van ChatGPT.

Daarom biedt een nieuwe academische samenwerking tussen Zwitserland, Sony AI en China CopyJudge – een geautomatiseerde methode voor het orkestreren van opeenvolgende groepen samenzweerderige ChatGPT-gebaseerde ‘rechters’ die inputs kunnen onderzoeken op tekenen van waarschijnlijke inbreuk op het auteursrecht.

CopyJudge evalueert verschillende IP-inbreukmakende AI-generaties. Bron: https://arxiv.org/pdf/2502.15278

CopyJudge biedt effectief een geautomatiseerd kader dat gebruik maakt van grote visuele taalmodellen (LVLM’s) om significante overeenkomst tussen beschermd materiaal en door tekst-naar-afbeelding diffusiemodellen gegenereerde afbeeldingen te detecteren.

De CopyJudge-benadering gebruikt versterking van het leren om auteursrechtinbreukmakende prompts te optimaliseren en gebruikt vervolgens informatie uit dergelijke prompts om nieuwe prompts te creëren die minder waarschijnlijk auteursrechtelijke beelden oproepen.

Hoewel veel online AI-gebaseerde afbeeldingengeneratoren gebruikersprompts filteren op ongepast materiaal, beschermd materiaal, reproductie van echte personen en andere verboden domeinen, gebruikt CopyJudge in plaats daarvan verfijnde ‘inbreukmakende’ prompts om ‘gesaniteerde’ prompts te creëren die het minst waarschijnlijk ongewenste beelden oproepen, zonder de intentie om de gebruikersinvoer direct te blokkeren.

Hoewel dit geen nieuwe benadering is, gaat het enige weg om API-gebaseerde generatieve systemen te bevrijden van het simpelweg weigeren van gebruikersinvoer (omdat dit gebruikers toelaat om achterdeur-toegang te ontwikkelen tot verboden generaties, door experimenten).

Een recente exploit (die inmiddels door de ontwikkelaars is gesloten) stelde gebruikers in staat om op het Kling-generatieve AI-platform pornografisch materiaal te genereren door simpelweg een prominent kruis of crucifix op te nemen in de afbeelding die werd geüpload in een afbeelding-naar-video-workflow.

In een door de Kling-ontwikkelaars in het najaar van 2024 gedichte lacune, konden gebruikers de systemen dwingen om verboden NSFW-uitvoer te produceren door simpelweg een kruis of crucifix op te nemen in de I2V-zaadafbeelding. Bron: Discord

Dergelijke voorbeelden benadrukken de noodzaak van prompt-sanitizing in online generatieve systemen, niet in de laatste plaats omdat machine-unlearning, waarbij het foundation-model zelf wordt gewijzigd om verboden concepten te verwijderen, onwenselijke effecten kan hebben op de bruikbaarheid van het eindmodel.

Naar minder drastische oplossingen zoekend, bootst het CopyJudge-systeem menselijke rechtspraak na door AI te gebruiken om afbeeldingen te splitsen in sleutelonderdelen zoals compositie en kleur, om niet-auteursrechtelijk beschermde delen te filteren en te vergelijken wat overblijft. Het omvat ook een AI-gebaseerde methode om prompts aan te passen en afbeeldingengeneratie te wijzigen, om auteursrechtelijke kwesties te vermijden terwijl creatief materiaal behouden blijft.

Experimentele resultaten, zo beweren de auteurs, demonstreren CopyJudge’s equivalentie aan state-of-the-art-benaderingen in deze onderneming en geven aan dat het systeem superieure generalisatie en interpreteerbaarheid vertoont in vergelijking met eerdere werken.

De nieuwe paper heeft als titel CopyJudge: Geautomatiseerde detectie en mitigatie van auteursrechtinbreuk in tekst-naar-afbeelding diffusiemodellen en komt van vijf onderzoekers uit EPFL, Sony AI en China’s Westlake University.

Methode

Hoewel CopyJudge GPT gebruikt om rollende tribunals van geautomatiseerde rechters te creëren, benadrukken de auteurs dat het systeem niet is geoptimaliseerd voor OpenAI’s product en dat elk aantal alternatieve Large Vision Language Models (LVLM’s) in plaats daarvan kan worden gebruikt.

In de eerste instantie is het abstractie-filter-comparatief kader van de auteurs vereist om bronafbeeldingen te decomponeren in constituerende delen, zoals weergegeven in de linkerkant van het schema hieronder:

Conceptueel schema voor de initiële fase van de CopyJudge-workflow.

In de linker benedenhoek zien we een filteragent die afbeeldingssecties deconstrueert in een poging om kenmerken te identificeren die mogelijk inherent zijn aan een beschermd werk in concert, maar die op zichzelf te generiek zouden zijn om als inbreuk te kwalificeren.

Meerdere LVLM’s worden vervolgens gebruikt om de gefilterde elementen te evalueren – een benadering die effectief is gebleken in papers zoals de 2023 CSAIL aanbod Verbetering van feitelijkheid en redenering in taalmodellen door multi-agent debat, en ChatEval, onder diverse anderen die in de nieuwe paper worden erkend.

De auteurs verklaren:

‘[We] hanteren een volledig verbonden synchroon communicatie-debatbenadering, waarbij elke LVLM de [antwoorden] van de [andere] LVLM’s ontvangt voordat hij zijn volgende oordeel velt. Dit creëert een dynamische feedbacklus die de betrouwbaarheid en diepte van de analyse versterkt, aangezien modellen hun beoordelingen aanpassen op basis van nieuwe inzichten die door hun collega’s worden gepresenteerd.

‘Elke LVLM kan zijn score aanpassen op basis van de antwoorden van de andere LVLM’s of deze ongewijzigd laten.’

Meerdere paren afbeeldingen die door mensen zijn beoordeeld, worden ook opgenomen in het proces via few-shot in-context leren’

Zodra de ‘tribunals’ in de lus tot een consensus-score zijn gekomen die binnen het aanvaardbare bereik valt, worden de resultaten doorgegeven aan een ‘meta-rechter’ LVLM, die de resultaten synthetiseert tot een eind-score.

Mitigatie

Vervolgens richtten de auteurs zich op het prompt-mitigatieproces dat eerder werd beschreven.

CopyJudge’s schema voor het mitigeren van auteursrechtinbreuk door prompts en latent noise te verfijnen. Het systeem past prompts iteratief aan, met behulp van versterking van het leren om latent variabelen te wijzigen naarmate de prompts evolueren, in de hoop het risico van inbreuk te verlagen.

De twee methoden die voor prompt-mitigatie werden gebruikt, waren LVLM-gebaseerde promptcontrole, waarbij effectieve niet-inbreukmakende prompts iteratief werden ontwikkeld over GPT-clusters – een benadering die volledig ‘black box’ is en geen interne toegang tot de modelarchitectuur vereist; en een versterking van het leren-gebaseerde (RL-gebaseerde) benadering, waarbij de beloning is ontworpen om uitvoer te penaliseren die inbreuk maakt op het auteursrecht.

Gegevens en tests

Om CopyJudge te testen, werden verschillende datasets gebruikt, waaronder D-Rep, die echte en valse afbeeldingsparen bevat die door mensen zijn beoordeeld op een schaal van 0-5.

Verkenning van de D-Rep-dataset bij Hugging Face. Deze verzameling bevat paren van echte en gegenereerde afbeeldingen. Bron: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

De CopyJudge-schema beschouwt D-Rep-afbeeldingen die een score van 4 of meer hebben als inbreukvoorbeelden, met de rest die wordt teruggestuurd als niet-IP-relevant. De 4000 officiële afbeeldingen in de dataset werden gebruikt als testafbeeldingen. Bovendien selecteerden en curateerden de onderzoekers afbeeldingen van 10 beroemde tekenfilmpersonages van Wikipedia.

De drie diffusie-gebaseerde architectuur die werd gebruikt om mogelijk inbreukmakende afbeeldingen te genereren, waren Stable Diffusion V2; Kandinsky2-2; en Stable Diffusion XL. De auteurs selecteerden handmatig een inbreukmakende afbeelding en een niet-inbreukmakende afbeelding van elk van de modellen, resulterend in 60 positieve en 60 negatieve voorbeelden.

De baseline-methoden die voor vergelijking werden geselecteerd, waren: L₂ norm; LPIPS; SSCD; RLCP; en PDF-Emb. Voor metrics werden nauwkeurigheid en F1-score gebruikt als criteria voor inbreuk.

GPT-4o werd gebruikt om de interne debatteams van CopyJudge te populeren, met drie agenten voor een maximum van vijf iteraties op een bepaalde ingediende afbeelding. Een willekeurige drie afbeeldingen van elk niveau in D-Rep werden gebruikt als menselijke priors voor de agenten om te overwegen.

Inbreukresultaten voor CopyJudge in de eerste ronde.

Van deze resultaten merken de auteurs op:

‘[Het] is duidelijk dat traditionele beeldkopie-detectiemethoden beperkingen vertonen in de taak van auteursrechtinbreukdetectie. Onze benadering presteert aanzienlijk beter dan de meeste methoden. Voor de state-of-the-art-methode, PDF-Emb, die werd getraind op 36.000 voorbeelden uit de D-Rep, is onze prestatie op D-Rep iets inferieur.

‘Echter, de slechte prestatie op de Cartoon IP- en Artwork-dataset benadrukt het gebrek aan generalisatiecapaciteit, terwijl onze methode gelijkmatig uitstekende resultaten laat zien over datasets.’

De auteurs merken ook op dat CopyJudge een ‘relatief’ duidelijker onderscheid tussen geldige en inbreukmakende gevallen biedt:

Verdere voorbeelden uit de testronden, in de supplementaire materialen van de nieuwe paper.

De onderzoekers vergeleken hun methoden met een door Sony AI-betrokken samenwerking uit 2024 met de titel Detecting, Explaining, and Mitigating Memorization in Diffusion Models. Dit werk gebruikte een fijngestemd Stable Diffusion-model met 200 gememoriseerde (d.w.z. overgefitte) afbeeldingen om beschermd materiaal te produceren op inferentietijd.

De auteurs van het nieuwe werk vonden dat hun eigen prompt-mitigatiemethode, in vergelijking met de benadering van 2024, in staat was om afbeeldingen te produceren die minder waarschijnlijk inbreuk zouden maken.

Resultaten van memorisatie-mitigatie met CopyJudge versus het werk van 2024.

De auteurs merken hier op:

‘[Onze] benadering kan afbeeldingen produceren die minder waarschijnlijk inbreuk zullen maken, terwijl een vergelijkbare, iets verlaagde match-accuraatheid behouden blijft. Zoals te zien is in [de afbeelding hieronder], vermijdt onze methode effectief de tekortkomingen van [de vorige] methode, waaronder het niet mitigeren van memorisatie of het produceren van sterk afwijkende afbeeldingen.’

Vergelijking van gegenereerde afbeeldingen en prompts voor en na het mitigeren van memorisatie.

De auteurs voerden verdere tests uit met betrekking tot inbreukmitigatie, waarbij expliciete en impliciete inbreuk werden bestudeerd.

Expliciete inbreuk treedt op wanneer prompts direct verwijzen naar beschermd materiaal, zoals ‘Genereer een afbeelding van Mickey Mouse’. Om dit te testen, gebruikten de onderzoekers 20 tekenfilm- en kunstwerksamples, waarbij inbreukmakende afbeeldingen werden gegenereerd in Stable Diffusion v2 met prompts die expliciet namen of auteursvermeldingen bevatten.

Vergelijking tussen de Latent Control (LC) methode van de auteurs en de Prompt Control (PC) methode van het vorige werk, in diverse variaties, met behulp van Stable Diffusion om afbeeldingen te creëren die expliciete inbreuk vertonen.

Impliciete inbreuk treedt op wanneer een prompt geen expliciete auteursrechtverwijzingen bevat, maar toch resulteert in een inbreukmakende afbeelding vanwege bepaalde beschrijvende elementen – een scenario dat met name relevant is voor commerciële tekst-naar-afbeeldingmodellen, die vaak inhoudsdetectiesystemen bevatten om auteursrechtgerelateerde prompts te identificeren en te blokkeren.

Om dit te onderzoeken, gebruikten de auteurs dezelfde IP-gebonden samples als in de expliciete inbreuktest, maar genereerden inbreukmakende afbeeldingen zonder directe auteursrechtverwijzingen, met behulp van DALL-E 3 (hoewel de paper opmerkt dat de ingebouwde veiligheidsdetectiemodule van het model bepaalde prompts die de filters activeerden, weigerde).

Impliciete inbreuk met DALLE-3, met inbreuk- en CLIP-scores.

De auteurs merken op:

‘[Het] is duidelijk dat onze methode de kans op inbreuk aanzienlijk verlaagt, zowel voor expliciete als impliciete inbreuk, met slechts een geringe daling in CLIP-score. De inbreukscore na alleen latent controle is relatief hoger dan na promptcontrole, omdat het verkrijgen van niet-inbreukmakende latentie zonder het wijzigen van de prompt erg moeilijk is. Echter, we kunnen de inbreukscore effectief verlagen terwijl we een hogere beeld-tekstovereenkomst behouden.’

‘[De afbeelding hieronder] toont visualisatie-resultaten, waaruit blijkt dat we IP-inbreuk vermijden terwijl we gebruikersvereisten behouden.’

Gegenereerde afbeeldingen voor en na IP-inbreukmitigatie.

Conclusie

Hoewel de studie een veelbelovende benadering voor auteursrechtbescherming in AI-gegenereerde afbeeldingen presenteert, kan de afhankelijkheid van grote visuele taalmodellen (LVLM’s) voor inbreukdetectie zorgen over bias en consistentie, aangezien AI-gedreven oordelen niet altijd overeenkomen met juridische normen.

Misschien wel het belangrijkste is dat het project ook ervan uitgaat dat auteursrechtelijke handhaving geautomatiseerd kan worden, ondanks reële juridische beslissingen die vaak subjectieve en contextuele factoren omvatten die AI mogelijk moeilijk kan interpreteren.

In de echte wereld lijkt de automatisering van juridische consensus, met name rondom de uitvoer van AI, waarschijnlijk een omstreden kwestie te blijven, ver voorbij deze tijd en ver voorbij het bereik van het domein dat in dit werk wordt behandeld.

First published Monday, 24 februari 2025