Automatisering af ophavsretsskydd i AI-genererede billeder

Som diskuteret forrige uge, kan selv de grundlæggende modeller bag populære generative AI-systemer producere ophavsretskrænkende indhold på grund af utilstrækkelig eller mislykket kuratering samt tilstedeværelsen af multiple versioner af samme billede i træningsdata, hvilket fører til overfitning og øger sandsynligheden for genkendelige reproduktioner.

Trods bestræbelser på at dominere det generative AI-område og øget pres for at begrænse IP-krænkelser, møder store platforme som MidJourney og OpenAI’s DALL-E fortsat udfordringer i forhindring af utilsigtet reproduktion af ophavsretskrænkende indhold:

Evnen til generative systemer til at reproducere ophavsretskrænkende data kommer ofte op i medierne.

Som nye modeller opstår, og da kinesiske modeller får dominans, er undertrykkelsen af ophavsretskrænkende materiale i grundmodeller en tung opgave; faktisk erklærede markedets leder, open.ai, sidste år, at det er ‘umuligt’ at skabe effektive og nyttige modeller uden ophavsretskrænkende data.

Tidligere kunst

I forhold til utilsigtet generering af ophavsretskrænkende materiale, står forskningsscenen over for en lignende udfordring som inklusionen af pornografi og andet NSFW-materiale i kildedata: man ønsker at have fordelene ved viden (dvs. korrekt menneskekropsanatomi, som historisk set altid har været baseret på nøgenstudier) uden at have mulighed for at misbruge det.

Ligeledes ønsker modeludviklerne at have fordelene ved det enorme omfang af ophavsretskrænkende materiale, der kommer ind i hyperskala-sæt som LAION, uden at modellen udvikler evnen til faktisk at krænke ophavsret.

Hvis man ser bort fra de etiske og juridiske risici ved at forsøge at skjule brugen af ophavsretskrænkende materiale, er filtrering for det sidste tilfælde betydeligt mere udfordrende. NSFW-indhold indeholder ofte distinkte lavniveaudata, der gør det muligt at filtrere uden at kræve direkte sammenligninger med virkelige data. I modsætning hertil reducerer latent indlejring, der definerer millioner af ophavsretskrænkende værker, ikke til en samling let genkendelige markører, hvilket gør automatiseret registrering betydeligt mere kompleks.

CopyJudge

Menneskelig dom er en sjælden og dyrekøbt vare, både i kuratering af datasæt og i skabelsen af efterbehandlingsfiltre og “sikkerheds”-baserede systemer designet til at sikre, at IP-låst materiale ikke leveres til brugerne af API-baserede porte som MidJourney og billedgenereringskapaciteten i ChatGPT.

Derfor tilbyder en ny akademisk samarbejdsprojekt mellem Schweiz, Sony AI og Kina CopyJudge – en automatiseret metode til at koordinere succesive grupper af samarbejdende ChatGPT-baserede “dommere”, der kan undersøge indgange for tegn på sandsynlig ophavsretskrænkelser.

CopyJudge vurderer forskellige IP-krænkende AI-genereringer. Kilde: https://arxiv.org/pdf/2502.15278

CopyJudge tilbyder i virkeligheden en automatiseret ramme, der udnytter store vision-sprogmodeller (LVLMs) til at bestemme væsentlig lighed mellem ophavsretskrænkende billeder og billeder produceret af tekst-til-billede-diffusionsmodeller.

CopyJudge-tilgangen bruger forstærkning og andre tilgange til at optimere ophavsretskrænkende prompts og derefter bruger information fra sådanne prompts til at skabe nye prompts, der er mindre sandsynlige at fremkalde ophavsretskrænkende billeder.

Selv om mange online AI-baserede billedgenereringsværktøjer filtrerer brugernes prompts for NSFW, ophavsretskrænkende materiale, genskabelse af virkelige personer og andre forbudte domæner, bruger CopyJudge i stedet for raffinerede “krænkende” prompts til at skabe “rensede” prompts, der er mindst sandsynlige at fremkalde forbudte billeder, uden at have til hensigt at direkte blokere brugerens indsendelse.

Selv om dette ikke er en ny tilgang, går det en vej til at frigøre API-baserede generative systemer fra blot at afvise brugerinput (især fordi dette tillader brugere at udvikle bagdørsadgang til forbudte genereringer gennem eksperimenter).

En af de seneste udnyttelser (som nu er lukket af udviklerne) tillod brugere at generere pornografisk materiale på Kling-generative AI-platform blot ved at inkludere et fremtrædende kors eller krucifiks i billedet, der blev uploadet i en billed-til-video-arbejdsgang.

I en lukket løkke, som Kling-udviklerne lukkede i slutningen af 2024, kunne brugere tvinge systemet til at producere forbudt NSFW-output blot ved at inkludere et kors eller krucifiks i billedet.

Tilfælde som dette understreger behovet for prompt-sanering i online generative systemer, ikke mindst fordi maskinlæring, hvor grundmodellen selv ændres for at fjerne forbudte begreber, kan have uønskede effekter på den endelige modells brugbarhed.

CopyJudge søger efter mindre drastiske løsninger, og systemet efterligner menneskebaserede juridiske afgørelser ved at bruge AI til at bryde billeder ned i nøgleelementer som komposition og farve til at filtrere ud non-ophavsretskrænkende dele og sammenligne, hvad der er tilbage. Det inkluderer også en AI-dreven metode til at justere prompts og ændre billedgenerering, hvilket hjælper med at undgå ophavsretskrænkelser, samtidig med at det beskytter kreativt indhold.

Eksperimentelle resultater, som forfatterne fastholder, viser, at CopyJudges tilgang er lig med tilgangen i de bedste eksisterende løsninger i denne forfølgning, og indikerer, at systemet viser overlegen generalisering og fortolkning i forhold til tidligere arbejder.

Den nye artikel har titlen CopyJudge: Automatiseret ophavsretskrænkelser-identifikation og -mitigation i tekst-til-billede-diffusionsmodeller og kommer fra fem forskere på tværs af EPFL, Sony AI og Kinas Westlake University.

Metode

Selv om CopyJudge bruger GPT til at skabe rullende tribunal af automatiserede dommere, understreger forfatterne, at systemet ikke er optimeret til OpenAIs produkt, og at enhver anden stor vision-sprogmodel (LVLM) kunne bruges i stedet.

I første omgang kræver forfatternes abstraktions-filtrerings-sammenligningsramme, at kildebilleder dekomponeres i bestanddele, som vist i venstre side af skemaet nedenfor:

Konceptuel skema for den første fase af CopyJudge-arbejdsgangen.

I den nederste venstre hjørne ser vi en filteragent, der bryder billedsektioner ned i et forsøg på at identificere karakteristika, der kan være native for et ophavsretskrænkende værk i koncert, men som i sig selv ville være for generiske til at kvalificere som en overtrædelse.

Flere LVLMs bruges herefter til at evaluere de filtrerede elementer – en tilgang, der er blevet bevist effektiv i artikler som den fra 2023 CSAIL tilbud Forbedring af faktualitet og resonnering i sprogmodeller gennem multiagent-debat og ChatEval, blandt andre forskellige anerkendelser i den nye artikel.

Forfatterne fastholder:

‘[Vi] antager en fuldt forbundet synkron kommunikationsdebat-tilgang, hvor hver LVLM modtager [svar] fra [andre] LVLMs, før det tager den næste afgørelse. Dette skaber en dynamisk feedback-løkke, der styrker pålideligheden og dybden af analysen, da modellerne tilpasser deres vurderinger baseret på nye indsigt, der præsenteres af deres kolleger.

‘Hver LVLM kan justere sin score baseret på svarene fra de andre LVLMs eller lade den uændret.’

Flere par billeder vurderet af mennesker er også inkluderet i processen via få-skud-i-kontekst-læring.

Når “tribunal” i løkken har nået en konsensus-score, der er inden for acceptabelhedens grænse, overføres resultaterne til en “meta-dommer” LVLM, der syntetiserer resultaterne i en endelig score.

Mitigation

Herefter koncentrerede forfatterne sig om prompt-mitigationsprocessen, der blev beskrevet tidligere.

CopyJudges skema for at mitigere ophavsretskrænkelser ved at raffinere prompts og latent støj. Systemet justerer prompts iterativt, ved at bruge forstærkning til at ændre latente variabler, mens prompts udvikler sig, hvilket håber at reducere risikoen for overtrædelse.

De to metoder, der blev brugt til prompt-mitigation, var LVLM-baseret prompt-kontrol, hvor effektive ikke-ophavsretskrænkende prompts blev udviklet iterativt på tværs af GPT-kluster – en tilgang, der er helt “sort boks”, og som ikke kræver intern adgang til modelarkitekturen; og en forstærkning-læring-baseret (RL-baseret) tilgang, hvor belønningen er designet til at straffe output, der krænker ophavsret.

Data og tests

For at teste CopyJudge blev forskellige datasæt brugt, herunder D-Rep, der indeholder ægte og falske billedpar vurderet af mennesker på en 0-5-vurdering.

Udforskning af D-Rep-datasættet på Hugging Face. Denne samling parre ægte og genererede billeder. Kilde: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

CopyJudge-skemaet anså D-Rep-billeder, der fik en vurdering på 4 eller mere, som eksempler på overtrædelse, mens resten blev holdt tilbage som ikke-IP-relevante. De 4000 officielle billeder i datasættet blev brugt som testbilleder. Yderligere valgte og kuraterede forskerne billeder for 10 berømte tegneseriefigurer fra Wikipedia.

De tre diffusionsbaserede arkitekturer, der blev brugt til at generere potentielt ophavsretskrænkende billeder, var Stable Diffusion V2; Kandinsky2-2; og Stable Diffusion XL. Forfatterne valgte manuelt et ophavsretskrænkende billede og et ikke-ophavsretskrænkende billede fra hver af modellerne, hvilket resulterede i 60 positive og 60 negative eksempler.

Baseline-metoderne, der blev valgt til sammenligning, var: L₂-norm; LPIPS; SSCD; RLCP; og PDF-Emb. For metrikker blev nøjagtighed og F1-score brugt som kriterier for overtrædelse.

GPT-4o blev brugt til at populere de interne debatteam i CopyJudge, ved at bruge tre agenter i maksimalt fem iterationer på en given indsendt billede. Et tilfældigt udvalg af tre billeder fra hver vurdering i D-Rep blev brugt som menneskelige priorer for agenterne til at overveje.

Overtrædelsesresultater for CopyJudge i den første runde.

Af disse resultater kommenterer forfatterne:

‘[Det] er tydeligt, at traditionelle billed-kopi-detectionsmetoder har begrænsninger i ophavsretskrænkelser-identifikationstasken. Vores tilgang overgår betydeligt de fleste metoder. For den mest avancerede metode, PDF-Emb, som blev trænet på 36.000 eksempler fra D-Rep, er vores præstation på D-Rep lidt ringere.

‘Men dens dårlige præstation på Cartoon IP og Artwork-datasættet understreger dens manglende generaliseringskapacitet, hvorimod vores metode viser lige så fremragende resultater på tværs af datasæt.’

Forfatterne bemærker også, at CopyJudge giver en “relativt” mere tydelig grænse mellem gyldige og ophavsretskrænkende tilfælde:

Yderligere eksempler fra testrundene, i den supplerende artikel.

Forskerne sammenlignede deres metode med en Sony AI-medvirkende samarbejdsprojekt fra 2024 med titlen Detektion, forklaring og mitigation af memorering i diffusionsmodeller. Dette arbejde brugte en finjusteret Stable Diffusion-model med 200 memorerede (dvs. overfitnings-) billeder til at fremkalde ophavsretskrænkende data under slutbrug.

Forfatterne til det nye arbejde fandt, at deres egen prompt-mitigationsmetode, i forhold til 2024-tilgangen, var i stand til at producere billeder, der var mindre sandsynlige at krænke ophavsret.

Resultater af memoreringsmitigation med CopyJudge sammenlignet med 2024-arbejdet.

Forfatterne kommenterer her:

‘[Vores] tilgang kunne generere billeder, der var mindre sandsynlige at krænke ophavsret, samtidig med at de opretholdt en sammenlignelig, lidt reduceret match-nøjagtighed. Som vist i [billedet nedenfor], undgår vores metode effektivt svigtene ved [den tidligere] metode, herunder manglen på at mitigere memorering eller generere højst afvigende billeder.’

Sammenligning af genererede billeder og prompts før og efter mitigering af memorering.

Forfatterne kørte yderligere tests i forhold til overtrædelsesmitigation, hvor de studerede eksplicit og implicit overtrædelse.

Eksplicit overtrædelse sker, når prompts direkte henviser til ophavsretskrænkende materiale, såsom ‘Generér et billede af Mickey Mouse’. For at teste dette brugte forskerne 20 tegneserie- og kunstværkseksempler, hvor de genererede ophavsretskrænkende billeder i Stable Diffusion v2 med prompts, der eksplicit indeholdt navne eller forfatterattributter.

En sammenligning mellem forfatternes Latent Control (LC)-metode og den tidligere arbejdes Prompt Control (PC)-metode i forskellige variationer, ved at bruge Stable Diffusion til at skabe billeder, der afbilder eksplicit overtrædelse.

Implicit overtrædelse sker, når en prompt mangler eksplicit ophavsretshenvisning, men alligevel resulterer i et ophavsretskrænkende billede på grund af visse beskrivende elementer – en scenario, der er særligt relevant for kommercielle tekst-til-billede-modeller, der ofte inkorporerer indholdsdetektionssystemer til at identificere og blokere ophavsretskrænkende prompts.

For at udforske dette brugte forfatterne de samme IP-låste eksempler, som i den eksplicitte overtrædelses-test, men genererede ophavsretskrænkende billeder uden direkte ophavsretshenvisninger, ved at bruge DALL-E 3 (selv om artiklen bemærker, at modellens indbyggede sikkerhedsdetektionsmodul blev observeret til at afvise visse prompts, der udløste dens filtre).

Implicit overtrædelse ved hjælp af DALL-E 3, med overtrædelses- og CLIP-scores.

Forfatterne fastholder:

‘[Det] kan ses, at vores metode betydeligt reducerer sandsynligheden for overtrædelse, både for eksplicit og implicit overtrædelse, med kun en lille reduktion i CLIP-score. Overtrædelsesscoren efter kun latent kontrol er relativt højere end efter prompt-kontrol, fordi det at hente ikke-ophavsretskrænkende latente uden at ændre prompten er ret udfordrende. Men vi kan stadig effektivt reducere overtrædelsesscoren, samtidig med at vi opretholder en højere billed-tekst-matching-kvalitet.’

‘[Billedet nedenfor] viser visualiseringsresultater, hvor det kan ses, at vi undgår ophavsretskrænkelser, samtidig med at vi opretholder brugerkrav.’

Genererede billeder før og efter IP-krænkelser-mitigation.

Konklusion

Selv om studiet præsenterer en lovende tilgang til ophavsretsskydd i AI-genererede billeder, kan afhængigheden af store vision-sprogmodeller (LVLMs) til overtrædelsesregistrering give anledning til bekymring om bias og konsistens, da AI-drevne afgørelser ikke altid vil være i overensstemmelse med juridiske standarder.

Måske aller mest betydningsfuldt antager projektet også, at ophavsretshåndhævelse kan automatiseres, på trods af virkelige juridiske afgørelser, der ofte indebærer subjektive og kontekstuelle faktorer, som AI kan have svært ved at fortolke.

I den virkelige verden synes automatiseringen af juridisk konsensus, især omkring output fra AI, sandsynligvis at forblive en kontroversiel sag langt ud over denne tid og langt ud over det område, der behandles i dette arbejde.

Offentliggjort mandag, den 24. februar 2025