Automatizarea protecției drepturilor de autor în imagini generate de inteligența artificială

După cum s-a discutat săptămâna trecută, chiar și modelele de bază ale sistemelor generative de inteligență artificială pot produce conținut care încalcă drepturile de autor, din cauza curățirii inadecvate sau nealiniată a datelor, precum și a prezenței multiplelor versiuni ale aceleiași imagini în datele de antrenament, ceea ce duce la supraantrenare și crește probabilitatea reproducerii recunoscute.

În ciuda eforturilor de a domina spațiul inteligenței artificiale generative și a presiunii crescânde de a preveni încălcarea drepturilor de autor, platformele majore precum MidJourney și DALL-E de la OpenAI continuă să întâmpine provocări în prevenirea reproducerii neintenționate a conținutului protejat de drepturi de autor:

Capacitatea sistemelor generative de a reproduce date protejate de drepturi de autor apare frecvent în mass-media.

Pe măsură ce apar noi modele, și modelele chinezești câștigă dominantă, suprimarea materialului protejat de drepturi de autor în modelele de bază este o perspectivă dificilă; de fapt, liderul de piață OpenAI a declarat anul trecut că este ‘imposibil’ să se creeze modele eficiente și utile fără date protejate de drepturi de autor.

Artă anterioară

În ceea ce privește generarea neintenționată a materialului protejat de drepturi de autor, scena de cercetare se confruntă cu o provocare similară cu cea a incluziunii conținutului pornografic și altor materiale NSFW în datele sursă: una dorește beneficiul cunoașterii (adică anatomia umană corectă, care a fost întotdeauna bazată pe studii nud) fără capacitatea de a o exploata.

La fel, creatorii de modele doresc beneficiul imensului volum de material protejat de drepturi de autor care ajunge în seturi hiperscale precum LAION, fără ca modelul să dezvolte capacitatea de a încălca efectiv drepturile de autor.

Ignorând riscurile etice și juridice ale încercării de a ascunde utilizarea materialului protejat de drepturi de autor, filtrarea pentru al doilea caz este semnificativ mai dificilă. Conținutul NSFW conține adesea caracteristici latente distincte de nivel scăzut care permit o filtrare din ce în ce mai eficientă fără a necesita comparații directe cu materialul din lumea reală. În contrast, încorporările latente care definesc milioane de lucrări protejate de drepturi de autor nu se reduc la un set de markeri ușor de identificat, făcând detectarea automată mult mai complexă.

CopyJudge

Judecata umană este o marfă rară și scumpă, atât în curățarea datelor, cât și în crearea filtrelor de post-procesare și a sistemelor “de siguranță” concepute pentru a asigura că materialul protejat de drepturi de autor nu este livrat utilizatorilor portalurilor bazate pe API, cum ar fi MidJourney și capacitatea de generare a imaginilor ChatGPT.

Prin urmare, o nouă colaborare academică între Elveția, Sony AI și China oferă CopyJudge – o metodă automată de orchestrare a grupurilor succesive de “judecători” bazate pe ChatGPT care pot examina intrările pentru semne de încălcare posibilă a drepturilor de autor.

CopyJudge evaluează diverse generații AI care încălcă drepturile de autor. Sursă: https://arxiv.org/pdf/2502.15278

CopyJudge oferă, în esență, un cadru automat care utilizează modelele de viziune-lingvistică mari (LVLM) pentru a determina similaritatea substanțială între imaginile protejate de drepturi de autor și cele generate de modelele de difuzie text-Imagine.

Abordarea CopyJudge folosește învățarea prin întărire și alte abordări pentru a optimiza promt-urile care încălcă drepturile de autor și, apoi, folosește informații din aceste promt-uri pentru a crea noi promt-uri care sunt mai puțin susceptibile de a evoca imagini interzise.

Deși multe generatoare de imagini bazate pe inteligență artificială online filtrează promt-urile utilizatorilor pentru conținut NSFW, material protejat de drepturi de autor, reprezentarea unor persoane reale și diverse alte domenii interzise, CopyJudge folosește, în schimb, promt-uri “încălcătoare” rafinate pentru a crea promt-uri “sanitizate” care sunt mai puțin susceptibile de a evoca imagini interzise, fără intenția de a bloca direct intrarea utilizatorului.

Deși această abordare nu este nouă, ea merge într-o oarecare măsură spre eliberarea sistemelor generative bazate pe API de la simpla refuzare a intrării utilizatorului (mai ales pentru că aceasta permite utilizatorilor să dezvolte accesul din spate la generații interzise, prin experimentare).

Un astfel de exploit recent (de curând închis de dezvoltatori) a permis utilizatorilor să genereze material pornografic pe platforma de inteligență artificială generativă Kling, pur și simplu incluzând o cruce proeminentă sau un crucifix în imaginea încărcată în fluxul de lucru imagine-la-videoclip.

Într-o gaură de securitate închisă de dezvoltatorii Kling la sfârșitul anului 2024, utilizatorii puteau forța sistemul să producă ieșiri NSFW interzise, pur și simplu incluzând o cruce sau un crucifix în imaginea sursă a fluxului de lucru imagine-la-videoclip. Nu a existat nicio explicație cu privire la logica din spatele acestui hack expirat. Sursă: Discord

Instanțe precum aceasta subliniază nevoia de sanitizare a promt-urilor în sistemele generative online, mai ales deoarece “dezînvățarea mașinilor”, în care modelul de bază este modificat pentru a elimina concepte interzise, poate avea efecte nedorite asupra utilității modelului final.

Căutând soluții mai puțin drastice, sistemul CopyJudge imită judecățile bazate pe inteligență umană prin utilizarea inteligenței artificiale pentru a descompune imagini în elemente cheie, cum ar fi compoziția și culoarea, pentru a filtra părțile necopyrightabile și pentru a compara ceea ce rămâne. De asemenea, include o metodă condusă de inteligență artificială pentru a ajusta promt-urile și a modifica generarea de imagini, ajutând la evitarea problemelor de drepturi de autor, în timp ce păstrează conținutul creativ.

Rezultatele experimentale, susțin autorii, demonstrează echivalența CopyJudge cu abordările de ultimă oră în acest scop și indică faptul că sistemul prezintă o generalizare superioară și interpretabilitate, în comparație cu lucrările anterioare.

Noul articol se intitulează CopyJudge: Identificarea și mitigarea încălcării drepturilor de autor în modelele de difuzie text-Imagine și provine de la cinci cercetători de la EPFL, Sony AI și Universitatea Westlake din China.

Metodă

Deși CopyJudge utilizează GPT pentru a crea tribunale de “judecători” automatizați, autorii subliniază că sistemul nu este optimizat pentru produsul OpenAI și că orice număr de modele de viziune-lingvistică mari alternative (LVLM) ar putea fi utilizate în schimb.

În primul rând, cadrul de abstractizare-filtrare-comparație al autorilor necesită descompunerea imaginilor sursă în părți constitutive, așa cum se arată în partea stângă a schemei de mai jos:

Schema conceptuală pentru faza inițială a fluxului de lucru CopyJudge.

În colțul din stânga jos, vedem un agent de filtrare care descompune secțiunile imaginii în încercarea de a identifica caracteristici care ar putea fi native unei lucrări protejate de drepturi de autor, dar care, în sine, ar fi prea generice pentru a califica drept o încălcare.

Mai multe LVLM-uri sunt ulterior utilizate pentru a evalua elementele filtrate – o abordare care a fost dovedită a fi eficientă în lucrări precum oferta CSAIL din 2023 Îmbunătățirea faptului și a raționamentului în modelele de limbaj prin dezbaterea multiagent și ChatEval, printre altele recunoscute în noul articol.

Autorii afirmă:

‘[Noi] adoptăm o abordare de dezbatere sincronă pe mai multe niveluri, în care fiecare LVLM primește răspunsurile de la [ceilalți] LVLM-uri înainte de a face următoarea judecată. Acest lucru creează o buclă de feedback dinamic care întărește fiabilitatea și profunzimea analizei, pe măsură ce modelele își adaptează evaluările pe baza noilor insight-uri prezentate de colegii lor.

‘Fiecare LVLM poate ajusta scorul său pe baza răspunsurilor de la ceilalți LVLM-uri sau îl poate păstra neschimbat.’

De asemenea, sunt incluse perechi de imagini evaluate de oameni prin învățarea în contextul puținilor exemplari’

Odată ce “tribunalele” din buclă au ajuns la un scor de consens care se află în intervalul de acceptabilitate, rezultatele sunt transmise unui “judecător” LVLM meta, care sintetizează rezultatele într-un scor final.

Mitigare

Următorul, autorii s-au concentrat pe procesul de mitigare a promt-urilor descris mai devreme.

Schema CopyJudge pentru mitigarea încălcării drepturilor de autor prin rafinarea promt-urilor și a zgomotului latent. Sistemul ajustează promt-urile iterativ, utilizând învățarea prin întărire pentru a modifica variabilele latente pe măsură ce promt-urile evoluează, sperând să reducă riscul de încălcare.

Cele două metode utilizate pentru mitigarea promt-urilor au fost controlul promt-urilor bazat pe LVLM, unde promt-urile non-încălcătoare eficiente sunt dezvoltate iterativ în cadrul clusterelor GPT – o abordare care este în întregime “cutie neagră”, care nu necesită acces intern la arhitectura modelului; și o abordare bazată pe învățare prin întărire (RL), în care recompensa este concepută pentru a penaliza ieșirile care încălcă drepturile de autor.

Date și teste

Pentru a testa CopyJudge, au fost utilizate diverse seturi de date, inclusiv D-Rep, care conține perechi de imagini reale și false evaluate de oameni pe o scară de notare de la 0 la 5.

Explorarea setului de date D-Rep la Hugging Face. Această colecție cuprinde perechi de imagini reale și generate. Sursă: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

Schema CopyJudge a considerat imagini D-Rep care au primit o notă de 4 sau mai mult ca exemple de încălcare, iar restul au fost reținute ca neîncălcătoare. Cele 4000 de imagini oficiale din setul de date au fost utilizate ca imagini de test. Mai mult, cercetătorii au selectat și curățat imagini pentru 10 personaje de desene animate celebre de pe Wikipedia.

Arhitecturile de difuzie bazate pe trei utilizate pentru a genera imagini care încălcă drepturile de autor au fost Stable Diffusion V2; Kandinsky2-2; și Stable Diffusion XL. Autorii au selectat manual o imagine care încălca drepturile de autor și una care nu încălca drepturile de autor din fiecare dintre modele, ajungând la 60 de exemple pozitive și 60 de exemple negative.

Metodele de bază selectate pentru comparație au fost: L₂ norm; Similaritatea patch-ului de imagine perceptuală învățată (LPIPS); SSCD; RLCP; și PDF-Emb. Pentru metrici, acuratețea și scorul F1 au fost utilizați ca criterii pentru încălcare.

GPT-4o a fost utilizat pentru a popula echipele interne de dezbateri ale CopyJudge, utilizând trei agenți pentru un maximum de cinci iterații pe orice imagine anume trimisă. Trei imagini aleatorii din fiecare notare din D-Rep au fost utilizate ca prioare umane pentru agenții care le-au considerat.

Rezultatele încălcării pentru CopyJudge în prima rundă.

Dintre aceste rezultate, autorii comentează:

‘[Este] evident că metodele tradiționale de detectare a copierii imaginilor prezintă limitări în sarcina de identificare a încălcării drepturilor de autor. Abordarea noastră depășește semnificativ majoritatea metodelor. Pentru metoda de ultimă oră, PDF-Emb, care a fost antrenată pe 36.000 de exemple din D-Rep, performanța noastră pe D-Rep este ușor inferioară.

‘Cu toate acestea, performanța sa slabă pe setul de date Cartoon IP și Artwork subliniază lipsa sa de capacitate de generalizare, în timp ce metoda noastră demonstrează rezultate excelente în toate seturile de date.’

Autorii notează, de asemenea, că CopyJudge oferă o “graniță relativă” mai distinctă între cazurile valabile și cele care încălcă drepturile de autor:

Mai multe exemple din rundele de testare, în materialul suplimentar din noul articol.

Cercetătorii au comparat metodele lor cu o colaborare implicând Sony AI din 2024, intitulată Detectarea, explicarea și mitigarea memorizării în modelele de difuzie. Această lucrare a utilizat un model de difuzie stabil fin-antrenat, care prezintă 200 de imagini memorizate (adică supraantrenate), pentru a elibera date protejate de drepturi de autor în timpul inferenței.

Autorii noii lucrări au constatat că metoda lor de mitigare a promt-urilor, comparativ cu abordarea din 2024, a fost capabilă să producă imagini care sunt mai puțin susceptibile de a încălca drepturile de autor.

Rezultatele mitigării memorizării cu CopyJudge comparate cu lucrarea din 2024.

Autorii comentează aici:

‘[Abordarea noastră] poate genera imagini care sunt mai puțin susceptibile de a încălca drepturile de autor, în timp ce menține o acuratețe a potrivirii comparabilă, ușor redusă. Așa cum se arată în [ imaginea de mai jos ], metoda noastră evită eficient limitele metodei anterioare, inclusiv eșecul de a mitiga memorizarea sau generarea de imagini puternic deviate.’

Comparație între imagini generate și promt-uri înainte și după mitigarea memorizării.

Autorii au efectuat teste suplimentare cu privire la mitigarea încălcării drepturilor de autor, studiind încălcarea explicită și încălcarea implicită.

Încălcarea explicită apare atunci când promt-urile se referă direct la material protejat de drepturi de autor, cum ar fi ‘Generează o imagine cu Mickey Mouse’. Pentru a testa acest lucru, cercetătorii au utilizat 20 de exemple de desene animate și lucrări de artă, generând imagini care încălcă drepturile de autor în Stable Diffusion v2, cu promt-uri care includeau explicit nume sau atribute de autor.

O comparație între metoda noastră de control latent (LC) și metoda de control a promt-ului (PC) din lucrarea anterioară, în diverse variante, utilizând Stable Diffusion pentru a crea imagini care înfățișează încălcări explicite.

Încălcarea implicită apare atunci când un promt lipsește de referințe explicite la drepturi de autor, dar totuși duce la o imagine care încălca drepturile de autor, datorită anumitor elemente descriptive – o scenariu care este deosebit de relevant pentru modelele comerciale de text-la-imagine, care adesea incorporează sisteme de detectare a conținutului pentru a identifica și a bloca promt-urile legate de drepturi de autor.

Pentru a explora acest lucru, autorii au utilizat aceleași exemple de lucrări protejate de drepturi de autor ca și în testul de încălcare explicită, dar au generat imagini care încălcă drepturile de autor fără referințe directe la drepturi de autor, utilizând DALL-E 3 (deși articolul notează că modulul de detectare a siguranței încorporat al modelului a fost observat că respinge anumite promt-uri care declanșează filtrele sale).

Încălcarea implicită utilizând DALL-E 3, cu scoruri de încălcare și CLIP.

Autorii afirmă:

‘[Se poate vedea că] metoda noastră reduce semnificativ probabilitatea încălcării, atât pentru încălcarea explicită, cât și pentru cea implicită, cu o scădere ușoară a scorului CLIP. Scorul de încălcare după controlul latent este relativ mai mare decât după controlul promt-ului, deoarece recuperarea zgomotului latent non-încălcător fără schimbarea promt-ului este destul de dificilă. Cu toate acestea, putem reduce în mod eficient scorul de încălcare, în timp ce menținem o calitate superioară a potrivirii imagine-text.’

‘[Imaginea de mai jos] arată rezultatele de vizualizare, unde se poate observa că evităm încălcarea drepturilor de autor, în timp ce păstrăm cerințele utilizatorului.’

Imagini generate înainte și după mitigarea încălcării drepturilor de autor.

Concluzie

Deși studiul prezintă o abordare promițătoare pentru protecția drepturilor de autor în imagini generate de inteligență artificială, dependența de modelele de viziune-lingvistică mari (LVLM) pentru detectarea încălcării drepturilor de autor ar putea ridica preocupări cu privire la prejudecăți și consecvență, deoarece judecățile conduse de inteligență artificială nu sunt întotdeauna aliniate cu standardele juridice.

Probabil cel mai important, proiectul presupune, de asemenea, că aplicarea legii poate fi automatizată, în ciuda deciziilor juridice din lumea reală care implică adesea factori subiectivi și contextuali pe care inteligența artificială ar putea să nu-i poată interpreta.

În lumea reală, automatizarea consensului juridic, mai ales în jurul ieșirilor de la inteligența artificială, pare să rămână o problemă controversată mult dincolo de acest moment și mult dincolo de domeniul abordat în această lucrare.

Publicat pentru prima dată luni, 24 februarie 2025