Automazione della protezione del diritto d’autore nelle immagini generate da AI

Come discusso la scorsa settimana, anche i modelli fondamentali alla base dei sistemi di intelligenza artificiale generativa possono produrre contenuti che violano il diritto d’autore, a causa di curation inadeguata o non allineata, nonché della presenza di molteplici versioni della stessa immagine nei dati di training, portando a sovrapprendimento, e aumentando la probabilità di riproduzioni riconoscibili.

Nonostante gli sforzi per dominare lo spazio dell’intelligenza artificiale generativa e la crescente pressione per limitare la violazione del diritto d’autore, piattaforme importanti come MidJourney e DALL-E di OpenAI continuano a affrontare sfide nella prevenzione della riproduzione non intenzionale di contenuti protetti da diritto d’autore:

La capacità dei sistemi generativi di riprodurre dati protetti da diritto d’autore si manifesta regolarmente nei media.

Man mano che emergono nuovi modelli, e che i modelli cinesi guadagnano importanza, la soppressione di materiali protetti da diritto d’autore nei modelli fondamentali è una prospettiva onerosa; in effetti, il leader di mercato OpenAI ha dichiarato l’anno scorso che è ‘impossibile’ creare modelli efficaci e utili senza materiali protetti da diritto d’autore.

Precedenti

Per quanto riguarda la generazione involontaria di materiali protetti da diritto d’autore, la scena della ricerca affronta una sfida simile a quella dell’inclusione di contenuti NSFW e altri materiali non adatti nei dati di origine: si desidera il beneficio della conoscenza (ad esempio, anatomia umana corretta, che storicamente è sempre stata basata su studi di nudo) senza la capacità di abusarne.

Allo stesso modo, i creatori di modelli desiderano il beneficio dell’enorme portata di materiali protetti da diritto d’autore che trovano il loro posto nei set di dati iperscalari come LAION, senza che il modello sviluppi la capacità di violare effettivamente il diritto d’autore.

CopyJudge

Il giudizio umano è una risorsa rara e costosa, sia nella curation dei dati che nella creazione di filtri di post-elaborazione e sistemi di “sicurezza” progettati per garantire che i materiali protetti da diritto d’autore non vengano consegnati agli utenti dei portali API come MidJourney e la capacità di generare immagini di ChatGPT.

Pertanto, una nuova collaborazione accademica tra Svizzera, Sony AI e Cina offre CopyJudge – un metodo automatizzato per orchestrare gruppi successivi di “giudici” basati su ChatGPT che possono esaminare gli input per segni di probabile violazione del diritto d’autore.

CopyJudge valuta varie generazioni di AI che violano il diritto d’autore. Fonte: https://arxiv.org/pdf/2502.15278

CopyJudge offre efficacemente un framework automatizzato che sfrutta grandi modelli di visione-linguaggio (LVLM) per determinare la somiglianza sostanziale tra immagini protette da diritto d’autore e quelle prodotte da modelli di diffusione testo-immagine.

Metodo

Sebbene CopyJudge utilizzi GPT per creare tribunali di giudici automatizzati, gli autori sottolineano che il sistema non è ottimizzato per il prodotto di OpenAI, e che qualsiasi numero di modelli di visione-linguaggio alternativi (LVLM) potrebbe essere utilizzato al posto.

Nel primo caso, il framework di astrazione-filtrazione-confronto degli autori è richiesto per decomporre le immagini di origine in parti costituenti, come illustrato nel lato sinistro dello schema seguente:

Schema concettuale per la prima fase del flusso di lavoro di CopyJudge.

Mitigazione

Successivamente, gli autori si sono concentrati sul processo di mitigazione dei prompt descritto in precedenza.

Schema di CopyJudge per mitigare la violazione del diritto d’autore raffinando i prompt e il rumore latente.

Dati e test

Per testare CopyJudge, sono stati utilizzati vari set di dati, tra cui D-Rep, che contiene immagini reali e generate in coppia, valutate dagli esseri umani con un punteggio da 0 a 5.

I risultati degli esperimenti, come affermano gli autori, dimostrano l’equivalenza di CopyJudge rispetto agli approcci attuali nello stato dell’arte, e indicano che il sistema esibisce una generalizzazione e un’interpretazione superiori rispetto ai lavori precedenti.

Conclusione

Sebbene lo studio presenti un approccio promettente per la protezione del diritto d’autore nelle immagini generate da AI, la dipendenza da grandi modelli di visione-linguaggio (LVLM) per la rilevazione della violazione del diritto d’autore potrebbe sollevare preoccupazioni riguardo alla parzialità e alla coerenza, poiché i giudizi guidati da AI potrebbero non allinearsi sempre con gli standard giuridici.

Forse più importante, il progetto presume anche che l’applicazione del diritto d’autore possa essere automatizzata, nonostante le decisioni giuridiche del mondo reale che spesso coinvolgono fattori soggettivi e contestuali che l’AI potrebbe faticare a interpretare.

Nel mondo reale, l’automazione del consenso giuridico, soprattutto intorno all’output dell’AI, sembra probabile che rimanga una questione controversa ben oltre questo momento e ben oltre l’ambito del dominio affrontato in questo lavoro.

Pubblicato per la prima volta lunedì, 24 febbraio 2025