Il Problema della PLAGIO: Come i Modelli di Intelligenza Artificiale Generativa Riproducono Contenuti Protetti da Copyright

I rapidi progressi nell’intelligenza artificiale generativa hanno suscitato entusiasmo per il potenziale creativo di questa tecnologia. Tuttavia, questi potenti modelli pongono anche rischi preoccupanti riguardo alla riproduzione di contenuti protetti da copyright o plagiati senza adeguata attribuzione.

Come le Reti Neurali Assorbono i Dati di Addestramento

I sistemi di intelligenza artificiale moderni come GPT-3 vengono addestrati attraverso un processo chiamato apprendimento per trasferimento. Ingestono enormi set di dati raccolti da fonti pubbliche come siti web, libri, articoli accademici e altro. Ad esempio, i dati di addestramento di GPT-3 comprendevano 570 gigabyte di testo. Durante l’addestramento, l’IA cerca pattern e relazioni statistiche in questo vasto insieme di dati. Impara le correlazioni tra parole, frasi, paragrafi, struttura linguistica e altre caratteristiche.

Ciò consente all’IA di generare nuovo testo o immagini coerenti prediligendo sequenze che potrebbero seguire un determinato input o prompt. Tuttavia, significa anche che questi modelli assorbono contenuti senza riguardo per i diritti d’autore, l’attribuzione o i rischi di plagio. Di conseguenza, le intelligenze artificiali generative possono involontariamente riprodurre passaggi verbatim o parafrasare testi protetti da copyright dai loro corpora di addestramento.

Esempi Chiave di Plagio dell’IA

Le preoccupazioni riguardo al plagio dell’IA sono emerse in modo prominente dal 2020, dopo il rilascio di GPT.

Ricerche recenti hanno dimostrato che grandi modelli linguistici (LLM) come GPT-3 possono riprodurre passaggi verbatim sostanziali dai loro dati di addestramento senza citazione (Nasr et al., 2023; Carlini et al., 2022). Ad esempio, una causa legale del New York Times ha rivelato che il software OpenAI generava articoli del New York Times quasi verbatim (The New York Times, 2023).

Questi risultati suggeriscono che alcuni sistemi di intelligenza artificiale generativa possano produrre output plagiari non sollecitati, rischiando la violazione del copyright. Tuttavia, la prevalenza rimane incerta a causa della natura “scatola nera” dei LLM. La causa legale del New York Times sostiene che tali output costituiscono una violazione, il che potrebbe avere importanti implicazioni per lo sviluppo dell’intelligenza artificiale generativa. Nel complesso, le prove indicano che il plagio è un problema intrinseco nei grandi modelli di rete neurale che richiede vigilanza e salvaguardie.

Questi casi rivelano due fattori chiave che influenzano i rischi di plagio dell’IA:

1. Dimensione del modello – Modelli più grandi come GPT-3.5 sono più propensi a rigenerare passaggi verbatim di testo rispetto ai modelli più piccoli. I loro set di dati di addestramento più grandi aumentano l’esposizione a materiali protetti da copyright.
2. Dati di addestramento – Modelli addestrati su dati internet raccolti o su opere protette da copyright (anche se con licenza) sono più propensi a plagiare rispetto ai modelli addestrati su set di dati curati con attenzione.

Tuttavia, misurare direttamente la prevalenza degli output plagiari è difficile. La natura “scatola nera” delle reti neurali rende difficile tracciare completamente il collegamento tra i dati di addestramento e gli output del modello. I tassi dipendono probabilmente fortemente dall’architettura del modello, dalla qualità del set di dati e dalla formulazione del prompt. Ma questi casi confermano che il plagio dell’IA si verifica inequivocabilmente, il che ha importanti implicazioni legali ed etiche.

Sistemi di Rilevamento del Plagio Emergenti

In risposta, i ricercatori hanno iniziato a esplorare sistemi di IA per rilevare automaticamente il testo e le immagini generate dai modelli rispetto a quelle create dagli esseri umani. Ad esempio, i ricercatori di Mila hanno proposto GenFace, che analizza i pattern linguistici indicativi di testo scritto dall’IA. La startup Anthropic ha anche sviluppato capacità di rilevamento del plagio interne per il suo AI conversazionale Claude.

Tuttavia, questi strumenti hanno limitazioni. I dati di addestramento massicci di modelli come GPT-3 rendono difficile, se non impossibile, individuare le fonti originali del testo plagiato. Saranno necessarie tecniche più robuste mentre i modelli generativi continueranno a evolversi rapidamente. Fino ad allora, la revisione manuale rimane essenziale per filtrare gli output dell’IA potenzialmente plagiati o contraffatti prima dell’uso pubblico.

Migliori Pratiche per Mitigare il Plagio dell’IA Generativa

Ecco alcune migliori pratiche che gli sviluppatori di IA e gli utenti possono adottare per minimizzare i rischi di plagio:

Per gli sviluppatori di IA:

• Verificare con attenzione le fonti dei dati di addestramento per escludere materiali protetti da copyright o con licenza senza autorizzazioni adeguate.
• Sviluppare procedure rigorose di documentazione dei dati e di tracciamento della provenienza. Registrare i metadati come licenze, tag, creatori, ecc.
• Implementare strumenti di rilevamento del plagio per segnalare contenuti ad alto rischio prima della pubblicazione.
• Fornire rapporti di trasparenza che dettagliano le fonti dei dati di addestramento, le licenze e le origini degli output dell’IA quando sorgono preoccupazioni.
• Consentire ai creatori di contenuti di rinunciare facilmente ai set di dati di addestramento. Rispondere prontamente alle richieste di rimozione o esclusione.

Per gli utenti di IA generativa:

• Esaminare attentamente gli output per eventuali passaggi plagiati o non attribuiti prima di utilizzarli su larga scala.
• Evitare di trattare l’IA come sistemi creativi completamente autonomi. Utilizzare revisori umani per esaminare il contenuto finale.
• Preferire la creazione assistita dall’IA alla generazione di contenuti completamente nuovi. Utilizzare i modelli per parafrasi o ideazione invece.
• Consultare i termini di servizio, le politiche di contenuto e le salvaguardie contro il plagio dei fornitori di IA prima dell’uso. Evitare modelli opachi.
• Citare le fonti in modo chiaro se del materiale protetto da copyright appare nell’output finale nonostante gli sforzi migliori. Non presentare il lavoro dell’IA come interamente originale.
• Limitare la condivisione degli output in privato o in modo confidenziale fino a quando i rischi di plagio possono essere ulteriormente valutati e affrontati.

Potrebbero essere necessarie regolamentazioni più strette sui dati di addestramento man mano che i modelli generativi continuano a proliferare. Ciò potrebbe coinvolgere l’obbligo di ottenere il consenso dei creatori prima che il loro lavoro venga aggiunto ai set di dati. Tuttavia, l’onere ricade sia sugli sviluppatori che sugli utenti per adottare pratiche etiche di IA che rispettino i diritti dei creatori di contenuti.

Plagio in Midjourney’s V6 Alpha

Dopo una limitata promozione, il modello V6 di Midjourney alcuni ricercatori sono stati in grado di generare immagini quasi identiche a film, spettacoli televisivi e screenshot di videogiochi protetti da copyright probabilmente inclusi nei suoi dati di addestramento.

Immagini Create da Midjourney che Sono Quasi Identiche a Scene di Film e Videogiochi Famosi

Questi esperimenti confermano ulteriormente che anche i sistemi di intelligenza artificiale visiva all’avanguardia possono inconsapevolmente plagiare contenuti protetti se la fonte dei dati di addestramento rimane incontrollata. Sottolinea la necessità di vigilanza, salvaguardie e supervisione umana quando si utilizzano modelli generativi commercialmente per limitare i rischi di violazione del copyright.

La Risposta delle Aziende di IA sui Contenuti Protetti da Copyright

Le linee tra creatività umana e IA si stanno confondendo, creando complesse questioni di copyright. Le opere che combinano input umano e IA potrebbero essere protette da copyright solo negli aspetti eseguiti esclusivamente dall’essere umano.

L’Ufficio del Copyright degli Stati Uniti ha recentemente negato il copyright alla maggior parte di un romanzo a fumetti creato da un essere umano e un’IA, considerando l’arte dell’IA non umana. Ha anche emanato linee guida che escludono i sistemi di IA dall'”autore”. I tribunali federali hanno confermato questa posizione in un caso di copyright di arte dell’IA.

Nel frattempo, cause legali affermano che i modelli di intelligenza artificiale generativa violano il copyright, come Getty v. Stability AI e artisti v. Midjourney/Stability AI. Ma senza “autori” dell’IA, alcuni mettono in dubbio se le affermazioni di violazione si applichino.

In risposta, importanti aziende di IA come Meta, Google (GOOGL ), Microsoft (MSFT ) e Apple (AAPL ) hanno sostenuto che non dovrebbero essere necessarie licenze o pagare royalties per addestrare modelli di IA con dati protetti da copyright.

Ecco un riassunto degli argomenti chiave delle principali aziende di IA in risposta a potenziali nuove regole di copyright degli Stati Uniti sull’IA, con citazioni:

Meta sostiene che l’imposizione di licenze ora causerebbe caos e fornirebbe poco beneficio ai titolari del copyright.

Google afferma che l’addestramento dell’IA è analogo ad atti non contraffatti come leggere un libro (Google, 2022).

Microsoft avverte che la modifica delle leggi sul copyright potrebbe svantaggiare i piccoli sviluppatori di IA.

Apple vuole proteggere con copyright il codice generato dall’IA controllato da sviluppatori umani.

Nel complesso, la maggior parte delle aziende si oppone a nuovi obblighi di licenza e minimizza le preoccupazioni riguardo ai sistemi di IA che riproducono opere protette senza attribuzione. Tuttavia, questa posizione è controversa alla luce delle recenti cause legali di copyright dell’IA e dei dibattiti.

Percorsi per l’Innovazione Responsabile dell’IA Generativa

Mentre questi potenti modelli generativi continuano ad avanzare, è fondamentale arginare i rischi di plagio per una loro accettazione mainstream. È necessario un approccio multifase:

• Riforme delle politiche sui dati di addestramento, sulla trasparenza, sulle licenze e sul consenso dei creatori.
• Tecnologie di rilevamento del plagio più solide e una governance interna più forte da parte degli sviluppatori.
• Maggior consapevolezza degli utenti dei rischi e adesione ai principi etici dell’IA.
• Precedenti legali chiari e giurisprudenza sui problemi di copyright dell’IA.

Con le giuste salvaguardie, la creazione assistita dall’IA può fiorire in modo etico. Ma i rischi incontrollati di plagio potrebbero minare notevolmente la fiducia del pubblico. Affrontare direttamente questo problema è fondamentale per realizzare il grande potenziale creativo dell’IA generativa mentre si rispettano i diritti dei creatori. Trovare il giusto equilibrio richiederà un confronto attivo con il punto cieco del plagio costruito nella natura stessa delle reti neurali. Ma farlo garantirà che questi potenti modelli non minino l’ingegno umano che mirano ad aumentare.