Le attuali pratiche di intelligenza artificiale potrebbero consentire una nuova generazione di troll del copyright

Una nuova collaborazione di ricerca tra Huawei e l’accademia suggerisce che una grande parte delle più importanti ricerche attuali sull’intelligenza artificiale e l’apprendimento automatico potrebbe essere esposta a procedimenti legali non appena diventa commercialmente prominente, poiché i set di dati che rendono possibili i progressi sono distribuiti con licenze non valide che non rispettano i termini originali dei domini pubblici da cui sono stati ottenuti i dati.

In effetti, ciò ha due risultati quasi inevitabili: che algoritmi di intelligenza artificiale molto redditizi e commercializzati, noti per aver utilizzato tali set di dati, diventeranno i futuri bersagli di troll del copyright opportununisti i cui diritti d’autore non sono stati rispettati quando i loro dati sono stati raccolti; e che le organizzazioni e gli individui potranno utilizzare queste stesse vulnerabilità legali per protestare contro la diffusione o la diffusione di tecnologie di apprendimento automatico che ritengono inaccettabili.

Il documento si intitola Posso utilizzare questo set di dati pubblicamente disponibile per costruire software di intelligenza artificiale commerciale? Probabilmente no ed è una collaborazione tra Huawei Canada e Huawei Cina, insieme all’Università di York nel Regno Unito e all’Università di Victoria in Canada.

Cinque su sei set di dati open source non sono legalmente utilizzabili

Per la ricerca, gli autori hanno chiesto ai dipartimenti di Huawei di selezionare i set di dati open source più desiderabili che avrebbero voluto sfruttare in progetti commerciali e hanno selezionato i sei set di dati più richiesti dalle risposte: CIFAR-10 (un subset del set di dati 80 milioni di immagini minuscole, poiché ritirato per ‘termini denigratori’ e ‘immagini offensive’, anche se i suoi derivati proliferano); ImageNet; Cityscapes (che contiene material esclusivamente originale); FFHQ; VGGFace2, e MSCOCO.

Per analizzare se i set di dati selezionati fossero idonei per un uso legale in progetti commerciali, gli autori hanno sviluppato una nuova pipeline per tracciare la catena di licenze fin dove era possibile per ogni set, anche se spesso hanno dovuto ricorrere a catture dell’archivio web per localizzare le licenze di domini ora scaduti e in alcuni casi hanno dovuto ‘indovinare’ lo stato della licenza dalle informazioni più vicine disponibili.

Architettura del sistema di tracciamento della provenienza sviluppato dagli autori. Fonte: https://arxiv.org/pdf/2111.02374.pdf

Gli autori hanno scoperto che le licenze per cinque dei sei set di dati ‘contengono rischi associati ad almeno un contesto di utilizzo commerciale’:

‘[Noi] osserviamo che, ad eccezione di MS COCO, nessuna delle licenze studiate consente ai praticanti il diritto di commercializzare un modello di intelligenza artificiale addestrato sui dati o anche l’output del modello di intelligenza artificiale addestrato. Un tale risultato preclude anche ai praticanti l’uso di modelli pre-addestrati addestrati su questi set di dati. I set di dati pubblicamente disponibili e i modelli di intelligenza artificiale pre-addestrati su di essi sono ampiamente utilizzati commercialmente.’ *

Gli autori notano inoltre che tre dei sei set di dati studiati potrebbero inoltre comportare una violazione della licenza in prodotti commerciali se il set di dati viene modificato, poiché solo MS-COCO consente ciò. Tuttavia, la modifica dei set di dati e la creazione di subset e supersets di set di dati influenti sono una pratica comune.

Nel caso di CIFAR-10, i compilatori originali non hanno creato alcuna forma convenzionale di licenza, richiedendo solo che i progetti che utilizzano il set di dati includano una citazione del documento originale che ha accompagnato la pubblicazione del set di dati, presentando un ulteriore ostacolo per stabilire lo stato legale dei dati.

Inoltre, solo il set di dati CityScapes contiene material esclusivamente generato dagli originatori del set di dati, piuttosto che essere ‘curato’ (raccolto) da fonti di rete, con CIFAR-10 e ImageNet che utilizzano molteplici fonti, ciascuna delle quali avrebbe bisogno di essere indagata e tracciata per stabilire qualsiasi meccanismo di copyright (o anche una disclamazione significativa).

Nessuna via d’uscita

Ci sono tre fattori su cui le aziende di intelligenza artificiale commerciali sembrano fare affidamento per proteggersi da procedimenti legali relativi a prodotti che hanno utilizzato contenuti protetti da copyright da set di dati gratuitamente e senza autorizzazione per addestrare algoritmi di intelligenza artificiale. Nessuno di questi offre una protezione affidabile a lungo termine:

1: Leggi nazionali lasche
Sebbene i governi di tutto il mondo siano costretti a rilassare le leggi sulla raccolta di dati per non rimanere indietro nella corsa verso l’intelligenza artificiale performante (che si basa su grandi volumi di dati del mondo reale per i quali la conformità ai diritti d’autore e la licenza sarebbero irrealistiche), solo gli Stati Uniti offrono un’immunità completa in questo senso, ai sensi della dottrina del fair use – una politica ratificata nel 2015 con la conclusione di Authors Guild v. Google, Inc., che ha affermato che il gigante della ricerca poteva ingerire liberamente materiale protetto da copyright per il suo progetto Google Books senza essere accusato di violazione dei diritti d’autore.

Se la politica della dottrina del fair use dovesse cambiare (ad esempio in risposta a un altro caso storico che coinvolge organizzazioni o corporation molto potenti), sarebbe probabilmente considerata uno stato a priori per quanto riguarda lo sfruttamento di banche dati che violano i diritti d’autore; ma non in corso utilizzo e sviluppo di sistemi che sono stati resi possibili attraverso materiale protetto da copyright senza accordo.

Ciò mette la protezione attuale della dottrina del fair use su una base molto provvisoria e potrebbe potenzialmente, in quel scenario, richiedere che algoritmi di apprendimento automatico commercializzati e stabiliti cessino di funzionare nei casi in cui le loro origini sono state rese possibili da materiale protetto da copyright – anche nei casi in cui i pesi del modello trattano ora esclusivamente contenuti consentiti, ma sono stati addestrati su (e resi utili da) contenuti copiati illegalmente.

Al di fuori degli Stati Uniti, come notano gli autori nel nuovo documento, le politiche sono generalmente meno permissive. Il Regno Unito e il Canada solo indennizzano l’uso di dati protetti da copyright per scopi non commerciali, mentre la legge dell’UE sui testi e i dati (che non è stata completamente sostituita dalle recenti proposte per una regolamentazione più formale dell’IA) esclude anche lo sfruttamento commerciale per sistemi di intelligenza artificiale che non sono conformi ai requisiti di copyright dei dati originali.

Questi ultimi accordi significano che un’organizzazione può ottenere grandi risultati con i dati di altre persone, fino al – ma non includendo – il punto di trarre profitto da esso. A quel punto, il prodotto sarebbe o esposto legalmente o richiederebbe accordi con letteralmente milioni di titolari di diritti d’autore, molti dei quali sono ora incontattabili a causa della natura mutevole di Internet – una prospettiva impossibile e non sostenibile.

2: Caveat Emptor
Nei casi in cui le organizzazioni che violano i diritti d’autore sperano di deferire la colpa, il nuovo documento osserva anche che molte licenze per i set di dati open source più popolari auto-indennizzano se stesse contro qualsiasi richiesta di abuso di copyright:

‘Ad esempio, la licenza di ImageNet richiede esplicitamente ai praticanti di indennizzare il team di ImageNet da qualsiasi richiesta derivante dall’uso del set di dati. I set di dati FFHQ, VGGFace2 e MS COCO richiedono che il set di dati, se distribuito o modificato, sia presentato con la stessa licenza.’

Ciò costringe coloro che utilizzano set di dati open source a assorbire la colpa per l’uso di materiale protetto da copyright, di fronte a eventuali procedimenti legali (anche se non protegge necessariamente i compilatori originali in un caso in cui l’attuale clima di ‘porto sicuro’ è compromesso).

3: Indennità attraverso l’oscurità
La natura collaborativa della comunità di apprendimento automatico rende abbastanza difficile utilizzare l’occultismo aziendale per oscurare la presenza di algoritmi che hanno tratto beneficio da set di dati che violano i diritti d’autore. Progetti commerciali a lungo termine spesso iniziano in ambienti open source dove l’uso dei set di dati è una questione di record, su GitHub e altri forum pubblicamente accessibili, o dove le origini del progetto sono state pubblicate in pre-stampa o saggi peer-reviewed.

Anche quando ciò non accade, l’inversione del modello è sempre più capace di rivelare le caratteristiche tipiche dei set di dati (o anche esplicitamente output alcuni del materiale di origine), fornendo una prova in sé, o abbastanza sospetto di violazione dei diritti d’autore per consentire l’accesso richiesto dal tribunale alla storia dello sviluppo dell’algoritmo e ai dettagli dei set di dati utilizzati in quel processo.

Conclusione

Il documento descrive un uso caotico e ad hoc di materiale protetto da copyright ottenuto senza autorizzazione, e di una serie di catene di licenze che, seguite logicamente fino all’origine dei dati, richiederebbero negoziati con migliaia di titolari di diritti d’autore il cui lavoro è stato presentato sotto l’egida di siti con una varietà di termini di licenza, molti dei quali precludono opere derivate commerciali.

Gli autori concludono:

‘I set di dati pubblicamente disponibili sono ampiamente utilizzati per costruire software di intelligenza artificiale commerciale. Si può fare ciò se e solo se la licenza associata al set di dati pubblicamente disponibile fornisce il diritto di farlo. Tuttavia, non è facile verificare i diritti e gli obblighi previsti nella licenza associata ai set di dati pubblicamente disponibili. Perché, a volte la licenza è o incerta o potenzialmente non valida.’

Un altro nuovo lavoro, intitolato Costruire set di dati legali, pubblicato il 2 novembre dal Centre for Computational Law della Singapore Management University, sottolinea anch’esso la necessità per gli scienziati dei dati di riconoscere che l’era ‘wild west’ della raccolta di dati ad hoc sta per finire e riflette le raccomandazioni del documento di Huawei per adottare abitudini e metodologie più stringenti per garantire che l’uso del set di dati non esponga un progetto a ramificazioni legali mentre la cultura cambia nel tempo e mentre l’attuale attività accademica globale nel settore dell’apprendimento automatico cerca un ritorno commerciale sugli investimenti di anni. L’autore osserva*:

‘[Il] corpus di legislazione che influisce sui set di dati di apprendimento automatico è destinato a crescere, tra le preoccupazioni che le leggi attuali offrono safeguards insufficienti. Il progetto di legge sull’intelligenza artificiale dell’UE [atto dell’UE sull’intelligenza artificiale], se e quando approvato, altererebbe significativamente il paesaggio di governance dei dati e dell’intelligenza artificiale; altri giurisdizioni potrebbero seguire con i propri atti. ‘

* La mia conversione delle citazioni in linea in collegamenti ipertestuali