Rivedere il Codice Open Source nell’Età dell’Intelligenza Artificiale Generativa

Il modello open-source – un’etica di sviluppo software in cui il codice sorgente viene reso disponibile gratuitamente per la ridistribuzione o la modifica – è stato a lungo un catalizzatore per l’innovazione. L’ideale è nato nel 1983 quando Richard Stallman, uno sviluppatore software, si è infuriato per la natura “black box” della sua stampante chiusa.

La sua visione ha dato vita al movimento del software libero, aprendo la strada all’ecosistema open-source che alimenta gran parte dell’innovazione di internet e del software di oggi.

Ma questo è successo oltre 40 anni fa.

Oggi, l’Intelligenza Artificiale Generativa, con le sue sfide tecniche ed etiche uniche, sta ridefinendo il significato di “apertura”, richiedendo che rivediamo e adattiamo il paradigma open-source – non per abbandonarlo, ma per adattarlo.

Intelligenza Artificiale e le Libertà Open-Source

Le quattro libertà fondamentali del software open-source – la capacità di eseguire, studiare, modificare e ridistribuire qualsiasi codice software – sono in contrasto con la natura dell’intelligenza artificiale generativa in diversi modi:

• Eseguire: i modelli di intelligenza artificiale spesso richiedono infrastrutture e costi computazionali molto elevati, che limitano l’accesso a causa di vincoli di risorse.
• Studiare e modificare: i modelli di intelligenza artificiale sono incredibilmente complessi, quindi comprenderli e modificarli senza accesso sia al codice che ai dati che li informano è una sfida significativa.
• Ridistribuire: molti modelli di intelligenza artificiale limitano la ridistribuzione per design, in particolare quelli con pesi allenati e set di dati proprietari di proprietà del fornitore della piattaforma.

L’erosione di questi principi fondamentali non è dovuta a intenti maliziosi, ma piuttosto alla complessità e ai costi dell’intelligenza artificiale moderna. In effetti, le richieste finanziarie per l’addestramento di modelli di intelligenza artificiale di ultima generazione sono aumentate drasticamente negli ultimi anni – si ritiene che l’addestramento di GPT-4 di OpenAI abbia comportato costi di fino a 78 milioni di dollari, esclusi i salari del personale, con spese totali superiori a 100 milioni di dollari.

La Complessità dell’Intelligenza Artificiale “Open Source”

Un modello di intelligenza artificiale veramente open-source richiederebbe la trasparenza totale del codice sorgente dell’inferenza, del codice sorgente dell’addestramento, dei pesi del modello e dei dati di addestramento. Tuttavia, molti modelli etichettati come “aperti” rilasceranno solo il codice dell’inferenza o pesi parziali, mentre altri offrono licenze limitate o restrizioni sull’uso commerciale.

Questa apertura imparziale crea l’illusione di principi open-source, mentre in realtà non soddisfa appieno.

Considera che un’analisi dell’Open Source Initiative (OSI) ha scoperto che diversi modelli di linguaggio grandi e popolari che affermano di essere open-source – tra cui Llama2 e Llama 3.x (sviluppati da Meta), Grok (X), Phi-2 (Microsoft) e Mixtral (Mistral AI) – sono incompatibili con i principi open-source.

Sfide di Sostenibilità e Incentivazione

La maggior parte del software open-source è stata costruita su sforzi guidati da volontari o finanziati da sovvenzioni, piuttosto che su infrastrutture costose e intensive in termini di calcolo. I modelli di intelligenza artificiale, d’altra parte, sono costosi da addestrare e mantenere, e i costi sono destinati ad aumentare. Il CEO di Anthropic, Dario Amodei, prevede che potrebbe eventualmente costare fino a $100 miliardi per addestrare un modello all’avanguardia.

Senza un modello di finanziamento sostenibile o una struttura di incentivazione, gli sviluppatori devono scegliere tra limitare l’accesso attraverso licenze closed-source o non commerciali o rischiare il collasso finanziario.

Malintesi su “Pesi Aperti” e Licenze

L’accessibilità dei modelli di intelligenza artificiale è diventata sempre più confusa, con molte piattaforme che si presentano come “aperte” mentre impongono restrizioni che contraddicono fondamentalmente i principi open-source. Questo “gioco di prestigio” si manifesta in diversi modi:

• I modelli etichettati come “pesi aperti” possono proibire l’uso commerciale, mantenendoli più come curiosità accademiche che come strumenti pratici per il pubblico.
• Alcuni fornitori offrono l’accesso a modelli pre-addestrati, ma proteggono gelosamente i loro set di dati di addestramento e le loro metodologie, rendendo impossibile riprodurre o verificare i loro risultati in modo significativo.
• Molte piattaforme impongono restrizioni sulla ridistribuzione che impediscono agli sviluppatori di costruire o migliorare i modelli per le loro comunità, anche se possono accedere completamente al codice.

In questi casi, “aperto per la ricerca” è solo un eufemismo per “chiuso per il business”. Il risultato è una forma di vendor lock-in, in cui le organizzazioni investono tempo e risorse in piattaforme che sembrano apertamente accessibili, solo per scoprire limitazioni critiche quando tentano di scalare o commercializzare le applicazioni.

La confusione che ne deriva non frustra solo gli sviluppatori. Sottovaluta attivamente la fiducia nell’ecosistema dell’intelligenza artificiale. Crea aspettative irrealistiche tra gli stakeholder che ragionevolmente presumono che l’intelligenza artificiale “aperta” sia paragonabile alle comunità del software open-source, dove la trasparenza, i diritti di modifica e la libertà commerciale sono mantenuti.

Ritardo Legale

L’avanzamento rapido della GenAI sta già superando lo sviluppo di quadri legali appropriati, creando una rete complessa di sfide relative alla proprietà intellettuale che aggravano le preoccupazioni preesistenti.

Il primo grande campo di battaglia legale si concentra sull’uso dei dati di addestramento. I modelli di apprendimento profondo attingono a grandi set di dati da Internet, come immagini pubblicamente disponibili e testi di pagine web. Questa raccolta di dati su larga scala ha acceso accesi dibattiti sui diritti di proprietà intellettuale. Le società tecnologiche sostengono che i loro sistemi di intelligenza artificiale studiano e apprendono da materiali protetti da copyright al fine di creare nuovi contenuti trasformativi. I titolari del copyright, tuttavia, sostengono che queste società di intelligenza artificiale copiano illegalmente le loro opere, generando contenuti concorrenti che minacciano i loro mezzi di sussistenza.

La proprietà di opere derivate generate dall’intelligenza artificiale rappresenta un’altra ambiguità legale. Nessuno sa come classificare il contenuto generato dall’intelligenza artificiale, tranne che per l’Ufficio del Copyright degli Stati Uniti, che afferma che “se l’intelligenza artificiale genera interamente il contenuto, non può essere protetto da copyright”.

L’incertezza legale che circonda la GenAI – in particolare riguardo alla violazione del copyright, alla proprietà di opere generate dall’intelligenza artificiale e al contenuto non autorizzato nei dati di addestramento – diventa ancora più problematica quando i modelli di intelligenza artificiale fondamentali emergono come strumenti di importanza geopolitica: le nazioni che competono per sviluppare capacità di intelligenza artificiale superiori potrebbero essere meno inclini a limitare l’accesso ai dati, mettendo le nazioni con protezioni più rigide sulla proprietà intellettuale in una posizione di svantaggio competitivo.

Cosa Deve Diventare l’Open Source nell’Età dell’Intelligenza Artificiale

Il treno della GenAI è già partito e non mostra segni di rallentamento. Speriamo di costruire un futuro in cui l’intelligenza artificiale incoraggi piuttosto che soffocare l’innovazione. In tal caso, i leader tecnologici hanno bisogno di un quadro che garantisca un uso commerciale sicuro e trasparente, promuova l’innovazione responsabile, affronti la proprietà dei dati e la licenza, e differenzi tra “aperto” e “gratuito”.

Un concetto emergente, la Licenza Open Commercial Source, potrebbe offrire un percorso in avanti proponendo l’accesso gratuito per uso non commerciale, l’accesso con licenza per uso commerciale e il riconoscimento e il rispetto della provenienza e della proprietà dei dati.

Per adattarsi a questa nuova realtà, la comunità open-source deve sviluppare modelli di licenza open-source specifici per l’intelligenza artificiale, formare partnership pubblico-private per finanziare questi modelli e stabilire standard affidabili per la trasparenza, la sicurezza e l’etica.

L’open source ha cambiato il mondo una volta. L’intelligenza artificiale generativa sta cambiando il mondo di nuovo. Per preservare lo spirito dell’apertura, dobbiamo evolvere la lettera della sua legge, riconoscendo le esigenze uniche dell’intelligenza artificiale e affrontando le sfide a viso aperto per creare un ecosistema inclusivo e sostenibile.