Monetizzare la Ricerca per l’Addestramento dell’Intelligenza Artificiale: Rischi e Migliori Pratiche

Mentre la domanda di intelligenza artificiale generativa cresce, aumenta anche la fame di dati di alta qualità per addestrare questi sistemi. Gli editori accademici hanno iniziato a monetizzare il loro contenuto di ricerca per fornire dati di addestramento per grandi modelli linguistici (LLM). Sebbene questo sviluppo crei un nuovo flusso di entrate per gli editori e potenzi l’intelligenza artificiale generativa per le scoperte scientifiche, solleva domande critiche sull’integrità e l’affidabilità della ricerca utilizzata. Ciò solleva una domanda cruciale: i set di dati che vengono venduti sono attendibili e quali sono le implicazioni di questa pratica per la comunità scientifica e i modelli di intelligenza artificiale?

L’Ascesa degli Accordi di Ricerca Monetizzati

I principali editori accademici, tra cui Wiley, Taylor & Francis e altri, hanno segnalato entrate sostanziali dalla licenza del loro contenuto alle società tecnologiche che sviluppano modelli di intelligenza artificiale generativa. Ad esempio, Wiley ha rivelato di aver guadagnato oltre 40 milioni di dollari da tali accordi solo quest’anno. Questi accordi consentono alle società di intelligenza artificiale di accedere a dataset scientifici diversi e ampi, migliorando presumibilmente la qualità dei loro strumenti di intelligenza artificiale.

La proposta degli editori è semplice: la licenza garantisce migliori modelli di intelligenza artificiale, beneficia la società e premia gli autori con royalties. Questo modello di business beneficia sia le società tecnologiche che gli editori. Tuttavia, la tendenza crescente a monetizzare la conoscenza scientifica presenta rischi, soprattutto quando la ricerca discutibile infiltra questi set di dati di addestramento dell’intelligenza artificiale.

L’Ombra della Ricerca Bogus

La comunità accademica non è nuova ai problemi di ricerca fraudolenta. Gli studi suggeriscono che molte scoperte pubblicate sono difettose, distorte o semplicemente inaffidabili. Un sondaggio del 2020 ha rilevato che quasi la metà dei ricercatori ha segnalato problemi come la segnalazione selettiva dei dati o studi di campo mal progettati. Nel 2023, oltre 10.000 articoli sono stati ritirati a causa di risultati falsificati o inaffidabili, un numero che continua a salire ogni anno. Gli esperti ritengono che questo numero rappresenti solo la punta dell’iceberg, con innumerevoli studi discutibili che circolano nelle banche dati scientifiche.

La crisi è stata principalmente causata da “mulini di carta“, organizzazioni ombra che producono studi falsificati, spesso in risposta alle pressioni accademiche in regioni come Cina, India e Europa orientale. Si stima che circa il 2% delle proposte di articoli per riviste a livello globale provenga da mulini di carta. Questi articoli falsi possono sembrare ricerche legittime ma sono pieni di dati fittizi e conclusioni infondate. Inquietantemente, tali articoli passano la revisione paritaria e finiscono in riviste rispettabili, compromettendo l’affidabilità delle intuizioni scientifiche. Ad esempio, durante la pandemia di COVID-19, studi difettosi sull’ivermectina hanno falsamente suggerito la sua efficacia come trattamento, seminando confusione e ritardando le risposte sanitarie pubbliche efficaci. Questo esempio mette in evidenza il potenziale danno della diffusione di ricerche inaffidabili, dove risultati errati possono avere un impatto significativo.

Conseguenze per l’Addestramento dell’Intelligenza Artificiale e la Fiducia

Le implicazioni sono profonde quando i LLM si addestrano su database che contengono ricerche fraudolente o di bassa qualità. I modelli di intelligenza artificiale utilizzano modelli e relazioni all’interno dei loro dati di addestramento per generare output. Se i dati di input sono corrotti, gli output possono perpetuare inesattezze o addirittura amplificarle. Questo rischio è particolarmente alto in campi come la medicina, dove le informazioni generate dall’intelligenza artificiale potrebbero avere conseguenze letali.
Inoltre, la questione minaccia la fiducia del pubblico nell’ambito accademico e nell’intelligenza artificiale. Mentre gli editori continuano a stipulare accordi, devono affrontare le preoccupazioni sulla qualità dei dati che vengono venduti. Il mancato adeguamento a questo potrebbe danneggiare la reputazione della comunità scientifica e compromettere i potenziali benefici dell’intelligenza artificiale.

Garantire Dati Affidabili per l’Intelligenza Artificiale

Ridurre i rischi di ricerche difettose che disturbano l’addestramento dell’intelligenza artificiale richiede uno sforzo congiunto da parte degli editori, delle società di intelligenza artificiale, degli sviluppatori, dei ricercatori e della comunità più ampia. Gli editori devono migliorare il loro processo di revisione paritaria per intercettare studi inaffidabili prima che entrino nei set di dati di addestramento. Offrire migliori ricompense per i revisori e stabilire standard più alti può aiutare. Un processo di revisione aperto è fondamentale in questo contesto. Ciò porta maggiore trasparenza e responsabilità, aiutando a costruire fiducia nella ricerca.

Gli sviluppatori di intelligenza artificiale devono assumersi la responsabilità dei dati che utilizzano. Ciò significa lavorare con esperti, controllare attentamente la ricerca e confrontare i risultati di più studi. Gli strumenti di intelligenza artificiale possono anche essere progettati per identificare dati sospetti e ridurre i rischi di diffusione di ricerche discutibili.

La trasparenza è anche un fattore essenziale. Gli editori e le società di intelligenza artificiale dovrebbero condividere apertamente i dettagli su come viene utilizzata la ricerca e dove vanno le royalties. Strumenti come il Generative AI Licensing Agreement Tracker mostrano promesse, ma necessitano di una maggiore adozione. I ricercatori dovrebbero anche avere voce in capitolo su come viene utilizzato il loro lavoro. Le politiche di opt-in, come quelle di Cambridge University Press, offrono agli autori il controllo sui loro contributi. Ciò costruisce fiducia, garantisce equità e fa partecipare attivamente gli autori a questo processo.

Inoltre, l’accesso aperto a ricerche di alta qualità dovrebbe essere incoraggiato per garantire inclusività e equità nello sviluppo dell’intelligenza artificiale. I governi, le organizzazioni no-profit e i giocatori dell’industria possono finanziare iniziative di accesso aperto, riducendo la dipendenza dagli editori commerciali per set di dati di addestramento critici. Inoltre, l’industria dell’intelligenza artificiale necessita di regole chiare per la raccolta dati etica. Concentrandosi su ricerche affidabili e ben revisionate, possiamo costruire strumenti di intelligenza artificiale migliori, proteggere l’integrità scientifica e mantenere la fiducia del pubblico nella scienza e nella tecnologia.

Il Punto Chiave

Monetizzare la ricerca per l’addestramento dell’intelligenza artificiale presenta sia opportunità che sfide. Sebbene la licenza di contenuti accademici permetta lo sviluppo di modelli di intelligenza artificiale più potenti, solleva anche preoccupazioni sull’integrità e l’affidabilità dei dati utilizzati. La ricerca difettosa, compresa quella proveniente da “mulini di carta”, può corrompere i set di dati di addestramento dell’intelligenza artificiale, portando a inesattezze che potrebbero minare la fiducia del pubblico e i benefici potenziali dell’intelligenza artificiale. Per garantire che i modelli di intelligenza artificiale siano costruiti su dati affidabili, gli editori, le società di intelligenza artificiale e gli sviluppatori devono lavorare insieme per migliorare i processi di revisione paritaria, aumentare la trasparenza e dare priorità a ricerche di alta qualità e ben verificate. Facendo ciò, possiamo salvaguardare il futuro dell’intelligenza artificiale e mantenere l’integrità della comunità scientifica. Per garantire che i modelli di intelligenza artificiale siano costruiti su dati affidabili, gli editori, le società di intelligenza artificiale e gli sviluppatori devono lavorare insieme per migliorare i processi di revisione paritaria, aumentare la trasparenza e dare priorità a ricerche di alta qualità e ben verificate. Facendo ciò, possiamo salvaguardare il futuro dell’intelligenza artificiale e mantenere l’integrità della comunità scientifica.