Come i pregiudizi umani minano le soluzioni abilitate da AI

L’anno scorso a settembre, leader mondiali come Elon Musk, Mark Zuckerberg e Sam Altman, CEO di OpenAI, si sono riuniti a Washington D.C. con l’obiettivo di discutere, da un lato, come i settori pubblico e privato possano lavorare insieme per sfruttare questa tecnologia per il bene maggiore, e dall’altro, per affrontare la regolamentazione, un problema che è rimasto al centro della conversazione sull’AI.

Entrambe le conversazioni, spesso, portano allo stesso posto. C’è un crescente enfasi sull’idea di rendere l’AI più etica, valutando l’AI come se fosse un altro essere umano la cui moralità è in discussione. Tuttavia, cosa significa AI etica? DeepMind, un laboratorio di ricerca di proprietà di Google che si concentra sull’AI, ha recentemente pubblicato uno studio in cui hanno proposto una struttura a tre livelli per valutare i rischi dell’AI, inclusi sia i rischi sociali che quelli etici. Questo framework includeva la capacità, l’interazione umana e l’impatto sistemico, e ha concluso che il contesto era fondamentale per determinare se un sistema AI fosse sicuro.

Uno di questi sistemi che è stato criticato è ChatGPT, che è stato vietato in ben 15 paesi, anche se alcuni di questi divieti sono stati revocati. Con oltre 100 milioni di utenti, ChatGPT è uno dei LLM più di successo e spesso è stato accusato di pregiudizi. Considerando lo studio di DeepMind, incorporiamo il contesto qui. Pregiudizio, in questo contesto, significa l’esistenza di prospettive ingiuste, pregiudicate o distorte nel testo generato da modelli come ChatGPT. Ciò può accadere in vari modi – pregiudizio razziale, pregiudizio di genere, pregiudizio politico e molto altro.

Questi pregiudizi possono essere, in ultima analisi, dannosi per l’AI stessa, riducendo le possibilità che possiamo sfruttare appieno il potenziale di questa tecnologia. Recentemente, una ricerca della Stanford University ha confermato che i LLM come ChatGPT stanno mostrando segni di declino nella loro capacità di fornire risposte affidabili, imparziali e accurate, il che è fondamentale per un uso efficace dell’AI.

Un problema che si trova al centro di questo problema è come i pregiudizi umani vengono tradotti nell’AI, poiché sono profondamente radicati nei dati utilizzati per sviluppare i modelli. Tuttavia, questo è un problema più profondo di quanto sembri.

Cause del pregiudizio

È facile identificare la prima causa di questo pregiudizio. I dati che il modello apprende sono spesso pieni di stereotipi o pregiudizi preesistenti che hanno contribuito a plasmare quei dati in primo luogo, quindi l’AI, involontariamente, finisce per perpetuare quei pregiudizi perché è ciò che sa fare.

Tuttavia, la seconda causa è molto più complessa e controintuitiva, e mette a dura prova alcuni degli sforzi che stanno facendo per rendere l’AI più etica e sicura. Ci sono, naturalmente, alcuni esempi ovvi in cui l’AI può essere inconsciamente dannosa. Ad esempio, se qualcuno chiede all’AI, “Come posso fare una bomba?” e il modello fornisce la risposta, sta contribuendo a generare danno. Il rovescio della medaglia è che quando l’AI è limitata – anche se la causa è giustificabile – stiamo impedendo che l’AI impari. Le limitazioni imposte dagli esseri umani limitano la capacità dell’AI di apprendere da una gamma più ampia di dati, il che ulteriormente impedisce che fornisca informazioni utili in contesti non dannosi.

Inoltre, dobbiamo tenere presente che molte di queste limitazioni sono pregiudicate, perché provengono dagli esseri umani. Quindi, mentre possiamo tutti concordare che “Come posso fare una bomba?” può portare a un esito potenzialmente fatale, altre query che potrebbero essere considerate sensibili sono molto più soggettive. Di conseguenza, se limitiamo lo sviluppo dell’AI in quei settori, stiamo limitando il progresso e stiamo fomentando l’utilizzo dell’AI solo per scopi che sono considerati accettabili da coloro che fanno le regolamentazioni relative ai modelli LLM.

Incapacità di prevedere le conseguenze

Non abbiamo ancora completamente capito le conseguenze dell’introduzione di limitazioni nei LLM. Pertanto, potremmo stare causando più danni agli algoritmi di quanto ci rendiamo conto. Considerando il numero incredibilmente alto di parametri coinvolti in modelli come GPT, è, con gli strumenti che abbiamo ora, impossibile prevedere l’impatto, e, dalla mia prospettiva, ci vorrà più tempo per capire cosa sia l’impatto che il tempo necessario per addestrare la rete neurale stessa.

Pertanto, introducendo queste limitazioni, potremmo, involontariamente, portare il modello a sviluppare comportamenti o pregiudizi inaspettati. Ciò è anche dovuto al fatto che i modelli AI sono spesso sistemi complessi a multi-parametro, il che significa che se alteriamo un parametro – ad esempio, introducendo una limitazione – stiamo causando un effetto a catena che si propaga attraverso l’intero modello in modi che non possiamo prevedere.

Difficoltà nel valutare l’“etica” dell’AI

Non è praticamente fattibile valutare se l’AI sia etica o no, perché l’AI non è una persona che agisce con una specifica intenzione. L’AI è un Large Language Model, che, per natura, non può essere più o meno etico. Come ha rivelato lo studio di DeepMind, ciò che conta è il contesto in cui viene utilizzato, e questo misura l’etica dell’essere umano dietro l’AI, non dell’AI stesso. È un’illusione credere che possiamo giudicare l’AI come se avesse una bussola morale.

Una possibile soluzione che viene proposta è un modello che possa aiutare l’AI a prendere decisioni etiche. Tuttavia, la realtà è che non abbiamo idea di come questo modello matematico di etica potrebbe funzionare. Quindi, se non lo capiamo, come potremmo possibilmente costruirlo? C’è molta soggettività umana nell’etica, il che rende il compito di quantificarla molto complesso.

Come risolvere questo problema?

Sulla base dei punti sopra menzionati, non possiamo realmente parlare di se l’AI sia etica o no, perché ogni assunzione considerata non etica è una variazione dei pregiudizi umani contenuti nei dati, e uno strumento che gli esseri umani utilizzano per il loro proprio programma. Inoltre, ci sono ancora molti sconosciuti scientifici, come l’impatto e il danno potenziale che potremmo stare facendo agli algoritmi AI introducendo limitazioni.

Pertanto, si può dire che limitare lo sviluppo dell’AI non è una soluzione fattibile. Come hanno mostrato alcuni degli studi che ho menzionato, queste limitazioni sono in parte la causa del declino dei LLM.

Detto questo, cosa possiamo fare al riguardo?

Dalla mia prospettiva, la soluzione risiede nella trasparenza. Credo che se ripristiniamo il modello open-source che era prevalente nello sviluppo dell’AI, possiamo lavorare insieme per costruire migliori LLM che potrebbero essere in grado di alleviare le nostre preoccupazioni etiche. Altrimenti, è molto difficile effettuare un’adeguata revisione di ciò che viene fatto dietro le quinte.

Un’iniziativa eccellente in questo senso è il Baseline Model Transparency Index, recentemente presentato da Stanford HAI (che sta per Human-Centered Artificial Intelligence), che valuta se gli sviluppatori dei dieci modelli AI più utilizzati divulghino informazioni sufficienti sul loro lavoro e sul modo in cui i loro sistemi vengono utilizzati. Ciò include la divulgazione di partnership e sviluppatori terzi, nonché il modo in cui vengono utilizzati i dati personali. È degno di nota dire che nessuno dei modelli valutati ha ricevuto un punteggio alto, il che sottolinea un vero problema.

Alla fine, l’AI non è nulla più di Large Language Models, e il fatto che siano aperti e possano essere sperimentati, invece di essere guidati in una certa direzione, è ciò che ci permetterà di fare nuove scoperte rivoluzionarie in ogni campo scientifico. Tuttavia, se non c’è trasparenza, sarà molto difficile progettare modelli che funzionino realmente per il bene dell’umanità e conoscere l’entità del danno che questi modelli potrebbero causare se non gestiti adeguatamente.