Smascherare i pregiudizi nell’Intelligenza Artificiale: sfide e soluzioni

L’ultima avanzata dell’intelligenza artificiale generativa ha visto un boom accompagnatore nelle applicazioni aziendali in vari settori, tra cui finanza, sanità e trasporto. Lo sviluppo di questa tecnologia porterà anche ad altre tecnologie emergenti come le tecnologie di difesa cibernetica, i progressi nel calcolo quantistico e le tecniche di comunicazione wireless innovative. Tuttavia, questa esplosione di tecnologie di prossima generazione si accompagna a una serie di sfide.

Ad esempio, l’adozione dell’intelligenza artificiale potrebbe consentire attacchi cibernetici più sofisticati, problemi di memoria e di archiviazione a causa dell’aumento della potenza di calcolo e preoccupazioni etiche relative ai pregiudizi presentati dai modelli di intelligenza artificiale. La buona notizia è che NTT Research ha proposto un modo per superare i pregiudizi nelle reti neurali profonde (DNN), un tipo di intelligenza artificiale.

Questa ricerca è un importante passo avanti, dato che i modelli di intelligenza artificiale non influenzati da pregiudizi contribuiranno all’assunzione di personale, al sistema di giustizia penale e alla sanità quando non saranno influenzati da caratteristiche come la razza, il genere. In futuro, la discriminazione potrebbe essere eliminata utilizzando questi tipi di sistemi automatizzati, migliorando così le iniziative aziendali di diversità e inclusione. Infine, i modelli di intelligenza artificiale con risultati non influenzati da pregiudizi miglioreranno la produttività e ridurranno il tempo necessario per completare questi compiti. Tuttavia, poche aziende sono state costrette a interrompere i loro programmi generati dall’intelligenza artificiale a causa delle soluzioni pregiudizievoli della tecnologia.

Ad esempio, Amazon ha interrotto l’uso di un algoritmo di assunzione quando ha scoperto che l’algoritmo esibiva una preferenza per i candidati che utilizzavano parole come “eseguito” o “catturato” più frequentemente, che erano più presenti nei curricula dei uomini. Un altro esempio lampante di pregiudizio proviene da Joy Buolamwini, una delle persone più influenti nell’intelligenza artificiale nel 2023 secondo TIME, in collaborazione con Timnit Gebru al MIT, che ha rivelato che le tecnologie di analisi facciale hanno dimostrato tassi di errore più alti quando valutavano le minoranze, in particolare le donne delle minoranze, potenzialmente a causa di dati di formazione non rappresentativi.

Recentemente, le DNN sono diventate onnipresenti nella scienza, nell’ingegneria e negli affari, e anche in applicazioni popolari, ma a volte si basano su attributi spurii che possono trasmettere pregiudizi. Secondo uno studio del MIT degli ultimi anni, gli scienziati hanno sviluppato reti neurali profonde in grado di analizzare grandi quantità di input, tra cui suoni e immagini. Queste reti possono identificare caratteristiche condivise, consentendo loro di classificare parole o oggetti bersaglio. Al momento, questi modelli si trovano alla forefront del campo come i principali modelli per replicare i sistemi sensoriali biologici.

Il ricercatore senior di NTT Research e associato al Center for Brain Science di Harvard Hidenori Tanaka e tre altri scienziati hanno proposto di superare i limiti della fine-tuning naïve, il metodo di stato attuale per ridurre gli errori di una DNN o “perdita”, con un nuovo algoritmo che riduce la dipendenza del modello dagli attributi soggetti a pregiudizi.

Hanno studiato i paesaggi di perdita delle reti neurali attraverso la lente della connettività dei modi, l’osservazione che i minimizzatori delle reti neurali recuperati tramite la formazione su un set di dati sono connessi tramite percorsi semplici di bassa perdita. In particolare, hanno posto la seguente domanda: i minimizzatori che si basano su meccanismi diversi per le loro previsioni sono connessi tramite percorsi semplici di bassa perdita?

Hanno scoperto che la fine-tuning naïve non è in grado di alterare fondamentalmente il meccanismo decisionale di un modello in quanto richiede di spostarsi in una valle diversa nel paesaggio di perdita. Invece, è necessario guidare il modello oltre le barriere che separano i “pozzi” o “valli” di bassa perdita. Gli autori chiamano questo algoritmo correttivo Connectivity-Based Fine-Tuning (CBFT).

Prima di questo sviluppo, una DNN, che classifica immagini come un pesce (un’illustrazione utilizzata in questo studio) utilizzava sia la forma dell’oggetto che lo sfondo come parametri di input per la previsione. I suoi percorsi di minimizzazione della perdita avrebbero quindi operato in modalità meccanicamente dissimili: una che si basa sull’attributo legittimo della forma e l’altra sull’attributo spurio del colore dello sfondo. In quanto tali, queste modalità mancherebbero di connettività lineare, o di un percorso semplice di bassa perdita.

Il team di ricerca comprende la lente meccanicistica sulla connettività dei modi considerando due set di parametri che minimizzano la perdita utilizzando sfondi e forme di oggetti come attributi di input per la previsione, rispettivamente. E poi si sono chiesti, sono tali minimizzatori meccanicamente dissimili connessi tramite percorsi di bassa perdita nel paesaggio? La dissomiglianza di questi meccanismi influenza la semplicità dei loro percorsi di connettività? Possiamo sfruttare questa connettività per commutare tra minimizzatori che utilizzano i meccanismi desiderati?

In altre parole, le reti neurali profonde, a seconda di ciò che hanno raccolto durante la formazione su un particolare set di dati, possono comportarsi in modo molto diverso quando le si testa su un altro set di dati. La proposta del team si è ridotta al concetto di somiglianze condivise. Si basa sull’idea precedente della connettività dei modi, ma con una torsione – considera come funzionano i meccanismi simili. La loro ricerca ha portato alle seguenti scoperte sorprendenti:

• i minimizzatori che hanno meccanismi diversi possono essere connessi in un modo piuttosto complesso e non lineare
• quando due minimizzatori sono connessi linearmente, è strettamente legato a quanto sono simili i loro modelli in termini di meccanismi
• la fine-tuning semplice potrebbe non essere sufficiente per eliminare le caratteristiche indesiderate acquisite durante la formazione precedente
• se si trovano regioni che sono linearmente disconnesse nel paesaggio, è possibile apportare modifiche efficienti al funzionamento interno di un modello.

Mentre questa ricerca è un importante passo avanti nell’utilizzo del pieno potenziale dell’intelligenza artificiale, le preoccupazioni etiche intorno all’intelligenza artificiale potrebbero ancora essere una battaglia in salita. I tecnologi e i ricercatori stanno lavorando per combattere altre debolezze etiche nell’intelligenza artificiale e in altri grandi modelli linguistici come la privacy, l’autonomia, la responsabilità.

L’intelligenza artificiale può essere utilizzata per raccogliere e elaborare grandi quantità di dati personali. L’uso non autorizzato o non etico di questi dati può compromettere la privacy degli individui, portando a preoccupazioni sulla sorveglianza, le violazioni dei dati e il furto d’identità. L’intelligenza artificiale può anche rappresentare una minaccia quando si tratta della responsabilità delle sue applicazioni autonome come le auto a guida autonoma. Stabilire quadri giuridici e standard etici per la responsabilità e la responsabilità sarà essenziale nei prossimi anni.

In conclusione, la rapida crescita della tecnologia di intelligenza artificiale generativa tiene promesse per vari settori, dalla finanza alla sanità al trasporto. Nonostante questi sviluppi promettenti, le preoccupazioni etiche intorno all’intelligenza artificiale rimangono sostanziali. Mentre navigiamo in questo periodo di trasformazione dell’intelligenza artificiale, è vitale che i tecnologi, i ricercatori e i responsabili delle politiche lavorino insieme per stabilire quadri giuridici e standard etici che garantiranno l’uso responsabile e benefico della tecnologia di intelligenza artificiale negli anni a venire. Gli scienziati di NTT Research e dell’Università del Michigan sono un passo avanti nel gioco con la loro proposta per un algoritmo che potrebbe potenzialmente eliminare i pregiudizi nell’intelligenza artificiale.