Smascherare i pregiudizi nell’intelligenza artificiale: sfide e soluzioni

Il recente avanzamento dell’intelligenza artificiale generativa ha visto un boom di applicazioni aziendali in vari settori, tra cui finanza, sanità e trasporto. Lo sviluppo di questa tecnologia porterà anche allo sviluppo di altre tecnologie emergenti, come la difesa cibernetica, i progressi nel calcolo quantistico e le tecniche di comunicazione wireless innovative. Tuttavia, questa esplosione di tecnologie di nuova generazione si accompagna a una serie di sfide.

Ad esempio, l’adozione dell’intelligenza artificiale potrebbe consentire attacchi cibernetici più sofisticati, problemi di memoria e archiviazione a causa dell’aumento della potenza di calcolo e preoccupazioni etiche relative ai pregiudizi presentati dai modelli di intelligenza artificiale. La buona notizia è che la NTT Research ha proposto un modo per superare i pregiudizi nelle reti neurali profonde (DNN), un tipo di intelligenza artificiale.

Questa ricerca rappresenta un importante passo avanti, poiché i modelli di intelligenza artificiale non influenzati da pregiudizi contribuiranno al processo di assunzione, al sistema giudiziario penale e alla sanità quando non saranno influenzati da caratteristiche come razza, genere. In futuro, la discriminazione potrebbe essere eliminata utilizzando questi sistemi automatizzati, migliorando così le iniziative aziendali di diversità e inclusione a livello di settore. Inoltre, i modelli di intelligenza artificiale con risultati non influenzati da pregiudizi miglioreranno la produttività e ridurranno il tempo necessario per completare questi compiti. Tuttavia, poche aziende hanno dovuto interrompere i loro programmi generati dall’intelligenza artificiale a causa delle soluzioni pregiudizievoli della tecnologia.

Ad esempio, Amazon ha interrotto l’uso di un algoritmo di assunzione quando ha scoperto che l’algoritmo mostrava una preferenza per i candidati che utilizzavano parole come “eseguito” o “catturato” più frequentemente, che erano più presenti nei curriculum dei uomini. Un altro esempio lampante di pregiudizio proviene da Joy Buolamwini, una delle persone più influenti nel settore dell’intelligenza artificiale nel 2023 secondo TIME, che, in collaborazione con Timnit Gebru al MIT, ha rivelato che le tecnologie di analisi facciale mostravano tassi di errore più alti quando valutavano le minoranze, in particolare le donne delle minoranze, potenzialmente a causa di dati di addestramento non rappresentativi.

Recentemente, le DNN sono diventate onnipresenti nella scienza, nell’ingegneria e negli affari, e anche in applicazioni popolari, ma a volte si basano su attributi spurii che possono veicolare pregiudizi. Secondo uno studio del MIT degli ultimi anni, gli scienziati hanno sviluppato reti neurali profonde in grado di analizzare grandi quantità di input, tra cui suoni e immagini. Queste reti possono identificare caratteristiche condivise, consentendo loro di classificare parole o oggetti bersaglio. Al momento, questi modelli si trovano alla forefront del settore come principali modelli per la replicazione dei sistemi sensoriali biologici.

Il ricercatore senior della NTT Research e associato al Center for Brain Science dell’Università di Harvard Hidenori Tanaka e altri tre scienziati hanno proposto di superare i limiti della fine-tuning naïve, il metodo attuale per ridurre gli errori o la “perdita” di una DNN, con un nuovo algoritmo che riduce la dipendenza del modello dagli attributi soggetti a pregiudizi.

Hanno studiato i paesaggi di perdita delle reti neurali attraverso la lente della connettività dei modi, l’osservazione che i minimizzatori delle reti neurali recuperati tramite l’addestramento su un set di dati sono connessi tramite percorsi semplici di bassa perdita. In particolare, hanno posto la seguente domanda: i minimizzatori che si basano su meccanismi diversi per le loro previsioni sono connessi tramite percorsi semplici di bassa perdita?

Hanno scoperto che la fine-tuning naïve non è in grado di alterare fondamentalmente il meccanismo decisionale di un modello, poiché richiede di spostarsi in una valle diversa nel paesaggio di perdita. Invece, è necessario guidare il modello oltre le barriere che separano i “bacini” o le “valli” di bassa perdita. Gli autori chiamano questo algoritmo correttivo Connectivity-Based Fine-Tuning (CBFT).

Prima di questo sviluppo, una DNN, che classifica immagini come un pesce (un’illustrazione utilizzata in questo studio), utilizzava sia la forma dell’oggetto che lo sfondo come parametri di input per la previsione. I suoi percorsi di minimizzazione della perdita avrebbero quindi operato in modalità meccanicamente dissimili: una basata sull’attributo legittimo della forma e l’altra sull’attributo spurio del colore dello sfondo. Di conseguenza, queste modalità mancherebbero di connettività lineare, o di un percorso semplice di bassa perdita.

Il team di ricerca comprende il meccanismo di connettività dei modi considerando due set di parametri che minimizzano la perdita utilizzando sfondi e forme di oggetti come attributi di input per la previsione, rispettivamente. E poi si sono chiesti: tali minimizzatori meccanicamente dissimili sono connessi tramite percorsi di bassa perdita nel paesaggio? La dissomiglianza di questi meccanismi influenza la semplicità dei loro percorsi di connettività? Possiamo sfruttare questa connettività per passare tra minimizzatori che utilizzano i meccanismi desiderati?

In altre parole, le reti neurali profonde, a seconda di ciò che hanno appreso durante l’addestramento su un particolare set di dati, possono comportarsi in modo molto diverso quando le si testa su un altro set di dati. La proposta del team si è concentrata sul concetto di somiglianze condivise. Si basa sull’idea precedente di connettività dei modi, ma con una torsione – considera come funzionano i meccanismi simili. La loro ricerca ha portato alle seguenti scoperte illuminanti:

• i minimizzatori che hanno meccanismi diversi possono essere connessi in un modo piuttosto complesso e non lineare
• quando due minimizzatori sono connessi linearmente, è strettamente legato a quanto sono simili i loro modelli in termini di meccanismi
• la fine-tuning semplice potrebbe non essere sufficiente per eliminare le caratteristiche indesiderate acquisite durante l’addestramento precedente
• se si trovano regioni che sono linearmente disconnesse nel paesaggio, è possibile apportare modifiche efficienti al funzionamento interno di un modello.

Sebbene questa ricerca rappresenti un importante passo avanti nell’utilizzo pieno del potenziale dell’intelligenza artificiale, le preoccupazioni etiche relative all’intelligenza artificiale potrebbero ancora essere una battaglia in salita. I tecnologi e i ricercatori stanno lavorando per combattere altre debolezze etiche dell’intelligenza artificiale e di altri grandi modelli linguistici, come la privacy, l’autonomia e la responsabilità.

L’intelligenza artificiale può essere utilizzata per raccogliere e elaborare grandi quantità di dati personali. L’uso non autorizzato o non etico di questi dati può compromettere la privacy degli individui, portando a preoccupazioni relative alla sorveglianza, alle violazioni dei dati e al furto d’identità. L’intelligenza artificiale può anche costituire una minaccia quando si tratta della responsabilità delle sue applicazioni autonome, come le auto a guida autonoma. Stabilire quadri giuridici ed etici per la responsabilità e la responsabilità sarà essenziale nei prossimi anni.

In conclusione, la rapida crescita della tecnologia di intelligenza artificiale generativa offre prospettive per vari settori, dalla finanza e dalla sanità ai trasporti. Nonostante questi sviluppi promettenti, le preoccupazioni etiche relative all’intelligenza artificiale rimangono sostanziali. Mentre navigiamo questo periodo di trasformazione dell’intelligenza artificiale, è fondamentale che tecnologi, ricercatori e responsabili politici lavorino insieme per stabilire quadri giuridici ed etici che garantiscano l’uso responsabile e benefico della tecnologia di intelligenza artificiale negli anni a venire. I ricercatori della NTT Research e dell’Università del Michigan sono un passo avanti nel gioco con la loro proposta per un algoritmo che potrebbe potenzialmente eliminare i pregiudizi nell’intelligenza artificiale.