Scienziati informatici affrontano i pregiudizi nell’IA

Gli scienziati informatici di Princeton e Stanford stanno ora affrontando i problemi di pregiudizio nell’intelligenza artificiale (IA). Stanno lavorando su metodi che producono set di dati più equi contenenti immagini di persone. I ricercatori collaborano strettamente con ImageNet, che è un database di oltre 13 milioni di immagini. Nel corso dell’ultimo decennio, ImageNet ha aiutato a fare progressi nella visione artificiale. Con l’utilizzo dei loro metodi, i ricercatori hanno poi raccomandato miglioramenti per il database.

ImageNet include immagini di oggetti, paesaggi e persone. I ricercatori che creano algoritmi di apprendimento automatico che classificano le immagini utilizzano ImageNet come fonte di dati. A causa della dimensione massiccia del database, è stato necessario utilizzare la raccolta di immagini automatizzata e l’annotazione delle immagini crowdsourced. Ora, il team di ImageNet lavora per correggere i pregiudizi e altri problemi. Le immagini spesso contengono persone che sono conseguenze non intenzionali della costruzione di ImageNet.

Olga Russakovsky è coautrice e professore assistente di scienze informatiche a Princeton.

“La visione artificiale funziona ora molto bene, il che significa che viene utilizzata ovunque in tutti i contesti”, ha detto. “Questo significa che ora è il momento di parlare dell’impatto che ha sul mondo e di pensare a questi tipi di problemi di equità”.

Nel nuovo articolo, il team di ImageNet ha identificato sistematicamente concetti non visivi e categorie offensive. Queste categorie includevano caratterizzazioni razziali e sessuali, e il team ha proposto di rimuoverle dal database. Il team ha anche sviluppato uno strumento che consente agli utenti di specificare e recuperare set di immagini di persone, e può farlo in base all’età, all’espressione di genere e al colore della pelle. L’obiettivo è creare algoritmi che classificano più equamente i volti e le attività delle persone nelle immagini.

Il lavoro svolto dai ricercatori è stato presentato il 30 gennaio alla Conferenza sulla equità, responsabilità e trasparenza dell’Association for Computing Machinery a Barcellona, in Spagna.

“C’è molto bisogno di ricercatori e laboratori con competenze tecniche di base in questo campo per partecipare a queste conversazioni”, ha detto Russakovsky. “Data la realtà che dobbiamo raccogliere i dati su larga scala, data la realtà che sarà fatto con il crowdsourcing perché è il pipeline più efficiente e stabilito, come facciamo a farlo in modo più equo – che non cada in questi tipi di errori precedenti? Il messaggio centrale di questo articolo è sulle soluzioni costruttive”.

ImageNet è stato lanciato nel 2009 da un gruppo di scienziati informatici di Princeton e Stanford. Era destinato a servire come risorsa per ricercatori accademici e educatori. La creazione del sistema è stata guidata da Fei-Fei Li, un ex allievo e membro della facoltà di Princeton.

ImageNet è stato in grado di diventare un database così grande di immagini etichettate grazie all’utilizzo del crowdsourcing. Una delle principali piattaforme utilizzate è stata Amazon (AMZN ) Mechanical Turk (MTurk), e i lavoratori sono stati pagati per verificare le immagini candidate. Ciò ha causato alcuni problemi, e c’erano molti pregiudizi e categorizzazioni inadeguate.

L’autore principale Kaiyu Yang è uno studente di dottorato in scienze informatiche.

“Quando chiedi alle persone di verificare le immagini selezionando quelle corrette da un grande set di candidati, le persone si sentono sotto pressione per selezionare alcune immagini e quelle immagini tendono a essere quelle con caratteristiche distinctive o stereotipate”, ha detto.

La prima parte dello studio ha coinvolto la filtrazione di categorie di persone potenzialmente offensive o sensibili da ImageNet. Le categorie offensive sono state definite come quelle che contenevano profanità o insulti razziali o di genere. Una categoria sensibile è stata la classificazione delle persone in base all’orientamento sessuale o alla religione. Dodici studenti di dottorato di background diversi sono stati coinvolti per annotare le categorie, e sono stati istruiti a etichettare una categoria come sensibile se non erano sicuri. Circa il 54% delle categorie sono state eliminate, o 1.593 su 2.932 categorie di persone in ImageNet.

I lavoratori di MTurk hanno quindi valutato la “immaginabilità” delle categorie rimanenti su una scala da 1 a 5. 158 categorie sono state classificate come sicure e immaginabili, con un punteggio di 4 o superiore. Il set di categorie filtrate includeva più di 133.000 immagini, che possono essere molto utili per l’addestramento di algoritmi di visione artificiale.

I ricercatori hanno studiato la rappresentazione demografica delle persone nelle immagini, e il livello di pregiudizio in ImageNet è stato valutato. I contenuti provenienti da motori di ricerca spesso forniscono risultati che sovrarappresentano i maschi, le persone dalla pelle chiara e gli adulti tra i 18 e i 40 anni.

“Le persone hanno scoperto che le distribuzioni demografiche nei risultati di ricerca di immagini sono molto pregiudicate, e questo è il motivo per cui la distribuzione in ImageNet è anche pregiudizata”, ha detto Yang. “In questo articolo abbiamo cercato di capire quanto sia pregiudizata, e anche di proporre un metodo per bilanciare la distribuzione”.

I ricercatori hanno considerato tre attributi che sono anche protetti dalle leggi antidiscriminazione degli Stati Uniti: colore della pelle, espressione di genere e età. I lavoratori di MTurk hanno quindi annotato ogni attributo di ogni persona in un’immagine.

I risultati hanno mostrato che il contenuto di ImageNet ha un pregiudizio considerevole. I più sottorappresentati erano le persone dalla pelle scura, le femmine e gli adulti over 40.

Uno strumento di interfaccia web è stato progettato per consentire agli utenti di ottenere un set di immagini che sono demograficamente bilanciate in base alle scelte dell’utente.

“Non vogliamo dire quale sia il modo corretto per bilanciare le demografie, perché non è un problema molto semplice”, ha detto Yang. “La distribuzione potrebbe essere diversa in diverse parti del mondo – la distribuzione dei colori della pelle negli Stati Uniti è diversa da quella dei paesi asiatici, ad esempio. Quindi lasciamo questa domanda all’utente, e forniamo solo uno strumento per recuperare un subset bilanciato delle immagini”.

Il team di ImageNet sta ora lavorando su aggiornamenti tecnici al suo hardware e database. Stanno anche cercando di implementare la filtrazione delle categorie di persone e lo strumento di bilanciamento sviluppato in questa ricerca. ImageNet è destinato a essere rilasciato con gli aggiornamenti, insieme a una richiesta di feedback dalla comunità di ricerca sulla visione artificiale.

L’articolo è stato anche coautore da Klint Qinami, studente di dottorato a Princeton, e Jia Deng, professore assistente di scienze informatiche. La ricerca è stata supportata dalla National Science Foundation.