NSF & Amazon Grant Supports Research at NYU to Help Cities Reduce Biases in AI Supported decision-making

Un team di ricercatori alla New York University svilupperà nuovi metodi e strumenti finalizzati a minimizzare i pregiudizi sistemici e produrre impatti di politica pubblica più equi in aree come le ispezioni abitative, la polizia e i tribunali.

Sotto una sovvenzione di 1 milione di dollari della National Science Foundation (NSF) e Amazon, il professore di Informatica Daniel B. Neill guiderà il progetto di ricerca triennale centrato sull’utilizzo crescente dell’Intelligenza Artificiale (AI) da parte di organizzazioni pubbliche urbane – un lavoro che includerà la creazione di strumenti open-source per valutare e correggere i pregiudizi.

“Le decisioni umane e le decisioni algoritmiche hanno il potenziale per pregiudizi sistemici che possono portare a risultati a valle scadenti, come disparità e ingiustizia lungo linee razziali, di genere e socioeconomiche”, ha dichiarato Neill, membro della facoltà del Center for Urban Science and Progress (CUSP) alla NYU Tandon School of Engineering, e professore alla Wagner Graduate School of Public Service di NYU.

“Ciò che vogliamo capire è come gli algoritmi possono migliorare la presa di decisioni umana eliminando i pregiudizi impliciti e sviluppare metodi e strumenti per assistere coloro che progettano e attuano interventi di politica nelle città.”

Nell’esaminare i rischi e i benefici della presa di decisione algoritmica, il team di progetto svilupperà una nuova concezione a pipeline della correttezza composta da sette fasi distinte: dati, modelli, previsioni, raccomandazioni, decisioni, impatti e risultati. Questa “pipeline di correttezza end-to-end” terrà conto di molteplici fonti di pregiudizio, modellerà come i pregiudizi si propagano attraverso la pipeline per produrre risultati iniqui e valuterà la sensibilità ai pregiudizi non misurati.

In secondo luogo, il team costruirà un quadro metodologico generale per l’identificazione e la correzione dei pregiudizi in ogni fase della pipeline, una sorta di scansione dei pregiudizi, insieme a strumenti di supporto decisionale algoritmico che forniscono raccomandazioni a un decisore umano (come “spinte” algoritmiche per guidare le decisioni umane verso la correttezza).

Infine, il team di progetto creerà nuove metriche per misurare la presenza e l’estensione dei pregiudizi nei domini della giustizia penale e abitativa, e gli strumenti che possono essere utilizzati per: (a) ridurre la detenzione fornendo interventi di supporto equi alle popolazioni coinvolte nella giustizia; (b) dare priorità alle ispezioni e alle riparazioni abitative; (c) valutare e migliorare la correttezza dei procedimenti giudiziari civili e penali; e (d) analizzare gli impatti sanitari disparati delle esposizioni ambientali avverse, comprese le abitazioni di scarsa qualità e le pratiche di polizia aggressive e ingiuste.

“L’impatto finale di questo lavoro è quello di promuovere la giustizia sociale per coloro che vivono nelle città e che si affidano ai servizi urbani o sono coinvolti nel sistema giudiziario, valutando e mitigando i pregiudizi nei processi decisionali e riducendo le disparità”, ha dichiarato Neill, anche direttore del Learning for Good Laboratory di NYU e membro della facoltà dell’Istituto di Scienze Matematiche Courant di NYU.

Oltre a Neill, il team di ricerca include Ravi Shroff, professore assistente alla CUSP e alla Steinhardt School of Culture, Education, and Human Development di NYU; Constantine Kontokosta, professore alla Marron Institute of Urban Management di NYU e facoltà associata alla NYU Tandon; e Edward McFowland III, professore alla Carlson School of Management dell’Università del Minnesota.

La sovvenzione è stata concessa nell’ambito del Programma NSF sulla correttezza nell’Intelligenza Artificiale in collaborazione con Amazon (2040898).