Etica
Borsa NSF & Amazon per sostenere la ricerca alla NYU per aiutare le città a ridurre i pregiudizi nell’elaborazione delle decisioni supportate dall’AI
Aggiungi Unite.AI alle tue fonti preferite su Google
Un team di ricercatori alla New York University svilupperà nuovi metodi e strumenti volti a minimizzare i pregiudizi sistemici e produrre impatti di politica pubblica più equi in aree come ispezioni abitative, polizia e tribunali.
Sotto una borsa di 1 milione di dollari dalla National Science Foundation (NSF) e Amazon (AMZN ), il professore di Informatica Daniel B. Neill guiderà il progetto di ricerca triennale centrato sull’uso crescente dell’Intelligenza Artificiale (AI) da parte di organizzazioni pubbliche urbane – un lavoro che includerà la creazione di strumenti open-source per valutare e correggere i pregiudizi.
“Le decisioni umane e le decisioni algoritmiche hanno il potenziale per pregiudizi sistemici che possono portare a risultati a valle poveri, come disparità e disuguaglianza lungo linee razziali, di genere e socioeconomiche”, ha detto Neill, membro della facoltà del Center for Urban Science and Progress (CUSP) alla NYU Tandon School of Engineering, e professore alla Wagner Graduate School of Public Service.
“Ciò che vogliamo capire è come gli algoritmi possano migliorare la presa di decisioni umana eliminando i pregiudizi impliciti e sviluppare metodi e strumenti per assistere coloro che progettano e attuano interventi di politica nelle città”.
Nell’esaminare sia i rischi che i benefici della presa di decisioni algoritmica, il team di progetto svilupperà una nuova concezione di equità a pipeline di sette fasi distinte: dati, modelli, previsioni, raccomandazioni, decisioni, impatti e risultati. Questa “pipeline di equità end-to-end” terrà conto di molteplici fonti di pregiudizio, modellerà come i pregiudizi si propagano attraverso la pipeline per produrre risultati iniqui e valuterà la sensibilità ai pregiudizi non misurati.
In secondo luogo, il team costruirà un quadro metodologico generale per identificare e correggere i pregiudizi in ogni fase della pipeline, una sorta di scansione dei pregiudizi, insieme a strumenti di supporto decisionale algoritmico che forniscono raccomandazioni a un decisore umano (come “spinte” algoritmiche per guidare le decisioni umane verso l’equità).
Infine, il team di progetto creerà nuove metriche per misurare la presenza e l’estensione del pregiudizio nei domini della giustizia penale e abitativa, e gli strumenti che possono essere utilizzati per: (a) ridurre la detenzione fornendo interventi di supporto equi alle popolazioni coinvolte nella giustizia; (b) priorizzare ispezioni e riparazioni abitative; (c) valutare e migliorare l’equità dei procedimenti giudiziari civili e penali; e (d) analizzare gli impatti sanitari disparati delle esposizioni ambientali avverse, comprese le abitazioni di scarsa qualità e le pratiche di polizia aggressive e ingiuste.
“L’impatto finale di questo lavoro è avanzare la giustizia sociale per coloro che vivono nelle città e che si affidano ai servizi della città o sono coinvolti nel sistema giudiziario, valutando e mitigando i pregiudizi nei processi decisionali e riducendo le disparità”, ha detto Neill, anche direttore del Laboratorio di Apprendimento per il Bene di NYU e membro della facoltà dell’Istituto di Scienze Matematiche Courant di NYU.
Oltre a Neill, il team di ricerca include Ravi Shroff, professore assistente alla CUSP e alla Steinhardt School of Culture, Education, and Human Development di NYU; Constantine Kontokosta, professore alla Marron Institute of Urban Management di NYU e facoltà associata alla NYU Tandon; e Edward McFowland III, professore alla Carlson School of Management dell’Università del Minnesota.
La borsa è stata assegnata nel quadro del Programma NSF sull’equità nell’Intelligenza Artificiale in collaborazione con Amazon (2040898).
ta, un professore alla Marron Institute of Urban Management di NYU e facoltà associata alla NYU Tandon; e Edward McFowland III, un professore alla Carlson School of Management dell’Università del Minnesota. La borsa è stata assegnata nel quadro del Programma NSF sull’equità nell’Intelligenza Artificiale in collaborazione con Amazon (2040898).
