NSF & Amazon Grant ënnerstëtzt Fuerschung op NYU fir Stied ze hëllefen Biases an AI ze reduzéieren Ënnerstëtzt Entscheedungsprozess

Eng Team vu Fuerscher vun der New York University wäert nei Methoden an Tools entwéckelen fir systemesch Biases ze minimiséieren a méi gerecht ëffentlech Politik Auswierkungen op sou Beräicher wéi Stadhausinspektiounen, Polizei a Geriichter ze produzéieren.

Ënnert engem $ 1 Millioun Subventioun vun der National Science Foundation (NSF) an Amazon, Computer Science Professor Daniel B. Neill wäert den dräi-Joer Fuerschungsprojet zentréiert op d'wuessend Notzung vun der kënschtlecher Intelligenz (AI) vun urbanen, ëffentleche Secteur Organisatiounen - Aarbecht déi d'Schafung vun Open-Source Tools enthält fir Biases ze bewäerten an ze korrigéieren.

"Mënschlech Entscheedungen an algorithmesch Entscheedungen hunn Potenzial fir systematesch Biases, déi zu aarme Downstream Resultater kënne féieren, wéi Differenzen an Ongläichheet iwwer rassistesch, Geschlecht a sozioekonomesch Linnen," sot den Neill, e Member vun der Fakultéit vun der Center fir Urban Science a Progress (CUSP) an der NYU Tandon School of Engineering, a Professer op NYU's Wagner Graduate School of Public Service.

"Wat mir wëlle verstoen ass wéi d'Algorithmen d'mënschlech Entscheedungsprozess kënne verbesseren andeems implizit Biases eliminéiert ginn, a Methoden an Tools z'entwéckelen fir déi ze hëllefen, déi politesch Interventiounen an de Stied designen an ëmsetzen."

Wann Dir souwuel d'Risiken wéi och d'Virdeeler vun der algorithmescher Entscheedungsprozess kuckt, wäert d'Projetteam eng nei, pipelined Konzeptualiséierung vu Fairness entwéckelen, besteet aus siwe verschidde Stadien: Daten, Modeller, Prognosen, Empfehlungen, Entscheedungen, Auswierkungen a Resultater. Dës "Enn-zu-Enn Fairness Pipeline" wäert verschidde Quelle vu Bias berechnen, modelléieren wéi Biases sech duerch d'Pipeline propagéieren fir zu ongerechte Resultater ze resultéieren, an d'Sensibilitéit fir onmoosseg Biases beurteelen.

Zweetens wäert d'Team en allgemenge methodologesche Kader bauen fir Biases an all Etapp vun der Pipeline z'identifizéieren an ze korrigéieren, eng Aart Bias Scan, zesumme mat algorithmeschen Entscheedungssupport Tools déi Empfehlungen un e mënschlechen Entscheedungshändler ubidden (wéi algorithmesch "Nudges" Mënschlechen Entscheedunge Richtung Fairness ze guidéieren).

Schlussendlech wäert d'Projetteam nei Metriken erstellen fir d'Präsenz an d'Ausmooss vu Bias an de kriminellen Gerechtegkeet a Wunnberäicher ze moossen, an d'Instrumenter déi kënne benotzt ginn fir: (a) Prisongsreduktioun ze reduzéieren andeems se gerecht ënnerstëtzend Interventiounen u Justiz-involvéiert Populatiounen ubidden; (b) Prioritéit Wunneng Inspektiounen a Reparaturen; (c) d'Gerechtegkeet vun zivilen a kriminellen Geriichtsverfahren bewäerten a verbesseren; an (d) analyséieren déi ënnerschiddlech gesondheetlech Auswierkunge vun negativen Ëmweltbelaaschtungen, dorënner schlecht Qualitéitswunnengen an aggressiv, ongerecht Polizeipraktiken.

"Den ultimativen Impakt vun dëser Aarbecht ass d'sozial Gerechtegkeet ze förderen fir déi, déi a Stied wunnen an déi op Staddéngschter vertrauen oder mam Justizsystem involvéiert sinn, andeems d'Basen an Entscheedungsprozesser beurteelen an d'Differenzen reduzéieren", sot Neill. och den Direkter vum NYU's Learning for Good Laboratory an e Fakultéitsmember am NYU Courant Institute of Mathematical Sciences.

Zousätzlech zu Neill enthält d'Fuerschungsteam Ravi Shroff, en Assistent Professer op CUSP an der NYU Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, e Professer am NYU Marron Institute of Urban Management an assoziéiert Fakultéit op NYU Tandon; an den Edward McFowland III, e Professer op der Carlson School of Management vun der University of Minnesota.

De Subventioun gouf ënner dem NSF Programm iwwer Fairness a Kënschtlech Intelligenz an Zesummenaarbecht mat Amazon (2040898) gemaach.