NSF & Amazon Grant Supports Research at NYU to Help Cities Reduce Biases in AI Supported decision-making

Et team av forskere ved New York University vil utvikle nye metoder og verktøy som har som mål å minimere systematiske fordommer og produsere mer rettferdige offentlige politiske virkninger på områder som byens boliginspeksjoner, politi og domstoler.

Under en $1 million grant fra National Science Foundation (NSF) og Amazon, vil professor Daniel B. Neill lede det treårige forskningsprosjektet som fokuserer på den økende bruken av kunstig intelligens (AI) av urbane, offentlige sektor organisasjoner – arbeid som vil inkludere skaping av åpne kildeverktøy for å vurdere og korrigere fordommer.

“Menneskelige beslutninger og algoritme-baserte beslutninger har potensial for systematiske fordommer som kan føre til dårlige resultater nedover, som ulikheter og urettferdighet langs rase-, kjønn- og socioøkonomiske linjer,” sa Neill, en medlem av fakultetet ved Center for Urban Science and Progress (CUSP) ved NYU Tandon School of Engineering, og professor ved NYU’s Wagner Graduate School of Public Service.

“Hva vi ønsker å forstå er hvordan algoritmer kan forbedre menneskelige beslutninger ved å eliminere implisitte fordommer, og å utvikle metoder og verktøy for å assistere de som designer og implementerer politiske intervensjoner i byer.”

Ved å se på både risiko og fordeler med algoritme-basert beslutning, vil prosjektteamet utvikle en ny, pipelinede konseptualisering av rettferdighet bestående av syv distinkte stadier: data, modeller, prediksjoner, anbefalinger, beslutninger, impakter og resultater. Denne “end-to-end rettferdighet-pipeline” vil ta hensyn til multiple kilder for fordommer, modellere hvordan fordommer propagerer gjennom pipeline til å resultere i urettferdige resultater, og vurdere sensitivitet til umålte fordommer.

For det andre vil teamet bygge en generell metodisk ramme for å identifisere og korrigere fordommer på hvert stadium av pipeline, en slags fordom-skan, sammen med algoritme-basert beslutningsstøtte-verktøy som gir anbefalinger til en menneskelig beslutningstaker (slik som algoritme-“nudging” for å guide menneskelige beslutninger mot rettferdighet).

Til slutt vil prosjektteamet skape nye målinger for å måle tilstedeværelsen og omfanget av fordommer i straffeforfølgning og boligområder, og verktøy som kan brukes til: (a) å redusere fengsling ved å tilby rettferdige støtteintervensjoner til rettslig involverte befolkninger; (b) å prioritere boliginspeksjoner og reparasjoner; (c) å vurdere og forbedre rettferdigheten i sivile og straffe-rettslige prosedyrer; og (d) å analysere de ulike helse-impaktene av dårlige miljømessige eksponeringer, inkludert dårlig kvalitet på boliger og aggressive, urettferdige politipraksiser.

“Den ultimate impulsen av dette arbeidet er å fremme sosial rettferdighet for de som bor i byer og som avhenger av by-tjenester eller er involvert med rettssystemet, ved å vurdere og mitigere fordommer i beslutningsprosesser og redusere ulikheter,” sa Neill, også direktør for NYU’s Learning for Good Laboratory og en fakultetsmedlem ved NYU’s Courant Institute of Mathematical Sciences.

I tillegg til Neill, inkluderer forskningsteamet Ravi Shroff, en assistentprofessor ved CUSP og NYU’s Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, en professor ved NYU’s Marron Institute of Urban Management og assosiert fakultetsmedlem ved NYU Tandon; og Edward McFowland III, en professor ved University of Minnesota’s Carlson School of Management.

Tilskuddet ble gitt under NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).