NSF og Amazon-stipend støtter forskning ved NYU for å hjelpe byer redusere fordommer i AI-basert beslutning

Et team av forskere ved New York University vil utvikle nye metoder og verktøy for å minimere systematiske fordommer og produsere mer rettferdige offentlige politiske påvirkninger på områder som byens boliginspeksjoner, politi og rettsvesen.

Under en stipend på 1 million dollar fra National Science Foundation (NSF) og Amazon (AMZN ), vil professor Daniel B. Neill lede det treårige forskningsprosjektet som fokuserer på den økende bruken av kunstig intelligens (AI) i urbane, offentlige sektoren organisasjoner – arbeid som vil inkludere skapingen av åpne verktøy for å vurdere og korrigere fordommer.

“Menneskelige beslutninger og algoritme-baserte beslutninger har potensial for systematiske fordommer som kan føre til dårlige resultater, som ulikheter og urettferdighet over raciale, kjønnsmessige og sosioøkonomiske linjer,” sa Neill, en medlem av fakultetet ved Center for Urban Science and Progress (CUSP) ved NYU Tandon School of Engineering, og professor ved NYU’s Wagner Graduate School of Public Service.

“Hva vi ønsker å forstå er hvordan algoritmer kan forbedre menneskelige beslutninger ved å eliminere implisitte fordommer, og å utvikle metoder og verktøy for å assistere de som designer og implementerer politiske intervensjoner i byer.”

Ved å undersøke både risiko og fordeler ved algoritme-basert beslutning, vil prosjektteamet utvikle en ny, pipelinede konseptualisering av rettferdighet bestående av syv distinkte stadier: data, modeller, prediksjoner, anbefalinger, beslutninger, påvirkninger og resultater. Denne “end-to-end rettferdighet-pipeline” vil ta hensyn til multiple kilder for fordommer, modellere hvordan fordommer propagerer gjennom pipeline til å resultere i urettferdige resultater, og vurdere sensitivitet til umålende fordommer.

For det andre vil teamet bygge en generell metodisk ramme for å identifisere og korrigere fordommer på hvert stadium av pipeline, en slags fordommer-scan, samt algoritme-basert beslutningsstøtte-verktøy som gir anbefalinger til en menneskelig beslutningstaker (slik som algoritme-basert “nudging” for å guide menneskelige beslutninger mot rettferdighet).

Til slutt vil prosjektteamet skape nye metrikker for å måle tilstedeværelsen og omfanget av fordommer i straffeforfølgning og boligdomene, og verktøy som kan brukes til: (a) å redusere fengsling ved å tilby likeverdige støtteintervensjoner til rettslig involverte befolkninger; (b) å prioritere boliginspeksjoner og reparasjoner; (c) å vurdere og forbedre rettferdigheten i sivile og straffeforfølgning; og (d) å analysere de forskjellige helsepåvirkningene av negative miljøpåvirkninger, inkludert dårlig kvalitet på boliger og aggressiv, urettferdig politipraksis.

“Den ultimate påvirkningen av dette arbeidet er å fremme sosial rettferdighet for de som bor i byer og som avhenger av bytjenester eller er involvert i rettssystemet, ved å vurdere og minimere fordommer i beslutningsprosesser og redusere ulikheter,” sa Neill, også direktør for NYU’s Learning for Good Laboratory og en fakultetsmedlem ved NYU’s Courant Institute of Mathematical Sciences.

I tillegg til Neill, inkluderer forskningsteamet Ravi Shroff, en assistentprofessor ved CUSP og NYU’s Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, en professor ved NYU’s Marron Institute of Urban Management og tilknyttet fakultet ved NYU Tandon; og Edward McFowland III, en professor ved University of Minnesota’s Carlson School of Management.

Stipendet ble gitt under NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898). Stipendet ble gitt til Daniel B. Neill, en professor ved NYU; Ravi Shroff, en assistentprofessor ved NYU; Constantine Kontokosta, en professor ved NYU; og Edward McFowland III, en professor ved University of Minnesota. Stipendet ble gitt under NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898), og ble ledet av Neill. Forskningsprosjektet vil pågå i tre år, og vil inkludere utvikling av nye metoder og verktøy for å minimere fordommer i AI-basert beslutning.

Forskningsprosjektet vil også inkludere utvikling av nye metrikker for å måle tilstedeværelsen og omfanget av fordommer i straffeforfølgning og boligdomene. Prosjektet vil også inkludere utvikling av verktøy som kan brukes til å redusere fengsling, prioritere boliginspeksjoner og reparasjoner, og å vurdere og forbedre rettferdigheten i sivile og straffeforfølgning.