Grant NSF a Amazon podporuje výzkum na NYU pro pomoc městům snížit předpojatosti v rozhodování podporovaném umělou inteligencí

Tým výzkumníků na New York University vyvine nové metody a nástroje zaměřené na minimalizaci systémových předpojatostí a produkci více rovných dopadů veřejné politiky v oblastech, jako jsou městské inspekce bytů, policie a soudy.

V rámci grantu ve výši 1 milion dolarů od National Science Foundation (NSF) a Amazon (AMZN ) povede tříletý výzkumný projekt profesor počítačových věd Daniel B. Neill, který bude zahrnovat vytvoření open-source nástrojů pro hodnocení a opravu předpojatostí.

„Lidská rozhodnutí a algoritmická rozhodnutí mají potenciál systematických předpojatostí, které mohou vést k špatným výsledkům, jako jsou nerovnosti a nespravedlnost napříč rasovými, genderovými a socioekonomickými linkami,“ řekl Neill, člen fakulty Center for Urban Science and Progress (CUSP) na NYU Tandon School of Engineering a profesor na NYU Wagner Graduate School of Public Service.

„Chceme pochopit, jak algoritmy mohou zlepšit lidská rozhodnutí eliminací implicitních předpojatostí a vyvinout metody a nástroje, které pomohou těm, kteří navrhují a implementují politické zásahy ve městech.“

Při zkoumání rizik a výhod algoritmického rozhodování bude projektový tým vyvinout novou, pipeline konceptualizaci spravedlnosti, skládající se ze sedmi různých fází: data, modely, předpovědi, doporučení, rozhodnutí, dopady a výsledky. Tato „koncová spravedlnostní pipeline“ bude zohledňovat多IPLE zdroje předpojatostí, modelovat, jak předpojatosti propagují skrze pipeline a vedou k nespravedlivým výsledkům, a hodnotit citlivost na neměřené předpojatosti.

Druhá, tým bude budovat obecnou metodologickou rámcovou strukturu pro identifikaci a opravu předpojatostí v každé fázi pipeline, druh bias sken, spolu s algoritmickými rozhodovacími nástroji, které poskytují doporučení lidskému rozhodčímu (jako algoritmické „nudges“ pro vedení lidských rozhodnutí směrem ke spravedlnosti).

Nakonec, projektový tým bude vytvářet nové metriky pro měření přítomnosti a rozsahu předpojatostí v oblasti trestního soudnictví a bydlení a nástroje, které lze použít k: (a) snížení počtu zatčených osob poskytováním rovných podpůrných zásahů pro osoby zapojené do justice; (b) priorizaci inspekcí a oprav bytů; (c) hodnocení a zlepšování spravedlnosti civilních a trestních soudních řízení; a (d) analýze nespravedlivých zdravotních dopadů nepříznivých environmentálních expozic, včetně špatné kvality bytů a agresivních, nespravedlivých policejních praktik.

„Konečným dopadem této práce je podpora sociální spravedlnosti pro ty, kteří žijí ve městech a kteří se spoléhají na městské služby nebo jsou zapojeni do justice, hodnocení a zmírnění předpojatostí v rozhodovacích procesech a snižování nesrovnalostí,“ řekl Neill, který je také ředitelem NYU Learning for Good Laboratory a členem fakulty NYU Courant Institute of Mathematical Sciences.

Kromě Neilla je součástí výzkumného týmu Ravi Shroff, asistent profesora na CUSP a NYU Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, profesor na NYU Marron Institute of Urban Management a přidružený člen fakulty na NYU Tandon; a Edward McFowland III, profesor na University of Minnesota Carlson School of Management.

Grant byl udělen v rámci programu NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).

ta, profesor na NYU Marron Institute of Urban Management a přidružený člen fakulty na NYU Tandon; a Edward McFowland III, profesor na University of Minnesota Carlson School of Management. Grant byl udělen v rámci programu NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).