Etika

Grant NSF a Amazon podporuje výzkum na NYU pro pomoc městům snížit předpojatosti v rozhodování podporovaném umělou inteligencí

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyVýzkumníci z NYU vytvoří open-source nástroje pro posuzování a nápravu zkreslení v…
Zobrazit více
  • Výzkumníci z NYU vytvoří open-source nástroje pro posuzování a nápravu zkreslení v rozhodování města.
  • Projekt mapuje spravedlnost v sedmi fázích od dat až po výsledky, aby vystopoval, jak se zkreslení šíří.
  • Nové metriky se zaměří na trestní justici a bydlení s cílem snížit míru uvěznění a zlepšit spravedlnost soudů.

Tým výzkumníků na New York University vyvine nové metody a nástroje zaměřené na minimalizaci systémových předpojatostí a produkci více rovných dopadů veřejné politiky v oblastech, jako jsou městské inspekce bytů, policie a soudy.

V rámci grantu ve výši 1 milion dolarů od National Science Foundation (NSF) a Amazon (AMZN ) povede tříletý výzkumný projekt profesor počítačových věd Daniel B. Neill, který bude zahrnovat vytvoření open-source nástrojů pro hodnocení a opravu předpojatostí.

„Lidská rozhodnutí a algoritmická rozhodnutí mají potenciál systematických předpojatostí, které mohou vést k špatným výsledkům, jako jsou nerovnosti a nespravedlnost napříč rasovými, genderovými a socioekonomickými linkami,“ řekl Neill, člen fakulty Center for Urban Science and Progress (CUSP) na NYU Tandon School of Engineering a profesor na NYU Wagner Graduate School of Public Service.

„Chceme pochopit, jak algoritmy mohou zlepšit lidská rozhodnutí eliminací implicitních předpojatostí a vyvinout metody a nástroje, které pomohou těm, kteří navrhují a implementují politické zásahy ve městech.“

Při zkoumání rizik a výhod algoritmického rozhodování bude projektový tým vyvinout novou, pipeline konceptualizaci spravedlnosti, skládající se ze sedmi různých fází: data, modely, předpovědi, doporučení, rozhodnutí, dopady a výsledky. Tato „koncová spravedlnostní pipeline“ bude zohledňovat多IPLE zdroje předpojatostí, modelovat, jak předpojatosti propagují skrze pipeline a vedou k nespravedlivým výsledkům, a hodnotit citlivost na neměřené předpojatosti.

Druhá, tým bude budovat obecnou metodologickou rámcovou strukturu pro identifikaci a opravu předpojatostí v každé fázi pipeline, druh bias sken, spolu s algoritmickými rozhodovacími nástroji, které poskytují doporučení lidskému rozhodčímu (jako algoritmické „nudges“ pro vedení lidských rozhodnutí směrem ke spravedlnosti).

Nakonec, projektový tým bude vytvářet nové metriky pro měření přítomnosti a rozsahu předpojatostí v oblasti trestního soudnictví a bydlení a nástroje, které lze použít k: (a) snížení počtu zatčených osob poskytováním rovných podpůrných zásahů pro osoby zapojené do justice; (b) priorizaci inspekcí a oprav bytů; (c) hodnocení a zlepšování spravedlnosti civilních a trestních soudních řízení; a (d) analýze nespravedlivých zdravotních dopadů nepříznivých environmentálních expozic, včetně špatné kvality bytů a agresivních, nespravedlivých policejních praktik.

„Konečným dopadem této práce je podpora sociální spravedlnosti pro ty, kteří žijí ve městech a kteří se spoléhají na městské služby nebo jsou zapojeni do justice, hodnocení a zmírnění předpojatostí v rozhodovacích procesech a snižování nesrovnalostí,“ řekl Neill, který je také ředitelem NYU Learning for Good Laboratory a členem fakulty NYU Courant Institute of Mathematical Sciences.

Kromě Neilla je součástí výzkumného týmu Ravi Shroff, asistent profesora na CUSP a NYU Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, profesor na NYU Marron Institute of Urban Management a přidružený člen fakulty na NYU Tandon; a Edward McFowland III, profesor na University of Minnesota Carlson School of Management.

Grant byl udělen v rámci programu NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).

ta, profesor na NYU Marron Institute of Urban Management a přidružený člen fakulty na NYU Tandon; a Edward McFowland III, profesor na University of Minnesota Carlson School of Management. Grant byl udělen v rámci programu NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.