NSF & Amazon Grant Supports Research at NYU to Help Cities Reduce Biases in AI Supported decision-making

Zespół badaczy z New York University opracuje nowe metody i narzędzia mające na celu minimalizowanie systemowych uprzedzeń i tworzenie bardziej równych wpływów polityki publicznej w takich obszarach, jak inspekcje mieszkań, policja i sądy.

W ramach grantu w wysokości 1 miliona dolarów od National Science Foundation (NSF) i Amazon, profesor informatyki Daniel B. Neill poprowadzi trzyletni projekt badawczy skupiony na rosnącym wykorzystaniu sztucznej inteligencji (AI) przez organizacje sektora publicznego w miastach – praca ta będzie obejmować tworzenie otwartych narzędzi do oceny i korekty uprzedzeń.

„Ludzkie decyzje i decyzje algorytmiczne mają potencjał systemowych uprzedzeń, które mogą prowadzić do złych wyników, takich jak dysproporcje i nierówność wzdłuż rasowych, płciowych i ekonomicznych linii”, powiedział Neill, członek wydziału Center for Urban Science and Progress (CUSP) na NYU Tandon School of Engineering, oraz profesor na Wagner Graduate School of Public Service NYU.

„Chcemy zrozumieć, jak algorytmy mogą wspomagać ludzkie decyzje, eliminując nieświadome uprzedzenia, oraz opracować metody i narzędzia, które pomogą tym, którzy projektują i wdrażają interwencje polityczne w miastach.”

W badaniu zarówno ryzyka, jak i korzyści decyzji algorytmicznych, zespół projektowy opracuje nową, rurociągową koncepcję sprawiedliwości, składającą się z siedmiu odrębnych etapów: danych, modeli, przewidywań, rekomendacji, decyzji, wpływów i wyników. Ten „rurociąg sprawiedliwości” uwzględni wiele źródeł uprzedzeń, modeluje, jak uprzedzenia przenoszą się przez rurociąg, prowadząc do niesprawiedliwych wyników, oraz ocenia wrażliwość na niezmierzone uprzedzenia.

Po drugie, zespół opracuje ogólny ramowy framework dla identyfikacji i korekty uprzedzeń na każdym etapie rurociągu, rodzaj skanowania uprzedzeń, wraz z algorytmicznymi narzędziami wspomagania decyzji, które zapewniają rekomendacje dla ludzkiego decydenta (takie jak algorytmiczne „pchnięcia”, które prowadzą ludzkie decyzje w kierunku sprawiedliwości).

Wreszcie, zespół projektowy stworzy nowe metryki do mierzenia obecności i zakresu uprzedzeń w dziedzinie sprawiedliwości karnej i mieszkalnictwa, oraz narzędzi, które mogą być wykorzystane do: (a) redukcji więzienia poprzez równoprawne zapewnienie interwencji wspierających populacjom zaangażowanym w sprawiedliwość; (b) priorytetowych inspekcji i napraw mieszkań; (c) oceny i poprawy sprawiedliwości postępowań sądowych cywilnych i karnych; oraz (d) analizy nierównych wpływów zdrowotnych na niekorzystne ekspozycje środowiskowe, w tym złej jakości mieszkań i agresywnych, niesprawiedliwych praktyk policyjnych.

„Ostateczny wpływ tej pracy polega na promowaniu sprawiedliwości społecznej dla tych, którzy mieszkają w miastach i którzy polegają na usługach miejskich lub są zaangażowani w system sprawiedliwości, poprzez ocenę i łagodzenie uprzedzeń w procesach decyzyjnych oraz redukowanie dysproporcji”, powiedział Neill, également dyrektor Laboratorium Nauki dla Dobra NYU i członek wydziału Instytutu Nauk Matematycznych Courant NYU.

Ponadto, w zespole badawczym znajdują się Ravi Shroff, asystent profesora w CUSP i Szkole Kultury, Edukacji i Rozwoju Człowieka Steinhardta NYU; Constantine Kontokosta, profesor w Instytucie Zarządzania Miejskiego Marron NYU i związany z wydziałem NYU Tandon; oraz Edward McFowland III, profesor na Wydziale Zarządzania Carlson University of Minnesota.

Grant został przyznany w ramach programu NSF na Fairness in Artificial Intelligence we współpracy z Amazon (2040898).