NSF i Amazon Grant wspierają badania na Uniwersytecie Nowojorskim, aby pomóc miastom w ograniczeniu uprzedzeń w zakresie sztucznej inteligencji. Wspierane podejmowanie decyzji

Zespół naukowców z New York University opracuje nowe metody i narzędzia mające na celu minimalizację systemowych uprzedzeń i wywarcie bardziej sprawiedliwego wpływu na politykę publiczną w takich obszarach, jak miejskie inspekcje mieszkaniowe, policja i sądy.

W ramach grantu w wysokości 1 miliona dolarów od National Science Foundation (NSF) i Amazon, profesor informatyki Daniela B. Neilla poprowadzi trzyletni projekt badawczy skupiający się na rosnącym wykorzystaniu sztucznej inteligencji (AI) przez organizacje miejskie z sektora publicznego – prace, które obejmą stworzenie narzędzi typu open source do oceny i korygowania uprzedzeń.

„Decyzje ludzkie i decyzje oparte na algorytmach mogą powodować systematyczne błędy systematyczne, które mogą prowadzić do złych wyników na dalszych etapach, takich jak dysproporcje i nierówności ze względu na rasę, płeć i warunki społeczno-ekonomiczne” – powiedział Neill, członek wydziału Centrum Nauki i Postępu Miejskiego (CUSP) przy ul Szkoła Inżynierii Tandon NYUi profesor na Uniwersytecie Nowojorskim Wagnerowska Absolwentka Szkoły Służby Publicznej.

„Chcemy zrozumieć, w jaki sposób algorytmy mogą usprawnić proces podejmowania decyzji przez ludzi, eliminując ukryte uprzedzenia, a także opracować metody i narzędzia pomagające osobom projektującym i wdrażającym interwencje polityczne w miastach”.

Analizując zarówno ryzyko, jak i korzyści wynikające z algorytmicznego podejmowania decyzji, zespół projektowy opracuje nową, uporządkowaną konceptualizację sprawiedliwości składającą się z siedmiu odrębnych etapów: danych, modeli, prognoz, zaleceń, decyzji, wpływu i wyników. Ten „kompleksowy rurociąg zapewniający uczciwość” będzie uwzględniał wiele źródeł uprzedzeń, modelował sposób, w jaki uprzedzenia rozprzestrzeniają się w rurociągu, powodując niesprawiedliwe wyniki, a także oceniał wrażliwość na niezmierzone uprzedzenia.

Po drugie, zespół opracuje ogólne ramy metodologiczne do identyfikowania i korygowania błędów systematycznego na każdym etapie rurociągu, co będzie swego rodzaju skanowaniem błędów wraz z algorytmicznymi narzędziami wspierającymi podejmowanie decyzji, które dostarczają rekomendacji ludzkiemu decydentowi (takie jak algorytmiczne „szturchnięcia” kierować ludzkimi decyzjami w kierunku uczciwości).

Na koniec zespół projektowy opracuje nowe mierniki do pomiaru obecności i zakresu uprzedzeń w obszarze wymiaru sprawiedliwości w sprawach karnych i mieszkalnictwa, a także narzędzia, które można wykorzystać do: (a) ograniczenia kary pozbawienia wolności poprzez sprawiedliwe zapewnianie interwencji wspierających ludności objętej wymiarem sprawiedliwości; b) nadawać priorytet inspekcjom i naprawom mieszkań; c) oceniać i poprawiać rzetelność postępowań sądowych w sprawach cywilnych i karnych; oraz d) analizować różnorodne skutki zdrowotne niekorzystnego narażenia środowiskowego, w tym mieszkań o niskiej jakości i agresywnych, nieuczciwych praktyk policyjnych.

„Ostatecznym efektem tej pracy jest zwiększenie sprawiedliwości społecznej dla osób mieszkających w miastach i korzystających z usług miejskich lub współpracujących z wymiarem sprawiedliwości, poprzez ocenę i łagodzenie uprzedzeń w procesach decyzyjnych oraz zmniejszanie dysproporcji” – powiedział Neill, jest także dyrektorem Learning for Good Laboratory na Uniwersytecie Nowojorskim i członkiem wydziału Courant Institute of Mathematical Sciences na Uniwersytecie Nowojorskim.

Oprócz Neilla w skład zespołu badawczego wchodzą Ravi Shroff, adiunkt na CUSP i Steinhardt School of Culture, Education and Human Development na Uniwersytecie Nowojorskim; Constantine Kontokosta, profesor w Marron Institute of Urban Management na Uniwersytecie Nowojorskim i powiązany wydział na NYU Tandon; oraz Edward McFowland III, profesor w Carlson School of Management na Uniwersytecie w Minnesocie.

Dotacja została przyznana w ramach programu NSF dotyczącego uczciwości w sztucznej inteligencji we współpracy z Amazon (2040898).