Etyka
Grant NSF i Amazon wspiera badania na NYU, aby pomóc miastom zmniejszyć uprzedzenia w podejmowaniu decyzji z użyciem AI
Dodaj Unite.AI do preferowanych źródeł w Google
Zespół badaczy z Nowojorskiego Uniwersytetu (New York University) opracuje nowe metody i narzędzia, których celem będzie minimalizowanie systemowych uprzedzeń i wytwarzanie bardziej sprawiedliwej polityki publicznej w takich obszarach, jak inspekcje mieszkań, policja i sądy.
W ramach grantu w wysokości 1 miliona dolarów od Narodowej Fundacji Nauki (National Science Foundation, NSF) i Amazon (AMZN ), profesor Daniel B. Neill poprowadzi trzyletni projekt badawczy, którego celem jest rosnące wykorzystanie sztucznej inteligencji (AI) przez organizacje sektora publicznego w miastach, w tym tworzenie otwartych narzędzi do oceny i korekcji uprzedzeń.
„Ludzkie decyzje i decyzje algorytmiczne mają potencjał systemowych uprzedzeń, które mogą prowadzić do niekorzystnych skutków, takich jak dysproporcje i niesprawiedliwość wzdłuż linii rasowych, płciowych i ekonomicznych”, powiedział Neill, członek wydziału Centrum Nauki o Mieście i Postępie (Center for Urban Science and Progress, CUSP) na NYU Tandon School of Engineering oraz profesor na NYU Wagner Graduate School of Public Service.
„Chcemy zrozumieć, jak algorytmy mogą poprawić podejmowanie decyzji przez ludzi, eliminując niejawne uprzedzenia, oraz opracować metody i narzędzia, które pomogą osobom projektującym i wdrażającym interwencje polityczne w miastach”.
Przy badaniu zarówno ryzyka, jak i korzyści podejmowania decyzji algorytmicznych, zespół badawczy opracuje nową, siedmiostopniową koncepcję sprawiedliwości, obejmującą dane, modele, przewidywania, rekomendacje, decyzje, wpływ i wyniki. Ten „pipeline sprawiedliwości” uwzględni wiele źródeł uprzedzeń, modeluje, jak uprzedzenia przenoszą się przez pipeline, prowadząc do niesprawiedliwych wyników, oraz ocenia wrażliwość na niezmierzone uprzedzenia.
Następnie zespół opracuje ogólną ramę metodologiczną do identyfikacji i korekcji uprzedzeń na każdym etapie pipeline, rodzaj skanowania uprzedzeń, wraz z algorytmicznymi narzędziami wspomagania decyzji, które zapewniają rekomendacje dla podejmującego decyzje (takie jak algorytmiczne „pchnięcia”, które prowadzą decyzje ludzkie w kierunku sprawiedliwości).
Wreszcie zespół badawczy stworzy nowe metryki do pomiaru obecności i zakresu uprzedzeń w dziedzinie wymiaru sprawiedliwości i mieszkań, oraz narzędzia, które mogą być wykorzystane do: (a) zmniejszenia liczby osób pozbawionych wolności poprzez równoprawne zapewnienie interwencji wspierających populacjom zaangażowanym w wymiar sprawiedliwości; (b) priorytetowego przeprowadzania inspekcji i napraw mieszkań; (c) oceny i poprawy sprawiedliwości postępowań cywilnych i karnych; oraz (d) analizy nierównych skutków zdrowotnych niekorzystnych narażeń środowiskowych, w tym złej jakości mieszkań i agresywnych, niesprawiedliwych praktyk policyjnych.
„Ostateczny wpływ tej pracy polega na promowaniu sprawiedliwości społecznej dla osób mieszkających w miastach i korzystających z usług miejskich lub zaangażowanych w system wymiaru sprawiedliwości, poprzez ocenę i łagodzenie uprzedzeń w procesach podejmowania decyzji oraz zmniejszanie dysproporcji”, powiedział Neill, również dyrektor Laboratorium Nauki dla Dobra (Learning for Good Laboratory) na NYU oraz członek wydziału Courant Institute of Mathematical Sciences.
Ponadto w zespole badawczym znajdują się Ravi Shroff, asystent profesora w CUSP i NYU Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, profesor w NYU Marron Institute of Urban Management i związany z NYU Tandon; oraz Edward McFowland III, profesor na University of Minnesota’s Carlson School of Management.
Grant został przyznany w ramach programu NSF na rzecz sprawiedliwości w sztucznej inteligencji we współpracy z Amazon (2040898).
Ta, a profesor na NYU’s Marron Institute of Urban Management i związany z NYU Tandon; i Edward McFowland III, profesor na University of Minnesota’s Carlson School of Management. Grant został przyznany w ramach programu NSF na rzecz sprawiedliwości w sztucznej inteligencji we współpracy z Amazon (2040898).
