NSF ja Amazonin apuraha tukee New Yorkin yliopistossa tehtävää tutkimusta, jonka tavoitteena on auttaa kaupunkeja vähentämään AI-pohjaisissa päätöksissä olevia harhaa

New Yorkin yliopiston tutkijaryhmä kehittää uusia menetelmiä ja työkaluja, joiden tavoitteena on minimoida järjestelmälliset harhat ja tuottaa tasapuolisempia vaikutuksia julkisen politiikan alueilla, kuten kaupunkien asuntojen tarkastuksissa, poliisitoiminnassa ja oikeuslaitoksessa.

Yhdysvaltain kansallisen tiedesäätiön (NSF) ja Amazonin myöntämän 1 miljoonan dollarin apurahan turvin tietojenkäsittelytieteen professori Daniel B. Neill johtaa kolmevuotista tutkimushanketta, joka keskittyy kaupunkien ja julkisen sektorin organisaatioiden kasvavaan käyttöön tekoälyä (AI) työssään. Tutkimuksessa kehitetään myös avoimen lähdekoodin työkaluja harhaisuuden arviointiin ja korjaamiseen. (AMZN )

“Ihmisten päätöksenteko ja algoritmien tekemät päätökset voivat sisältää järjestelmällisiä harhoja, jotka voivat johtaa huonoihin lopputuloksiin, kuten epätasa-arvoon rotu-, sukupuoli- ja sosioekonomisten ryhmien välillä”, Neill sanoo. Neill on CUSP-instituutin (Center for Urban Science and Progress) ja NYU Tandon School of Engineeringin jäsen, sekä professori NYU:n Wagner Graduate School of Public Servicessä.

“Haluumme ymmärtää, miten algoritmit voivat parantaa ihmisten päätöksentekoa poistamalla implisiittiset harhat, ja kehittää menetelmiä ja työkaluja, jotka auttavat kaupunkien päätöksentekijöitä suunnittelemaan ja toteuttamaan politiikkainterventioita.”

Tutkimusryhmä tarkastelee sekä algoritmisen päätöksenteon riskejä että hyötyjä ja kehittää uuden, putkipohjaisen käsitteen reiluudesta, joka koostuu seitsemästä eri vaiheesta: data, mallit, ennusteet, suositukset, päätökset, vaikutukset ja lopputulokset. Tämä “päästä-päähän reiluusputki” ottaa huomioon useat harhan lähteet, mallintaa, miten harhat leviävät putken läpi ja johtavat epätasa-arvoisiin lopputuloksiin, ja arvioi herkkyyttä mitäämättömiin harhoihin.

Toiseksi, tutkimusryhmä kehittää yleisen metodologisen viitekehyksen harhaisuuden tunnistamiseksi ja korjaamiseksi jokaisessa putken vaiheessa, sekä algoritmisen päätöksenteon tukityökaluja, jotka antavat suosituksia ihmisen päätöksentekijälle (kuten algoritmisia “viittoja”, jotka ohjaavat ihmisen päätöksiä kohti reiluutta).

Lopuksi, tutkimusryhmä kehittää uusia mittareita harhan läsnäolon ja laajuuden mittaamiseksi rikos- ja oikeusministeriössä, sekä työkaluja, joilla voidaan: (a) vähentää vankeutta tarjoamalla tasa-arvoisesti tukevia interventioita oikeudenkäynneissä mukana oleville väestöille; (b) priorisoida asuntojen tarkastukset ja korjaukset; (c) arvioida ja parantaa siviili- ja rikosoikeudenkäynneissä vallitsevaa reiluutta; ja (d) analysoida epätasa-arvoisia terveydellisiä vaikutuksia epäedullisista ympäristöolosuhteista, mukaan lukien huonolaatuiset asuinolot ja epäoikeudenmukaiset poliisitaktiikat.

“Tämän työn lopullinen vaikutus on edistää sosiaalista oikeudenmukaisuutta niille, jotka asuvat kaupungeissa ja jotka riippuvat kaupunkien palveluista tai ovat mukana oikeusjärjestelmässä, arvioimalla ja lieventämällä päätöksentekoprosessien harhoja ja vähentämällä epätasa-arvoa”, Neill sanoo. Neill on myös NYU:n Learning for Good Laboratoryn johtaja ja Courant Institute of Mathematical Sciencesin jäsen.

Tutkimusryhmään kuuluvat myös Ravi Shroff, CUSP-instituutin ja NYU Steinhardt School of Culture, Education, and Human Developmentin apulaisprofessori; Constantine Kontokosta, NYU Marron Institute of Urban Managementin professori ja NYU Tandonin liitännäisjäsen; ja Edward McFowland III, Minnesotan yliopiston Carlson School of Managementin professori.

Apuraha myönnettiin Yhdysvaltain kansallisen tiedesäätiön (NSF) ohjelmassa, jossa tutkitaan tekoälyn reiluutta yhteistyössä Amazonin kanssa (2040898). Ta, NYU:n Marron Institute of Urban Managementin professori ja NYU Tandonin liitännäisjäsen; ja Edward McFowland III, Minnesotan yliopiston Carlson School of Managementin professori. Apuraha myönnettiin Yhdysvaltain kansallisen tiedesäätiön (NSF) ohjelmassa, jossa tutkitaan tekoälyn reiluutta yhteistyössä Amazonin kanssa (2040898).