NSF un Amazon Grant atbalsta NYU pētījumus, lai palīdzētu pilsētām samazināt neobjektivitāti AI atbalstītā lēmumu pieņemšanā

Ņujorkas universitātes pētnieku komanda izstrādās jaunas metodes un rīkus, kuru mērķis ir samazināt sistēmiskus aizspriedumus un radīt vienlīdzīgāku ietekmi uz sabiedrisko politiku tādās jomās kā pilsētas mājokļu inspekcijas, kārtības uzturēšana un tiesas.

Saskaņā ar USD 1 miljonu stipendiju no Nacionālā zinātnes fonda (NSF) un Amazon, datorzinātņu profesors Daniels B. Nīls vadīs trīs gadus ilgo pētniecības projektu, kas vērsts uz mākslīgā intelekta (AI) pieaugošo izmantošanu pilsētu, publiskā sektora organizācijās — darbu, kas ietvers atvērtā pirmkoda rīku izveidi aizspriedumu novērtēšanai un labošanai.

"Cilvēku lēmumi un algoritmiskie lēmumi var radīt sistemātiskus aizspriedumus, kas var izraisīt sliktus pakārtotus rezultātus, piemēram, atšķirības un nevienlīdzību starp rasēm, dzimumiem un sociālekonomiskajām līnijām," sacīja Nīls, universitātes mācībspēkas loceklis. Pilsētu zinātnes un progresa centrs (CUSP) pie NYU Tandonas inženierzinātņu skola, un NYU profesors Vāgnera Valsts dienesta augstskola.

"Mēs vēlamies saprast, kā algoritmi var uzlabot cilvēku lēmumu pieņemšanu, novēršot netiešās novirzes, un izstrādāt metodes un rīkus, lai palīdzētu tiem, kas izstrādā un īsteno politikas pasākumus pilsētās."

Izpētot gan algoritmiskās lēmumu pieņemšanas riskus, gan ieguvumus, projekta komanda izstrādās jaunu, konceptuālu taisnīguma koncepciju, kas sastāv no septiņiem atšķirīgiem posmiem: dati, modeļi, prognozes, ieteikumi, lēmumi, ietekme un rezultāti. Šis “no gala līdz galam godīguma cauruļvads” ņems vērā vairākus novirzes avotus, modelēs, kā novirzes izplatās pa cauruļvadu, lai radītu nevienlīdzīgus rezultātus, un novērtēs jutīgumu pret neizmērītām novirzēm.

Otrkārt, komanda izveidos vispārīgu metodisko sistēmu, lai identificētu un labotu novirzes katrā konveijera posmā, sava veida novirzes skenēšanu, kā arī algoritmisku lēmumu atbalsta rīkus, kas sniedz ieteikumus lēmumu pieņēmējam (piemēram, algoritmiski "pagrūdieni"). lai virzītu cilvēku lēmumus uz taisnīgumu).

Visbeidzot, projekta komanda izveidos jaunus rādītājus, lai novērtētu neobjektivitātes esamību un apmēru krimināltiesību un mājokļu jomā, kā arī rīkus, ko var izmantot, lai: a) samazinātu ieslodzījumu, vienlīdzīgi nodrošinot atbalstošus pasākumus tiem iedzīvotājiem, kuri ir iesaistīti tieslietu jomā; b) noteikt prioritāti mājokļu pārbaudēm un remontdarbiem; c) novērtē un uzlabo civillietu un krimināllietu tiesvedības taisnīgumu; un d) analizē nelabvēlīgas vides iedarbības, tostarp sliktas kvalitātes mājokļu un agresīvas, negodīgas policijas darbības, atšķirīgo ietekmi uz veselību.

"Šī darba galvenā ietekme ir sociālā taisnīguma veicināšana tiem, kas dzīvo pilsētās un kuri paļaujas uz pilsētas pakalpojumiem vai ir saistīti ar tieslietu sistēmu, novērtējot un mazinot neobjektivitāti lēmumu pieņemšanas procesos un samazinot atšķirības," sacīja Neils. arī NYU Learning for Good Laboratory direktors un NYU Courant Matemātikas zinātņu institūta mācībspēks.

Papildus Neilam pētnieku komandā ir Ravi Shroff, CUSP un NYU Steinhardt Kultūras, izglītības un cilvēka attīstības skolas docents; Konstantīns Kontokosta, NYU Marronas Pilsētas pārvaldības institūta profesors un NYU Tandonas asociētās fakultātes; un Edvards Makfolends III, Minesotas Universitātes Karlsona menedžmenta skolas profesors.

Dotācija tika piešķirta saskaņā ar NSF programmu par godīgumu mākslīgā intelekta jomā sadarbībā ar Amazon (2040898).