НСФ и Амазон Грант подржавају истраживања на НИУ како би помогли градовима да смање предрасуде у доношењу одлука које подржава АИ

Тим истраживача са Универзитета у Њујорку ће развити нове методе и алате који имају за циљ минимизирање системских предрасуда и стварање праведнијег утицаја на јавну политику у областима као што су градске стамбене инспекције, полиција и судови.

Под грантом од милион долара од Националне научне фондације (НСФ) и Амазона, професора рачунарских наука Даниел Б. Неилл ће водити трогодишњи истраживачки пројекат усредсређен на растућу употребу вештачке интелигенције (АИ) од стране урбаних организација јавног сектора—рад који ће укључивати стварање алата отвореног кода за процену и исправљање пристрасности.

„Људске одлуке и алгоритамске одлуке имају потенцијал за систематске пристрасности које могу довести до лоших исхода у наставку, као што су диспаритети и неједнакост по расним, полним и социоекономским линијама“, рекао је Неилл, члан факултета Универзитета Центар за урбану науку и напредак (ЦУСП) на НИУ Тандон Сцхоол оф Енгинееринг, и професор на НИУ Вагнер дипломска школа јавних служби.

„Оно што желимо да разумемо је како алгоритми могу да унапреде људско доношење одлука елиминишући имплицитне пристрасности и да развију методе и алате који ће помоћи онима који дизајнирају и спроводе интервенције политике у градовима.

Сагледавајући и ризике и предности алгоритамског доношења одлука, пројектни тим ће развити нову, конципирану концептуализацију правичности која се састоји од седам различитих фаза: података, модела, предвиђања, препорука, одлука, утицаја и исхода. Овај „производ праведности од краја до краја“ ће узети у обзир вишеструке изворе пристрасности, моделирати како се пристрасности шире кроз цевовод да би резултирале неправедним исходима и процениће осетљивост на неизмерене пристрасности.

Друго, тим ће изградити општи методолошки оквир за идентификацију и исправљање предрасуда у свакој фази цевовода, неку врсту скенирања пристрасности, заједно са алгоритамским алатима за подршку одлучивању који дају препоруке људима који доносе одлуке (као што су алгоритамски „подстицаји“ да усмерава људске одлуке ка правичности).

Коначно, пројектни тим ће креирати нове метрике за мерење присуства и обима пристрасности у домену кривичног правосуђа и становања, као и алате који се могу користити за: (а) смањење затварања равноправним пружањем интервенција подршке популацији укљученој у правосуђе; (б) давање приоритета стамбеним инспекцијама и поправкама; (ц) процењује и унапређује правичност грађанских и кривичних судских поступака; и (д) анализира различите утицаје на здравље штетног излагања околини, укључујући становање лошег квалитета и агресивне, неправедне полицијске праксе.

„Крајњи утицај овог рада је унапређење социјалне правде за оне који живе у градовима и који се ослањају на градске службе или су укључени у правосудни систем, проценом и ублажавањем пристрасности у процесима доношења одлука и смањењем диспаритета“, рекао је Нил, такође директор НИУ лабораторије Леарнинг фор Гоод и члан факултета на НИУ Институту за математичке науке Цоурант.

Поред Нила, истраживачки тим укључује Равија Шрофа, доцента на ЦУСП и Стеинхардт школи за културу, образовање и људски развој НИУ; Константин Контокоста, професор на Маррон институту за урбани менаџмент НИУ и придружени факултет на НИУ Тандон; и Едвард Мекфауленд ИИИ, професор на Карлсон школи менаџмента Универзитета у Минесоти.

Грант је дат у оквиру НСФ програма о праведности у вештачкој интелигенцији у сарадњи са Амазоном (2040898).