Грант NSF та Amazon підтримує дослідження в NYU для допомоги містам у зменшенні упереджень в процесах прийняття рішень з підтримкою штучного інтелекту

Команда дослідників у Нью-Йоркському університеті розробить нові методи та інструменти, спрямовані на мінімізацію системних упереджень та забезпечення більш рівноправної державної політики у таких сферах, як інспекції житла, поліцейська діяльність та судові процеси.

За рахунок гранту у розмірі 1 мільйона доларів від Національного наукового фонду (NSF) та Amazon (AMZN ) професор комп’ютерних наук Даніель Б. Ніл очолить трирічний дослідницький проєкт, який буде займатися створенням відкритих інструментів для оцінки та корекції упереджень.

«Рішення, прийняті людьми, та алгоритмічні рішення мають потенціал системних упереджень, які можуть привести до поганих результатів, таких як нерівність та несправедливість у сфері расових, гендерних та соціально-економічних відносин», – сказав Ніл, член факультету Центру міської науки та прогресу (CUSP) у Школі інженерії Нью-Йоркського університету та професор Школи громадської служби Вагнера.

«Нас цікавить, як алгоритми можуть покращити процес прийняття рішень людьми, усунувши приховані упередження, та розробити методи та інструменти для допомоги тим, хто проектує та реалізує політичні заходи у містах».

Дослідницька команда розробить нову концептуалізацію справедливості, яка складається з семи окремих етапів: дані, моделі, передбачення, рекомендації, рішення, впливи та результати. Ця «конвеєр справедливості» враховуватиме кілька джерел упереджень, моделюватиме, як упередження поширюються через конвеєр, та оцінюватиме чутливість до не виміряних упереджень.

Друга, команда створить загальний методологічний підхід для виявлення та корекції упереджень на кожному етапі конвеєра, а також алгоритмічні інструменти підтримки рішень, які надають рекомендації людині, що приймає рішення.

Нарешті, дослідницька команда створить нові метрики для вимірювання присутності та ступеня упереджень у сфері кримінального правосуддя та житлово-комунального господарства, а також інструменти, які можна використовувати для: (а) зменшення кількості ув’язнень шляхом забезпечення рівноправного доступу до підтримки для осіб, які перебувають під слідством; (б) пріоритизації інспекцій та ремонту житла; (в) оцінки та покращення справедливості цивільних та кримінальних судових процесів; та (г) аналізу нерівномірних впливів несприятливих екологічних чинників, включаючи погану якість житла та агресивні поліцейські практики.

«Остаточний вплив цієї роботи полягає у сприянні соціальній справедливості для тих, хто живе у містах та хто залежить від міських послуг або перебуває під слідством, шляхом оцінки та пом’якшення упереджень у процесах прийняття рішень та зменшення нерівності», – сказав Ніл.

Окрім Ніла, дослідницька команда включає Раві Шроффа, асистента професора у CUSP та Школі культури, освіти та розвитку людини Стейнгарта; Костянтина Контокосту, професора Інституту міської справи Маррона та асоційованого факультету Школи інженерії Нью-Йоркського університету; та Едварда Макфоуленда III, професора Школи менеджменту Карлсона університету Міннесоти.

Грант було виділено у рамках програми NSF щодо справедливості у штучному інтелекті у співпраці з Amazon (2040898).

та Едвард Макфоуленд III, професор університету Міннесоти Школи менеджменту Карлсона. Грант було виділено у рамках програми NSF щодо справедливості у штучному інтелекті у співпраці з Amazon (2040898).