Грант NSF та Amazon підтримує дослідження в NYU для допомоги містам у зменшенні упереджень в процесах прийняття рішень з підтримкою штучного інтелекту

Команда дослідників у Нью-Йоркському університеті розробить нові методи та інструменти, спрямовані на мінімізацію системних упереджень та забезпечення більш рівноправного впливу державної політики на такі сфери, як інспекції житла, поліцейська діяльність та судові рішення.

За грантом у розмірі 1 мільйона доларів від Національного наукового фонду (NSF) та Amazon професор комп’ютерних наук Даніель Б. Нілл очолить трирічний дослідницький проєкт, який зосереджується на зростаючому використанні штучного інтелекту (AI) міськими, державними організаціями – роботою, яка включатиме створення відкритих інструментів для оцінки та виправлення упереджень.

«Рішення людини та алгоритмічні рішення мають потенціал системних упереджень, які можуть привести до поганих результатів, таких як нерівність та несправедливість по лінії раси, статі та соціально-економічних чинників», – сказав Нілл, член факультету Центру міської науки та прогресу (CUSP) у Школі інженерії NYU Tandon та професор у Школі громадської служби Вагнера NYU.

«Нас цікавить, як алгоритми можуть покращити прийняття рішень людиною, усунувши неявні упередження, та розробити методи та інструменти для допомоги тим, хто проектує та реалізує політичні заходи в містах».

Досліджуючи ризики та переваги алгоритмічного прийняття рішень, команда проєкту розробить нову, трубопроводну концептуалізацію справедливості, яка складається з семи окремих стадій: дані, моделі, передбачення, рекомендації, рішення, впливи та результати. Ця «трубопровідна справедливість» врахує кілька джерел упереджень, змоделює, як упередження поширюються через трубопровід, щоб привести до нерівноправних результатів, та оцінить чутливість до невиміряних упереджень.

Другою справою команди буде створення загальної методологічної основи для виявлення та виправлення упереджень на кожній стадії трубопроводу, свого роду сканування упереджень, а також інструментів алгоритмічної підтримки рішень, які надають рекомендації людині, що приймає рішення (наприклад, алгоритмічні «поштовхи», щоб спрямувати людські рішення у бік справедливості).

Нарешті, команда проєкту створить нові метрики для вимірювання наявності та ступеня упереджень у сфері кримінального правосуддя та житла, а також інструменти, які можна використовувати для: (а) зменшення кількості ув’язнень шляхом забезпечення рівноправних підтримуючих заходів для населення, яке перебуває під впливом правосуддя; (б) пріоритезації інспекцій та ремонту житла; (в) оцінки та покращення справедливості цивільних та кримінальних судових процесів; та (г) аналізу нерівномірного впливу на здоров’я негативних факторів довкілля, включаючи погане житло та агресивні, несправедливі поліцейські практики.

«Остаточний вплив цієї роботи полягає у сприянні соціальній справедливості для тих, хто живе в містах і хто залежить від міських послуг або залучений до системи правосуддя, шляхом оцінки та пом’якшення упереджень у процесах прийняття рішень та зменшення нерівності», – сказав Нілл, також директор лабораторії NYU Learning for Good та член факультету Інституту математичних наук Куранта.

Окрім Нілла, до команди дослідників входять Раві Шрофф, асистент-професор у CUSP та Школі культури, освіти та розвитку людини Стейнгарта; Костянтин Контокоста, професор Інституту міського управління Маррона та асоційований професор Школи інженерії NYU Tandon; та Едвард Макфовланд III, професор Школи менеджменту Карлсона Університету Міннесоти.

Грант було видано в рамках Програми NSF з питань справедливості штучного інтелекту у співпраці з Amazon (2040898).