NSF & Amazon Grant Mendukung Penelitian di NYU untuk Membantu Kota Mengurangi Bias dalam Pengambilan Keputusan yang Didukung AI

Tim peneliti di New York University akan mengembangkan metode dan alat baru yang bertujuan untuk meminimalkan bias sistemik dan menghasilkan dampak kebijakan publik yang lebih adil di bidang seperti inspeksi perumahan kota, kepolisian, dan pengadilan.

Di bawah hibah sebesar $1 juta dari National Science Foundation (NSF) dan Amazon (AMZN ), Profesor Ilmu Komputer Daniel B. Neill akan memimpin proyek penelitian tiga tahun yang berfokus pada penggunaan Artificial Intelligence (AI) yang semakin meningkat oleh organisasi sektor publik perkotaan—pekerjaan yang akan mencakup pembuatan alat sumber terbuka untuk menilai dan memperbaiki bias.

“Keputusan manusia dan keputusan algoritmik memiliki potensi untuk bias sistemik yang dapat menyebabkan hasil yang buruk, seperti ketidaksetaraan dan ketidakadilan di berbagai garis ras, gender, dan sosioekonomi,” kata Neill, anggota fakultas Center for Urban Science and Progress (CUSP) di NYU Tandon School of Engineering, dan profesor di NYU’s Wagner Graduate School of Public Service.

“Apa yang ingin kita pahami adalah bagaimana algoritma dapat meningkatkan keputusan manusia dengan menghilangkan bias implisit, dan mengembangkan metode dan alat untuk membantu mereka yang merancang dan menerapkan intervensi kebijakan di kota.”

Dalam menyelidiki risiko dan manfaat pengambilan keputusan algoritmik, tim proyek akan mengembangkan konseptualisasi baru tentang keadilan yang terdiri dari tujuh tahap yang berbeda: data, model, prediksi, rekomendasi, keputusan, dampak, dan hasil. “Pipa keadilan ujung-ke-ujung” ini akan mempertimbangkan beberapa sumber bias, memodelkan bagaimana bias menyebar melalui pipa untuk menghasilkan hasil yang tidak adil, dan menilai sensitivitas terhadap bias yang tidak diukur.

Kedua, tim akan membangun kerangka metodologis umum untuk mengidentifikasi dan memperbaiki bias pada setiap tahap pipa, semacam pemindaian bias, bersama dengan alat dukungan keputusan algoritmik yang menyediakan rekomendasi kepada pembuat keputusan manusia (seperti “dorongan” algoritmik untuk memandu keputusan manusia menuju keadilan).

Terakhir, tim proyek akan menciptakan metrik baru untuk mengukur kehadiran dan luasnya bias dalam domain keadilan pidana dan perumahan, serta alat yang dapat digunakan untuk: (a) mengurangi penjara dengan menyediakan intervensi pendukung yang adil bagi populasi yang terlibat dalam keadilan; (b) memprioritaskan inspeksi dan perbaikan perumahan; (c) menilai dan meningkatkan keadilan proses pengadilan sipil dan pidana; dan (d) menganalisis dampak kesehatan yang tidak merata dari paparan lingkungan yang buruk, termasuk perumahan yang berkualitas rendah dan praktik kepolisian yang agresif dan tidak adil.

“Dampak akhir dari pekerjaan ini adalah untuk mendorong keadilan sosial bagi mereka yang tinggal di kota dan yang bergantung pada layanan kota atau terlibat dalam sistem keadilan, dengan menilai dan memitigasi bias dalam proses pengambilan keputusan dan mengurangi ketidaksetaraan,” kata Neill, juga direktur Laboratorium Belajar untuk Kebaikan NYU dan anggota fakultas di Courant Institute of Mathematical Sciences NYU.

Selain Neill, tim penelitian termasuk Ravi Shroff, asisten profesor di CUSP dan Sekolah Steinhardt untuk Budaya, Pendidikan, dan Pembangunan Manusia NYU; Constantine Kontokosta, profesor di Marron Institute of Urban Management NYU dan fakultas terkait di NYU Tandon; dan Edward McFowland III, profesor di Carlson School of Management Universitas Minnesota.

Hibah tersebut diberikan di bawah Program NSF tentang Keadilan dalam Kecerdasan Buatan dalam Kolaborasi dengan Amazon (2040898).

ta, seorang profesor di NYU’s Marron Institute of Urban Management dan fakultas terkait di NYU Tandon; dan Edward McFowland III, seorang profesor di Universitas Minnesota’s Carlson School of Management. Hibah tersebut diberikan di bawah Program NSF tentang Keadilan dalam Kecerdasan Buatan dalam Kolaborasi dengan Amazon (2040898).