NSF & Amazon Grant Ngadukung Panaliti di NYU pikeun Ngabantosan Kota Ngurangan Bias dina AI Dirojong Pengambilan Kaputusan

Tim peneliti di Universitas New York bakal ngembangkeun metode sareng alat anyar anu ditujukeun pikeun ngaminimalkeun bias sistemik sareng ngahasilkeun dampak kawijakan umum anu langkung adil dina daérah sapertos pamariksaan perumahan kota, policing, sareng pengadilan.

Dina hibah $ 1 juta ti National Science Foundation (NSF) sareng Amazon, Profesor Ilmu Komputer Daniel B. Neill bakal mingpin proyék panalungtikan tilu taun dipuseurkeun kana tumuwuhna pamakéan Artificial Intelligence (AI) ku urban, organisasi sektor publik-karya anu bakal ngawengku kreasi parabot open-source pikeun assessing jeung koréksi biases.

"Kaputusan manusa sareng kaputusan algoritmik gaduh poténsi pikeun bias sistematis anu tiasa ngakibatkeun hasil hilir anu goréng sapertos disparitas sareng kateusaruaan dina garis ras, gender, sareng sosial ékonomi," saur Neill, anggota fakultas. Puseur pikeun Élmu Urban sareng Kamajuan (CUSP) dina NYU Tandon Sakola Téknik, jeung profesor di NYU urang Wagner Pascasarjana Sakola Service Public.

"Anu urang hoyong ngartos kumaha algoritma tiasa ningkatkeun kaputusan manusa ku ngaleungitkeun bias implisit, sareng ngembangkeun metode sareng alat pikeun ngabantosan anu ngarancang sareng ngalaksanakeun campur tangan kawijakan di kota."

Dina ningali kana duanana resiko jeung mangpaat tina algorithmic-pembuatan kaputusan, tim proyék bakal ngamekarkeun, pipelined conceptualization anyar ngeunaan fairness diwangun ku tujuh hambalan béda: data, model, prediksi, rekomendasi, kaputusan, dampak, sarta hasil. Ieu "end-to-end fairness pipeline" bakal akun pikeun sababaraha sumber bias, model kumaha biases propagate ngaliwatan pipa pikeun ngahasilkeun hasil inequitable, sarta assess sensitipitas kana biases unmeasured.

Kadua, tim bakal ngawangun kerangka metodologis umum pikeun ngaidentipikasi sareng ngabenerkeun bias dina unggal tahapan pipa, sajenis scan bias, sareng alat pangrojong kaputusan algoritma anu nyayogikeun saran ka pembuat kaputusan manusa (sapertos algoritma "nudges" pikeun nungtun kaputusan manusa nuju kaadilan).

Tungtungna, tim proyék bakal nyieun metrics anyar pikeun ngukur ayana sarta extent bias dina kaadilan kriminal sarta domain perumahan, sarta parabot anu bisa dipaké pikeun: (a) ngurangan incarceration ku equitably nyadiakeun interventions supportive ka populasi kaadilan-aub; (b) prioritas pamariksaan sareng perbaikan perumahan; (c) assess jeung ngaronjatkeun fairness tina cara ngagawe pangadilan perdata jeung kriminal; jeung (d) nganalisis dampak kaséhatan béda tina paparan lingkungan ngarugikeun, kaasup perumahan-kualitas goréng jeung agrésif, prakték policing teu adil.

"Dampak pamungkas tina karya ieu nyaéta pikeun ngamajukeun kaadilan sosial pikeun jalma anu cicing di kota sareng anu ngandelkeun jasa kota atanapi aub sareng sistem kaadilan, ku cara ngevaluasi sareng ngirangan bias dina prosés-nyieun kaputusan sareng ngirangan disparities," saur Neill. ogé diréktur NYU's Learning for Good Laboratory sareng anggota fakultas di NYU's Courant Institute of Mathematical Sciences.

Salian Neill, tim panalungtikan ngawengku Ravi Shroff, asisten dosen di CUSP jeung NYU urang Steinhardt Sakola Kabudayaan, Atikan, sarta Pangwangunan Manusa; Constantine Kontokosta, profesor di NYU urang Marron Institute of Urban Manajemén jeung dosen pakait di NYU Tandon; jeung Edward McFowland III, profesor di Universitas Minnesota urang Carlson Sakola Manajemén.

Hibah ieu dilakukeun dina Program NSF on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).