NSF ve Amazon Grantı NYU’da AI Destekli Karar Almada Önyargıları Azaltmaya Yardımcı Olmak için Araştırma Desteği Sağlıyor

New York Üniversitesi’ndeki bir araştırma ekibi, sistemik önyargıları en aza indirerek daha adil kamu politikası etkileri üretmeyi amaçlayan yeni yöntemler ve araçlar geliştirecek. Şehir konut teftişleri, polislik ve mahkemeler gibi alanlarda.

Ulusal Bilim Vakfı (NSF) ve Amazon’dan 1 milyon dolarlık bir hibe altında, Bilgisayar Bilimi Profesörü Daniel B. Neill, şehirlerdeki kamu sektörü organizasyonları tarafından Yapay Zeka (AI) kullanımının artan kullanımı üzerine odaklanan üç yıllık bir araştırma projesinin liderliğini üstlenecek. Bu proje, önyargıları değerlendirmek ve düzeltmek için açık kaynaklı araçlar oluşturulmasını içerecektir.

“İnsan kararları ve algoritmik kararlar, sistemik önyargılar için potansiyelle sahiptir ve bu, ırksal, cinsiyet ve sosyoekonomik çizgiler boyunca kötü sonuçlar ve eşitsizlikler gibi aşağı akış sonuçlarına yol açabilir” dedi Neill, Şehir Bilimi ve İlerleme Merkezi (CUSP) ve NYU Tandon Mühendislik Okulu‘nda profesör ve NYU’nun Wagner Kamu Hizmeti Yüksek Okulu‘nda profesör.

“Algoritmaların insan karar alma süreçlerini nasıl geliştirebileceğini ve önyargıları nasıl ortadan kaldırabileceğini anlamak istiyoruz ve şehirlerde politika müdahaleleri tasarlayan ve uygulayanlar için yöntemler ve araçlar geliştirmek istiyoruz.”

Algoritmik karar almaların risklerini ve faydalarını inceleyerek, proje ekibi, adil bir kavramlaştırmanın yedi ayrı aşamasından oluşan bir boru hattı geliştirecek: veri, modeller, tahminler, öneriler, kararlar, etkiler ve sonuçlar. Bu “uçtan uca adillik boru hattı”, birden fazla önyargı kaynağını hesaba katacak, önyargıların boru hattı boyunca nasıl propagasyon yaparak eşitsiz sonuçlara yol açabileceğini modelleyecek ve ölçülmemiş önyargılara karşı duyarlılığı değerlendirecek.

İkinci olarak, ekip her bir boru hattı aşamasında önyargıları tanımlamak ve düzeltmek için genel bir metodolojik çerçeve oluşturacak, bir tür önyargı taraması ve algoritmik karar destek araçları geliştirecek. Bu araçlar, insan karar vericilere (örneğin, insan kararlarını adillik yönünde yönlendirmek için algoritmik “itme”ler) öneriler sağlayacaktır.

Son olarak, proje ekibi, ceza adaleti ve konut alanlarındaki önyargıların varlığını ve kapsamını ölçmek için yeni ölçütler oluşturacak ve aşağıdaki amaçlar için kullanılabilen araçlar geliştirecek: (a) adalet sistemi ile ilgili nüfuslara eşit şekilde destekleyici müdahaleler sağlayarak hapis cezalarını azaltmak; (b) konut teftişleri ve onarımlarını önceliklendirmek; (c) sivil ve ceza mahkemesi işlemlerinin adillik düzeyini değerlendirmek ve geliştirmek; ve (d) kötü kaliteli konut ve adaletsiz, haksız polis uygulamaları gibi kötü çevresel maruziyetlerin sağlık etkilerini analiz etmek.

“Bu çalışmanın nihai etkisi, şehirlerde yaşayan ve şehir hizmetlerine veya adalet sistemine dahil olan kişiler için sosyal adaleti ilerletmektir. Karar alma süreçlerindeki önyargıları değerlendirmek ve azaltmak suretiyle” dedi Neill, ayrıca NYU’nun İyi için Öğrenme Laboratuvarı müdürü ve NYU’nun Courant Matematik Bilimleri Enstitüsü’nde profesör.

Araştırma ekibine ek olarak, CUSP ve NYU’nun Steinhardt Kültür, Eğitim ve İnsan Gelişimi Okulu’ndan yardımcı profesör Ravi Shroff; NYU’nun Marron Kent Yönetimi Enstitüsü’nden profesör ve NYU Tandon’da bağlı öğretim üyesi Constantine Kontokosta; ve Minnesota Üniversitesi’nin Carlson Yönetim Okulu’ndan profesör Edward McFowland III yer alıyor.

Hibe, Amazon ile İşbirliği Yaparak Yapay Zeka’da Adillik NSF Programı (2040898) altında verildi.