Prof. Julia Stoyanovich, Center for Responsible AI Direktörü – Röportaj Serisi

Julia Stoyanovich, NYU Tandon Mühendislik Okulu’nda profesör ve Center for Responsible AI’nin kurucu direktörüdür. Geçtiğimiz günlerde, AI’nin işe alma ve istihdam kararları için kullanımını düzenleyen bir yasa önerisi hakkında NYC Konseyi’nin Teknoloji Komitesi’ne tanıklık yaptı.

Siz Center for Responsible AI’nin kurucu direktörüsünüz. Bu organizasyon tarafından yürütülen bazı girişimlerden bahseder misiniz?

Center for Responsible AI (R/AI)’i NYU’da Steven Kuyan ile birlikte yönetiyorum. Steven ve benim ilgilendiğimiz alanlar ve uzmanlıklarımız birbirini tamamlar. Ben bir akademisyenim, bilgisayar bilimi geçmişim var ve veri mühendisliği, sorumlu veri bilimi ve politika arasındaki交点e ilgi duyuyorum. Steven, NYU Tandon Future Labs’ın yönetici direktörüdür, bu laboratuvar already New York’ta büyük ekonomik etkiler yaratmıştır. R/AI için vizyonumuz, “sorumlu AI”nin “AI” ile eşanlamlı hale gelmesini sağlamak, uygulamalı araştırma, kamu eğitimi ve katılımı ve şirketlerin sorumlu AI geliştirmesine yardımcı olmak yoluyla.

Son aylarda, R/AI, Otomatik Karar Sistemleri (ADS) denetimi etrafındaki konuşmalara aktif olarak katıldı. Yaklaşımımız, eğitim faaliyetleri ve politika katılımının bir kombinasyonuna dayanmaktadır.

New York Şehir Meclisi, işe alma için ADS kullanımını denetlemek amacıyla bir yasa önerisi olan Int 1894’ü düşünüyor. R/AI, bu yasa önerisi hakkında kamuoyu görüşlerini sundu, bu görüşler bizim araştırmamız ve birkaç kamu katılımı faaliyeti aracılığıyla topladığımız bilgiler temelinde oluştu.

Center for Responsible AI, The GovLab ve Münih Teknik Üniversitesi’ndeki Institute for Ethics in AI ile birlikte, “AI Etiği: Küresel Perspektifler” adlı ücretsiz bir online kurs geliştirdi.

Center for Responsible AI’nin son zamanlarda dikkat çeken bir başka projesi, “Data, Responsibly” adlı çizgi roman serisidir. İlk cilt, “Mirror, Mirror” adlı bir çizgi romandan oluşuyor ve İngilizce, İspanyolca ve Fransızca olarak mevcut. Bu çizgi roman, Metro Lab Network ve GovTech tarafından “Ayın Yeniliği” ödülünü kazandı.

İşe alma ve istihdam kararları için AI yanlılığı ile ilgili bazı güncel veya potansiyel sorunlar nelerdir?

Bu soru, “yanlılık”ın ne anlama geldiğini netleştirmemizi gerektirir. Otomatik işe alma sistemleri, geçmişe dayalı olarak geleceği öngörür. Geçmiş, şirket tarafından işe alınan bireyler hakkında tarihi verilerle temsil edilir ve bu sistem, bu veriler üzerinde eğitim görür. Bu eğitim, istatistiksel kalıpları tanımlar ve bu kalıpları kullanarak öngörülerde bulunur. Bu istatistiksel kalıplar, AI’nin “sihir”idir, bu kalıplar öngörücü modellerin temelidir. Ancak, tarihi verilerden elde edilen bu kalıplar, işe alınmayan bireyler hakkında sessizdir, çünkü onların iş performansını bilemeyiz. İşte burada yanlılık devreye girer. Eğer belirli demografik ve sosyoekonomik gruplardan daha fazla bireyleri işe alıyorsak, bu gruplara üyelik ve bu üyelikle ilgili özellikler, öngörücü modele dahil edilir.

AI’deki yanlılık, sadece veri yanlılığından ibaret değildir. Yanlılık, teknolojinin uygun olmayan bir şekilde kullanılması, yanlış hedeflerin belirlenmesi veya AI’nin deploymentından sonra insan-AI etkileşimlerinde ajansımızı kaybetmemiz sonucu ortaya çıkar. Her bir neden, ayrı bir tartışmayı hak eder, ancak bu makalede yer kısıtlaması nedeniyle, sadece veri yanlılığına odaklanacağım.

Veri yanlılığını açıklarken, often “ayna yansıması” metaforunu kullanıyorum. Veri, dünyanın bir yansımasıdır. Veri yanlılığını sorguladığımızda, bu yansımayı sorguluyoruz. “Veri yanlılığı”nın bir yorumu, yansımanın bozulmuş olduğudur – bizim aynamız, dünyanın bazı kısımlarını under-represent eder veya over-represent eder veya okumaları bozar. “Veri yanlılığı”nın bir başka yorumu, yansımanın %100 doğru olsa bile, vẫn世界ın günümüzdeki haliyle ilgili bir yansıma olduğunu ve olması gerektiği veya olması gereken dünya ile ilgili olmadığını söyleyebiliriz. Önemli olan, verilerin veya algoritmaların, dünyanın günümüzdeki haliyle ilgili bir yansıma olup olmadığını veya bir bozuk yansıma olup olmadığını söyleyemeyeceğidir. Bu, insanların, grupların, toplumun geniş çapta bir uzlaşmaya varması gereken bir konudur.

Predictive analitiklere geri dönersek: Verilerdeki eşitsizlikler ne kadar güçlü olursa, bu eşitsizliklerin öngörücü modeller tarafından tespit edilmesi ve gelecekte tekrarlanması veya even daha da kötüye gitmesi o kadar muhtemeldir.

Eğer amacımız, işe alma uygulamalarımızı eşitlik ve çeşitlilik göz önünde bulundurarak iyileştirmek ise, bu işi makinelere outsourclamayız. İşe alma ve istihdamda yanlılığın gerçek nedenlerini belirlemek ve sosyo-hukuki-teknik bir çözüm üzerinde tüm paydaşların katılımıyla uzlaşmak zorundayız. Teknoloji, bu konuda bize yardımcı olabilir, ancak işe alma ve istihdamda yanlılığı ortadan kaldırmak için veri veya öngörücü analitiği “düzeltmek” yeterli değildir.

Son olarak, NYC Konseyi’nin Teknoloji Komitesi’ne yaptığınız bir konuşmada, şöyle demiştiniz: “Hem reklamverenin bütçesi hem de reklam içeriği, Facebook’ (META ) un reklam teslimatını önemli ölçüde etkiler. Özellikle istihdam ve konut fırsatları için ‘gerçek’ reklamlar için cinsiyet ve ırk çizgisi boyunca önemli bir teslimat eğrisi gözlemliyoruz.” Bu tür yanlılıkları önlemek için bazı çözümler nelerdir?

Bu yorum, Ali ve arkadaşlarının “Discrimination though Optimization: How Facebook’s Ad Delivery Can Lead to Biased Outcomes” adlı makalesine dayanmaktadır. Yazarlar, reklam teslimat mekanizmasının itself ayrımcı etkilere neden olduğunu ve bu etkileri amplifiye ettiğini bulmuşlardır. Bu bulgu, özellikle Facebook ve diğer platformların şeffaflık eksikliği karşısında son derece sorunludur. Platformların, ayrımcı etkilere karşı önlemler alması gerekmektedir.

Veri bilimcileri ve AI geliştiricileri, sistemlerine istemeden yanlılık girmesini nasıl önleyebilir?

İstemeden yanlılık girmesini önlemek, sadece veri bilimcilerinin veya herhangi bir paydaş grubunun sorumluluğu değildir. Ancak veri bilimcileri, bu konuda ön saflardadır. Bir bilgisayar bilimcisi olarak, sistemlerimizin “nesnel”, “optimal” veya “doğru” olduğunu düşünme eğilimindeyiz. Bilgisayar bilimi ve veri bilimi ne kadar başarılı ve yaygınlaşırsa, bu bizim için bir nimettir, ancak aynı zamanda bir lanettir. Artık nesnellik ve doğruluk hedeflerine ulaşma lüksüne sahip değiliz. Toplumsal süreçleri etkilediğimiz konusunda dikkatli düşünmeli ve kendimizi sosyal ve politik süreçler hakkında eğitmeliyiz. Topluma, hızlı hareket edip şeyleri kırmamamız gerektiğini anlatmalıyız.

Felsefe, bir zamanlar tüm bilimsel ve toplumsal tartışmaların merkezindeydi, ardından matematik ve bilgisayar bilimi geldi. Şimdi, veri bilimi merkezdeyken, felsefi köklerimizle yeniden bağlantı kurma zamanı geldi.

Bir başka öneriniz, halkı bilgilendirmektir. AI veya AI yanlılığı hakkında bilgi sahibi olmayan bir halkı nasıl bilgilendirebiliriz?

Teknolojiden habersiz insanları teknoloji hakkında eğitmek ve teknoloji uzmanlarını toplumsal etkileri hakkında eğitmek için acil bir ihtiyaç vardır. Bu hedeflere ulaşmak için güçlü bir taahhüt ve önemli bir yatırım gerekmektedir. Tüm bu gruplar için eğitim materyalleri ve metodolojileri geliştirmeli ve katılımı teşvik etmeliyiz. Bu işi ticari kuruluşlara bırakamayız. Avrupa Birliği, vatandaşlarının temel AI eğitimini desteklemektedir ve AI eğitimini lise programlarına dahil etmektedir. Center for Responsible AI olarak, halka açık ve geniş çapta erişilebilir bir kurs geliştiriyoruz, amaçımız AI’yi bizim istediğimiz gibi şekillendirmek. Bu çalışmadan heyecan duyuyoruz, lütfen önümüzdeki ay daha fazla bilgi için bizi takip edin.

Teşekkür ederiz, okuyucuların daha fazla bilgi edinmek için Center for Responsible AI’yi ziyaret etmelerini öneririz.