Makine Öğrenimi Uzmanları Uzun Süreli Bir Makine Öğrenimi Kabulünü Sorguluyor

Carnegie Mellon Üniversitesi’ndeki araştırmacılar, kamu politikası kararları almak için kullanılan algoritmalar arasında doğruluk ve adillik arasında bir ticaret olduğuna ilişkin uzun süredir devam eden bir makine öğrenimi varsayımını sorguluyorlar.

Makine öğreniminin kullanımı, cezai adalet, işe alma, sağlık hizmeti sunumu ve sosyal hizmet müdahaleleri gibi birçok alanda artıyor. Bu büyümenin yanı sıra, bu yeni uygulamaların mevcut eşitsizlikleri kötüleştirebileceği konusunda artan endişeler geliyor. Bunlar, özellikle ırksal azınlıklar veya ekonomik dezavantajlı bireyler için zararlı olabilir.

Bir Sistemi Ayarlama

Sistemin çeşitli yönlerine, veri, etiketler, model eğitimi, puanlama sistemleri ve diğer yönlerine karşı önyargıya karşı korumak için sürekli ayarlamalar yapılıyor. Ancak, teorik varsayım, sistemin bu ayarlamalar yapıldıkça menos doğru olduğu yönünde.

CMU’daki ekip, bu teoriyi yeni bir çalışmada, Nature Machine Intelligence‘de yayımlanan bir çalışmada sorgulamaya çalıştı.

Rayid Ghani, Bilgisayar Bilimi Okulu’nun Makine Öğrenimi Bölümü (MLD) ve Heinz College of Information Systems and Public Policy’ (PPHC ) de profesör. Kit Rodolfa, MLD’de araştırma bilimcisi ve Hemank Lamba, SCS’de doktora sonrası araştırmacı olarak katıldı.

Gerçek Dünya Uygulamalarını Test Etme

Araştırmacılar, bu varsayımı gerçek dünya uygulamalarında test etti ve buldukları şey, birçok politika alanında ticaretin ihmal edilebilir olduğu.

“Aslında her ikisini de elde edebilirsiniz. Sistemleri adil ve eşitlikçi yapmak için doğruluğu feda etmek zorunda değilsiniz” dedi Ghani. “Ama bunu yapmak için sistemleri kasıtlı olarak adil ve eşitlikçi olarak tasarlamak gerekiyor. Hazır sistemler işe yaramaz.”

Ekibin odaklandığı durumlar, talebi yüksek kaynakların sınırlı olduğu durumlar. Bu kaynakların tahsisi, makine öğrenimi tarafından destekleniyor.

Dört alanda sistemlere odaklandılar:

• Cezaevi dönüşünü azaltmak için bir kişinin cezaevi dönüşü riskine göre sınırlı ruh sağlığı bakımına öncelik vermek;
• Şehrin sınırlı konut denetçilerini daha iyi dağıtmak için ciddi güvenlik ihlallerini öngörme;
• Liseden mezun olamama riskini modellemek ve ek destek ihtiyacı olanları belirlemek;
• ve öğretmenlerin sınıftaki ihtiyaçlar için bağış toplama hedeflerine ulaşmalarına yardımcı olmak.

Araştırmacılar, doğruluk için optimize edilmiş modellerin ilgi çekici sonuçları etkili bir şekilde öngörebileceğini buldu. Ancak, aynı zamanda müdahaleler için önerilerde önemli eşitsizlikler gösterdiler.

Önemli sonuçlar, araştırmacıların modellerin çıktılarına adilliği iyileştirmeyi hedefleyen ayarlamaları uyguladıklarında geldi. Irk, yaş veya gelir temelinde eşitsizliklerin ortadan kaldırılmasının doğruluk kaybına neden olmadığını keşfettiler.

“Yapay zeka, bilgisayar bilimi ve makine öğrenimi topluluklarının, doğruluk ve adillik arasında bir ticaret varsayımını kabul etmeyi bırakması ve her ikisini de en üst düzeye çıkarmayı amaçlayan sistemleri kasıtlı olarak tasarlamaya başlaması gerektiğini istiyoruz” dedi Rodolfa. “Politika yapıcıların, karar alma süreçlerinde daha adil sonuçlar elde etmelerine yardımcı olmak için makine öğrenimini bir araç olarak benimsemelerini umuyoruz.”