AI Araştırmacıları, AI’de Önyargıları Azaltmak için Önyargı Bounty’si Kullanılmasını Öneriyor

Intel (INTC ), Google (GOOGL ) Brain ve OpenAI gibi şirketler ve AI geliştirme laboratuvarlarından oluşan bir AI araştırmacıları ekibi, AI’nin etik kullanımını sağlamak için bounty’lerin kullanılmasını önerdi. Araştırmacılar最近 bir dizi etik AI kullanımı önerisi yayınladı ve AI’de önyargıları keşfeden kişilere ödül verilmesinin AI’yi daha adil hale getirmek için etkili bir yol olabileceğini öne sürdüler.

VentureBeat’in raporuna göre, ABD ve Avrupa’daki çeşitli şirketlerden araştırmacılar, AI geliştirme için etik rehberler ve bu rehberleri karşılamak için öneriler oluşturmak için bir araya geldi. Araştırmacıların önerdiği şeylerden biri, AI programlarında önyargı bulan geliştiricilere bounty verilmesiydi. Bu öneri, “Güvenilir AI Geliştirme için: Doğrulanabilir İddiaları Desteklemek için Mekanizmalar” adlı bir makalede yapıldı.

Araştırmacıların ele almak istediği önyargı örnekleri arasında, sağlık uygulamalarından yüz tanıma sistemlerine kadar her şeyde bulunan önyargılı veriler ve algoritmalar yer alıyor. Bir örnek,最近 ABD Adalet Bakanlığı tarafından mahkumları evlerine göndermek için kullanılan PATTERN risk değerlendirme aracıdır.

Geliştiricilere bilgisayar programlarında istenmeyen davranışlar bulmaları karşılığında ödül verme uygulaması eski bir uygulamadır, ancak bu, bir AI etik kurulunun önyargı ile mücadele için bu fikirleri ciddiyetle önerdiği ilk kez olabilir. AI’nin etik garantisi için yeterli AI geliştiricisi olmayabilir, ancak bu, şirketlerin genel önyargılarını azaltmasına ve AI sistemlerindeki önyargı türlerini anlamalarına yardımcı olabilir.

Makale yazarları, hata avı kavramının AI’de önyargı ve güvenlik bounty’leri kullanılarak genişletilebileceğini ve bu tekniğin doğru şekilde uygulanmasının daha iyi belgelenmiş veri setleri ve modellerle sonuçlanabileceğini açıkladı. Belgelendirme, hem modelin hem de verilerin sınırlarını daha iyi yansıtacaktır. Araştırmacılar, aynı fikrin yorumlanabilirlik, güvenlik ve gizlilik koruması gibi diğer AI özellikleri için de uygulanabileceğini belirtiyorlar.

AI’nin etik ilkeleri hakkında daha fazla tartışma ortaya çıktıkça, birçok kişi ilkelerin yeterli olmadığını ve AI’yi etik tutmak için eylemler gerektiğini belirtiyor. Makale yazarları, “endüstri ve akademide mevcut düzenlemeler ve normlar, sorumlu AI geliştirmeyi garantilemek için yetersizdir” diyor. Google Brain’in kurucu ortağı ve AI endüstrisi lideri Andrew Ng de düşünce belirtti ki, rehber ilkeler alone AI’nin sorumlu ve adil bir şekilde kullanılmasını garantilemek için yeterli değildir ve birçok ilkenin daha açık ve eyleme geçirilebilir fikirlerle desteklenmesi gerektiğini söyledi.

Araştırmacıların önyargı avı önerisi, etik ilkelerden etik eyleme geçmek için bir çabadır. Araştırma ekibi, AI alanında etik eylemi teşvik edecek diğer beberapa öneri de yaptı.

Araştırmacılar, şirketlerin AI kullanımını daha etik hale getirmeleri için takip edebilecekleri birkaç öneri daha yaptı. AI topluluğu arasında paylaşılacak bir AI olayları merkezi veritabanının oluşturulmasını önerdiler. Ayrıca, güvenlik açısından kritik uygulamaların oluşturulması ve dağıtılmasıyla ilgili bilgileri koruyan bir denetim izinin kurulmasını önerdiler.

İnsanların mahremiyetini korumak için, araştırmacılar şifreli iletişimin, federated öğrenmenin ve diferansiyel gizliliğin kullanılmasını önerdiler. Bunun ötesinde, araştırmacılar açık kaynak alternatiflerinin geniş çapta kullanılabilir hale getirilmesi ve ticari AI modellerinin ağır bir şekilde incelenmesi gerektiğini önerdiler. Son olarak, araştırmacılar akademik araştırmacılara donanım performans iddialarını doğrulayabilmeleri için hükümet fonlarının artırılmasını öneriyorlar.