AI Araştırmacıları AI’de Önyargıya Karşı Bounty Kullanımını Öneriyor ve AI’ı Daha Etik Hale Getirmeyi Hedefliyor

Intel, Google Brain ve OpenAI gibi şirketler ve AI geliştirme laboratuvarlarından bir ekip, AI’ın etik kullanımını sağlamak için bounty kullanımını önerdi. Araştırmacılar ekibi yakın zamanda etik AI kullanımı ile ilgili bir dizi öneri yayınladı ve bunlara AI’de önyargıları keşfeden kişilere ödül verilmesinin AI’ı daha adil hale getirmek için etkili bir yol olabileceğini önerdiler.

VentureBeat’in haberine göre, ABD ve Avrupa’daki çeşitli şirketlerden araştırmacılar, AI geliştirme için etik rehberler oluşturmak ve bu rehberlere uymak için öneriler sunmak amacıyla bir araya geldi. Araştırmacıların önerdiği şeylerden biri de AI programlarında önyargı bulan geliştiricilere bounty verilmesiydi. Bu öneri, “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims” adlı bir makalede yapıldı.

Araştırmacıların ele almak istediği önyargı örnekleri olarak, önyargılı veriler ve algoritmalar, sağlık uygulamalarından yüz tanıma sistemlerine kadar her şeyi içeriyor. Bu önyargı örneklerinden biri, yakın zamanda ABD Adalet Bakanlığı tarafından kullanılan PATTERN risk değerlendirmesi aracıdır. Bu araç, koronavirüs salgınına yanıt olarak cezaevi nüfusunu azaltmak için hangi mahkumların evlerine gönderilebileceğini belirlemek için kullanıldı.

Bilgisayar programlarında istenmeyen davranışları bulan geliştiricilere ödül verme uygulaması eski bir uygulamadır, ancak bu, bir AI etik kurulu tarafından AI önyargısı ile mücadele için ciddi bir seçenek olarak bu fikri öne süren ilk kez olabilir. AI geliştiricilerinin yeterli sayıda önyargı bulması ve AI’ın etik olduğu garantisi verilmesi pek olası değil, ancak bu, şirketlerin genel önyargıları azaltmasına ve AI sistemlerine sızan önyargı türlerini anlamalarına yardımcı olacaktır.

Makalenin yazarları, hata-bounty kavramının AI’de önyargı ve güvenlik bounties kullanılarak genişletilebileceğini ve bu tekniğin doğru şekilde kullanılmasıyla daha iyi belgelenmiş veri setleri ve modellerin ortaya çıkabileceğini açıkladı. Belgelendirme, hem modelin hem de verilerin sınırlarını daha iyi yansıtacaktır. Araştırmacılar, aynı fikrin yorumlanabilirlik, güvenlik ve gizlilik koruması gibi diğer AI özelliklerine de uygulanabileceğini belirtiyorlar.

AI’ın etik ilkeleri etrafında daha fazla tartışma ortaya çıktıkça, birçok kişi ilkelerin tek başına yeterli olmadığını ve AI’ı etik tutmak için eylemler alınması gerektiğini belirtti. Makalenin yazarları, “endüstri ve akademide mevcut düzenlemeler ve normlar, sorumlu AI geliştirme garantisi vermemektedir” diye belirttiler. Google Brain’ın kurucu ortağı ve AI endüstrisi lideri Andrew Ng de daha önce rehber ilkelerin AI’ı sorumlu ve adil bir şekilde kullanma garantisi vermediğini, birçoklarının daha açık ve eyleme geçirilebilir fikirleri olması gerektiğini belirtti.

Birleşik araştırma ekibinin önyargı avı önerisi, etik ilkelerden etik eyleme doğru bir adım atmaya çalışıyor. Araştırma ekibi, AI alanında etik eylemi teşvik edecek bir dizi başka öneride bulundu.

Araştırmacılar, şirketlerin AI kullanımını daha etik hale getirmek için izleyebilecekleri bir dizi başka öneri yaptı. Bir merkezi AI olayları veritabanının oluşturulmasını ve daha geniş AI topluluğu ile paylaşılmasını önerdiler. Benzer şekilde, araştırmacılar, bir denetim izinin kurulmasını ve bu izlerin, AI platformlarında güvenlik açısından kritik uygulamaların oluşturulması ve dağıtılması ile ilgili bilgileri saklayacağını önerdiler.

İnsanların gizliliğini korumak için, araştırmacılar şifreli iletişimin, federated öğrenmenin ve diferansiyel gizliliğin gibi gizlilik odaklı tekniklerin kullanılmasını önerdiler. Bunun ötesinde, araştırmacılar, açık kaynaklı alternatiflerin yaygın olarak kullanılmasını ve ticari AI modellerinin ağır bir şekilde incelenmesini önerdiler. Son olarak, araştırmacılar, akademik araştırmacıların donanım performans iddialarını doğrulayabilmesi için hükümet fonlarının artırılmasını önerdiler.