AI: Halk Tarafından, Halk İçin ve Halkın İçin

By: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI and Automation at Infosys.

Teknoloji çağında yaşadığımız için şanslıyız ve Yapay Zeka hayatımızı kolaylaştırmak için çok çalışıyor – telefonlarımız artık bizi tanıyor ve bizi ‘gördükleri’ anda kilidini açıyor, konuşan haritalar bizi nereye gitmek istediğimize en kısa ve en az kalabalık yoldan götürmeye yardımcı oluyor, evlerimizi söylemeden önce bile ısıtan ve soğutan akıllı cihazlar, dolandırıcılığı önleyen ve öngörülen zeki uygulamalar ve çok daha fazlası.

Ancak, bu akıllı AI destekli sistemlerin adil olmayan ve etik olmayan bir şekilde bizi yanılttığı durumlar da yaşadık. Örneğin, bizimle çalışan bir bankanın, kredi değerliliğini değerlendirmek için kullandıkları AI modellerinin önyargılı olabileceğinden şüphelendi ve bize yardım etmeleri için çağırdı. Bir başka örnek, bir makine üreticisi, garanti talebi kalıplarını analiz etmek ve süreçten önce önyargıları ortadan kaldırmak için bizimle çalıştı ve daha sonra taleplerini onaylama işlemini yeniden mühendislik ve otomatikleştirdi. İşe alım ile ilgili AI modelleri, genellikle yaş, cinsiyet, ırk, hatta bazen posta kodlarındaki önyargılarla bozulduğunu görüyoruz – kontrol edilmezse adil olmayan sonuçlar doğuruyor.

AI önyargısının tüm empresa üzerinde muazzam bir etkisi olabileceğinden, AI sistemlerinin geliştirilmesi, uygulanması ve kullanılmasıyla ilgili etik sorular ön plana çıktı. AI sistemleri, insan kararlarının bir bileşkesidir ve bu kararlar da insan önyargılarına dayanmaktadır. Çalışan özerkliğinin ve gizliliğinin korunması, önyargıların kariyer büyümesi ve fırsatlarını etkileme riskleri, cilt rengi, ırk veya cinsiyete dayalı ayrımcılık, AI çözümlerinin seçimleri açıklanmasının eksikliği ve bu nedenle AI karar alma sorumluluğu, AI ve faydaları hakkında tartışılırken sıcak bir şekilde tartışılmaktadır.

Sorumlu AI Oluşturma

AI önyargısı tüm organizasyon boyunca bir dalgakıran etkisi yaratabilir. Bu nedenle, BT liderlerinin AI’yi etik bir şekilde, çalışanlarla birlikte ve onlara karşı değil, çalışarak dağıtmaları önemlidir. Bunu yapmak için, organizasyonlar AI dağıtımlarında aşağıdaki öğeleri dahil etmelidir.

Veri Yönetimi: AI’nin etik kullanımı, aynı zamanda veri kullanımının iyi yönetilmesine de dayanmaktadır. BT liderleri, veri güvenliğini, bütünlüğünü ve gizliliğini sağlamak ve veri bozulmasını ve kaybını önlemek için iyi tanımlanmış bir yönetim çerçevesi oluşturmalıdır – tüm bunlar gerekli.

Sorumluluk: Makine öğrenimi modelleri adil, önyargısız, insanları eşit şekilde tedavi etmeli ve tüm öznitelikler (ırk, din, cinsiyet vb.) boyunca eşit olarak faydaları paylaşmalıdır. Ayrıca, genel rakamda değil, azınlık sınıflarında da kabul edilebilir bir doğruluk elde etmelidir. Bu modeller, sonuçların nasıl elde edildiğini açıklamak için açıklanabilir olmalıdır. Örneğin, bir kredi başvurusunun neden reddedildiğini açıklamak için. BT liderlerinin, AI çözümleri geliştirirken, iş kararlarını yönlendiren temel mantığı, iş paydaşlarına açık bir şekilde açıklamaları gerekir, böylece empresa içinde daha fazla şeffaflık olur.

Karşıt Dayanıklılık: Tüm AI ekosisteminin, AI modellerinin simülasyonlar aracılığıyla test edilmesi ve potansiyel olumsuz sonuçların incelenmesi gerektiğine karar vermesi gerekir. Örneğin, BT liderleri, AI sistemlerini kontrol etmek ve potansiyel engellere hazırlanmak için aşağıdaki testleri kullanabilir:

• Verileri değiştirin: eğitim veri kümesini doğrudan enjeksiyon, değişiklik ve mantık bozulmasıyla değiştirin
• Modelleri değiştirin: güven azaltma ve yanlış sınıflandırma için test edin
• Yardımcı araçlar: sonuçları etkilemek veya bozmak için araçlar kullanın

İnsan Döngüsü: AI modellerinin, tüm kritik karar noktalarında insanları dahil ederek ve AI sisteminin geri çekilmesi gerektiğinde etkili bir yedek mekanizması veya alternatif bir yol oluşturarak risklerini azaltmaları gerekir.

AI için Toplumsal Onay Geliştirme

Bu rehberlere ek olarak, büyük AI dağıtımlarının faydaları, çıkarları, maliyetleri ve sonuçları hakkında tüm liderler arasında kapsayıcı tartışmalar ve müzakereler yapılmasını teşvik etmeliyiz. Sadece tüm paydaşların dahil olduğu böyle kapsayıcı süreçler, kabul edilebilir sonuçları tartışmak ve kararlaştırmak, riskleri ve faydaları tartmak için AI teknolojilerinin empresa genelinde çalışmasına izin verecektir.