Yapay Zeka: Halkın, Halk için ve Halk Tarafından

By: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI and Automation at Infosys.

Teknoloji çağında yaşadığımız için şanslıyız – Yapay Zeka hayatımızı kolaylaştırmak için çok çalışıyor. Telefonlarımız artık bizi tanıyor ve bizi “gördükleri” anda kilidini açıyor, konuşan haritalarımız bizi nereye gitmek istediğimize en kısa ve en az kalabalık yoldan götürmeye yardımcı oluyor, akıllı cihazlarımız evlerimizi ısıtıp soğutuyor, hatta sözümüzü söylemeden önce, akıllı uygulamalarımızsa sahtekarlığı öngörüp önleniyor ve çok daha fazlası.

Ancak, bu akıllı AI destekli sistemlerin adil ve etik bir bakış açısıyla bizi yanılttığı durumlar da yaşadık. Örneğin, bizimle çalışan bir bankanın, kredi değerlendirmesi için kullandığı AI modellerinin önyargılı olabileceğinden şüphelendi ve bize yardım etmeleri için çağırdı. Bir başka durumda, bir makine üreticisi, garantili talepleri analiz etmek ve süreçten önyargıları ortadan kaldırmak için bizimle çalıştı, ardından taleplerin onaylanma sürecini yeniden mühendislik yaptı ve otomatikleştirdi. İşe alım ilgili AI modellerinde genellikle yaş, cinsiyet, ırk, hatta bazen posta kodlarındaki önyargılardan etkilenen verilerle karşılaşıyoruz – bunlar denetimsiz bırakıldığında adil olmayan sonuçlar doğurabiliyor.

AI önyargısının tüm işletme genelinde muazzam bir etkisi olabileceği için, AI sistemlerinin geliştirilmesi, uygulanması ve kullanılmasıyla ilgili etik sorular ön plana çıktı. AI sistemleri, temelde birçok insan kararının birleşmesinden oluşuyor ve bu kararlar da insan önyargılarına dayanıyor. Çalışan özerkliğinin korunması, kariyer büyümesi ve fırsatlarına önyargıların etkileri, cilt rengi, ırk veya cinsiyete dayalı ayrımcılık, AI çözümünün seçimleri açıklanabilirliğinin eksikliği ve buna bağlı olarak AI karar alma süreçlerinin hesap verilebilirliği, AI’nin avantajları tartışılırken sıcak bir şekilde tartışılıyor.

Sorumlu AI Oluşturma

AI önyargısı tüm organizasyonu etkileyebilecek bir dalgaya neden olabilir. Bu nedenle, IT liderlerinin AI’yi çalışanlarla birlikte, onlara karşı değil, çalışarak ve etik bir şekilde uygulamaya koymaları çok önemlidir. Bunu yapmak için, organizasyonlar AI dağıtımlarında aşağıdaki noktaları dahil etmelidir.

Veri Yönetimi: AI’nin etik kullanımı, aynı zamanda veri kullanımının iyi yönetilmesine de bağlıdır – bu, veri kaynağının etik ve şeffaf bir şekilde yapılmasıyla başlar. Bunu yapmak için, IT liderleri veri güvenliğini, bütünlüğünü ve gizliliğini sağlamak, veri bozulmasını ve kaybını önlemek için iyi tanımlanmış bir yönetim çerçevesi oluşturmalıdır.

Sorumluluk: Makine öğrenimi modelleri adil, önyargısız olmalı, insanları eşit şekilde tedavi etmeli ve faydaları eşit olarak paylaşmalıdır (benzer kabul ve reddetme oranları ile tüm öznitelikler için, ırk, din, cinsiyet gibi). Bu modeller, yalnızca genel rakamda değil, azınlık sınıflarında da kabul edilebilir doğruluğa ulaşmalıdır. Sonuçların nasıl elde edildiğini açıklamak için anlaşılabilir olmalıdır. Örneğin, bir kredi başvurusunun neden reddedildiğini veya neden kabul edildiğini açıklamak gibi. IT liderlerinin AI çözümleri geliştirirken, iş paydaşlarına kararların arkasındaki mantığı açıklamaları, böylece işletme içinde daha fazla şeffaflık sağlaması gerekir.

Karşıt Dayanıklılık: Tüm AI ekosisteminin, AI modellerinin simülasyonlar aracılığıyla test edilmesi ve potansiyel olumsuz sonuçların incelenmesi gerektiğine anlaşması gerekir. Örneğin, IT liderleri AI sistemlerini test etmek ve olası engellere hazırlanmak için aşağıdaki testleri kullanabilir:

• Veri Değiştirme: Eğitim için kullanılan veri setini doğrudan değiştirmek, veri enjeksiyonu, değişiklik ve mantık bozulması
• Model Değiştirme: Güven azaltma ve yanlış sınıflandırma testi
• Yardımcı Araçlar: Sonuçları etkilemek veya bozmak için araçlar kullanma

İnsan Katılımı: AI modellerinin, tüm kritik karar noktalarında insan katılımını gerektirmesi ve AI sisteminin geri çekilmesi gerektiğinde etkili bir yedek mekanizması veya alternatif bir yol olması gerekir.

AI için Toplumsal Onay Geliştirme

Bu rehberlere ek olarak, işletme genelindeki tüm liderlerle, büyük AI dağıtımlarının faydaları, çıkarları, maliyetleri ve sonuçları hakkında kapsayıcı tartışmalar ve müzakereler yapmamız gerekir. Sadece tüm paydaşların dahil olduğu bu kapsayıcı süreçler, kabul edilebilir sonuçları tartışmak ve kararlaştırmak, riskleri ve faydaları tartmak, AI teknolojilerine işletme genelinde faaliyet izni kazandırmaya yardımcı olacaktır.