Şirketlerin Sorumlu ve Şeffaf AI Oluşturması – Düşünce Liderleri

Eric Paternoster, Infosys Public Services CEO’su tarafından

Alphabet’in CEO’su olan Sundar Pichai, AI’deki gelişmeleri “ateş veya elektrikten daha derin” olarak tanımlamıştır ve COVID-19, bu teknolojinin vaadini ortaya çıkarmada yeni bir aciliyet getirmiştir. AI uygulamaları şimdi COVID tedavilerini iyileştirmek, potansiyel COVID taşıyıcılarını izlemek ve perakende web sitelerinin kullanıcıları için gerçek zamanlı sohbet botları dağıtmak için ön planda yer almaktadır. Bu uygulamalar, AI’nin bir işin dayanıklılığını iyileştirdiğini ve daha geniş toplum için faydalar sağladığını göstermiştir.

Bu nedenle, “bulut yerel” ile birlikte son çeyreğin sözü olabilir “AI-öncesi dönüşüm”, endüstri uygulayıcılarının COVID gittiğinde bile doğru kalacağına inandıkları bir terimdir. Birçok şirket için, daha düşük maliyetler (örneğin, arz ile talebi eşleştiren tedarik zinciri algoritmaları) ve üretkenlikte övgüye değer artışlar (örneğin, bankaların gerçek zamanlı olarak belge ve kimlik doğrulaması kullanması) çok iyi bir şeydir ve göz ardı edilemez.

AI-Öncesi Dönüşüm Neden?

AI-öncesi dönüşümde, bir kuruluş AI’ı bir Kuzey Yıldızı olarak kullanmaya çalışır ve sadece zeki bir şekilde değil, aynı zamanda insanların, süreçlerin ve sistemlerin kararlarını etkileyen bir şekilde kullanmaya çalışır. Değişen dinamikleri arasında çalışanlar, ortaklar ve müşteriler arasında uyum sağlar. Bu, hızlı bir şekilde dönmesini ve değişen taleplere cevap vermesini sağlar ve uzun vadeli rekabet avantajı sağlar.

Fakat tüm şirketler aynı AI olgunluk seviyesinde değildir. “Geleneksel AI grubu” olarak adlandırılan bazı şirketler vardır, yani H1. Bu şirketler, daha az deneyim ve yatırım yapmışlardır ve genellikle klasik algoritmalar gibi naive Bayes (250 yıl önce ortaya çıkmıştır) veya rastgele orman (1995 yılında Tin Kam Ho tarafından geliştirilmiştir) kullanır ve mevcut sistemler içindeki parçalı zekayı tăngtırır. AI’ın bu kullanımı katı kurallara dayanır ve esneklikten yoksundur. Sonra “derin öğrenme grubu” veya H2 vardır. Bu şirketler, daha karmaşık AI’ı benimser, yani konuşma içgörülerini madencilik için kullanılan nöral makine çevirileri ve transkript tabanlı sistemleri kullanır. Bu sistemler daha güçlüdür, ancak yaptıkları şeylerin nedenini kolayca açıklamazlar. Ayrıca şeffaflıktan yoksundurlar. Bu iki grup için kullanılan AI genellikle güvenilir veya güvenilir değildir ve şirketlere hükümet kurumları, düzenleyiciler ve genel kamuoyundan olumsuz dikkat çekebilecek önyargılı kararlar alabilir.

Bu şirketlerin AI uygulamalarını bir adım öteye götürmek için şimdi hareket etmeleri gerekir – üçüncü bir gruba (H3) doğru, yani AI’ın kendiliğinden öğrenen ve üretken olduğu bir gruba. Bu noktada, AI sistemleri yarı denetimli veya hatta denetimsizdir. Şeffaftırlar ve “ortak akıl”ı çoklu görev öğrenimi yoluyla gerçekleştirirler. Bu sistemler daha zengin zekayı sağlar ve gerçek zamanlı, eyleme geçirilebilir içgörüler sağlar. Bu, iyi yönetilen, yönetilen AI ile yapılır ve tüm aşamalarda yorumlanabilir ve açıklanabilir.

Daha Sorumlu ve Şeffaf AI için Çalışma

AI, okulları, işyerlerini ve diğer kamu kurumlarını yönetmek için giderek daha fazla kullanılmaktadır. Bu ortamlarda, AI’ın adil ve şeffaf olması daha da önemlidir. Ancak, AI benimsemesinin patlaması sırasında, düzenleyici kurumlar AI teknolojilerinin uygun geliştirilmesi ve dağıtılması konusunda sınırlı rehberlik sağlamaktadır. Bu nedenle, şirketlerin önderlik etmesi gerekmektedir. Daha geniş teknoloji endüstrisi, ilk AI uygulamalarını verimli, yaratıcı, sorumlu ve şeffaf zeka tabanlı ekosistemlere dönüştürmek için finansal güç ve insan sermayesini kullanmalıdır. Bu alana girerek, şirketlerin aşağıdaki dört şeyi yapmaları gerekir:

• İnsanları döngüye dahil edin: AI modelleri genellikle insanların dışında çalışacak şekilde tasarlanır. Ancak, insan unsuru birçok durumda çok önemlidir. İnsanların kararları gözden geçirmesi ve AI projelerini saptıran hataları ve önyargıları önlemek için gerekli olması gerekir. İki kullanım örneği, dolandırıcılık tespiti ve hukuk dahil olduğunda kullanılır. Şirketlerin AI uygulayıcılarını yavaş ancak tutarlı bir şekilde işe almasını öneririz.
• Önyargılı veri setlerini ortadan kaldırın: Önyargısız bir veri seti, güvenilir, adil ve ayrımcılık yapmayan AI modelleri oluşturmak için kritik bir ön koşuldur. Önemini anlamak için, AI’ın özgeçmişleri kısa listelemek ve bankaların kredi puanlarını belirlemek için kullanıldığını ve hatta bazı yargı sistemlerine girdiğini düşünün. Bu manzara, denetimsiz önyargıların çok gerçek sonuçları olmuştur.
• Kararların açıklanabilir olmasını sağlayın: Bu özellik, birçok büyük haber ajansında kapsanmıştır ve haklı olarak öyle. XAI, bir AI sisteminin neden belirli bir kararı aldığını açıklar. Derin öğrenme modelinin hangi özelliklerinin daha fazla kullanıldığını ortaya çıkarır. Özellik önemini anlamak ve kararların nasıl alındığını haklı çıkarmak, örneğin otonom araçlar ve tıbbi biyopsilerde kullanılan bilgisayar vizyonu gibi kullanım örnekleri için çok önemlidir.
• Bulunanları güvenilir bir şekilde yeniden üretin: Bir araştırma projesinde ortak bir gereksinim, AI modellerinin zaman içinde tutarlı olması gerekir. Bu modeller yeni verilerle sunulduğunda etkilenmemelidir.

Bu dört şey, şeffaf, zeka tabanlı ekosistemler oluşturur, “canlı işletme” olarak adlandırdığımız şeye doğru ilerler. Burada, önyargısız, açıklanabilir kararlar neredeyse gerçek zamanlı olarak yapılır ve tüm işletme, insan tarafından yönetilen bir canlı organizma gibi davranır. Daha fazla bilgi için Infosys Knowledge Institute beyaz kağıdını okuyun.