Yeni Şeffaflık Seviyeleri ile Tanışın – AI – Düşünce Liderleri

Infosys’te Enerji, İletişim, Hizmetler ve AI ve Otomasyon Hizmetleri Başkan Yardımcısı ve Hizmet Teklif Başkanı Balakrishna D R tarafından yazıldı. Infosys

9 Ocak 2020’de Dünya Sağlık Örgütü, Çin’deki Koronavirüs salgını hakkında halkı bilgilendirdi. Üç gün önce, ABD Hastalık Kontrol ve Önleme Merkezleri already haber vermişti. Ancak bir Kanada sağlık izleme platformu her ikisinden önce haber vermişti ve 31 Aralık 2019’da müşterilerine salgın hakkında uyarıda bulunmuştu! Platform, BlueDot, yabancı dilde haber raporlarını, hayvan ve bitki hastalık ağlarını ve resmi açıklamaları tarayan AI destekli algoritmalar kullanıyor ve müşterilerine tehlike bölgelerini kaçınmaları için erken uyarı veriyor.

Geçtiğimiz birkaç yıl içinde, yapay zeka, bugün hızlı değişen ekonomide dönüşüm, bozulma ve rekabet avantajının temel kaynağı haline geldi. Salgın takipinden savunmaya, sağlık hizmetlerine, otonom araçlara ve aradaki her şeye kadar, AI geniş çapta benimseniyor. PwC, AI’nın 2030’da mevcut büyüme oranında küresel ekonomiye 15,7 trilyon dolar katkıda bulunabileceğini öngörüyor.

AI umut verici olsa da, hala şeffaflık ve güvenilirlik konusunda cevapsız sorular ortaya koyuyor. AI sistemlerinin karar alma yeteneklerini anlamak, tahmin etmek ve güvenmek önemlidir, özellikle hayat, ölüm ve kişisel refahla ilgili alanlarda.

Bilinenin Ötesine

Otomatik akıl yürütme sistemleri ilk olarak karar alma süreçlerini desteklemek için tanıtıldığında, elle oluşturulmuş kurallara dayanıyordu. Bu, davranışlarını yorumlamak ve değiştirmek kolay olmasına rağmen, ölçeklenebilir değildi. Makine öğrenimi tabanlı modeller, bu ihtiyacı karşılamak için ortaya çıktı; insan müdahalesine gerek duymuyor ve verilerden eğitim alabiliyorlardı – ne kadar çok veri, o kadar iyi. Derin öğrenme modelleri, modelleme kapasiteleri ve uygulanabilirlik açısından eşsiz olsalar da, büyük ölçüde kara kutu olduklarından, geniş kullanım bağlamında doğrulukları, güvenilirlikleri ve önyargıları konusunda endişe verici sorular ortaya koyuyor.

Derin öğrenme modellerinin kullandığı akıl yürütme mekanizmasını doğrudan izlemek için şu anda hiçbir mekanizma yok. Makine öğrenimi modellerinin kara kutu doğası, açıklanabilirliğin主要 türü olan sonradan açıklanabilirlik anlamına geliyor; yani açıklamalar, model tarafından üretilen çıktıların doğası ve özelliklerinden elde ediliyor. Sinir ağlarından (derin öğrenmenin daha önce bilinen adı) kural çıkarma girişimleri artık takip edilmiyor, çünkü ağlar artık kural çıkarması için çok büyük ve çeşitli hale geldi. AI modellemesinin temelinde yorumlanabilirlik ve şeffaflık getirme ihtiyacı ortaya çıktı.

Geceyi Terk Et, Işığa Gir

Bu endişe, makine öğreniminde şeffaflık ihtiyacı yarattı ve açıklanabilir AI veya XAI’nin büyümesine yol açtı. AI karar alma sürecini tam olarak güvenebilmemizi engelleyen sorunları, özellikle önyargı ve şeffaflık sorunlarını ele almaya çalışıyor. Bu yeni AI alanı, AI’nin toplumun tüm paydaşları için daha iyi sonuçlar sağlayarak topluma fayda sağlaması için hesap verebilirlik getiriyor.

XAI, AI sistemleri ve algoritmalarında bulunan önyargıları ele almada kritik olacaktır. İnsanların geçmişleri ve deneyimleri, AI sistemlerinin önyargılı olmasına neden olabilir. Örneğin, bir yüz tanıma sistemi, belirli bir etnik kökene sahip kişilerde %5 oranında yanlış tanımlama yapabilir. Bu, önyargıya neden olabilir. Yanlış veri de önyargıya neden olabilir. Örneğin, bir yüz tanıma sistemi, belirli bir etnik kökene sahip kişilerde %5 oranında yanlış tanımlama yapabilir. Ayrıca, örnek veri setinin tüm nüfusu temsil etmemesi de önyargıya neden olabilir.

XAI, AI sistemlerinin karar alma süreçlerini anlamaya çalışıyor. AI sistemlerinin neden belirli bir kararı aldığını, neden başka bir şeyi yapmadığını, ne zaman başarılı veya başarısız olduğunu ve AI sistemlerinin kararlarına güvenebilmemizi sağlayan adımları cevaplıyor.

Açıklanabilir, Öngörülebilir ve İzlenebilir AI

AI sistemlerinde açıklanabilirlik kazanmanın bir yolu, doğası gereği açıklanabilir olan makine öğrenimi algoritmalarını kullanmaktır. Örneğin, karar ağaçları, Bayes sınıflandırıcıları ve diğer algoritmalar, karar alma süreçlerinde belirli düzeyde açıklanabilirlik ve şeffaflık sunabilir. Bu, kritik AI sistemleri için gerekli görünürlüğü sağlayabilir without fazla performans veya doğruluk kaybına neden olmadan.

Derin öğrenme ve diğer daha karmaşık yaklaşımlar için açıklanabilirlik sağlama ihtiyacını gören ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA), açıklanabilir AI çözümleri üretmek için çeşitli araştırma girişimlerini finanse ediyor. DARPA, AI açıklanabilirliğini üç parçaya ayırıyor: tahmin doğruluğu, yani modellerin gelecekteki karar alma süreçlerini iyileştirmek için sonuçlarına nasıl ulaştıklarını açıklamaları; karar anlaşılması ve güven, yani insan kullanıcılar ve operatörlerin AI sistemlerinin kararlarını anlaması ve güvenmesi; ve AI sistemleri tarafından gerçekleştirilen eylemlerin izlenebilirliği.

İzlenebilirlik, insanların AI karar döngülerine müdahale etmesine ve gerekirse AI sistemlerinin görevlerini durdurmasına veya kontrol etmesine olanak tanıyacak. Bir AI sistemi, yalnızca belirli bir görevi gerçekleştirmek veya kararlar almakla kalmaz, aynı zamanda neden belirli kararları aldığını ve bunları neden aldığını açıklamak için şeffaf bir rapor sunmalıdır.

Algoritmaların veya XAI yaklaşımlarının standardizasyonu şu anda mümkün değil, ancak şeffaflık düzeylerinin standardizasyonu mümkün olabilir. Standardizasyon organizasyonları, son kullanıcılar ve teknoloji satıcıları arasında iletişim kolaylaştırmak için bu şeffaflık düzeylerine ilişkin ortak standart anlayışlar geliştirmeye çalışıyor.

Hükümetler, kurumlar, işletmeler ve genel halk, AI tabanlı sistemlere bağımlı hale geldikçe, AI karar alma süreçlerinin şeffaflığını artırarak onlara güvenmek temel olacaktır. XAI’nin yaşına girildiğinin kanıtı, ilk global konferansın XAI’ye adanmasıdır: Uluslararası Yapay Zeka Konferansı: Açıklanabilir Yapay Zeka Atölyesi.