Şeffaflığın Yeni Seviyelerini AI ile Tanımlamak – Düşünce Liderleri

Balakrishna D R, Infosys’te Enerji, İletişim, Hizmetler ve AI ve Otomasyon Hizmetleri – Hizmet Teklif Başkanı, Senior Vice President.

9 Ocak 2020’de Dünya Sağlık Örgütü, Çin’deki Koronavirüs salgını hakkında halkı bilgilendirdi. Üç gün önce, ABD Hastalık Kontrol ve Önleme Merkezleri haberleri yaymaya başlamıştı. Ancak bir Kanadalı sağlık izleme platformu her ikisinden de önce haber verdi ve 31 Aralık 2019’da müşterilerine salgın hakkında bilgi gönderdi! Platform, BlueDot, yabancı dilde haber raporlarını, hayvan ve bitki hastalık ağlarını ve resmi açıklamaları tarayarak müşterilerine tehlikeli bölgeleri tránh etmeleri için erken uyarı verir.

Son birkaç yıldır, yapay zeka bugün hızlı değişen ekonomide dönüşüm, yıkım ve rekabet avantajının ana kaynağı haline geldi. Salgın takipinden savunmaya, sağlık hizmetlerinden otonom araçlara ve aradaki her şeye, AI geniş çapta benimseniyor. PwC, AI’nın 2030’da mevcut büyüme oranında küresel ekonomiye 15,7 trilyon dolar katkıda bulunabileceğini öngörüyor.

Ancak AI’nın getirdiği tüm umutlara rağmen, hala şeffaflık ve güvenilirlik konusunda cevapsız sorular ortaya koyuyor. AI sistemlerinin karar verme yeteneklerini anlamak, tahmin etmek ve güvenmek özellikle hayat, ölüm ve kişisel refahın kritik olduğu alanlarda önemli.

Bilinenin Ötesine

Otomatik akıl yürütme sistemleri ilk olarak karar vermeyi desteklemek için tanıtıldığında, elle oluşturulmuş kurallara dayanıyordu. Bu, onların davranışlarını yorumlamak ve değiştirmek kolay olmasını sağladı, ancak ölçeklenebilir değillerdi. Makine öğrenimi tabanlı modeller, bu ihtiyacı karşılamak için ortaya çıktı; insan müdahalesine ihtiyaç duymuyorlar ve veriden eğitim alabiliyorlardı – ne kadar çok veri o kadar iyi. Derin öğrenme modelleri, modelleme kapasiteleri ve uygulanabilirlik açısından eşsiz olsalar da, büyük ölçüde kara kutu oldukları gerçeği, verimlilikleri, güvenilirlikleri ve kullanımlarındaki yanlılıkları konusunda endişe verici sorular ortaya koyuyor.

Derin öğrenme modelleri tarafından kullanılan akıl yürütmenin implicit olarak izlenmesine yönelik doğrudan bir mekanizma şu anda mevcut değil. Kara kutu doğasına sahip makine öğrenimi modelleriyle, açıklanabilirliğin birincil türü, post-hoc açıklanabilirliktir, bu da açıklamaların model tarafından üretilen çıktıların doğası ve özelliklerinden türetilmesi anlamına gelir. Sinir ağlarından (derin öğrenmenin daha önce bilinen adı) kural çıkarma girişimleri, ağların artık kural çıkarması için çok büyük ve çeşitli olduğu için şu anda takip edilmiyor. Bu nedenle, AI modellemesinin temelinde yorumlanabilirlik ve şeffaflık getirme ihtiyacı acil bir hale geldi.

Geceyi Gündüze Dönüştürmek

Bu endişe, makine öğreniminde şeffaflık ihtiyacını yaratmış ve açıklanabilir AI veya XAI’nin büyümesiyle sonuçlanmıştır. AI karar verme sürecinde tam olarak güvenebilmemizi engelleyen temel sorunları, yani yanlılığı ve şeffaflığı ele almaya çalışır. Bu yeni AI alanı, AI’nin toplum için daha iyi sonuçlar sağlayarak faydalanmasını sağlamak için hesap verebilirlik getirir.

XAI, AI sistemleri ve algoritmalarında programa koyulan ve insanların geçmişleri ve deneyimleri nedeniyle istemeden yanlı AI sistemleri geliştirmelerine yol açan yanlılıkları ele almada kritik olacaktır. İstenmeyen yanlılıklar, belirli bir ulusa veya etnik kökene karşı ayrımcılık gibi ortaya çıkabilir. Örneğin, tipik kredi borçlularının belirli bir etnik kökenden geldiği bulunabilir, ancak bu temelde kısıtlayıcı bir politika uygulamak adil uygulamalara aykırı olabilir. Hatalı veri de yanlılığın bir başka nedenidir. Örneğin, belirli bir yüz tanıma tarayıcısı, kişinin cilt tonu veya yüzüne düşen ışık nedeniyle %5 oranında yanlış olabilir ve bu da yanlılığa neden olabilir. Son olarak, örnek veri setiniz tüm nüfusu真正 temsil etmiyorsa, yanlılık kaçınılmazdır.

XAI, AI sistemlerinin kara kutu kararlarının nasıl alındığını incelemeyi ve anlamayı hedefler. Karar verme sürecindeki adımları ve modelleri inceler. AI sisteminin belirli bir tahmini veya kararı neden yaptığını, neden başka bir şey yapmadığını, AI sisteminin ne zaman başarılı veya başarısız olduğunu ve AI sisteminin kararlarına güvenebileceğimiz noktayı nasıl belirleyebileceğimizi cevaplar.

Açıklanabilir, Öngörülebilir ve İzlenebilir AI

AI sistemlerinde açıklanabilirlik kazanmanın bir yolu, karar verme süreçlerinde belirli miktarlarda izlenebilirlik ve şeffaflık sunan makine öğrenimi algoritmalarını kullanmaktır. Örneğin, karar ağaçları, Bayesian sınıflandırıcılar ve diğer algoritmalar gibi daha basit makine öğrenimi formları, kritik AI sistemleri için gerekli görünürlüğü sunabilirler without fazla performans veya doğruluk kaybına neden olmadan.

Derin öğrenme ve diğer daha karmaşık algoritmik yaklaşımlar için açıklanabilirlik sağlamanın ihtiyacını görerek, ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA), çeşitli fonlu araştırma girişimleri aracılığıyla açıklanabilir AI çözümleri üretmeye çalışıyor. DARPA, AI açıklanabilirliğini üç parçada tanımlar: tahmin doğruluğu, yani modellerin gelecekteki karar vermeyi iyileştirmek için nasıl sonuçlara vardıklarını açıklamaları; karar anlaşılması ve güven insan kullanıcılar ve operatörlerden; ve AI sistemleri tarafından yürütülen eylemlerin incelemesi ve izlenebilirliği.

İzlenebilirlik, insanların AI karar döngülerine girmesine ve görevleri durdurma veya kontrol etme yeteneğine sahip olmasına olanak tanıyacaktır. Bir AI sistemi, yalnızca belirli bir görevi gerçekleştirmek veya kararlar dayatmakla kalmaz, aynı zamanda aldığı kararların nedenini ve dayandığı mantığı şeffaf bir şekilde raporlamakla da yükümlüdür.

Algoritmaların veya XAI yaklaşımlarının standardizasyonu şu anda mümkün olmasa da, şeffaflık düzeylerinin veya açıklanabilirlik düzeylerinin standardizasyonu mümkün olabilir. Standardizasyon organizasyonları, son kullanıcılar ve teknoloji satıcıları arasında iletişimi kolaylaştırmak için bu şeffaflık düzeyleri konusunda ortak, standart anlayışlar oluşturmaya çalışıyorlar.

Hükümetler, kurumlar, işletmeler ve genel halk, AI tabanlı sistemlere bağımlı hale geldikçe, karar verme sürecinin daha açık bir şeffaflığı aracılığıyla güven kazanmak temel olacaktır. Açıklanabilir AI’ye özel olarak adanmış ilk küresel konferansın lançmanı, XAI çağındaki bir başka kanıttır.