Açıklanabilir Yapay Zeka Nedir?

Yapay zeka (AI) toplum genelinde daha karmaşık ve yaygın olarak benimseniyor, en kritik süreç ve yöntemlerden biri açıklanabilir (AI), bazen XAI olarak da adlandırılır.

Açıklanabilir Yapay Zeka, aşağıdaki gibi tanımlanabilir:

• Makine öğrenimi algoritmalarının sonuçlarını insan kullanıcıların anlamasını ve güvenmesini sağlayan süreç ve yöntemler kümesi.

Açıklanabilirlik, AI algoritmalarının birçok sektörü kontrol ettiği ve bu nedenle yanlılık, hatalı algoritmalar ve diğer sorunlar riski taşıdığı için son derece önemlidir. Açıklanabilirlik ile şeffaflık sağlanarak, dünya AI’nin gücünden gerçekten yararlanabilir.

Açıklanabilir Yapay Zeka, adından da anlaşılacağı gibi, bir AI modelini, etkisini ve olası yanlılıklarını açıklamaya yardımcı olur. Ayrıca, AI destekli karar verme süreçlerinde model doğruluğu, adilliği, şeffaflığı ve sonuçların karakterize edilmesinde rol oynar.

Bugün AI ile çalışan organizasyonlar, üretim AI modellerine güven ve güveni oluşturmak için açıklanabilir AI süreçlerini her zaman benimsemelidir. Açıklanabilir Yapay Zeka, aynı zamanda bugün AI ortamında sorumlu bir şirket olmak için anahtardır.

Bugün AI sistemleri o kadar gelişmiştir ki, insanlar genellikle bir hesaplama işlemi gerçekleştirerek algoritmanın sonucuna nasıl ulaştığını yeniden izler. Bu işlem bir “kara kutu” haline gelir, yani anlaşılamaz. Bu açıklanamayan modeller doğrudan veriden geliştirildiğinde, kimse içinde neler olduğu anlamaz.

Açıklanabilir Yapay Zeka ile AI sistemlerinin nasıl çalıştığını anlayan geliştiriciler, sistemin doğru çalıştığından emin olabilir. Ayrıca, modelin düzenleyici standartları karşıladığından ve modelin değiştirilebilmesi için fırsat sunduğundan emin olabilir.

Resim: Dr. Matt Turek/DARPA

AI ve XAI Arasındaki Farklar

AI’yi açıklanabilir AI’den ayıran bazı önemli farklılıklar vardır, ancak en önemlisi XAI’nin her karar verme adımının izlenebilir ve açıklanabilir olmasını sağlayan belirli teknik ve yöntemleri uygulamasıdır. Karşılaştırıldığında, normal AI genellikle bir ML algoritması kullanarak sonucuna ulaşır, ancak algoritmanın sonucuna nasıl ulaştığı tam olarak anlaşılamaz. Normal AI’de, doğruluğu kontrol etmek çok zordur, bu da kontrol, hesap verebilirlik ve denetim kaybına neden olur.

Açıklanabilir AI’nin Yararları

Açıklanabilir AI’yi benimsemek isteyen herhangi bir organizasyon için birçok yarar vardır, chẳng hạn như:

• Hızlı Sonuçlar: Açıklanabilir AI, organizasyonların modelleri sistemli olarak izlemesine ve iş sonuçlarını optimize etmesine olanak tanır. Model performansı sürekli olarak değerlendirilebilir ve geliştirilebilir ve model geliştirme işlemleri ayarlanabilir.
• Riskleri Azaltma: Açıklanabilir AI süreçlerini benimsemek, AI modellerinizin açıklanabilir ve şeffaf olmasını sağlar. Düzenleyici, uyum, riskler ve diğer gereksinimleri yönetirken el ile inceleme yükünü en aza indirebilirsiniz. Tüm bunlar, kasıtsız yanlılığın riskini azaltmaya da yardımcı olur.
• Güven Oluşturma: Açıklanabilir AI, üretim AI’sine güven oluşturmaya yardımcı olur. AI modelleri hızla üretime alınabilir, yorumlanabilirlik ve açıklanabilirlik sağlanabilir ve model değerlendirme süreci basitleştirilebilir ve daha şeffaf hale getirilebilir.

Açıklanabilir AI Teknikleri

Tüm organizasyonların dikkate alması gereken bazı XAI teknikleri vardır ve bunlar üç ana yöntemden oluşur:tahmin doğruluğu, izlenebilirlik ve karar anlaşılması.

Üç yöntemin ilki, tahmin doğruluğu, AI’yi günlük operasyonlarda başarılı bir şekilde kullanmak için çok önemlidir. Simülasyonlar gerçekleştirilebilir ve XAI çıktısı eğitim veri kümesindeki sonuçlarla karşılaştırılabilir, bu da tahmin doğruluğunu belirlemeye yardımcı olur. Bu amaçla kullanılan popüler bir teknik, makine öğrenimi algoritması tarafından sınıflandırıcıların öngörüsünü açıklayan Yerel Yorumlanabilir Model-Agnostic Açıklamalar (LIME) olarak adlandırılır.

İkinci yöntem izlenebilirlik, kararların nasıl alınabileceğini sınırlayarak ve makine öğrenimi kuralları ve özelliklerine daha dar bir kapsam oluşturarak elde edilir. İzlenebilirliğin en yaygın tekniklerinden biri Derin Önemli Özellikler (DeepLIFT) olarak adlandırılır. DeepLIFT, her nöronun aktivitesini referans nöronuna karşılaştırır ve her etkin nöron arasındaki bağı göstererek izlenebilir bir bağlantı oluşturur.

Üçüncü ve son yöntem karar anlaşılması, diğer iki yöntemden farklı olarak insan odaklıdır. Karar anlaşılması, AI ile çalışan ekibi eğitmeyi ve AI’nin neden kararlar aldığını anlamalarını sağlamak için gereklidir. Bu yöntem, sisteme güven oluşturmak için çok önemlidir.

Açıklanabilir AI İlkeleri

Açıklanabilir AI ve ilkelerini daha iyi anlamak için, ABD Ticaret Bakanlığı’na bağlı Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), açıklanabilir AI için dört ilke tanımlar:

1. Bir AI sistemi, her çıktıya kanıt, destek veya neden sağlamalıdır.
2. Bir AI sistemi, kullanıcıları tarafından anlaşılabilir açıklamalar sağlamalıdır.
3. Açıklama, sistemin çıktıya ulaşmak için kullandığı süreci doğru bir şekilde yansıtmalıdır.
4. AI sistemi, yalnızca tasarlandığı koşullar altında çalışmalıdır ve yeterli güveni olmadığında çıktı sağlamamalıdır.

Bu ilkeler daha da organize edilebilir:

• Anlamlı:Anlamlılık ilkesini gerçekleştirmek için, bir kullanıcı sağlanan açıklamayı anlamalıdır. Bu, farklı kullanıcı türleri için birden fazla açıklama olabileceği anlamına gelebilir. Örneğin, bir otonom araba durumunda, bir açıklama “AI, yol上的 plastik torbayı bir kaya olarak sınıflandırdı ve ona çarpmamak için eylem aldı” gibi olabilir. Bu açıklama sürücü için işe yarayabilir, ancak AI’yi düzeltmeye çalışan bir geliştirici için değil. Geliştiricinin, neden yanlış sınıflandırma yapıldığını anlaması gerekir.
• Açıklama Doğruluğu:Açıklama doğruluğu, çıktı doğruluğundan farklıdır ve AI algoritmasının çıktısına nasıl ulaştığını doğru bir şekilde açıklamasını içerir. Örneğin, bir kredi onaylama algoritması, kararını gelir temelinde açıklıyorsa, ancak aslında başvuru sahibinin ikamet ettiği yer temelinde karar veriyorsa, açıklama yanlış olur.
• Bilgi Sınırları:AI’nin bilgi sınırları, sistemin uzmanlık alanının dışında olan girdilerle karşılaştığında ortaya çıkar. Örneğin, bir sistem kuş türlerini sınıflandırmak için tasarlanmışsa ve bir elma resmini verirse, girdinin bir kuş olmadığını açıklamalıdır. Sisteme bulanık bir resim verilirse, sistemin düşük güvenle tanımlayamadığını veya tanımlayamadığını bildirmesi gerekir.

Açıklanabilir AI’de Verilerin Rolü

Açıklanabilir AI’nin en önemli bileşenlerinden biri veridir.

Google’ (GOOGL ) a göre, açıklanabilir AI ve veri ile ilgili olarak, “bir AI sistemi, altta yatan eğitim verisi ve eğitim sürecinden anlaşılabilir.” Bu anlayış, eğitilmiş bir AI modelini tam olarak hangi veri kümesiyle eğitildiğine ve veriyi yakından incelemeye bağlıdır.

Modelin açıklanabilirliğini artırmak için, eğitim verisine dikkat etmek önemlidir. Ekip, algoritmayı eğitmek için kullanılan verinin kaynağını, elde edilme yasallığını ve etiğini, verideki olası yanlılıkları ve bu yanlılıkları nasıl azaltabileceğini belirlemelidir.

Açıklanabilir AI ve verinin bir başka kritik yönü, sisteme ilgili olmayan verilerin hariç tutulmasıdır. Bunu başarmak için, ilgili olmayan verilerin eğitim kümesinde veya girdi verisinde dahil edilmemesi gerekir.

Google, yorumlanabilirlik ve hesap verebilirlik için bir dizi uygulamayı önerir:

• Yorumlanabilirlik için seçeneklerınızı planlayın
• Yorumlanabilirliği kullanıcı deneyiminin temel bir parçası olarak ele alın
• Modeli yorumlanabilir olacak şekilde tasarlayın
• Son hedefi ve son görevi yansıtan metriklere öncelik verin
• Eğitilmiş modeli anlayın
• Model kullanıcılarına açıklamaları iletin
• AI sisteminin amaçlandığı gibi çalıştığından emin olmak için kapsamlı testler gerçekleştirin

Bu önerilen uygulamaları takip ederek, organizasyonunuz açıklanabilir AI’yi gerçekleştirebilir, bu da bugün AI ile çalışan herhangi bir organizasyon için çok önemlidir.