Açıklanabilir Yapay Zeka Güvenilirliği ve Güvenilirliği Nasıl Artırır

Yapay zeka (AI), şirketler genelinde demokratikleştirilirken, yavaş yavaş varlığımızın dokusuna gömülüyor. Bu demokratikleştirme sürecinin önemli bir yönü, son kullanıcıların AI’nin bir sonuca ulaşmak için kullandığı süreci ve mekanizmaları tam olarak anlamalarını sağlayabilmeleridir. İnsanlar olarak, herhangi bir olgunun “neden” ve “nasıl”ını keşfetme konusunda derin bir ihtiyaç duyuyoruz ve bu, teknolojik ilerlememizi hızlandırdı. AI bağlamında, bu anlayış “açıklanabilirlik” olarak adlandırılıyor.

Açıklanabilirlik Neden Gereklidir?

Çoğu zaman, AI’yi bir “kara kutu” olarak ele alıyoruz, yalnızca girdileri ve çıktıları biliyoruz, ancak kullanılan süreçler kayboluyor. Bu sorunu daha da kötüleştiren, AI’nin gücünü sağlayan algoritmaların, özellikle karmaşık derin öğrenme tabanlı tahmin sistemleri ve Doğal Dil İşleme (NLP), thậm chí en yetenekli uygulayıcıları için bile oldukça soyut olmasıdır.

Güven ve Şeffaflık: Kullanıcılar, AI’nin tahminlerine güvenebilmeleri için, AI’nin bazı düzeyde açıklanabilirlik içermesi gerekir. Örneğin, bir tıp uzmanı, AI’nin tahminlerine dayanarak bir tedavi önermek zorunda kalırsa, bu tahmine güvenmek zorundadır. Bir banka, bir krediyi reddetme veya onaylama kararını haklı çıkarabilmek ve bunu tüm paydaşlara açıklamak zorundadır. İşe alım ve seçme için kullanılan bir AI, temel mekanizmaların tüm başvuru sahipleri için adil ve eşit olduğunu kanıtlamak zorundadır.

AI’yi Daha İnsanca Yapar ve Benimsenmesini Artırır: McKinsey’in 2020’de AI durumuna ilişkin küresel anket raporunda, bir üreticinin fabrika işçilerinin güvenini kazanmak için son derece şeffaf modeller kullandığını öğreniyoruz; bu işçiler, AI’nin güvenliklerine ilişkin yargılarına güvenmek zorundadır. AI’nin hızlı benimsenmesi için, paydaşların onayını almak, basit nokta çözümlerinden şirket düzeyine ölçeklemek ve yapılan yatırımdan en iyi şekilde yararlanmak için büyük bir engel teşkil ediyor. Bu, performansı daha geniş bir kitleye açıklanabilir kılmakla büyük ölçüde hafifletilebilir. İş açısından, açıklanabilirlik genel kullanıcı deneyimini iyileştirir ve müşteri memnuniyetini artırır. IBM Institute for Business Value anketinin bulgularına göre, üst düzey yöneticilerin %68’i, müşterilerin AI’den próxima üç yıl içinde daha fazla açıklanabilirlik talep edeceklerine inanıyor.

Önyargıları Ortaya Çıkarır ve Model Performansını İyileştirir: Bir geliştiricinin, modelin performansını nasıl iyileştirebileceğini ve nasıl hata ayıklama ve ayarlayabileceğini bilmesi gerekir. Açık bir açıklanabilirlik çerçevesi, gerekli kapsamlı analizi gerçekleştirmek için en önemli araçlardan biridir.

Daha Keskin, Yuvarlak Bilgiler Elde Edin: AI tarafından verilen herhangi bir reçeteyi tam olarak anlamak için, AI’nin nasıl çalıştığını tam olarak anlamak gerekir. Örneğin, AI yatırım kararı almak için kullanılıyorsa, bu kararın arkasındaki mantığı da bilmek gerekir, böylece bu bilgi diğer alanlarda da kullanılabilir ve bu kararın olası tuzakları anlaşılabilir. AI’nin nasıl çalıştığını güçlü bir şekilde anlamak, karar vericilerin yeni kullanım alanlarını keşfetmelerine de olanak tanır.

Düzenlemeler ve Hesap Verebilirlik: GDPR gibi çeşitli düzenlemeler, otomatik karar verme süreçlerinden kaynaklanan hesap verebilirlik sorunlarını ele almak için bir açıklama hakkı gerektiriyor. Özerk araçlar gibi sistemlerde, bir şey yanlış giderse ve can ve mal kaybına neden olursanız, kök nedenini belirlemek için uygun bilgiye sahip olmak zorundasınız, bu da bir kara kutu sistemde zor olacaktır.

AI Nasıl Daha Açıklanabilir Hale Gelebilir?

Açıklanabilir Yapay Zeka Sistemleri (XAI), modeli bir bütün olarak açıklamaya veya bireysel tahminlerin arkasındaki mantığı bazı algoritmaların yardımıyla açıklamaya odaklanan farklı teknikler kullanılarak geliştirilir.

Çoğu açıklanabilirlik tekniği aşağıdaki öğelere dayanır:

• Modeli bireysel bileşenlere ayırma
• Model tahminlerinin görselleştirilmesi (örneğin, bir model bir arabayı belirli bir marka olarak sınıflandırırsa, bunu böyle sınıflandıran kısmı vurgular)
• Açıklama Madenciliği (yapay zeka algoritmasının tahminlerini açıklayan ilgili verileri bulmak için makine öğrenimi tekniklerini kullanma)

Vekil modelleme adı verilen bir teknikte, daha basit ve anlaşılabilir bir model, örneğin bir karar ağacı, daha karmaşık AI modelini yaklaşık olarak temsil etmek için kullanılır. Bu basitleştirilmiş açıklamalar, modelin genel bir fikir vermesini sağlar, ancak bazen bazı nüansları gizleyebilir.

Diğer bir yaklaşım “anlaşılabilirlik tarafından tasarım” olarak adlandırılır. Bu yaklaşım, AI ağını yeni bir şekilde tasarlar ve eğittiği için, genel ağı daha küçük, basit ve açıklanabilir parçalardan inşa etmeye çalışır. Bu, doğruluk düzeyiyle açıklanabilirlik arasında bir ticaret gerektirir ve veri bilimcisinin araç kutusundan bazı yaklaşımları sınırlayabilir. Ayrıca yüksek hesaplama yoğunluğuna sahip olabilir.

AI eğitimi ve testi, yerel olarak yorumlanabilir model (LIME) ve Shapley Additive Açıklamaları (SHAP) gibi tarafsız veri doğrulama tekniklerini de kullanabilir ve bunlar, F-puanı, kesinlik ve diğer metriklere ulaşmak için uyarlanmalıdır. Tabii ki, tüm sonuçlar çeşitli verilerle izlenmeli ve doğrulanmalıdır. LIME kullanarak, şirketler, makine öğrenimi gibi şeffaf olmayan algoritmaların tahminlerini taklit eden geçici modeller oluşturabilir. Bu LIME modelleri, sonra bir veri kümesi ve karşılık gelen çıktısı temelinde bir dizi varyasyon oluşturabilir ve bunlar, basit ve daha yorumlanabilir modellerin eğitimi için tam açıklamalarla birlikte kullanılabilir. Shapley values adlı oyun teorisi ve özellikle işbirliği oyun teorisi temelinde kurulan SHAP çerçevesi, optimal kredi dağıtımı ile yerel açıklamaları birleştirir.

İlkeli Operasyonlar

Stratejik düzeyde, AI güvenilirlik çerçeveleri, uygun sonuçları hem başlangıçta hem de değişen koşulların varlığında zaman içinde güvence altına almak için geniş bir ilke seti içermelidir. Bu çerçeveler en azından şunları içermelidir:

• Önyargı Tespiti – tüm veri kümeleri, önyargı ve ayrımcı özelliklerden arındırılmalı ve ardından eğitim modeline uygun ağırlık ve takdirle uygulanmalıdır;
• İnsan Katılımı – operatörler, özellikle modellerin kanun uygulaması ve sivil özgürlüklerin korunması için kullanıldığında, her zaman algoritmik çıktıları soruşturabilmeli ve yorumlayabilmelidir;
• Haklılık – tüm tahminler, dışarıdan gözlemcilerin kullanılan süreçleri ve kriterleri değerlendirebilmeleri için yüksek düzeyde şeffaflık gerektiren bir şekilde outside observers tarafından sorgulanabilmeli ve haklı gösterilebilmelidir;
• Yinelenilebilirlik – güvenilir AI modelleri, tahminlerinde tutarlı olmalı ve yeni verilere maruz kaldıklarında yüksek düzeyde istikrar sergilemelidir.

Ancak XAI, yalnızca karlılığı artırmak için değil, aynı zamanda kurumların yaratıklarının toplumun tamamı üzerindeki etkisini açıklamak ve haklı çıkarmak için hesap verebilirliği getirmek için görülmelidir.