İfade Gücü Yüksek Boolean Formülleriyle Açıklanabilir Yapay Zeka

Yapay zeka (AI) ve makine öğrenimi uygulamalarındaki patlama neredeyse her endüstriyi ve yaşamın her alanını etkiliyor.

Ancak bu büyüme ironi olmadan gelmiyor. Yapay zeka, karar verme veya iş akışlarını basitleştirmek veya hızlandırmak için var olsa da, bunu yapma yöntemi genellikle son derece karmaşıktır. Aslında, bazı “kara kutu” makine öğrenimi algoritmaları o kadar karmaşık ve çok yönlüdür ki, bunları yaratan bilgisayar bilimcileri tarafından bile basit bir açıklama yapmak mümkün olmayabilir.

Bu, özellikle finans ve tıp gibi endüstrilerde, AI çözümlerinin iç işleyişine ilişkin şeffaf açıklamalar gerektiren endüstri en iyi uygulamaları veya hükümet düzenlemeleri tanımlanan belirli kullanım durumlarında oldukça sorunlu olabilir. Ve bu uygulamalar, açıklanabilirlik gereksinimlerini karşılayamadıkları takdirde, genel etkinliklerine bakılmaksızın işe yaramaz hale gelebilir.

Bu ikilemi çözmek için, Fidelity Center for Applied Technology (FCAT) ekibimiz — Amazon Quantum Solutions Lab ile işbirliği içinde — Açıklanabilir Yapay Zeka (XAI) için yorumlanabilir bir makine öğrenimi modeli önerdi ve uyguladı. Boolean formülleri temel alan bu yaklaşım, bir veya daha fazla Boolean değişkenine uygulanabilecek herhangi bir operatörü içerebilir, böylece daha katı kural tabanlı ve ağaç tabanlı yaklaşımlara kıyasla daha yüksek ifade yeteneği sağlar.

Tam proje ayrıntıları için tam makaleyi buradan okuyabilirsiniz.

Hipotezimiz şuydu: karar ağaçları gibi modeller derinleşip yorumlanması zor hale gelebildiği için, düşük karmaşıklığa ve yüksek doğruluğa sahip, ifade gücü yüksek bir kural bulmak, çözülmesi gereken hesaplama açısından güç bir optimizasyon problemiydi. Ayrıca, bu gelişmiş XAI yaklaşımını kullanarak modeli basitleştirebilir ve böylece etik ve sorumlu ML kullanımı bağlamında önemli olan önyargıları ortaya çıkarabilir ve modelin bakımını ve geliştirilmesini kolaylaştırabilirdik.

İfade edilebilir Boolean formülleri temel alan bir yaklaşım önerdik, çünkü bunlar, girdi verilerinin sınıflandırıldığı şekilde kuralları tanımlar ve bu kuralların karmaşıklığı (veya yorumlanabilirliği) ayarlanabilir. Bir Boolean formülü, And veya AtLeast gibi bir veya daha fazla Boolean değişkenine uygulanabilecek herhangi bir operatörü içerebilir, böylece daha katı kural tabanlı ve ağaç tabanlı yaklaşımlara kıyasla daha yüksek ifade yeteneği sağlar.

Bu problemde iki karşıt hedefimiz var: algoritmanın performansını en üst düzeye çıkarmak ve aynı zamanda karmaşıklığını en aza indirmek. Bu nedenle, genellikle iki optimize etme yönteminden birini uygulamak yerine — birden fazla hedefi birleştirmek veya bir hedefi kısıtlamak — her ikisini de formülasyonumuza dahil ettik. Bunu yaparken, genellikten ödün vermeden, performans ölçütü olarak dengeli doğruluğu kullanıyoruz.

Ayrıca, AtLeast gibi operatörleri dahil ederek, yüksek derecede yorumlanabilir kontrol listelerine olan ihtiyacı ele alma fikriyle motive olduk. Örneğin belirli bir hastalığa işaret eden tıbbi belirtiler listesinden yararlanılarak, pozitif tanı için belirtilerin en az belli bir sayısının mevcut olmasını gerektiren bir karar verilebilir. Benzer şekilde, finans alanında bir banka, müşteriye kredi verme kararı alırken, daha büyük bir listeden belirli bir sayıda faktörün varlığına bağlı olarak bunu yapabilir.

XAI modelimizi başarılı bir şekilde uyguladık ve kredi, müşteri davranışı ve tıbbi koşullar için bazı kamu veritabanlarında karşılaştırmalı olarak değerlendirdik. Modelimizin diğer bilinen alternatiflerle genel olarak rekabetçi olduğunu bulduk. Ayrıca, XAI modelimizin özel amaçlı donanım veya kuantum cihazlarla hızlı Tamsayı Doğrusal Programlama (ILP) veya Kısıtsız İkinci Dereceden İkili Optimizasyon (QUBO) çözücülerle güçlendirilebileceğini bulduk. QUBO çözücülerin eklenmesi, hızlı yerel olmayan hareket önerileri sayesinde yineleme sayısını azaltır ve bir hızlanma sağlar.

Belirtildiği gibi Boolean formüllerini kullanan açıklanabilir AI modellerinin sağlık alanında ve Fidelity’nin faaliyet gösterdiği finans alanında birçok uygulaması olabilir. Bunlar arasında kredi puanlama veya bazı müşterilerin bir ürünü seçerken diğerlerinin neden seçmediğini değerlendirme yer alır. Yorumlanabilir kurallar oluşturarak, gelecekte ürün geliştirme veya iyileştirme ile pazarlama kampanyalarının optimizasyonu için daha yüksek düzeyde içgörüler elde edebiliriz.

Bulgularımıza dayanarak, Açıklanabilir Yapay Zeka’nın ifade edilebilir Boolean formülleri kullanmasının, açıklanabilirlik gerektiren kullanım durumları için uygun ve arzu edilir olduğu sonucuna vardık. Ayrıca, kuantum hesaplama geliştikçe, bunu ve diğer özel amaçlı donanım hızlandırıcılarını kullanarak potansiyel hızlanma elde etme fırsatını öngörüyoruz.

Gelecek çalışmalar, bu sınıflandırıcıları diğer veritabanlarına uygulamaya, yeni operatörler tanıtma veya bu kavramları diğer kullanım durumlarına uygulama üzerine odaklanabilir.