Açıklanabilirlik: Sigorta ve Bankacılık Sektöründe Yapay Zeka için Son Sınır

Dr. Ori Katz, Analitik Araştırma Bilimcisi, Earnix tarafından.

“Her assez gelişmiş teknoloji, yeterince gelişmiş bir sihir gibi görünür” diye iddia etti bilim kurgu yazarı Arthur C. Clarke. Gerçekten de, bazen gelişmiş teknoloji, yeni makine öğrenimi algoritmaları gibi, sihir gibi görünür. Makine öğreniminin gelişen uygulamaları, görüntü sınıflandırma, ses tanıma ve sigorta ve bankacılık endüstrilerinde kullanımı, diğerworldly özelliklere sahiptir.

Çok sayıda şirket, geleneksel analitik modellerini değiştirmekten çekiniyor – ve haklılar. Sihir tehlikelidir, özellikle iyi anlaşılmazsa. Sinir ağları ve ağaç topluluğu algoritmaları “kara kutu”lardır, iç yapıları çok karmaşık olabilir. Aynı zamanda, beberapa çalışma [1], sinir ağları ve ağaç tabanlı algoritmaların, deneyimli aktüerler tarafından oluşturulan geleneksel sigorta risk modellerinden daha iyi performans gösterebileceğini göstermiştir. Bu, yeni algoritmaların veri中的 gizli yapıyı otomatik olarak tanımlama yeteneğinden kaynaklanmaktadır. Sinir ağları ve ağaç tabanlı algoritmaların gizemi ve faydası karşıtlık içindedir. Bir analitik modelin doğruluğu ile “açıklanabilirliği” arasında içkin bir ticaret vardır. Nasıl trust edebiliriz modellere, eğer sonuçlarına nasıl ulaştıklarını anlamazsak? Sadece sihire teslim mi olmalıyız, doğruluk için kontrolü ve güveni feda mı etmeliyiz?

Yöneticiler ve analistler, bu ticaretten endişe duyan tek kişiler değil. Son birkaç yıldır, düzenleyiciler, bu endüstrileri izleme yeteneklerini artırmak için sihrin karanlık tarafına bakmaya başladılar. Bankacılık ve sigorta endüstrileri, birçok方面te düzenlenmektedir ve mevcut düzenleme eğilimleri, kullanılan modelleri daha yakından incelemeyi içermektedir. Avrupa Genel Veri Koruma Düzenlemesi (GDPR)’nin 71. maddesi, örneğin, müşterilerin, otomatik bir karar verildikten sonra, açıklama alma hakkına sahip olmaları gerektiğini belirtir. Bu düzenleme öğesi, ortaya çıkışından bu yana, çok tartışmalı bir akademik tartışmanın merkezi olmuştur.

“Kara kutu” analitik modelleri açıklamak için acil ihtiyaç, Açıklanabilir Yapay Zeka adlı yeni bir araştırma alanının ortaya çıkmasına yol açmıştır. Uzmanlar, sihirin içine bakmamızı ve en azından bazı gizemi açığa çıkarmamızı sağlayan araçlar geliştiriyorlar. Araştırmacılar tarafından oluşturulan iki tür araç vardır: “Genel Açıklanabilirlik” araçları, modelin genel tahminlerini sürdüren ana özelliklere yardımcı olur ve “Yerel Açıklanabilirlik” araçları, belirli bir tahmini açıklamaya yöneliktir.

Aşağıdaki grafik, yerel açıklanabilirlik örneğidir. Nobel ödüllü ekonomist Lloyd Shapley’nin, aynı görevde işbirliği yapan birden fazla oyuncunun katkılarını hesaplamak için geliştirdiği oyun teorisi yöntemine dayanmaktadır. Açıklanabilir Yapay Zeka’da, “oyuncular” model özellikleridir ve “görev”, modelin tahmini edilir. Her bir özelliğin katkılarını tanımlayan sayılar, “Shapley Değerleri” olarak adlandırılır. Araştırmacılar, Shapley Değerlerinin hızlı tahmini için yöntemler geliştirdiler [2], bu da bize, bir tahmini, farklı özellikler arasında adil bir şekilde dağıtmamızı sağlar.

Belirli Bir Müşterinin Tahmin Edilen Yenileme Talebini Açıklamak için Shapley Değerlerinin Kullanılması

Grafik, simüle edilmiş veriler temelinde, bir talep modelinin, oto sigorta poliçesi yenileme olasılığını tahmin ettiği sonucu göstermektedir. Bu, belirli bir müşteri için yerel bir açıklamadır. Talep modeli, karmaşık bir karar ağacı topluluğuna dayanmaktadır, ancak grafik, her bir özelliğin nihai tahmine olan ayrı katkılarını sunar. Bu örnekte, model, ortalama bireyin poliçeyi yenileme olasılığını 0,64 olarak tahmin eder. Ancak, bu belirli müşteri için, tahmin edilen olasılık çok daha yüksektir, 0,72’dir. Grafik, bu farkın nedenini görmenize olanak tanır.

Çok karmaşık bir modelin iç yapısını tam olarak anlamamız mümkün olmasa da, Shapley Değerleri, belirli bir tahmini için en önemli özelliklerin neler olduğunu görmemize olanak tanır ve sihrin bir kısmını açığa çıkarır. Bireysel Shapley Değerlerini nüfus üzerinde ortalama almak, hangi özelliklerin en önemli olduğunu görmek ve modelin genel açıklanabilirliğini elde etmek için bize olanak tanır. Diğer popüler açıklanabilirlik araçları arasında “Özellik Importance”, yerel olarak uyarlanan basit vekil modeller ve karşıt örnekler bulunur [3].

Yeni açıklanabilirlik araçları, makine öğreniminin evriminin gerekli bir sonraki adımıdır. Sigorta şirketleri ve bankalara, makine öğrenimi modellerini anlamalarına ve güvenmelerine, yeni düzenlemelere uymalarına ve müşterilerine değerli bilgiler sunmalarına olanak tanır. Artık doğruluk ve açıklanabilirlik arasındaki ticaretin bir kısmını aşabilir ve yeni makine öğrenimi modellerinin avantajlarını, kara kutu doğaları konusunda daha az endişeyle kullanabiliriz.

Hızla dijitalleşen dünyamızda, tamamen analitik odaklı olmak, sigorta şirketleri ve bankalar için temel bir hayatta kalma kriteridir. Bu yetenek her zaman önemli olmuştur, ancak 2020’nin getirdiği volatil piyasa koşullarıyla birlikte hayati hale gelmiştir. Sigorta şirketleri ve bankalar, karmaşık yeni bir gerçekliği modellemek ve müşterilerine daha hızlı ve daha iyi hizmet vermek için daha akıllı analitiklere ihtiyaç duyarlar. Açıklanabilirlik araçları, sigorta şirketleri ve bankalara bunu başarmalarına olanak tanıyabilir. Zamanla, makine öğrenimi modellerinin sihir olarak değil, herhangi bir veri odaklı işin temel arsenalinin bir parçası olarak görülmesi noktasına ulaşacağız.

Kaynaklar:

[1] Bärtl, M., & Krummaker, S. (2020). İhracat kredi finansmanında taleplerin tahmini: Dört makine öğrenimi tekniğinin karşılaştırılması. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Vaka çalışması: Fransız motor üçüncü taraf sorumluluk talepleri. SSRN’de mevcut.

Fauzan, M. A., & Murfi, H. (2018). Sigorta talebi tahmini için XGBoost’un doğruluğu. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Otomobil sigorta taleplerinin tahmini için veri madenciliği algoritmalarının karşılaştırmalı bir çalışması. Avrupa Uluslararası Bilim ve Teknoloji Dergisi, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Model tahminlerinin yorumlanmasına yönelik birleşik bir yaklaşım. Advances in Neural Information Processing Systems (s. 4765-4774).

[3] Daha fazla ayrıntı için buraya bakın: https://christophm.github.io/interpretable-ml-book/index.html