Güvenilirlik Prioritesi AI

Toplumun yapay zeka (AI) ve makine öğrenimi (ML) uygulamalarına olan bağımlılığı, bilgi tüketim şekillerini yeniden tanımlayarak devam etmektedir. AI güçlendirilmiş sohbet botlarından Büyük Dil Modelleri (LLM’ler) tarafından üretilen bilgi sentezlerine kadar, toplum daha önce hiç olmadığı kadar çok bilgiye ve daha derin içgörülere erişim imkanına sahiptir. Ancak teknoloji şirketleri, AI’yi değer zincirleri boyunca uygulamaya çalışırken, kritik bir soru ortaya çıkmaktadır. Gerçekten de AI çözümlerinin çıktılarına güvenebilir miyiz?

Güvenilirlik için Belirsizlik nicelendirme olmadan AI çıktılarına gerçekten güvenebilir miyiz

Verilen bir girdiye karşılık, bir model birçok başka eşit derecede olası çıktı üretebilir. Bu, yeterli eğitim verisi eksikliği, eğitim verisindeki varyasyonlar veya diğer nedenlerden dolayı olabilir. Modelleri dağıtırlarken, organizasyonlar belirsizlik nicelendirme kullanarak, son kullanıcılarına AI/ML modelinin çıktısına ne kadar güvenilebileceğini daha net bir şekilde anlamalarını sağlayabilir. Belirsizlik nicelendirme, bu diğer çıktıların ne olabileceğini tahmin etme sürecidir.

Yarınki yüksek sıcaklığı tahmin eden bir model hayal edin. Model 21ºC çıktısını üretebilir, ancak bu çıktıya uygulanan belirsizlik nicelendirme, modelin aynı zamanda 12 ºC, 15 ºC veya 16 ºC çıktılarını üretebileceğini gösterebilir; bunu bilerek, basit 20 ºC tahminiyle ilgili olarak ne kadar güvenirlik sağlarız? Potansiyel olarak güven oluşturma veya ihtiyatlı olma konusunda yardımcı olmasına rağmen, birçok organizasyon belirsizlik nicelendirmeyi uygulamayı atlıyor, çünkü bunu uygulamak için ek iş yapmaları ve hesaplama kaynaklarına ve çıkarım hızına olan talepleri nedeniyle.

İnsan-dongusu sistemleri, tıbbi teşhis ve prognoz sistemleri gibi, karar verme sürecinde insanları içerir. Sağlık profesyonelleri, sağlık AI/ML çözümlerinin verilerine kör olarak güvenerek, bir hastayı yanlış teşhis edebilir ve bu da daha düşük sağlık sonuçlarına veya daha kötüsüne yol açabilir. Belirsizlik nicelendirme, sağlık profesyonellerine, AI çıktılarına ne zaman daha fazla güvenebileceklerini ve hangi belirli tahminleri ihtiyatla karşılayacaklarını niceliksel olarak görmelerine olanak tanır. Benzer şekilde, bir self-sürüş araba gibi tam otomatik bir sistemde, bir engelin uzaklığını tahmin eden bir modelin çıktısı, belirsizlik nicelendirme olmadan kaçınılmaz olabilecek bir kazaya yol açabilir.

AI/ML modellerinde güven oluşturmak için Monte Carlo yöntemlerini kullanma zorluğu

Monte Carlo yöntemleri, Manhattan Projesi sırasında geliştirilmiştir ve belirsizlik nicelendirmeyi gerçekleştirmek için güçlü bir yöntemdir. Bu yöntemler, algoritmaları slightly farklı girdilerle tekrar tekrar çalıştırmayı ve çıktıların daha fazla bilgi sağlamayı bırakana kadar devam etmeyi içerir; bu durum gerçekleştiğinde, süreç yakınsama durumuna ulaştığı söylenir. Monte Carlo yöntemlerinin bir dezavantajı, genellikle yavaş ve hesaplama yoğun olması, çıktıya ulaşmak için birçok tekrarın gerekli olması ve bu tekrarların arasında doğal bir varyasyon olmasıdır. Monte Carlo yöntemleri, rastgele sayı üreticilerinin çıktılarını kullanır, bu nedenle aynı parametrelerle birçok iç tekrarı olan bir Monte Carlo çalıştırdığınızda, sonuçlar değişecektir.

AI/ML modellerinde güvenilirliğe doğru yol

Geleneksel sunuculardan ve AI’ye özel hızlandırıcılardan farklı olarak, yeni bir hesaplama platformu geliştirilmektedir. Bu platformlar, empirik olasılık dağılımlarını, geleneksel hesaplama platformlarının tamsayılar ve kayan noktalı değerleri işlediği gibi doğrudan işleyebilir. Organizasyonlar, AI modellerini bu platformlara dağıtarak, önceden eğitilmiş modellerinde belirsizlik nicelendirmeyi otomatikleştirebilir ve ayrıca Monte Carlo yöntemlerini kullanan diğer hesaplama görevlerini, özellikle de finansal VaR hesaplamalarını hızlandırabilir. Özellikle VaR senaryosunda, bu yeni platformlar, organizasyonların gerçek piyasa verisinden doğrudan oluşturulan empirik dağılımlarla çalışmasına, rastgele sayı üreticileri tarafından üretilen örneklerle bu dağılımları yaklaşık olarak hesaplamalarına kıyasla daha doğru analizler ve daha hızlı sonuçlar elde etmelerine olanak tanır.

AI/ML güvenilirliğinin geleceği, gelişmiş sonraki nesil hesaplama bağlı

Organizasyonlar, topluma daha fazla AI çözümü entegre ettikçe, AI/ML’de güvenilirlik en önemli önceliklerden biri haline gelecektir. Kuruluşlar, AI modeli dağıtımlarında, tüketicilerin belirli AI modeli çıktılarına şüpheyle yaklaşmaları için olanak sağlayan tesisleri uygulamayı atlayamaz. Açıklanabilirlik ve belirsizlik nicelendirme talebi açıkça ortada olup, yaklaşık dört kişiden üçü, uygun güvence mekanizmaları varsa bir AI sistemine güvenmeye daha istekli olduklarını belirtmiştir.

Yeni hesaplama teknolojileri, belirsizlik nicelendirmeyi uygulama ve dağıtma işini her geçen gün daha da kolaylaştırmaktadır. Endüstri ve düzenleyici kurumlar, topluma AI’yi dağıtmaya ilişkin diğer zorluklarla mücadele ederken, en azından belirsizlik nicelendirmeyi AI dağıtımlarında norm haline getirerek insanların gerektirdiği güveni oluşturma fırsatı vardır.