Açıklanabilir AI Nasıl Güven ve Hesap Verebilirlik Sağlar

Şirketler zaten AI benimsemesine başlayarak, operasyonlarının her yerine sohbet botları, içerik oluşturucular ve karar destek araçları dağıtmak için yarışıyorlar. McKinsey’e göre, şirketlerin %78’i en az bir iş fonksiyonunda AI kullanıyor.

Uygulama çılgınlığı anlaşılabilir — herkes potansiyel değeri görüyor. Ancak bu acelede, birçok organizasyon tüm sinir ağı tabanlı teknolojilerin, günümüzde ve öngörülebilir gelecekte kullanılan her LLM ve üretken AI sisteminin paylaştığı önemli bir kusura sahip olduğunu göz ardı ediyor: Bunlar öngörülemez ve sonunda kontrol edilemez.

Bazıları bunun gerçek sonuçlarını öğrendi. Bir Chevrolet bayii web sitesine bir sohbet botu dağıtmıştı, bir müşteri ChatGPT güçlendirilmiş botu $58,195 Chevy Tahoe’yu sadece $1’a satmaya ikna etti. Bir başka müşteri aynı sohbet botunu karmaşık sıvı dinamiği denklemleri için bir Python betiği yazmaya yönlendirdi, bot bunu memnuniyetle yaptı. Bayi bu olaylar viral olduktan sonra botları devre dışı bıraktı.

Geçen yıl, Air Canada küçük talepler mahkemesinde kaybetti khi şirket, bir yolcuya yanlış bilgi veren sohbet botu hakkında “bu, kendi eylemlerinden sorumlu olan ayrı bir yasal varlık” olduğunu iddia etti.

Bu öngörülemezlik, LLM’lerin temel mimarisinden kaynaklanıyor. Bunlar o kadar büyük ve karmaşıktır ki, belirli cevaplar nasıl elde edildiğini veya ne üreteceklerini anlamak imkansızdır, yalnızca çıktıları üretinceye kadar. Çoğu organizasyon, bu güvenilirlik sorununa kısmen farkında olmadan cevap veriyor.

Mantıklı çözüm, AI sonuçlarını elle kontrol etmek, ancak bu, teknolojinin potansiyelini dramatik olarak sınırlar. AI, kişisel asistan olarak — metin oluşturma, toplantı notları alma, belgeleri özetleme ve kodlama yardımı — sınırlı verimlilik kazanımları sağlar. Ekonomiyi devrimleştirme konusunda yeterli değil.

AI’nin gerçek faydaları, AI’yi mevcut işlere yardım etmek için değil, tüm süreçleri, sistemleri ve şirketleri AI ile çalışacak şekilde yeniden tasarlayarak ortaya çıkacak. Kredi işlemlerini düşünün: Bir banka kredi memurlarına AI asistanları verirse, %20-30 daha hızlı çalışabilirler. Ancak AI’yi tüm karar sürecini (uygun önlemlerle) ele alması için dağıtmak, maliyetleri %90’dan fazla azaltabilir ve几乎 tüm işleme süresini ortadan kaldırabilir. Bu, inkremental iyileştirme ile dönüşüm arasındaki fark.

Güvenilir AI Uygulamasına Yol

AI’nin tam potansiyelini, öngörülemezliğine düşmeksizin kullanmak, teknik yaklaşımların ve stratejik düşünmenin karmaşık bir karışımını gerektirir. Mevcut beberapa yöntem kısmi çözümler sunar, ancak her biri önemli sınırlamalara sahiptir.

Bazı organizasyonlar, AI davranışını belirli yönlerde yönlendirmek için sistem dürtme yoluyla güvenilirlik sorunlarını hafifletmeye çalışır. Antropik araştırmacılar, Claude’un sinir ağındaki “Golden Gate Bridge özelliği”ni göstererek bu yaklaşımın kırılganlığını kanıtladı ve onu yapay olarak amplifiye ederek, Claude’un kimlik krizine neden oldu. Kendi fiziksel formu hakkında sorulduğunda, hiçbir fiziksel formunun olmadığını kabul etmek yerine, Claude kendini Golden Gate Bridge olarak iddia etti. Bu deney, bir modelin temel işleyişinin nasıl kolayca değiştirilebileceğini ve her bir dürtmenin bir ticaret-off olduğunu, bir yönü geliştirirken diğer yönlerini bozabileceğini gösterdi.

Bir başka yaklaşım, AI’nin diğer AI’yi izlemesidir. Bu katmanlı yaklaşım bazı hataları yakalayabilir, ancak ek karmaşıklık getirir ve vẫn kapsamlı güvenilirlikten uzak kalır. Sabit kodlu güvenlik önlemleri daha doğrudan bir müdahaledir, belirli anahtar kelimeleri veya kalıpları içeren yanıtları engelleme gibi. Bilinen sorunlara karşı etkili olsalar da, bu önlemler komplex sistemlerden ortaya çıkan yeni sorunlu çıktıları öngöremez.

Daha etkili bir yaklaşım, AI merkezli süreçler oluşturmaktır, bunlar insan denetimiyle birlikte çalışabilir ve güvenilirlik sorunlarını gerçek dünya sorunlarına dönüşmeden önce yakalayabilir. AI’nin doğrudan kredi başvurularını onaylaması veya reddetmesi istemezsiniz, ancak AI ilk değerlendirmeyi insan operatörlerin gözden geçirmesi için yapabilir. Bu çalışabilir, ancak AI hatalarını yakalamak için insan dikkatine dayanır ve AI kullanımından kaynaklanan potansiyel verimlilik kazanımlarını zayıflatır.

Gelecek İçin İnşa Etme

Bu kısmi çözümler, daha kapsamlı bir yaklaşıma işaret ediyor. İşlerin nasıl yapıldığını temel olarak yeniden düşünen organizasyonlar, AI yardımıyla mevcut süreçleri güçlendirmekten daha büyük bir avantaj elde edecek. Ancak AI, yüksek riskli bir süreç veya kararda son adım olmamalıdır, öyleyse en iyi yol nedir?

İlk olarak, AI, tutarlı ve şeffaf bir şekilde sonuçlar üretebilecek tekrarlanabilir bir süreç oluşturur. İkincisi, insanlar süreci anladıklarından ve girdilerin uygun olduğundan emin olmak için süreci gözden geçirir. Son olarak, süreç, AI kullanmadan otomatik olarak çalışır, ancak sonuçların periyodik olarak insan tarafından gözden geçirilmesi gerekir.

Sigorta endüstrisini düşünün. Geleneksel yaklaşım, claims işleyicilere yardımcı olmak için AI asistanları eklemeyi içerebilir. Daha devrimci bir yaklaşım, AI’nin yeni araçlar geliştirmesini içerir — Örneğin, hasar fotoğraflarını analiz eden bilgisayar vizyonu veya şüpheli kalıpları tanımlayan geliştirilmiş dolandırıcılık tespit modelleri — ve sonra bu araçları açık, anlaşılabilir kurallarla yönetilen otomatik sistemlere entegre eder. İnsanlar bu sistemleri tasarlayacak ve izleyecektir, bireysel talepleri işleyecek değildir.

Bu yaklaşım, sistem tasarımı ve doğrulamasında insan denetimini korur, ki bu en önemli noktadır. Bu, while AI’nin öngörülemezliğinin bireysel durumlarda zararlı sonuçlara yol açma riskini ortadan kaldırırken, aynı zamanda verimlilik kazanımlarını sağlar.

AI, işlem verisinden kredi geri ödeme yeteneği göstergeleri tanımlayabilir. İnsan uzmanlar daha sonra bu göstergeleri adil olmak için değerlendirebilir ve açık, anlaşılabilir modeller oluşturabilir.

Açıklanabilir AI’ye bu yaklaşım, AI’yi yalnızca yüzeyel olarak kullanan organizasyonlar ile AI вокругlarını dönüştüren organizasyonlar arasında daha net bir ayırma çizgisi oluşturacak. Sonuncular, ürün ve hizmetleri rakiplerinin karşılayamayacağı fiyat noktalarında sunma yeteneği kazanacak.

Kara kutu AI’nin aksine, açıklanabilir AI sistemleri, insanların teknolojinin uygulanmasında anlamlı bir denetimi korumasını sağlar, bu da AI’nin insan potansiyelini artırmaya değil, yalnızca insan emeğini değiştirmeye odaklandığı bir geleceğe yol açar.