Açıklanabilirlik Her Endüstrinin AI Sorununa Çözüm Getirebilir: Şeffaflık Eksikliği

By: Migüel Jetté, VP of R&D Speech, Rev.

AI’nın başlangıç aşamasında, yeni olması nedeniyle yeterli olabilirdi. Makine öğreniminin yavaş öğrenmesi ve ortalama bir tüketicinin anlaması imkansız olan bir süreçte kaldığı kapalı bir sistem olması sorun değildi. Ancak durum değişiyor. Sağlık, finans ve ceza adaleti sistemi gibi daha birçok endüstri, insanların hayatlarını gerçekten etkileyebilecek şekilde AI’ı kullanmaya başladığında, daha fazla insan, algoritmaların nasıl kullanıldığını, verilerin nasıl elde edildiğini ve yeteneklerinin ne kadar doğru olduğunu öğrenmek istiyor. Şirketler, inovasyonun ön saflarında kalmak istiyorsa, izleyicilerinin güvenebileceği AI’ya güvenmek zorundalar. AI açıklanabilirliği, bu ilişkiyi derinleştirmek için gereken anahtar bileşendir.

AI açıklanabilirliği, standart AI prosedürlerinden farklıdır, çünkü insanların makine öğrenimi algoritmalarının çıktı oluşturmasını anlamalarına olanak tanır. Açıklanabilir AI, insanların potansiyel sonuçları ve eksiklikleri anlamalarına olanak tanıyan bir sistemdir. Bu, insanlara adil olma, hesap verebilme ve gizlilik saygısı gibi insani arzuları karşılayabilen bir makine öğrenimi sistemidir. Açıklanabilir AI, işletmelerin tüketicilerle güven oluşturması için zorunludur.

AI genişlerken, AI sağlayıcıları, kara kutu modelinin yeterli olmadığını anlamalıdır. Kara kutu modelleri doğrudan veriden oluşturulur ve çoğu zaman, algoritmayı geliştiren geliştirici bile, makinenin öğrendiği alışkanlıkları neyin tetiklediğini belirleyemez. Ancak bilinçli tüketici, sorumlu tutulamayacak kadar geçirimsiz bir şeyle etkileşime girmek istemez. İnsanlar, AI algoritmasının belirli bir sonuca nasıl ulaştığını, gizemli girdi ve kontrol edilen çıktı olmadan öğrenmek ister, özellikle AI’nın yanlış hesaplamaları genellikle makine yanlılıklarından kaynaklanıyorsa. AI geliştikçe, insanlar, algoritmanın belirli bir sonuca nasıl ulaştığını anlamak için makine öğrenimi sürecine erişmek istiyor. Her endüstrinin liderleri, insanların bir süre sonra, bu erişimi tercih etmek yerine, gerekli bir şeffaflık düzeyi olarak talep edeceklerini anlamalıdır.

Sesli asistanlar, transkripsiyon teknolojisi ve insan konuşmasını metne dönüştüren diğer hizmetler gibi ASR sistemleri, özellikle yanlılıklardan etkilenir. Hizmet, güvenlik önlemleri için kullanılıyorsa, vurgular, yaş veya arka plan gibi hatalar nghiêm trọng olabilir, bu nedenle sorun ciddiye alınmalıdır. ASR, polis gözetim kameralarında, örneğin, etkileşimleri otomatik olarak kaydetmek ve transkribe etmek için kullanılabilir – doğru bir şekilde transkribe edildiğinde hayat kurtarabilecek bir kayıt tutabilir. Açıklanabilirlik uygulaması, AI’nın sadece satın alınan veri kümelerine güvenmek yerine, hatalara katkıda bulunabilecek gelen sesin özelliklerini anlamaya çalışmasını gerektirecektir. Akustik profil nedir? Arka planda gürültü var mı? Konuşmacı, AI’nın henüz öğrenmediği bir kelime dağarcığı kullanan, İngilizce konuşmayan bir ülkeden veya bir nesilden mi? Makine öğrenimi, bu değişkenleri ele alan verileri toplamak suretiyle daha hızlı öğrenmeli ve başlamalıdır.

İhtiyaç açıkça ortaya çıkıyor, ancak bu metodolojiyi uygulamanın yolu her zaman kolay olmayacaktır. Sorunun geleneksel cevabı, daha fazla veri eklemektir, ancak daha sofistike bir çözüm gerekli olacaktır, özellikle de şirketlerin kullandığı satın alınan veri kümeleri içsel olarak yanlılıklar içerdiğinde. Bu, sonuçların komplexitesi nedeniyle, AI’nın belirli bir kararının neden alındığını açıklamakHistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistorhistoricardan sonra, AI hatalar yapacaktır. Şirketler, hataların nerede ve nasıl oluştuğunu belirleyerek, daha güçlü AI modelleri oluşturmak için sürekli çözümler üretecek modeller oluşturmalıdır:

1. Şeyler yanlış gittiğinde, geliştiricilerin ne olduğu açıklamaları ve modeli geliştirmek için acil bir plan geliştirmeleri gerekir.
2. AI’nın doğru mu yoksa yanlış mı olduğunu bilmesi için bilim adamlarının, AI’nın eksikliklerini öğrenmesi ve gelişmesi için geri bildirim döngüsü oluşturması gerekir.
3. ASR’nin, AI hala gelişirken güven oluşturmasının bir başka yolu, güven skorları oluşturmak ve neden daha az güvendiğini açıklamaktır. Örneğin, şirketler genellikle kendi AI’nın eksikliklerini yansıtmak için 0’dan 100’e kadar puanlar oluşturur ve müşterileriyle şeffaflık sağlar. Gelecekte, sistemler, sesin neden zor olduğu hakkında daha fazla meta veri sağlayarak, algılanan gürültü seviyesi veya daha az anlaşılan bir vurgu gibi nedenlerle, post-hoc açıklamalar sunabilir.

Ek şeffaflık, AI eğitimi ve performansının insan denetimini iyileştirecektir. Nerede gelişmeye ihtiyacımız olduğunu ne kadar açıklarsak, o kadar fazla gelişmelere yönelik eylemlerden sorumlu oluruz. Örneğin, bir araştırmacı, hatalı metni neden çıkardığını öğrenmek isteyebilir, böylece sorunu hafifletebilir, bir transkripsiyoncu ise, geçerliliğini değerlendirmelerine yardımcı olmak için ASR’nin girdiyi yanlış yorumladığına dair kanıtlar isteyebilir. İnsanları döngüye dahil etmek, AI’nin denetimsiz bırakıldığında ortaya çıkan bazı en belirgin sorunları hafifletebilir. Ayrıca, AI’nin hatalarını yakalaması, geliştirmesi ve sonunda kendiliğinden düzeltmesi için gereken süreyi hızlandırabilir.

AI, insanların hayatlarını iyileştirebilecek yeteneklere sahiptir, ancak sadece insanlar onu düzgün bir şekilde üretirse. Sadece bu sistemleri değil, aynı zamanda inovasyonun arkasındaki insanları da sorumlu tutmak zorundayız. Geleceğin AI sistemleri, insanların koyduğu ilkeleri uygulamak zorundadır ve ancak o zaman insanların güvenebileceği bir sistemimiz olacaktır. İlkeleri şimdi, hala insanlara hizmet ederken temellerini atmaya çalışmak için doğru zaman.