Düşünce Liderleri
Açıklanabilirlik Her Sektörün AI Sorununu Çözebilir: Şeffaflık Eksikliği

Öne çıkan noktalarAçıklanabilir YZ, algoritmik karar alma süreçlerini ortaya koyarak tüketici güveni…
Daha fazla göster
- Açıklanabilir YZ, algoritmik karar alma süreçlerini ortaya koyarak tüketici güveni oluşturur.
- SES tanıma sistemleri, aksan, yaş veya geçmişten kaynaklanan önyargıları azaltmak için şeffaflık gerektirir.
- Geri bildirim döngüleri ve güven puanları, YZ'nin hatalardan öğrenmesini ve gelişmesini sağlar.
Yazar: Migüel Jetté, VP of R&D Speech, Rev.
AI’nın başlangıç aşamasında, yeni olması nedeniyle yeterli olabilirdi. Makine öğreniminin yavaş öğrenmesi ve ortalama bir tüketicinin anlaması imkansız olan bir süreçte kaldığı kapalı bir sistem olması sorun değildi. Ancak durum değişiyor. Sağlık, finans ve ceza adaleti sistemi gibi daha birçok endüstri, insanların hayatlarını gerçekten etkileyebilecek şekilde AI’ı kullanmaya başladığında, daha fazla insan, algoritmaların nasıl kullanıldığını, verilerin nasıl elde edildiğini ve yeteneklerinin ne kadar doğru olduğunu öğrenmek istiyor. Şirketler, inovasyonun ön saflarında kalmak istiyorsa, izleyicilerinin güvenebileceği AI’ya güvenmek zorundalar. AI açıklanabilirliği, bu ilişkiyi derinleştirmek için gereken anahtar bileşendir.
AI açıklanabilirliği, standart AI prosedürlerinden farklıdır, çünkü insanların makine öğrenimi algoritmalarının çıktı oluşturmasını anlamalarına olanak tanır. Açıklanabilir AI, insanların potansiyel sonuçları ve eksiklikleri anlamalarına olanak tanıyan bir sistemdir. Bu, insanlara adil olma, hesap verebilme ve gizlilik saygısı gibi insani arzuları karşılayabilen bir makine öğrenimi sistemidir. Açıklanabilir AI, işletmelerin tüketicilerle güven oluşturması için zorunludur.
AI genişlerken, AI sağlayıcıları, kara kutu modelinin yeterli olmadığını anlamalıdır. Kara kutu modelleri doğrudan veriden oluşturulur ve çoğu zaman, algoritmayı geliştiren geliştirici bile, makinenin öğrendiği alışkanlıkları neyin tetiklediğini belirleyemez. Ancak bilinçli tüketici, sorumlu tutulamayacak kadar geçirimsiz bir şeyle etkileşime girmek istemez. İnsanlar, AI algoritmasının belirli bir sonuca nasıl ulaştığını, gizemli girdi ve kontrol edilen çıktı olmadan öğrenmek ister, özellikle AI’nın yanlış hesaplamaları genellikle makine yanlılıklarından kaynaklanıyorsa. AI geliştikçe, insanlar, algoritmanın belirli bir sonuca nasıl ulaştığını anlamak için makine öğrenimi sürecine erişmek istiyor. Her endüstrinin liderleri, insanların bir süre sonra, bu erişimi tercih etmek yerine, gerekli bir şeffaflık düzeyi olarak talep edeceklerini anlamalıdır.
Sesli asistanlar, transkripsiyon teknolojisi ve insan konuşmasını metne dönüştüren diğer hizmetler gibi ASR sistemleri, özellikle yanlılıklardan etkilenir. Hizmet, güvenlik önlemleri için kullanılıyorsa, aksan, yaş veya kişinin geçmişi nedeniyle oluşan hatalar ciddi olabilir, bu nedenle sorun ciddiye alınmalıdır. ASR, polislerin vücut kameralarında, örneğin, etkileşimleri otomatik olarak kaydetmek ve transkribe etmek için kullanılabilir – doğru bir şekilde transkribe edildiğinde hayat kurtarabilecek bir kayıt tutabilir. Açıklanabilirlik uygulaması, AI’nın sadece satın alınan veri kümelerine güvenmek yerine, hatalara katkıda bulunabilecek gelen sesin özelliklerini anlamaya çalışmasını gerektirecektir. Akustik profil nedir? Arka planda gürültü var mı? Konuşmacı, AI’nın henüz öğrenmediği bir kelime dağarcığı kullanan, İngilizce konuşmayan bir ülkeden veya bir nesilden mi? Makine öğrenimi, bu değişkenleri ele alan verileri toplamak suretiyle daha hızlı öğrenmeli ve başlamalıdır.
İhtiyaç giderek belirginleşiyor, ancak bu yöntemi uygulamak her zaman kolay olmayacak. Geleneksel yanıt daha fazla veri eklemektir; yine de özellikle şirketlerin satın aldığı veri kümeleri doğaları gereği yanlı olduğunda daha gelişmiş bir çözüm gerekir. Uçtan uca modellerin karmaşıklığı nedeniyle, AI’nın verdiği belirli bir kararı açıklamak geçmişte zordu. Artık bunu yapabiliriz ve insanların başlangıçta AI’ya neden güvenini kaybettiğini sorarak başlayabiliriz.
AI kaçınılmaz olarak hata yapacaktır. Şirketler olası eksikliklerinin farkında olan, sorunların ne zaman ve nerede ortaya çıktığını belirleyen ve daha güçlü AI modelleri geliştirmek için sürekli çözümler üreten modeller oluşturmalıdır:
- Bir şeyler ters gittiğinde geliştiriciler ne olduğunu açıklamalı ve gelecekte benzer hataları azaltmak üzere modeli iyileştirmek için derhal bir plan geliştirmelidir.
- Makinenin gerçekten doğru mu yanlış mı yaptığını bilmesi için bilim insanları bir geri bildirim döngüsü oluşturmalıdır; böylece AI eksikliklerinden öğrenip gelişebilir.
- AI gelişmeye devam ederken ASR’nin güven oluşturmasının bir başka yolu güven düzeyi puanları verebilen bir sistem oluşturmaktır. Sistem, AI’nın neden daha az emin olduğunu da açıklamalıdır. Örneğin şirketler kendi AI’larının kusurlarını yansıtmak ve müşterilere şeffaflık sağlamak için genellikle sıfırdan 100’e kadar puanlar üretir. Gelecekte sistemler, algılanan gürültü düzeyi veya daha az anlaşılan bir aksan gibi ek ses meta verilerini kullanarak sesin neden zorlayıcı olduğuna ilişkin sonradan açıklamalar sunabilir.
Ek şeffaflık, AI eğitimi ve performansı üzerindeki insan denetimini iyileştirir. Nerelerde gelişmemiz gerektiğini ne kadar açıkça belirtirsek, bu iyileştirmeler için harekete geçme sorumluluğumuz da o kadar artar. Örneğin bir araştırmacı, sorunu azaltmak için neden hatalı metin üretildiğini bilmek isteyebilir. Bir transkripsiyon uzmanı ise çıktının geçerliliğini değerlendirmek için ASR’nin girdiyi neden yanlış yorumladığına dair kanıt isteyebilir. İnsanları sürece dahil etmek, AI denetimsiz kaldığında ortaya çıkan en belirgin sorunların bazılarını azaltabilir. Ayrıca AI’nın hatalarını fark etmesi, gelişmesi ve sonunda kendini gerçek zamanlı olarak düzeltmesi için gereken süreyi kısaltabilir.
AI insanların yaşamını iyileştirebilir, ancak bunun için insanların onu doğru sonuç verecek şekilde oluşturması gerekir. Yalnızca bu sistemleri değil, yeniliklerin arkasındaki insanları da sorumlu tutmalıyız. Geleceğin AI sistemlerinin insanların belirlediği ilkelere uyması beklenir; ancak o zaman insanların güvenebileceği bir sistemimiz olur. Sonuçta hâlâ kendimize hizmet eden insanlar bizlerken, bu ilkelerin temelini şimdi atmalı ve onları gerçekleştirmeye çalışmalıyız.












