Otonom Yapay Zekâ Çağında Güven ve Kontrol İnşa Etmek

İletişim merkezlerinde sesli yapay zekâ kullanan işletmelerin çoğu, sistemin belirli bir görüşmede neden o sözleri söylediğini açıklayamaz. İnsan temsilciye aktarmadan çözülen taleplerin oranını ve toplu doğruluk puanlarını gösterebilirler. Ancak bir müşteri şikâyet ettiğinde, bir şeyler ters gittiğinde ve bir düzenleyici kurum sorular sorduğunda yanıt çoğu zaman omuz silkmekten ibarettir. Kararı sistem verdi. Nasıl verdiğinden emin değiliz.

Otonom Sesli Yapay Zekâda Sorumluluk Açığı

Bu, önemsiz bir yan sorun değil. Gartner, 2029 yılına kadar ajan tabanlı yapay zekânın yaygın müşteri hizmetleri sorunlarının %80’ini otonom olarak çözeceğini öngörüyor. Bu, endüstrinin açık bir şekilde cevaplamadığı bir soru ortaya koyuyor: etkileşimlerin %80’ine insan müdahalesi olmadan yapay zekâ karar verdiğinde, bir şey yanlış gittiğinde kim sorumlu? Bir insan tarafından gözden geçirilemeyecek kadar hızlı çalışan bir sistemle bir temas merkezinde “güven” ne anlama geliyor?

“Kara Kutu” Otomasyonun Gerçek Maliyeti

Birçok iş lideri için soru, Sesli yapay zekâyı dağıtmak değil – bu karar zaten büyük ölçüde verilmiştir. Soru, bunun etrafındaki yönetim yapılarının dağıtım hızına yetişmek için yeterince olgun olup olmadığıdır. BT ve güvenlik liderlerinin neredeyse üçte ikisi, yapay zekâ benimsemesinin risklerini yönetmeye hazırlıksız hissettiklerini bildiriyor. Bir temas merkezi bağlamında, bu hazırlıksızlık doğrudan bir maliyete sahip: kötü yapay zekâ etkileşimleri nedeniyle müşteri güveninin aşınması, uyum açığı ve tam olarak açıklanamayan sistemler temelinde alınan operasyonel kararlar.

Cevap, yapay zekâ benimsemesini yavaşlatmak değil. Cevap, her otomatik kararın denetlenebilir, her sonucun açıklanabilir ve insan denetiminin sistemin yapısal bir özelliği olduğu şekilde inşa etmek. Bu ayrım, herhangi bir doğruluk ölçütünden daha önemli. Kararlarını açıklamayan %96 doğru bir sistem bir yüktür. Tam bir denetim izi olan aynı doğrulukta bir sistem bir varlıktır.

Sesli yapay zekâ, bilinçli olarak tasarlandığında büyük ölçekte ölçülebilir değer sağlar. Maliyetleri azaltır, 7/24 kullanılabilirlik sağlar ve baskı altında, yetersiz kaynaklarla ve aynı anda birden fazla görüşmeyle çalışan insan temsilcilerin her zaman ulaşamayacağı tutarlı hizmet kalitesini korur. Bir bankanın aniden artan sahtecilik uyarılarını yönetmesi veya bir kamu hizmeti şirketinin elektriği kesilen binlerce müşterinin aramalarını yanıtlaması durumunda, yapay zekâ self-servisi bir lüks değil, operasyonel olarak uygulanabilir tek yanıttır. Soru, bu yanıtın güvenilir olup olmadığıdır.

Hedeflerden Önce Mimari: Güvenilir Yapay Zekânın Üç Temeli

Güven, yalnızca hedeflerle değil mimariyle inşa edilir. Şu anda gerçek işletme güvenini kazanan platformlar, belirli bir tasarım felsefesini paylaşıyor: model sahipliğini ve veri egemenliğini koruyarak kontrol edilebilir, denetlenebilir ve gözlemlenebilir bir ortam sağlamak.

1. Model Sahibi Olma ve Veri Egemenliği

Bu, canlı sesin affetmez olmasından önemlidir. Gerçek zamanlı, senkron, gürültülü, aksanlı ve duygusal olarak yüklenmiş. Bir metin sohbet botunda halüsinasyon üreten bir model utanç verici. Bir finansal hizmet çağrısı veya sağlık sorgusu sırasında halüsinasyon üreten bir model bir uyum olayı.

2. Mutlak Açıklanabilirlik ve Denetim İzleri

İkinci gereksinim, tam açıklanabilirliktir: uyum ekiplerinin, operasyon liderlerinin ve düzenleyicilerin yapay zekânın ne dediğini, neden dediğini ve hangi bilgilere başvurduğunu görebilmesi, tedarikçiye bir destek talebi açmadan. Kara kutu otomasyonu sadece bir yönetim riski değil, aynı zamanda işletmelerin ne kadar ileri gitmeye istekli olduklarını sınırlayan bir etkendir. Yapay zekâ benimsemesinde en hızlı ilerleyen organizasyonlar, açıklanabilirliği ilk olarak çözenlerdir, çünkü diğer tüm paydaş endişeleri – hukuk biriminden yönetim kuruluna kadar – bundan kaynaklanır.

3. Derin Alan Uzmanlığı ve Genel Modeller

Üçüncü gereksinim, gerçek alan uzmanlığıdır. Bir finansal hizmet temas merkezini arayan bir müşteri ve bir sağlık hizmeti sağlayıcısını arayan bir müşteri aynı dili konuşmuyorlar. Kelime hazinesinde, aciliyette, duygusal tonda değil. Geniş veri setlerine dayalı olarak eğitilen genel modeller genel olarak performans gösterir. Bir genel amaçlı model ve milyarlarca gerçek, sektöre özgü etkileşimle eğitilen bir model arasındaki doğruluk açığı marjinal değil. Temas merkezi dağıtımlarında, bu, ilk çalışma gününde insana aktarmadan çözülen taleplerin oranının %25 veya %55 olması arasındaki farkı ifade eder.

Empati de önemlidir. En iyi yapay zekâ sistemleri, bir müşterinin hayal kırıklığına uğramış veya kaygılı olduğunu hissedebilir ve tam da doğru zamanda bir insan temsilcisini getirerek kişinin kendini tekrarlamasını engelleyebilir. Bu, olabilecek bir olumsuz deneyimi, müşteri güvenini inşa eden bir deneyime dönüştürmekle ilgilidir.

Aşama Aşama İnovasyon: Müşteri Deneyiminin Geleceği

Sesli yapay zekâ, şimdi müşterilerine hizmet veren tüm endüstrileri dönüştürme olgunluğuna ulaştı. Gerçek liderler, inovasyonu sorumlulukla birleştirecek, yapay zekâyı aşamalar halinde dağıtacak, önemli olanı ölçecek ve her etkileşimin merkezine müşteri bakımını koyacak olanlar olacak.

Doğru yapıldığında, otonom ses sistemleri güvenin yerini almaz, onu kazanmaya yardımcı olur. Hizmeti büyük ölçekte daha dayanıklı ve daha kişisel hâle getirir. Bugün bu yaklaşımı benimseyen şirketler, yapay zekâ çağında mükemmel müşteri deneyiminin nasıl görüneceğini tanımlayacaklar.