Isaiah N. Granet, Bland’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Isaiah N. Granet, Bland’in Kurucu Ortağı ve CEO’su, teknik yürütme deneyimini erken girişimci deneyim ve uzun süredir devam eden sosyal etki çalışmaları ile birleştiren bir startup kurucusu ve mühendisdir. Mevcut girişimini başlatmadan önce, Z Fellows ve Y Combinator’da yer aldı, Lantern’da mühendislik deneyimini kazandı ve San Diego Chill’i kurdu, bu kuruluş gelişimsel engelli çocukların sporlara erişmesini sağlamak için 2,5 milyon doların üzerinde para topladı ve ulusal düzeyde tanınmaya devam etti ve bugün hala yönetim kurulunda yer alıyor.

Bland, işletmelerin müşteri desteği, satış ve operasyonel iş akışlarını ölçeklenebilir şekilde gerçekleştirebilecek sesli ajanlar oluşturmak için AI destekli telefon görüşmeleri altyapısı oluşturmaya odaklanıyor. Platform, geleneksel çağrı merkezlerini programlanabilir ses etkileşimleri, gerçek zamanlı yanıt verme ve işletme sistemleriyle derin entegrasyonlar sunarak değiştirmek veya tamamlamak üzere tasarlandı ve şirketlerin müşterilerle iletişimini otomatikleştirmek için temel bir katman olarak konumlandırıldı.

San Diego Chill’i, gelişimsel engelli çocukların spora erişimi için kapsayıcı bir ortam oluşturmak amacıyla genç yaşta kurmuştunuz. Bu erken deneyim, bir ses-öncelikli AI şirketi kurarken ve işletmelerin müşterileri ile arasındaki ilişkiyi etkileyen bir şirket kurarken size nasıl bir etki yaptı?

Hayatım ve işim büyük ölçüde inşa etmeye odaklandı. Genç yaşta, fikirler ve dünya hakkındaki düşüncelerimin peşinden gitmek için içimde sürekli bir arzu vardı. San Diego Chill’i kurmak, sadece bir organizasyon oluşturmayı ve yönetmeyi öğrenmemi değil, eylemlerimizin başkaları üzerindeki etkisini de öğretti. Bir organizasyon oluşturmak ve bu sayede başkalarına geri vermek, bana derin bir şekilde tatmin hissi verdi. San Diego Chill’den öğrendiğim dersler ve değerler, her gün bana eşlik ediyor.

2023’te Y Combinator’dan sonra, neden işletme ses altyapısının hala temel olarak bozuk olduğunu ve neden miras IVR araçlarının üzerine LLM’leri katmanlamak yerine uçtan uca bir sistem oluşturmayı tercih ettiğinizi anlattınız?

Son kez bir bankanın sohbet botunu kullandığınızı düşünün. Muhtemelen gereğinden uzun süre beklediniz, aldığınız cevap aslında sorduğunuz şeyi ele almadı ve sonunda yine de aramaya karar verdiniz. Sonra bir robottan ses size bir dizi seçeneği sundu, ancak bu seçeneklerin hiçbiri sizin aradığınız şeyi karşılamıyordu ve 0’a basmanız hiçbir işe yaramadı.

Bu deneyim, müşterilerin bankalardan beklediği hizmetin çok uzağında kalıyor. Bankalar, bu deneyimi mümkün kılmak için milyarlarca dolar harcıyor, ancak sohbet botları hala müşteri memnuniyetinde en düşük seviyede yer alıyor – %29. Bu, e-posta veya çağrı merkezlerinden daha düşük.

Bu dinamik, iki on yıldan fazla süredir devam ediyor. İşletmeler, müşterilerini personellerinden uzak tutmaya çalışıyor, müşteriler ise bir insanla konuşmaya çalışıyor. Hiçbir taraf kazanmıyor.

Sorun, şirketlerin bunu çözmek istememesi değil. Sadece bunu ölçeklenebilir bir şekilde gerçekleştiremiyorlar. Bir milyonun üzerinde aramayı yöneten bir çağrı merkezi, pahalı ve zorlu bir operasyondur ve kalite neredeyse tanım olarak tutarlı değildir.

Değişen şey, AI’nin nihayet çağrıları çözme olanağı sunmasıdır, sadece yönlendirme veya savuşturma değil. Bu, ancak sistem gerçek zamanlı ses için temel olarak tasarlanmışsa mümkündür. Miras IVR araçlarının üzerine LLM’leri katmanlarsanız, gecikme ortaya çıkar ve güvenilirlik düşer. Konuşmalar bozulur.

Bu nedenle, altyapıyı uçtan uca inşa etmeye odaklandık. Ses, doğal ve anlık hissediyorsa işe yarar. Değilse, müşteri telefonu kapatır.

Bland, TTS, çıkarım ve transkripsiyon yığınını dahili olarak inşa etme ve barındırma kararı aldı. Üçüncü taraf API’lerine güvenmekle ilgili olarak gördüğünüz tradeoff’lar, sizi tam ses altyapısı katmanını sahip olmaya itti mi?

Her dışa aktardığınız katman, gecikme ve risk ekler.

Çoğu ses AI platformu, üçüncü taraf hizmetlerinin yeniden satıcısıdır. Üçüncü taraf transkripsiyon, üçüncü taraf model ve üçüncü taraf TTS alır ve size sonucu sunar. Bu, kontrollü bir demo için çalışabilir, ancak çağrı hacmi arttığında veya zincirdeki bir şey yanlış gittiğinde genellikle tutunmaz.

Veri sorunu da vardır. Temel model sağlayıcıları, müşteri verilerini modelleri eğitmek için kullanmışlardır. Kurumsal lisansların farklı olduğunu söylüyorlar, belki de öyledir. Ancak bu belirsizlik, birçok güvenlik ve uyum ekibini rahatsız etmeye yetiyor.

Tam yığını kendiniz barındırdığınızda – transkripsiyon, çıkarım, TTS, orkestrasyon – her milisaniyeyi ve her model güncellemesini kontrol edersiniz. Müşteri verileri, müşteri ekosisteminden dışarı çıkmaz. Üçüncü taraf eğitim pipeline’ına dokunmaz, denetleyemeyeceğiniz altyapıdan geçmez ve müşteri karar vermedikçe hareket etmez.

Her işletme müşterisine adanmış altyapı sunabilirsiniz, böylece bir şirketin artan talebi, diğer şirketin performansını etkilemez. Bir şey bozulduğunda, gerçekten onarmak için beklemeye gerek kalmaz, bir satıcının satıcısına bağlı kalmazsınız.

Düzenlenen sektörlerde, bazı müşteriler tam yığını kendi VPC’sine veya şirket içinde istiyor. Bunu sadece satıcı gerçekten neyi dağıttığını sahip olduğunda mümkün kılabilirsiniz.

Geleneksel çağrı merkezi otomasyonu, genellikle basit destek çağrılarını savuşturmak üzerine odaklandı. Neden uzun kuyruklu, karmaşık müşteri etkileşimlerine öncelik verdiniz, yoksa önce yüksek hacimli otomasyon için optimize ettiniz?

Neden karmaşık, uzun kuyruklu etkileşimlere öncelik verdiniz, yüksek hacimli kullanım örnekleriyle başlamaktan ziyade?

Tersine bir yaklaşım benimsedik. Karmaşık ve hassas çağrıları güvenilir bir şekilde ele alabilirsek, her şey basit hale gelir. Hedef, demo oluşturmak değil, tam ajan çağrı çözümü sunmaktır. Bu, düşük gecikme, yüksek güvenilirlikte sistemler gerektirir ve gerçek müşteri konuşmalarını tanımlayan kenar vakaları yönetebilir.

Sesli ajanlarınız, çağrıları uçtan uca çözmek için CRM’lerle ve operasyonel veritabanlarıyla giderek daha fazla entegre ediliyor. Ses tabanlı otomasyon, işletme iş akışlarının mimarisini, sohbet tabanlı kaptanlardan farklı olarak nasıl değiştiriyor?

Miras sistemler genellikle birbirleriyle konuşmaz. CRM’ler, zamanlama araçları ve faturalama platformları bölünmüş durumdadır. Bu sistemlere erişim olmadan, bir sesli ajan sadece genel soruları yanıtlayabilir, çok daha fazlasını yapamaz.

Hesapları sorgulayamaz, kayıtları güncelleyemez veya randevu alamaz. Bilgileri toplar ve eline verir. Bu arada, insan temsilciler, insan tarafından dokunması gerekmeyen işlerle uğraşırlar: çağrı notlarını günlüğe kaydetme, randevuları manuel olarak planlama, raporları takip etme.

Derin entegrasyon, uçtan uca çözümü mümkün kılar. Bunu yapamazsanız, sadece merhabayı otomatikleştirmiş olursunuz, çağrıyı değil.

Son zamanlarda Soulja Boy ses klonu demo, konuşma ajanlarının işletme içi operasyonların ötesinde, marka yüzü deneyimleri olarak nasıl gelişebileceğini gösterdi. İşletme sesli ajanlarının, satış, destek ve pazarlama kanalları boyunca sürekli olarak çalışan, müşteri yüzü dijital temsilcilerine evrilmesini öngörüyor musunuz?

Kesinlikle. Her müşterinin favori ve temel işletmelerle kişisel bir ilişkiye sahip olduğu bir dünya görüyoruz. Önemli olan, AI’nin sadece “eğlenceli” değil, aynı zamanda gerçekten karmaşık sorunlarınızı çözebilecek olması.

Gerçek zamanlı ses, metin tabanlı AI dağıtımlarında olmayan gecikme, hayal gücü ve kimlik sorunları gibi teknik kısıtlamaları getirir. 400 milisaniyeden kısa sürede yanıt vermesi gereken ve konuşma doğruluğunu koruyan ajanlar oluştururken, en zor teknik kısıtlamalar nelerdi?

Gecikme. Bu, çoğu demo için ölüm nedenidir.

Eğer bir sohbet botu üç saniye içinde cevap verirse, kullanıcı bekler. Bir sesli ajan, konuşmanız bittikten sonra garip bir şekilde duraklar ve konuşma zaten bozulur. Yanıtlar 400 milisaniyeden kısa sürede gelmelidir. Çoğu platform bunu başaramaz, çünkü birden fazla üçüncü taraf hizmetini birleştirerek her biri kendi gecikmesini ekler.

Ancak gecikme, sadece bir kısmı. Gerçek müşteri çağrıları, demo’lar asla yakalayamadığı şekilde karmaşıktır. İnsanlar cümlelerin ortasında keser. Arka plan gürültüsü keser. Çağrıcılar dil değiştirir. Talepler belirsizdir. Üretim için dayanıklı olan ses AI’sı, kesintileri bağlamını kaybetmeden ele alır, sohbetler senaryodan çıktığında adapte olur ve bu sırada buffer’lıymış gibi görünmez.

Müşteriler, ses AI’sini diğer botlarla değil, insanlarla konuşmakla karşılaştırır. Bu, ölçüt.

İnsana benzer AI sistemlerinin etkileşimlerde kendilerini nasıl temsil ettikleri konusunda artan bir inceleme var. İşletmeler, insan personelden ayırt edilemeyen konuşma ajanlarını dağıtırken, şeffaflık konusunda nasıl düşünmelidir?

Son kullanıcı için şeffaflığa inanıyoruz. Bazı düzenlemeler zorlayıcı ve boğucu olabilir, ancak herhangi bir tür aldatma kabul edilemez. İşletmelerle birlikte, müşterilerle güven temelinde sezgisel deneyimler geliştirmek için çalışıyoruz.

AI ajanları milyonlarca müşteri etkileşimini aynı anda işlerken, şirketler pilot dağıtımlarından üretim ölçekli dağıtımlara geçtiklerinde, hangi operasyonel zorluklar ilk olarak ortaya çıkar?

Uygulamada birkaç şey önemlidir. İlk olarak, modüler.prompt mimarisi önemlidir. Monolitik promt’lar, neredeyse imkansızdır. Bir çağrı yanlış gittiğinde, tam olarak nerede ve neden olduğunu izole etmek için, bir duvarın karşısında talimatların hangi satırının problemi neden olduğu anlamaya çalışmak yerine, bunu yapmak önemlidir.

Tam gözlemlenebilirlik de aynı derecede önemlidir. Çağrı sonrası özetler yeterli değildir. Her etkileşimin her noktasında ajandasının ne yaptığını gerçek zamanlı olarak görmeniz gerekir.

Koruyucular, özellikle düzenlenmiş endüstrilerde, çok önemlidir. Ajandası, politika içinde kalmalıdır. Bu, isteğe bağlı değildir. Ve eğer olmazsa, bir geri dönüş olmalıdır.

Son olarak, bilgi yönetimi önemlidir. Ajandası, ürünler, politikalar ve prosedürler gibi özel verilere erişimi olmalıdır. Platform, gerçek çağrılar sırasında ortaya çıkan bilgi boşluklarını otomatik olarak ortaya çıkarmalıdır, değil haftalar sonra bir müşteri şikayet ettiğinde.

İleriye bakıldığında, işletme sesli ajanlarının görev özgü aletlerden, tüm iş süreçlerini konuşma yoluyla başlatan genel AI ajanlarına evrilmesini bekliyor musunuz?

Eğer cevabı bilseydim! Sanırım sesli ajanlar, tüm işletme yığını boyunca evrilecek, ancak bir işletmenin tamamını bir sesli ajanın yöneteceğini görmeyi pek olası bulmuyorum. Bununla birlikte, insanların bugün aldıklarından daha anlık, doğru ve kapsamlı hizmet alabileceklerini düşünüyorum. Aslında, bu gerçekleştiğinde daha fazla telefon görüşmesi olacağını düşünüyoruz. Daha az değil.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Bland sitesini ziyaret edebilir.