Alex Levin, Regal’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Alex Levin Regal’in kurucu ortağı ve CEO’sudur. Regal, işletmelerin uyumlu, AI destekli müşteri konuşmalarıyla gelir elde etmelerine yardımcı olan bir ses AI platformudur. Regal’i 2020’de kurmadan önce, Handy, Thomson Reuters ve diğer bazı startup’larda büyüme ve ürün ekiplerini yönetti. Harvard mezunları ve Forbes Teknoloji Konseyi üyesi olan Alex, inovasyonu kurumsal düzeyde güvenlik önlemleriyle birleştiren, ölçeklenebilir, ses öncelikli altyapılar oluşturmaya odaklanıyor.

Regal, satış, destek, randevu alma ve tahsilat için tasarlanmış AI ses ajanları sağlar – doğal görünmesi, CRM sistemleriyle entegre olması ve milyonlarca konuşmayı ölçeklenebilir şekilde işleyebilmesi amaçlanmıştır. Platform, kod gerektirmeyen bir yapı, gerçek zamanlı analizler, A/B testi ve sağlık, sigorta ve finansal hizmetler gibi düzenlenmiş endüstriler için yerleşik uyumluluk gibi özelliklere sahiptir.

Sizi Angi ve Handy’deki liderlik rollerinden Regal’i kurmaya iten şey neydi ve birlikte çalıştığınız kurucu ortaklarınızla, temas merkezi deneyimini tamamen yeniden inşa etmeniz gerektiğini fark ettiğiniz belirli bir an oldu mu?

Angi/Handy’de çalışırken, müşterilerle güven oluşturmak için sesin gücünü gördük. Müşteriler bize, önemli bir sorunları olduğunda aramak istediklerini, telefonla hizmet verdiğimiz müşterilerin yaşam boyu değerinin daha yüksek olduğunu ve müşterileri aradığımızda, diğer herhangi bir kanalın yanıt oranından daha yüksek bir oranda cevap verdiklerini söylediler. Ancak, temas merkezi yazılım satıcıları, müşteriler için doğru olanın üzerinde “sapma” ve “otomatikleştirme”ye odaklanıyordu. Sonuç, müşterileri gereksiz yere cezalandıran bir telefon numarasını gizleme oyununun sonu gelmez bir oyunu oldu.

Kurucu ortağım ve ben, sesin en etkili kanal olmasını sağlayarak maliyetleri düşürmeyi ve çalışmasını kolaylaştırmayı güçlü bir şekilde hissettiğimiz için ayrıldık. Regal’i çalıştırırken sahip olmak istedim.

2020’de Regal’i piyasaya sürdünüz, yani generatif AI patlamasından hemen önce. Ses AI’nin teknik olarak uygulanabilir olup olmadığını nasıl değerlendirdiniz ve erken davranma konusunda size güven verdi neler?

Seslerin en önemli kanal olduğuna uzun süre önce ikna olmuştuk ve 2020’de, maliyetleri düşürmeyi ve sesi bir kanal olarak yönetmeyi kolaylaştırmayı sağlayan orkestrasyon, A/B testi ve kişiselleştirme araçları inşa edebileceğimizi biliyoruz – ister bir insan, eski bir ses botu veya bir şey daha iyi olsun. Bu nedenle, başlangıçta insan ajanlarını daha iyi yönetmek için araçlar sattık. Bu ürün çok hızlı bir şekilde büyüdü.

Ancak, şirket kurmak bir iman atlayışıdır ve gerçekten insan ajanlarının sınırlarının ötesine geçebileceğimizi görmek için zaman aldı. Gerçekten “AI”nin bir konuşmayı sürdürebilecek kadar iyi olduğuna tanık olmadık, ta ki 2022’nin sonlarında ChatGPT’nin piyasaya sürülmesine kadar. Ve ancak 2023’ün sonlarında, bir müşterinin konuşmak istediği bir ses ajanı için bir demo yapabildik.

Doğal konuşmalarda insan performansını eşleştirebilecek veya aşabilecek ses ajanlarını eğitmek için karşılaşılan en zor teknik zorluklar nelerdi?

Çalışılması için harika birçok teknik zorluk var. 500 ms civarında bir gecikme süresini sağlamak, AI ajanlarının şirket bilgi tabanlarından ve müşteri verisinden gerçek zamanlı olarak tüm bağlamı alabilmesini sağlamak, çağrılar sırasında ve sonrasında AI ajanlarının eylemde bulunabilmesini sağlamak, gardiyanlar veya güvenlik özelliklerini sağlamak ve ajan etkileşiminin insan gibi hissetmesini sağlamak için doğru sözlü ipuçlarını sağlamak.

Şu anda ekibimizin üzerinde çalıştığı en sevdiğim projelerden biri, AI Ajanlarının üretim öncesi daha kolay bir şekilde test edilebilmesi için otomatik değerlendirmelerin nasıl geliştirileceğini bulmak. Bu, günümüzde her AI ajanı için yapılan her değişiklik için sürekli olarak gerçekleşen yüzlerce saatlik manuel QA’yı ortadan kaldıracaktır.

İlk olarak, çeşitli simüle müşteri konuşmaları (AI kullanarak) oluşturuyoruz, AI ajanını bu konuşmalardan geçiriyoruz, ardından AI süpervizörün bunları QA yapmasını ve AI Ajanına veya şirketin politikalarına ve bilgi tabanına önerilen geliştirmeleri geri bildirmesini sağlıyoruz. Şu anda çalışır bir değerlendirme ürünümüz var, müşteri geri bildirimi harika ve inanılmaz bir hızla gelişiyor.

Bu, AI ajanı başına yöneticilerin sayısını ölçen yeni bir ölçüt için kritik. Yakında çok az yönetici, yüzlerce farklı AI ajanını yönetebilecek.

Regal, gerçek zamanlı olarak konuşmaları kişiselleştirmek için nasıl makine öğrenimini kullanıyor? Müşteri geçmişine, tona, niyet tanıma veya bunların bir kombinasyonuna dayalı mı?

Piyasaya göre kişiselleştirmeye derin bir şekilde yatırım yaptık, çünkü müşterileri milyonlarca gibi test etmelerine yardımcı olmak için markalara inanıyorum. Sadece bugün kullanılan genel insan ajanının yeniden yaratılmasını değil.

Bir ajan oluştururken, şirketler AI Ajanına herkesin müşteri hakkında bilgi erişimini veya belirli bir konuşma için gerekli olan belirli veri noktalarına erişimini sağlayabilir. LLM, eldeki veriler kullanarak insan gibi, konuşmaya benzer bir yanıt sağlar.

LLM’ler hala ne yaptıkları konusunda sınırlılar, bu nedenle diğer araçlardan yararlanabilmek için “Özel Eylemler”i inşa ettik – bunlar, AI Ajanının.prompt’unda diğer hizmetlerden yararlanmak için kullanılabilir. Örneğin, birçok marka, müşteriye önerilecek sonraki ürünü belirtmek için eğilim modellerine sahiptir ve bunlara konuşmaya uygun bir şekilde bağlanabiliriz.

Sistem, müşterilerin canlı bir aramadan beklediği gibi yanıt hızını veya doğal ritmi feda etmeden, geri alma-augmente edilmiş jenerasyonu (RAG) nasıl kullanıyor?

RAG, bizim için bir farklılaşma alanıdır, çünkü ses AI ajanları için diğer dijital kanallardaki AI ajanlarına göre daha hızlı olması gerekiyordu. Birkaç saniyelik boşluk, aramayı tamamen mahvederdi.

Hem geri alma hızını düşürdük, hem de geri alma daha uzun sürerse, AI Ajanının müşteriye daha uzun süreceğini bildirebilmesi için devam ettirdik.

Regal’in ajanları, gerçek insan seslerini, hatta gerçek yatırımcıların seslerini taklit ediyor. Bu tür yüksek doğruluklu kopyaları oluşturmak için teknik ve etik olarak neler gerekiyor?

Aslında, bir AI Ajanının profesyonel bir ses oyuncusu veya bir arkadaş gibi ses çıkarmasını sağlamak teknik olarak oldukça kolaydır – sadece 5-10 dakika yüksek kaliteli ses kaydı gerekiyor.

Örneğin, yakın zamanda bir aile üyesi ölmek üzereyken, genç neslin daha sonra onlarla deneyim yaşayabilmesi için nasıl bunu yapabileceğimi sordular. Bu nedenle, biraz rehberlikle, şimdi ölen büyük anne veya babalarının sesini kaydedecekler.

İkinci noktanıza gelince, büyük anne veya babanın buna rıza gösteriyor, profesyonel ses oyuncuları veya yatırımcılarımız da rızalarını veriyor. Kötü aktörler, ses klonlamasına izin vermelidir (son başkanlık seçiminde olduğu gibi) ve bunlar kapatılmalıdır.

Bir tavsiye – eğer bir ses klonu (veya klonlanabilecek bir kamu figürüyseniz), sadece ailenizin bildiği güvenli bir kelime oluşturun, böylece bir aramada gerçek olanı tanıyabilelim.

CRMs, ödeme sistemleri ve dahili API’lerle Regal’i entegre etmenin önemini vurguluyorsunuz. Çözmeniz gereken en zor entegrasyon zorlukları nelerdi?

CRMs gibi Salesforce veya NICE gibi Temas Merkezi Yazılımı gibi büyük ürünlerle entegrasyon oldukça basittir. En zor talebimiz, AI Ajanının gerçekleştirebileceği herhangi bir eylem için bize API’lerini sağlamalarıdır. Bir insan ajanı, bir otel odasını rezerve etmek için bir düğmeye tıklayabilir. Ancak AI Ajanı, gerçekten bir rezervasyon API’sine ihtiyaç duyar.

Model performansını zaman içinde ölçme ve iyileştirme yaklaşımınız nedir? Denetimli fine-tuning veya pekiştirme öğrenimi bu süreçte hangi rolü oynar?

Başlangıçtan itibaren bir A/B test paketi inşa ettik, bu nedenle müşterilerin AI ajanlarıyla insan ajanlarını veya LLM sürüm 1 ile sürüm 2 arasındaki ajanı test etmesi oldukça basittir. Bu, farklı modeller için sonuçlardaki varyasyonları net bir şekilde görmemizi sağlar.

Ancak, günümüzde pekiştirme öğrenimini kullanmıyoruz, çünkü hukuk ekiplerini rahatsız ediyor (istemeden bir değişikliğin olabileceği bir durum istemiyorlar). Düşünüyorum ki, hukuk ekiplerinin pekiştirme öğrenimini bizim kullanım durumumuzda izin vermesi 13 ay uzakta.

Bugün, insan yöneticilerinin kabul edeceği değişiklikleri önermeye odaklanıyoruz. Bunlar, bir.prompt’a, bilgi tabanına, LLM’yi ince ayarlamaya vb. ilişkin olabilir.

VC veya bir VC’nin ses klonu ile konuşmak cesur bir kavram. Kuruculara AI danışmanları sunma amacınız nedir ve bunlar günümüzde nasıl kullanılıyor?

Harika yatırımcılara erişimi olan şanslıyız ve bu projeye katkıda bulunmak istedik. Ben, her zaman Satya AI ile konuşmayı severim ve bu projenin gücünü vurguladığını düşünüyorum – özellikle RAG/knowledge base yeteneklerimizi.

Ayrıca, iki yatırımcımızın ebeveynleri de onayladı! Ancak, bir söz vermeliyim – karar verme yetkisini danışmanlara devredemezsiniz ve bir yöneticinin daha zorlu kısımlarından biri, iki kötü seçenek veya iki iyi seçenek arasında karar vermektir.

Bu yatırımcı ajanları, genel startup bilgisine dayanır mı, yoksa bireysel VC’lerin firma özgü tavsiyelerine ve felsefelerine bağlı olarak eğitilirler mi?

Tüm AI ajanları, LLM eğitimi yoluyla bazı genel bilgileri sahiptir. Ancak必要 sonuçları elde etmek için, yatırımcıların bolca yazılarını ilgili AI Ajanı Bilgi Tabanlarına yükledik.

Ayrıca, ses klonlamasının ötesinde, yatırımcıların benzersiz kişiliklerini veya özünü – örneğin Jake Saper’in pozitifliğini veya Alexa Von Tobel’in coşkunluğunu – yakalayabildiğimize inanıyorum.

İleriye bakıldığında, Regal’in AI’nin nasıl evrileceğini görüyorsunuz – daha özerk karar verme, daha fazla duygusal zeka veya hatta çok modlu destek görecek miyiz?

Son yılın en heyecan verici kısmı, AI ajanlarımızın insan ajanlarından daha iyi performans göstermesini görmek oldu. Düşünüyorum ki, bir sonraki yıl içinde, temel AI modellerindeki gelişmeler ve Regal’in uygulamasındaki ilerlemeler, insanlardan ayırt edilemeyecek ve daha da önemlisi, insan ajanlarının yeteneklerini aşan AI Ajanlarına yol açacak.

Şirketler, AI Ajanlarına odaklanırlarsa, maliyetlerini düşürecekler ve müşteri deneyimini beklenenden daha hızlı bir şekilde geliştirecekler.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Regal sitesini ziyaret edebilirler.