Alex Levin, Regal’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Alex Levin, Regal’in kurucu ortaklarından ve CEO’sudur. Regal, girişimlerin gelirlerini artırmasına yardımcı olan, uyumlu ve AI güçlendirilmiş müşteri konuşmalarına sahip bir ses AI platformudur. Regal’i 2020 yılında kurmadan önce, Handy, Thomson Reuters (TRI ) ve diğer startup’larda büyüme ve ürün ekiplerini yönetti. Harvard mezunlarından ve Forbes Teknoloji Konseyi üyesi olan Alex, yenilikçi ve şirket içi güvenlik önlemlerini birleştiren, ölçeklenebilir, ses öncelikli altyapılar oluşturmaya odaklanıyor.

Regal, satış, destek, randevu alma ve tahsilat için tasarlanmış, doğal seslere sahip AI ses ajanları sağlar. Platform, bir kod oluşturucu, gerçek zamanlı analizler, A/B testleri ve düzenlenmiş endüstriler için entegre uyumluluk özellikleri sunar.

Sizi Angi ve Handy’deki liderlik rollerinden Regal’i kurmaya iten şey neydi ve contact center deneyimini tamamen yeniden inşa etme kararı aldığınız bir an oldu mu?

Angi/Handy’de çalışırken, müşterilerle güven oluşturmak için sesin gücünü gördük. Müşteriler, önemli bir sorunları olduğunda aramak istediklerini, telefonla hizmet verdiğimiz müşterilerin yaşam boyu değerinin daha yüksek olduğunu ve müşterileri aradığımızda diğer kanallardan daha yüksek bir oranda cevap aldıklarını söylediler. Ancak, contact center yazılım satıcıları, müşteriler için doğru olanın ötesinde “deflection” ve “otomasyon” üzerinde odaklanıyordu. Sonuç, müşterileri cezalandıran bir telefon numarasını gizleme oyunu oldu.

Ben ve kurucu ortaklarım, sesin en etkili kanal olmasını sağlamak için maliyetleri düşürmek ve operasyonu kolaylaştırmak istedik. Regal’i kurarken, büyük bir contact merkezi yönetiyorken Regal’i kullanmış olsaydım keşke diyorum.

2020’de Regal’i kurduktan sonra, generatif AI patlamasından önce ses AI’nin teknik olarak uygulanabilir olup olmadığını nasıl değerlendirdiniz ve erkenden harekete geçme kararı aldınız?

2020’den önce sesin en önemli kanal olduğuna ikna olmuştuk. Ve 2020’de, maliyetleri düşürmek ve sesi bir kanal olarak yönetmeyi kolaylaştırmak için orkestrasyon, A/B testleri ve kişiselleştirme araçları oluşturabileceğimizi biliyorduk. Bu nedenle, contact center’lar için insan ajanlarını daha iyi yönetmelerine yardımcı olacak araçlar sattık. Bu ürün çok hızlı bir şekilde büyüdü.

Ancak, sizin işaret ettiğiniz gibi, bir şirket kurmak bir iman atlayışıdır ve gerçekten insan ajanlarının sınırlarının ötesine geçebileceğimizi görmek zaman aldı. 2022’nin sonlarında ChatGPT’nin lançmanına kadar, gerçekten sohbet edebilecek bir “AI” görmeye başlamadık. Ve 2023’ün sonuna kadar, müşterilerin konuşmak isteyeceği bir ses ajanı için bir demo oluşturabildik.

Doğal konuşmalarda insan performansı ile eşdeğer veya onu aşan ses ajanları eğitmek için karşılaştığınız en zor teknik zorluklar nelerdi?

Çalışabileceğimiz çok güzel teknik zorluklar var. 500 ms civarında bir gecikme süresini sağlamak, AI ajanlarının şirket bilgi tabanlarından ve müşteri verisinden gerçek zamanlı olarak bağlam elde edebilmesi, çağrılar sırasında ve sonrasında eylemler gerçekleştirebilmeleri, güvenlik özelliklerine sahip olmaları ve insanlarla sohbet ederken doğru sözel ipuçlarını verebilmeleri gibi.

Şu anda ekibimizin üzerinde çalıştığı favori projelerimden biri, AI Ajanlarının daha kolay test edilebilmesi için otomatik değerlendirme nasıl geliştirilebilir. Bu, günümüzde her AI ajanı değişikliği için yapılan yüzlerce saatlik manuel QA’yı ortadan kaldıracaktır.

Bunun için, önce yüzlerce çeşitlendirilmiş simüle müşteri konuşmaları (AI kullanarak) oluşturuyoruz, ardından AI ajanı bunları gerçekleştiriyor, daha sonra AI süpervizörleri onları değerlendiriyor ve AI Ajanına veya şirketin politikalarına ve bilgi tabanına önerilen iyileştirmeleri geri bildiriyor. Çalışan bir değerlendirme ürünümüz var, müşteri geri bildirimi harika ve sürekli olarak iyileştiriyoruz.

Bu, AI ajanı başına yöneticilerin sayısını ölçen yeni bir metriğin geliştirilmesi için kritik. Yakında, çok az yönetici yüzlerce farklı AI ajanını yönetebilecek.

Regal, sohbetleri gerçek zamanlı olarak kişiselleştirmek için makine öğrenimini nasıl kullanıyor? Müşteri geçmişi, ton, niyet tanıma veya bunların bir bileşimi üzerinden mi?

Pazarın geri kalanına kıyasla kişiselleştirme üzerinde derinlemesine yatırım yaptık, çünkü markaların milyonlarca müşteriyi tek bir müşteri gibi test etmesine yardımcı olmak istiyoruz. Bugün kullanılan genel insan ajanı işlemlerini yeniden yaratmak istemiyoruz.

Bir müşteri profili oluşturarak başladık, bu profil CRM verilerini, olay verilerini ve konuşma geçmişini birleştiriyor. Bir ajan oluştururken, şirketler AI Ajanına bir müşteriyle ilgili tüm bilgileri veya belirli bir konuşma için gerekli belirli veri noktalarını sağlayabilir. LLM, eldeki veriler kullanarak insan benzeri, konuşmaya dayalı bir yanıt sağlar.

LLM’ler hala iyi yapabilecekleri şeylerle sınırlı, bu nedenle diğer araçlardan yararlanmak için “Özel Eylemler”i oluşturmamız necessário oldu. Örneğin, birçok marka, bir müşteriye önerilecek sonraki ürünü gösteren eğilim modellerine sahiptir ve bu modelleri konuşmaya uyarlabiliriz.

Sistem, müşterilerin canlı bir aramadan beklediği doğal ritmi ve yanıtları bozmadan, retrieval-augmented generation (RAG) nasıl kullanıyor?

RAG, bizim için bir farklılaşma alanı, çünkü ses AI ajanları için diğer dijital kanallardaki AI ajanlarına kıyasla daha hızlı olması gerekiyordu. Birkaç saniyelik boşluk, aramayı tamamen mahvederdi.

Hem alımı hızlandırdık, hem de almanın daha uzun sürmesi durumunda, AI Ajanının müşteriye bunu bildirebilecek şekilde konuşmaya devam etmesini sağladık.

Regal’in ajanları, gerçek insan seslerine, hatta yatırımcıların seslerine benzer şekilde modellenmiştir. Böyle yüksek doğrulukta kopyalar oluşturmak için teknik ve etik olarak neler gerekir?

Teknik olarak, bir AI Ajanının profesyonel bir ses sanatçısı veya bir arkadaş gibi ses çıkarmasını sağlamak şaşırılacak kadar kolay. Sadece 5-10 dakika yüksek kaliteli ses kaydı gerekiyor.

Örneğin, yakın zamanda, bir aile üyesi için bunu nasıl yapabileceğimi sordular, böylece daha genç nesiller, büyüklerini daha sonra deneyimleyebilecek. Biraz rehberlik ile, büyüklerini şimdi kaydetmeye başlayacaklar.

İkincil olarak, büyükleri bu konuda rıza gösteriyor ve profesyonel ses sanatçıları veya yatırımcılarımız da rıza gösteriyor. Kötü aktörler, rızası olmadan ses klonlamasına izin verenler (son başkanlık seçimlerinde olduğu gibi) kapatılmalıdır.

Bir tavsiye – eğer bir ses klonuna (veya kamu figürüyseniz ve kötü aktörler tarafından klonlanabilirsiniz) izin veriyorsanız, sadece ailenizin bildiği bir güvenli kelime oluşturun, böylece gerçek siz olduğunuzu bir aramada tanımlayabilirsiniz.

Regal’i CRM’lerle, ödeme sistemleriyle ve iç API’lerle entegre etmenin en zorlu zorlukları nelerdi?

Örneğin Salesforce (CRM ) ve NICE gibi büyük CRM ve Contact Center yazılımları ile entegrasyon oldukça basittir. En zorlu talep, markaların AI Ajanının gerçekleştirebileceği eylemler için API’lerini bizim için kullanılabilir kılmasını sağlamaktır. Bir insan ajanı, bir otel odası ayırmak için bir düğmeye tıklayabilir, ancak AI Ajanı gerçekten bir rezervasyon API’sine ihtiyaç duyar.

Model performansını zaman içinde ölçme ve iyileştirme yaklaşımınız nedir? Denetimli fine-tuning veya takviye öğrenimi bu süreçte nasıl bir rol oynar?

İlk günden itibaren bir A/B test paketi oluşturduk, böylece müşterilerin AI ajanlarını insan ajanlarıyla veya LLM sürüm 1 ile sürüm 2 arasında karşılaştırması oldukça basittir. Bu, farklı modeller için sonuçlardaki varyasyonları net bir şekilde görmemizi sağlar.

Ancak, günümüzde takviye öğrenimini kullanmıyoruz, çünkü hukuk ekiplerini rahatsız ediyor (kasıtsız bir koku değişikliği olmasını istemiyorlar). Sanırım, hukuk ekiplerinin takviye öğrenimini bizim kullanım durumumuzda izin vermesi 13 ay uzakta. Bunun yerine, bugün, insan yöneticilerin kabul edebileceği değişiklikler önermeye odaklanıyoruz. Bunlar, bir promot, bir bilgi tabanı, LLM’nin fine-tuning’i gibi konularda olabilir.

Bir VC veya bir VC’nin ses klonuna konuşmak cesur bir kavram. AI danışmanlarını kuruculara sunma amacınız nedir ve günümüzde nasıl kullanılıyorlar?

Harika yatırımcılara erişebildiğimiz için şanslıyız ve bu projeyi onlara geri ödemek istedik. Satya AI ile konuşmak eğlenceli ve AI VC’leri ürün yol haritası nasıl oluşturulur veya hangi fiyatlandırma modeli kullanılır gibi konularda everything için kullanan yöneticilerden harika geri bildirimler aldık.

Bu proje, gerçekten RAG ve bilgi tabanı yeteneklerimizin gücünü vurguluyor. Hatta iki yatırımcımızın ebeveynleri de onayladı!

Ancak, bir uyarı: karar verme yetinizi danışmanlara devredemezsiniz ve bir yöneticinin daha zorlu kısımlarından biri, iki kötü seçeneği veya iki iyi seçeneği arasında karar vermektir.

Bu yatırımcı ajanları, genel startup bilgisi üzerine mi yoksa bireysel VC’nin firma spesifik tavsiyeleri ve felsefelerine dayalı olarak mı eğitiliyor?

Tüm AI ajanları, LLM eğitimi yoluyla bazı genel bilgiler elde eder. Ancak必要 sonuçları elde etmek için, yatırımcıların çok sayıda yazılarını ilgili AI Ajanı Bilgi Tabanlarına yükledik.

Bunun ötesinde ve ses klonlamasıyla birlikte, yatırımcıların bazı benzersiz kişiliklerini veya özünü, örneğin Jake Saper’in pozitifliğini veya Alexa Von Tobel’in coşkunluğunu yakalamayı başardığımızı düşünüyorum.

Regal’in AI’nin gelecekte nasıl evrileceğini öngörüyorsunuz – daha otonom karar verme, daha fazla duygusal zeka veya hatta çoklu modal destek görecek miyiz?

Geçen yılın en heyecan verici kısmı, AI ajanlarımızın insan ajanlarından daha iyi performans göstermesini görmek oldu. Sanırım, bir sonraki yıl, temel AI modellerindeki gelişmeler ve Regal’in uygulamasındaki ilerlemeler, insanlardan ayırt edilemeyen ve daha da önemlisi, insan ajanlarının yeteneklerini aşan AI Ajanlarına yol açacak. AI Ajanlarına odaklanan şirketler, maliyetlerini düşürerek müşteri deneyimini beklenenden daha hızlı bir şekilde iyileştirecek.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Regal ziyaret edebilir.