Alex Levin, współzałożyciel i CEO Regal – seria wywiadów

Alex Levin jest współzałożycielem i CEO Regal, platformy głosowej AI, która pomaga przedsiębiorstwom generować przychody za pomocą zgodnych z przepisami, napędzanych przez AI rozmów z klientami. Przed założeniem Regal w 2020 roku, kierował zespołami odpowiedzialnymi za wzrost i produkty w firmach Handy, Thomson Reuters (TRI ) i innych startupach. Absolwent Harvardu i członek Forbes Technology Council, Alex skupia się na budowaniu skalowalnej, głosowej infrastruktury, która łączy innowacje z przedsiębiorczymi barierami ochronnymi.

Regal zapewnia agentów głosowych AI dla sprzedaży, wsparcia, planowania i windykacji – zaprojektowanych, aby brzmieć naturalnie, integrować się z systemami CRM i obsługiwać miliony rozmów na dużą skalę. Platforma posiada budowniczy bez kodu, analitykę w czasie rzeczywistym, testy A/B i wbudowaną zgodność z przepisami dla branż regulowanych, takich jak opieka zdrowotna, ubezpieczenia i usługi finansowe.

Czym skłoniło Cię do odejścia z ról kierowniczych w Angi i Handy, aby założyć Regal, i czy był jakiś konkretny moment, kiedy Ty i Twój współzałożyciel zdali sobie sprawę, że doświadczenie contact center musi zostać całkowicie przebudowane?

Podczas pracy w Angi/Handy zobaczyliśmy potęgę głosu w budowaniu zaufania z klientami. Klienci powiedzieli nam, że gdy mieli ważną sprawę, chcieli dzwonić, a klienci, którym służyliśmy przez telefon, mieli wyższą wartość przez całe życie i gdy dzwonili do klientów, odpowiadali z znacznie wyższym odsetkiem niż na jakimkolwiek innym kanale. Jednak dostawcy oprogramowania dla contact center koncentrowali się na “odchyleniu” i “automatyzacji” zamiast na tym, co było dobre dla klientów. Wynikiem była niekończąca się gra w ukrywanie numeru telefonu, która niepotrzebnie karała klientów.

Mój współzałożyciel i ja odeszliśmy, ponieważ głęboko wierzyliśmy, że możemy uczynić głos najbardziej skutecznym kanałem, obniżając koszty i ułatwiając obsługę. Żałuję, że nie miałem Regal, gdy zarządzałem dużym centrum kontaktowym.

Uruchomiłeś Regal w 2020 roku, tuż przed boomem generatywnej AI. Jak oceniałeś, czy AI głosowy jest technicznie wykonalny – i co dało Ci przekonanie, aby działać wcześnie?

Byliśmy przekonani już dawno przed 2020 rokiem, że głos jest najważniejszym kanałem. A w 2020 roku wiedzieliśmy, że możemy zbudować narzędzia do orkiestracji, testów A/B i personalizacji, które obniżą koszty i uprością zarządzanie głosem jako kanałem – niezależnie od tego, czy był to człowiek, stary głosowy bot, czy coś lepszego. Więc sprzedawaliśmy narzędzia dla centrów kontaktowych, aby lepiej zarządzać agentami ludzkimi na początku. Ten produkt rosł bardzo szybko.

Ale jak powiedziałeś, założenie firmy to skok wiary, i zajęło to czas, zanim naprawdę zobaczyliśmy, jak możemy wyjść poza ograniczenia agentów ludzkich. Nie było to możliwe, dopóki nie zobaczyliśmy “AI”, które było wystarczająco dobre, aby prowadzić rozmowę. I nie było to możliwe, dopóki nie mogliśmy stworzyć demonstracji agenta głosowego, z którym klient chciałby rozmawiać.

Jakie były najtrudniejsze wyzwania techniczne w szkoleniu agentów głosowych, które mogłyby dorównać lub przewyższyć ludzkie wyniki w naturalnych rozmowach?

Istnieje wiele wspaniałych wyzwań technicznych do rozwiązania. Od zapewnienia opóźnienia na poziomie 500 ms, po ustalenie, jak upewnić się, że agenci AI mają wszystkie informacje z bazy wiedzy firmy i danych klienta w czasie rzeczywistym, po podejmowanie działań w rozmowach i po nich, po strażników lub funkcje bezpieczeństwa, a także jak sprawić, by interakcja agenta wydawała się ludzka z wymianą i odpowiednimi wskazówkami werbalnymi.

Jeden z moich ulubionych projektów, nad którym pracuje nasz zespół, to jak poprawić automatyczne oceny, aby agent AI mógł być łatwiej testowany przed wdrożeniem do produkcji. To wyeliminuje setki godzin ręcznego QA, które występują obecnie przy każdej zmianie każdego agenta AI.

Musimy najpierw utworzyć setki zróżnicowanych symulowanych rozmów z klientami (korzystając z AI), następnie agent AI przechodzi przez nie, a następnie agent AI nadzorujący ocenia je i zwraca sugestie poprawy agenta AI lub polityk i bazy wiedzy firmy. Mamy już działający produkt oceny, a opinie klientów są bardzo dobre i stale się poprawiają.

To jest kluczowe dla nowego wskaźnika liczby menedżerów na agenta AI. Wkrótce bardzo niewielu menedżerów będzie w stanie zarządzać setkami różnych agentów AI.

Jak Regal wykorzystuje uczenie maszynowe, aby personalizować rozmowy w czasie rzeczywistym? Czy opiera się to na historii klienta, rozpoznawaniu intencji, czy kombinacji?

Zainwestowaliśmy głęboko w personalizację w porównaniu z resztą rynku, ponieważ wierzymy w pomaganie markom testować miliony klientów jak jeden na milion. Nie tylko odtwarzamy ogólny agent ludzki, który jest używany dzisiaj.

Zaczęliśmy od budowy zjednoczonego profilu klienta, który łączy każdy element danych CRM, danych zdarzeń i historii rozmów. Budując agenta, firmy mogą następnie udzielić agentowi AI dostępu do wszystkich informacji o kliencie lub tylko do konkretnych punktów danych niezbędnych do określonej rozmowy. LLM zapewnia ludzką, konwersacyjną odpowiedź przy użyciu dostępnych danych.

LLM są nadal ograniczone w tym, co robią dobrze, więc potrzebowaliśmy możliwości wykorzystania innych narzędzi, takich jak usługi danych zewnętrznych, aplikacje niestandardowe i ML. Więc zbudowaliśmy “Działania niestandardowe”, które mogą być używane w wyzwalaczu agenta AI, aby skorzystać z innych usług. Na przykład wiele marek ma modele skłonności, które wskazują, jaki produkt sugerować klientowi jako następny, i możemy podłączyć się do nich, dopasowując je do rozmowy.

Jak Wasz system wykorzystuje retrieval-augmented generation (RAG) bez poświęcania responsywności lub naturalnego rytmu, który klienci oczekują od rozmowy na żywo?

RAG to obszar różnicowania dla nas, ponieważ musiało być szybsze dla agentów głosowych AI niż dla agentów AI w czacie lub innych kanałach cyfrowych. Kilka sekund martwego powietrza całkowicie zniszczyłoby rozmowę.

Obniżyliśmy opóźnienie odzyskiwania i upewniliśmy się, że jeśli odzyskiwanie zajęłooby dłużej, agent AI mógłby nadal rozmawiać z klientem, aby powiedzieć, że zajmie to dłużej.

Agenci Regal są modelowani na podstawie prawdziwych głosów ludzkich, w tym głosów rzeczywistych inwestorów. Co jest wymagane – technicznie i etycznie – aby zbudować takie wysokiej jakości repliki?

Jest to zaskakująco łatwe technicznie “klonowanie” głosu, aby agent AI mógł brzmieć jak profesjonalny aktor głosowy lub przyjaciel. 5-10 minut wysokiej jakości audio to wszystko, czego potrzeba.

Na przykład niedawno zostałem poproszony, jak to zrobić dla umierającego członka rodziny, aby młodsze pokolenie mogło doświadczyć go, gdy będą starsi. Więc z pewnymi wskazówkami, będą teraz nagrywać głos umierającego dziadka.

Co do Twojego drugiego punktu, dziadek wyraził zgodę na to, a profesjonalni artyści głosowi lub nasi inwestorzy wyrazili zgodę na to. Źli aktorzy, którzy pozwalają na klonowanie głosu bez zgody (jak to miało miejsce w ostatnich wyborach prezydenckich), powinni zostać zamknięci.

Rada – jeśli pozwolisz na klonowanie głosu (lub jesteś osobą publiczną, która może zostać sklonowana przez złych aktorów), upewnij się, że masz bezpieczne słowo, które zna tylko Twoja rodzina, aby mogli Cię zidentyfikować w rozmowie.

Jak podchodzicie do pomiaru i poprawy wydajności modelu w czasie? Jaka rola odgrywa nadzorowane dostrajanie lub uczenie wzmocnione w tym procesie?

Zbudowaliśmy pakiet testów A/B od samego początku, więc jest to trywialne dla klientów, aby przetestować agenci AI w porównaniu z agentami ludzkimi lub agentem z wersją LLM 1 w porównaniu z wersją 2. To daje nam jasny sposób, aby zobaczyć zmiany w wynikach dla różnych modeli.

Jednak nie używamy uczenia wzmocnionego obecnie, ponieważ sprawia, że zespoły prawne czują się niekomfortowo (nie chcą sytuacji, w której może dojść do niezamierzonej zmiany). Myślę, że jesteśmy 13 miesięcy od momentu, gdy zespoły prawne pozwolą na uczenie wzmocnione w naszym przypadku. Zamiast tego koncentrujemy się obecnie na sugerowaniu zmian, które może zaakceptować menedżer ludzki. Mogą to być zmiany w wyzwalaczu, wiedzy, dostrajaniu LLM itp.

Mówienie z VC – lub klonem głosowym – to śmiałe pojęcie. Jaki był Twój zamiar, udostępniając te doradców AI założycielom, i jak są one używane dzisiaj?

Mieliśmy szczęście mieć dostęp do wspaniałych inwestorów i chcieliśmy odwdzięczyć się za ten projekt. Lubię rozmawiać z Satya AI w każdej chwili, i słyszałem bardzo dobre opinie od dyrektorów, którzy używali AI VC do wszystkiego, od rad, jak stworzyć mapę produktu, po to, jaki model cenowy użyć.

Kochamy pokazywać zamiast mówić, a ten projekt naprawdę podkreśla potęgę naszych możliwości RAG/bazy wiedzy. Mieliśmy nawet dwóch inwestorów, którzy dali nam kciuki w górę!

Ale słowo ostrzeżenia – nie możesz delegować podejmowania decyzji doradcom, a jednym z trudniejszych aspektów bycia dyrektorem wykonawczym jest podejmowanie decyzji między dwiema złymi opcjami lub nawet dwiema zbyt dobrymi opcjami.

Czy agenci inwestorów opierają się na ogólnej wiedzy o startupach, czy są szkoleni na firmowych radach i filozofiach związanych z indywidualnym VC?

Wszystkie agenci AI mają pewną wiedzę ogólną z treningu LLM. Ale aby uzyskać potrzebne wyniki, przesłaliśmy pisma inwestorów do odpowiednich baz wiedzy agenta AI.

Ponadto i poza klonowaniem głosów, myślę, że udało nam się uchwycić niektóre unikalne osobowości inwestorów lub ich esencję, takich jak pozytywność Jake’a Saper lub entuzjazm Alexa Von Tobel.

Spójrzając w przyszłość, jak widzisz ewolucję AI Regal – czy zobaczymy więcej autonomicznego podejmowania decyzji, więcej inteligencji emocjonalnej, czy nawet wielomodalne wsparcie?

Najbardziej ekscytującą częścią ostatniego roku było obserwowanie, jak nasi agenci AI wykonują lepiej niż agenci ludzcy. Myślę, że w ciągu najbliższego roku ulepszenia w podstawowych modelach AI i postępy w aplikacji Regal spowodują, że agenci AI będą nie do odróżnienia od ludzi, a co więcej, znacznie przewyższą możliwości agentów ludzkich. Firmy, które skręcą w kierunku agentów AI, obniżą koszty i poprawią doświadczenie klienta szybciej, niż ktokolwiek przewidywał.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Regal.