Alex Levin, medgrunnlegger og CEO av Regal – Intervju-serie

Alex Levin er medgrunnlegger og CEO av Regal, en tale-AI-plattform som hjelper bedrifter å drive inntekter gjennom kompatible, AI-drevne kundesamtaler. Før han grunnla Regal i 2020, ledet han vekst- og produktteam i Handy, Thomson Reuters (TRI ) og andre startups. En Harvard-utdannet og medlem av Forbes Technology Council, fokuserer Alex på å bygge skalerbare, tale-først-infrastruktur som kombinerer innovasjon med bedriftsgraderte sikkerhetsskap.

Regal tilbyr AI-voice-agenter for salg, support, planlegging og innkrevning – designet for å høres naturlig ut, integrere med CRM-systemer og håndtere millioner av samtaler i skala. Plattformen har en kodefri bygger, sanntidsanalyser, A/B-testing og innebygd overholdelse for regulerte industrier som helse, forsikring og finansielle tjenester.

Hva inspirerte deg til å gå fra lederroller i Angi og Handy til å grunnlegge Regal, og var det et bestemt øyeblikk da du og din medgrunnlegger innsett at kontakt-senter-erfaringen måtte bygges om fra bunnen av?

Mens jeg var i Angi/Handy, så vi kraften av tale for å bygge tillit med kunder. Kunder fortalte oss at når de hadde et viktig problem, ønsket de å ringe, og kunder vi betjente over telefonen hadde en høyere livstid-verdi og når vi ringte kunder, svarte de i en mye høyere rate enn noen annen kanal. Likevel var kontakt-senter-programvare-leverandører fokusert på “avledning” og “automatisering” over hva som var riktig for kundene. Resultatet var en evig kamp for å skjule telefonnummeret som unødig straffet kundene.

Min medgrunnlegger og jeg forlot because vi sterkt trodde at vi kunne gjøre tale til den mest effektive kanalen ved å senke kostnadene og gjøre det enklere å operere. Jeg ønsker jeg hadde hatt Regal mens jeg drev et stort kontakt-senter.

Du lanserte Regal i 2020, like før den generative AI-boomen. Hvordan evaluerte du om tale-AI var teknisk gjennomførbart – og hva ga deg overbevisningen om å handle tidlig?

Vi var overbevist lenge før 2020 om at tale var den viktigste kanalen. Og i 2020 visste vi at vi kunne bygge orkestrering, A/B-testing og personalisering-verktøy som ville senke kostnadene og forenkle håndtering av tale som en kanal – enten det var en menneskelig, en gammel skole-voice-bot eller noe bedre på toppen av sfæren. Så vi solgte verktøy for kontakt-sentre for å bedre håndtere menneskelige agenter fra starten. Den produkten vokste svært raskt.

Men til ditt poeng, å starte et selskap er et sprang av tro, og det tok tid å virkelig se hvordan vi kunne gå beyond begrensningene til menneskelige agenter. Det var ikke før lanseringen av ChatGPT mot slutten av 2022 at vi virkelig så “AI” som var godt nok til å holde en samtale. Og det var ikke før slutten av 2023 at vi var i stand til å lage en demo for en voice-agent som vi trodde en kunde ville ønske å snakke med.

Hva var noen av de mest vanskelige tekniske utfordringene i å trene voice-agenter som kunne matche eller overgå menneskelig ytelse i naturlige samtaler?

Det er så mange flotte tekniske utfordringer å jobbe med. Fra å sikre at forsinkelsen er rundt 500ms, til å finne ut hvordan man kan sikre at AI-agenter har all kontekst av selskapets kunnskapsbasert og kundedata i sanntid, til å få AI-agenter til å ta handlinger i samtaler og etter, til å ha AI-agenter som kan føle seg menneskelige med vendinger og riktige verbale signaler.

En av mine favoritt-prosjekter vårt team jobber med i dag er hvordan vi kan forbedre automatiserte evalueringer så en AI-agent kan testes mer lett før den settes i produksjon. Dette ville kutte ut hundrevis av timer med manuell QA som skjer konstant i dag for hver endring til hver AI-agent.

Vi må først lage hundrevis av varierende simuleringskundesamtaler (ved hjelp av AI), de har AI-agenten gå gjennom dem, så har AI-sjefen QA dem og returnere foreslåtte forbedringer til AI-agenten eller selskapets politikker og kunnskapsbase. Vi har et fungerende evalueringprodukt nå, kunde-tilbakemeldingen har vært flott, og det blir bedre i en fantastisk takt.

Dette er kritisk for den nye målingen av antall ledere per AI-agent. Snart vil svært få ledere være i stand til å håndtere hundrevis av forskjellige AI-agenter.

Hvordan utnytter Regal maskinlæring til å personalisere samtaler i sanntid? Er det basert på kunde-historikk, tone, hensiktsgjenkjenning – eller en kombinasjon?

Vi har investert dypt i personalisering sammenlignet med resten av markedet fordi vi tror på å hjelpe merker å teste millioner av kunder som en i en million. Ikke bare å gjenskape den generiske menneskelige agent-håndtering som ofte brukes i dag.

Vi startet med å bygge en samlet kunde-profil som kobler hver del av CRM-data, hendelsesdata og samtale-historikk. Ved å bygge en agent, kan selskaper gi AI-agenten tilgang til alle om en kunde eller bare de spesifikke datapunktene som er nødvendige for en bestemt samtale. LLM gir en menneske-lignende, samtale-svar ved hjelp av data på hånden.

LLM-er er fortsatt begrensede i hva de gjør bra, så vi trenger evnen til å utnytte andre verktøy som tredjeparts-data-tjenester, tilpassede applikasjoner og ML. Så vi bygde “Tilpassede handlinger” som kan brukes i en AI-agent-prompt til å dra nytte av andre tjenester. For eksempel har mange merker propens-modeller for å indikere hva produkt å foreslå til kunden neste og vi kan koble til disse som passer samtalen.

Hvordan bruker ditt system retrieval-augmented generation (RAG) uten å ofre responsiviteten eller den naturlige kaden som kunder forventer fra en direkte samtale?

RAG er et område av differensiering for oss som trengte å være raskere for voice-AI-agenter enn for AI-agenter i chat eller andre digitale kanaler. Et par sekunder med dødt luft ville fullstendig ødelegge samtalen.

Vi både reduserte forsinkelsen av retrieval, og sikret at hvis retrieval tok lengre tid, kunne AI-agenten fortsette å snakke med kunden for å la dem vite at det ville ta lengre tid.

Regals agenter er modellert etter virkelige menneskestemmer, inkludert de til faktiske investorer. Hva kreves det – teknisk og etisk – for å bygge slike høy-fidelitets-replikas?

Det er overraskende lett teknisk å “klone” en stemme så en AI-agent kan høres ut som en profesjonell stemme-skuespiller eller en venn. 5-10 minutter med høykvalitets-lyd er alt det trengs.

For eksempel ble jeg nylig spurt hvordan jeg kunne gjøre dette for en døende familiemedlem så den yngre generasjonen kunne oppleve dem når de er eldre. Så med litt veiledning, skal de nå opptre den døende bestefaren.

Til ditt andre poeng, har bestefaren gitt samtykke til dette, og profesjonelle stemme-skuespillere eller våre investorer har gitt samtykke til dette. Dårlige aktører som tillater stemme-kloning uten samtykke (som skjedde under den siste president-valgkampen) bør stenges.

En råd – hvis du tillater en stemme-kloning (eller du er en offentlig person som kan bli klonet av dårlige aktører), sikre deg at du kommer opp med et trygt ord som bare din familie kjenner, så de kan identifisere den ekte deg i en samtale.

Du fremhever viktigheten av å integrere Regal i CRM-systemer, betalingssystemer og interne API-er. Hva var noen av de tøffeste integrerings-utfordringene du måtte løse?

Å integrere med store produkter fra CRM-systemer som Salesforce (CRM ) til kontakt-senter-programvare som NICE er rett frem. Det hardeste er å sikre at merket gjør API-er tilgjengelige for oss for enhver handling AI-agenten må utføre. En menneskelig agent kan klikke på en knapp for å bestille et hotell-rom. Men AI-agenten trenger virkelig en bestillings-API.

Hvordan nærmer du deg måling og forbedring av modell-ytelse over tid? Hva rolle spiller overvåket fin-justering eller forsterkingslæring i denne prosessen?

Vi bygde en A/B-test-suit fra starten, så det er trivialt for kunder å teste AI-agenter mot menneskelige agenter eller agenten med LLM-versjon 1 mot versjon 2. Dette gir oss en tydelig måte å se variasjoner i resultat for forskjellige modeller.

Likevel bruker vi ikke forsterkingslæring i dag, da det gjør at juridiske team blir ubekvem. De ønsker ikke en situasjon der det skjer en endring i lukten som er uønsket. Jeg tror vi er 13 måneder unna at juridiske team tillater forsterkingslæring i vår brukssak. I stedet fokuserer vi i dag på å foreslå endringer som en menneskelig leder kan akseptere. Disse kan være til en prompt, en kunnskapsbase, fin-justering av en LLM, osv.

Å snakke med en VC – eller en stemme-kloning av en – er et dristig konsept. Hva var din intensjon med å gjøre disse AI-rådgiverne tilgjengelige for gründere, og hvordan brukes de i dag?

Vi har vært heldige å ha tilgang til flotte investorer og ønsket å gi noe tilbake med dette prosjektet. Jeg har moro med å snakke med Satya AI når som helst, og jeg har hørt flotte tilbakemeldinger fra ledere som har brukt AI-VC-er for alt fra råd om hvordan å lage en produkt-veikart til hva prismodell å bruke.

Vi elsker å vise i stedet for å fortelle, og dette prosjektet fremhever virkelig kraften av våre RAG/kunnskapsbase-egenskaper. Vi fikk sogar to av våre investorer sine foreldre som ga oss tommel opp!

Men et ord til den vise – du kan ikke delegere beslutning til rådgivere, og en av de hardeste delene av å være en leder er å velge mellom to dårlige alternativer eller selv to godt synlige alternativer.

Avhenger disse investor-agenter av generell startup-kunnskap eller er de trenet på firma-spesifikke råd og filosofier knyttet til den enkelte VC?

Alle AI-agenter har noen generell kunnskap fra LLM-treningen. Men for å få resultater, lastet vi opp investorernes omfattende skrifter inn i de respektive AI-Agent-kunnskapsbasene.

Ut over dette og stemme-kloning, tror jeg vi var i stand til å fange noen av investorernes unike personligheter eller essens, som Jake Saper sin positivitet eller Alexa Von Tobel sin begeistring.

Ser du for deg hvordan Regals AI vil utvikle seg – vil vi se mer autonom beslutning, mer emosjonell intelligens eller til og med multimodal støtte?

Det mest spennende med det siste året har vært å se våre AI-agenter utføre bedre enn menneskelige agenter. Jeg tror at i det neste året, forbedringer i de underliggende AI-modellene og fremgang i Regals anvendelse vil resultere i AI-agenter som er ikke-å skille fra mennesker, og viktigere, som overgår menneskelige agent-egenskaper. Selskaper som innlemmer AI-agenter vil senke kostnadene og forbedre kunde-erfaringen raskere enn noen hadde forventet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Regal.