Alex Levin, spoluzakladatel a CEO Regal – Interview Series

Alex Levin je spoluzakladatel a CEO Regal, platformy pro hlasový AI, která pomáhá podnikům generovat příjmy prostřednictvím kompatibilních, AI poháněných zákaznických konverzací. Před založením Regal v roce 2020 vedl růst a produktové týmy ve firmách Handy, Thomson Reuters (TRI ) a dalších startupech. Jako absolvent Harvardské univerzity a člen Forbes Technology Council se Alex zaměřuje na budování škálovatelné, hlasově orientované infrastruktury, která kombinuje inovace s firemními bezpečnostními prvky.

Regal poskytuje AI hlasové agenty pro prodej, podporu, plánování a inkaso – navržené tak, aby zněly přirozeně, integrovaly se s CRM systémy a zvládly miliony konverzací ve velkém měřítku. Platforma nabízí bezkódový konstruktor, reálné analytiky, A/B testování a vestavěnou kompatibilitu pro regulované odvětví, jako je zdravotnictví, pojišťovnictví a finanční služby.

Co vás inspirovalo k přechodu z vedoucích rolí ve firmách Angi a Handy na založení Regal, a byl tam nějaký specifický moment, kdy jste si s vaším spoluzakladatelem uvědomili, že zkušenost s kontaktním centrem musí být kompletně přestavěna?

Zatímco ve firmách Angi/Handy, jsme viděli sílu hlasu pro budování důvěry se zákazníky. Zákazníci nám řekli, že když měli důležitý problém, chtěli zavolat, a zákazníci, kterým jsme sloužili po telefonu, měli vyšší hodnotu za život a když jsme zavolali zákazníkům, odpověděli na mnohem vyšší míru než na jakémkoli jiném kanálu. Nicméně, dodavatelé softwaru pro kontaktní centra se soustředili na “odklon” a “automatizaci” místo toho, co bylo pro zákazníky správné. Výsledkem byla nekonečná hra “schovávátko telefonního čísla”, která zbytečně trestala zákazníky.

Můj spoluzakladatel a já jsme odešli, protože jsme pevně věřili, že můžeme učinit hlas nejúčinnějším kanálem snížením nákladů a usnadněním jeho provozu. Přál bych si, aby mi Regal byl k dispozici, když jsem řídil velké kontaktní centrum.

Spustil jste Regal v roce 2020, právě před boomem generativní AI. Jak jste vyhodnotili, zda je hlasový AI technicky životaschopný – a co vám dalo přesvědčení jednat brzy?

Byli jsme přesvědčeni dlouho před rokem 2020, že hlas je nejvýznamnějším kanálem. A v roce 2020 jsme věděli, že můžeme postavit orchestraci, A/B testování a personalizaci, které by snížily náklady a zjednodušily správu hlasu jako kanálu – ať už to byl lidský agent, staromódní hlasový bot nebo něco lepšího. Takže jsme prodávali nástroje pro kontaktní centra, aby lépe spravovaly lidské agenty. Ten produkt rostl velmi rychle.

Ale k vašemu bodu, založení společnosti je skokem víry, a trvalo to nějakou dobu, než jsme opravdu viděli, jak můžeme překročit omezení lidských agentů. Nebylo to až do spuštění ChatGPT na konci roku 2022, kdy jsme opravdu viděli “AI”, který byl dostatečně dobrý, aby vedl konverzaci. A nebylo to až do konce roku 2023, kdy jsme byli schopni vytvořit demo pro hlasového agenta, o kterém jsme si mysleli, že by si zákazník chtěl promluvit.

Jaké byly některé z nejobtížnějších technických výzev při školení hlasových agentů, kteří by mohli odpovídat nebo překonat lidské výkony v přirozených konverzacích?

Existuje tolik krásných technických výzev, na kterých pracovat. Od zajištění latence kolem 500ms, až po zjištění, jak zajistit, aby AI agenti měli veškeré kontextové znalosti firemních znalostních bází a zákaznických dat v reálném čase, až po to, aby AI agenti mohli jednat v hovorech a po nich, až po strážce nebo bezpečnostní prvky, a jak udělat interakci agenta cítit lidsky s otáčením a správnými verbálními signály.

Jedním z mých oblíbených projektů, na kterých naše tým pracuje dnes, je, jak zlepšit automatizované hodnocení, aby AI Agent mohl být testován snadněji předtím, než bude nasazen do produkce. To by odstranilo stovky hodin manuálního QA, které se nyní neustále dějí pro každou změnu každého AI agenta.

Musíme nejdříve vytvořit stovky různých simulovaných zákaznických konverzací (pomocí AI), mají AI agenta projít jimi, pak mít AI supervizora QA je a vrátit navrhovaná zlepšení AI Agentovi nebo firemním politikám a znalostním bázím. Máme funkční produkt hodnocení nyní, zákaznická zpětná vazba byla skvělá, a zlepšuje se úžasným tempem.

To je kritické pro novou metriku počtu manažerů na AI agenta. Brzy budou moci jen málo manažerů spravovat stovky různých AI agentů.

Jak Regal využívá strojové učení k personalizaci konverzací v reálném čase? Je to založeno na historii zákazníka, tónu, rozpoznání záměru – nebo kombinaci?

Investovali jsme hluboce do personalizace ve srovnání se zbytkem trhu, protože věříme v pomoc značkám testovat miliony zákazníků jako jeden z milionu. Nejen rekreace obecného lidského agenta, který je často používán dnes.

Začali jsme budováním jednotného zákaznického profilu, který propojuje veškerá CRM data, událostní data a historii konverzací. Při budování agenta mohou společnosti poté dát AI Agentovi přístup ke všem informacím o zákazníkovi nebo pouze k specifickým datovým bodům nezbytným pro konkrétní konverzaci. LLM poskytuje lidsky podobnou, konverzační odpověď pomocí dostupných dat.

LLM jsou stále omezeny tím, co dělají dobře, takže jsme potřebovali schopnost využít další nástroje, jako jsou služby třetích stran, vlastní aplikace a ML. Takže jsme postavili “Custom Actions”, které lze použít v AI Agentovi promptu, aby využily dalších služeb. Například mnoho značek má modely pro určení, jaký produkt navrhnout zákazníkovi jako další, a my můžeme na ně navázat v rámci konverzace.

Jak váš systém využívá retrieval-augmented generaci (RAG) bez obětování odezvy nebo přirozeného rytmu, který zákazníci očekávají od živého hovoru?

RAG je oblastí odlišení pro nás, protože musel být rychlejší pro hlasové AI agenty než pro AI agenty v chatu nebo jiných digitálních kanálech. Několik sekund mrtvého vzduchu by úplně zničilo hovor.

Snížili jsme latenci retrievalu a zajistili, aby AI Agent mohl pokračovat v mluvení se zákazníkem, aby je informoval, že to bude trvat déle.

Agenti Regal jsou modelováni podle skutečných lidských hlasů, včetně hlasů skutečných investorů. Co je potřeba – technicky a eticky – k vytvoření takových vysoce kvalitních replik?

Je překvapivě jednoduché technicky “klonovat” hlas, aby AI Agent mohl znít jako profesionální hlasový herec nebo přítel. 5-10 minut kvalitního audio stačí.

Například mě nedávno někdo zeptal, jak to udělat pro umírajícího člena rodiny, aby mladší generace mohla zažít, až budou starší. Takže s trochou vedení budou nahrávat umírajícího dědečka nyní.

K vašemu druhému bodu, dědeček souhlasí s tím, a profesionální hlasoví herci nebo naši investoři souhlasí s tím. Špatní herci, kteří umožňují klonování hlasu bez souhlasu (jako se stalo během poslední prezidentské volební kampaně), by měli být uzavřeni.

Rada – pokud dovolíte klonování hlasu (nebo jste veřejná osobnost, která by mohla být naklonována špatnými herci), ujistěte se, že máte bezpečné slovo, které zná pouze vaše rodina, aby mohli identifikovat skutečného vás v hovoru.

Vy zvýrazňujete důležitost integrace Regal do CRM, platebních systémů a interních API. Jaké byly některé z nejobtížnějších integračních výzev, které jste museli vyřešit?

Integrace s hlavními produkty, jako jsou CRM systémy Salesforce (CRM ) nebo kontaktní centrum NICE, je přímočará. Nejobtížnější požadavek je zajistit, aby značka zpřístupnila API pro jakékoli akce, které by AI Agent mohl potřebovat. Lidský agent by mohl kliknout na tlačítko, aby rezervoval hotelový pokoj. Ale AI Agent opravdu potřebuje rezervaci API.

Jak přistupujete k měření a zlepšování výkonu modelu v průběhu času? Jakou roli hraje dohlížené jemné ladění nebo učení s posilováním v tomto procesu?

Postavili jsme sadu A/B testování od začátku, takže je to triviální pro zákazníky testovat AI agenty proti lidským agentům nebo agentovi s LLM verzí 1 proti verzi 2. To nám dává jasný způsob, jak vidět variace výsledků pro různé modely.

Nicméně, nepoužíváme učení s posilováním dnes, protože to dělá právní týmy neklidnými (nechce, aby se změnilo něco, co není zamýšleno). Myslím, že jsme 13 měsíců od toho, aby právní týmy umožnily učení s posilováním v našem případě. Místo toho se dnes soustředíme na návrh změn, které může lidský manažer přijmout. Mohou to být změny promptu, znalostní báze, jemného ladění LLM atd.

Mluvit s VC – nebo hlasovým klonem jednoho – je odvážný koncept. Jaký byl váš záměr při zpřístupnění těchto AI poradců zakladatelům, a jak jsou používány dnes?

Měli jsme štěstí, že jsme měli přístup k úžasným investorům a chtěli jsme to vrátit s tímto projektem. Baví mě mluvit se Satya AI kdykoli a slyšel jsem skvělou zpětnou vazbu od výkonných ředitelů, kteří použili AI VC pro všechno od rady, jak vytvořit produktovou mapu, až po to, jaký cenový model použít.

Milujeme ukázat místo toho, aby říkat, a tento projekt opravdu zdůrazňuje sílu našich RAG/knowledge base schopností. Měli jsme dokonce dva z našich investorů, jejichž rodiče nám dali palce!

Ale rada – nemůžete delegovat rozhodování na poradce a jedna z nejobtížnějších částí být výkonným ředitelem je rozhodnout mezi dvěma špatnými možnostmi nebo dokonce dvěma zdánlivě dobrými možnostmi.

Tito investoři agenti se spoléhají na obecné znalosti startupů, nebo jsou školeni na firmě specifické rady a filozofie spojené s jednotlivými VC?

Všichni AI agenti mají některé obecné znalosti z LLM školení. Ale abychom dosáhli výsledků, které jsme potřebovali, nahráli jsme investiční psaní do příslušných AI Agent znalostních bází.

Mimo to a klonování hlasu, myslím, že jsme také byli schopni zachytit některé z investičních jedinečných osobností nebo esence, jako je Jake Saperova pozitivita nebo Alexa Von Tobelova elán.

Pohledem do budoucnosti, jak vidíte vývoj Regal AI – uvidíme více autonomního rozhodování, více emocionální inteligence nebo dokonce multimodální podporu?

Nejbližší částí posledního roku bylo vidět, jak naši AI agenti fungují lépe než lidské agenty. Myslím, že v příštím roce, zlepšení základních AI modelů a pokroky v Regal aplikaci povedou k AI Agentům, kteří jsou nerozeznatelní od lidských a co je důležitější, daleko překonávají lidské agentní schopnosti. Společnosti, které se přiklánějí k AI Agentům, sníží své náklady a zlepšují zákaznickou zkušenost rychleji, než kdokoli očekával.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Regal.