Will Bodewes, spoluzakladatel a generální ředitel Phonely – série rozhovorů

Will Bodewes je spoluzakladatelem a generálním ředitelem společnosti Phonely, která vyvíjí hlasovou umělou inteligenci a pomáhá firmám přijímat hovory a zlepšovat výsledky komunikace se zákazníky. Před založením společnosti studoval doktorský program na University of Melbourne, kde se věnoval aplikované umělé inteligenci a systémům, které dokážou při přirozené komunikaci plnit pokyny. Dříve založil startup zaměřený na zvukové technologie a závodil v běhu na lyžích v rámci NCAA i v ultravytrvalostní cyklistice. Ve společnosti Phonely využívá své výzkumné zkušenosti při řešení praktických výzev spojených s nasazováním hlasových agentů, včetně spolehlivosti konverzací, latence, integrací a průběžné optimalizace rezervací, prodeje a procesů zákaznického servisu.

Phonely je platforma hlasových agentů s umělou inteligencí, která firmám umožňuje automatizovat telefonické rozhovory, plánovat schůzky, kvalifikovat potenciální zákazníky, přesměrovávat hovory a propojovat interakce se zákazníky se stávajícím softwarem. Její nástroje kombinují přizpůsobitelné konverzační scénáře s historií hovorů, analytikou a A/B testováním, takže týmy mohou měřit výkonnost a průběžně zlepšovat výsledky. Společnost obsluhuje organizace od malých firem až po velké podniky a uvádí, že podporuje více než 10 000 firem a denně vyřizuje přes 120 000 hovorů. Phonely také vyvíjí vlastní konverzační modely, včetně modelu Alma, a zaměřuje se na to, aby automatizované hovory byly rychlejší, spolehlivější a lépe odpovídaly skutečným obchodním rozhovorům.

Začal jste budovat Phonely během doktorského studia umělé inteligence na University of Melbourne, kde jste se zpočátku zaměřoval na vývoj systémů, které by dokázaly „plnit pokyny jako robot a mluvit jako člověk“. Co vás přesvědčilo, že hlasová umělá inteligence dospěla do bodu, kdy mohla být základem samostatné společnosti, a čeho jste si všiml na trhu, co ostatním unikalo?

Tehdy neexistoval žádný důkaz, že by hlasová umělá inteligence mohla uživit samostatnou společnost. Zabývalo se jí několik firem, které měly přibližně pět nebo deset uživatelů, ale nikomu se nepodařilo úspěšně nasadit hlasovou umělou inteligenci, která by nebyla systémem IVR. Když jsme tedy založili Phonely, byl to risk. V té době se všechno zaměřovalo na chat, takže hlas představoval nové médium. Šlo o problém, který nikdo nevyřešil, a tak jsme si řekli: „Proč se do toho nepustit? Proč se ho nepokusit vyřešit?“

Váš doktorský výzkum začal s cílem vytvořit umělou inteligenci, která by „plnila pokyny jako robot a mluvila jako člověk“. Jaké technické průlomy vás přiměly uvědomit si, že by se tento výzkum mohl stát základem komerční platformy hlasové umělé inteligence?

Výzkum byl cenný a důležitý pro pochopení základních technologií, které za tím vším stály. Umožnil mi nahlédnout za obzor a předvídat, co se chystá. Rozuměl jsem technicky tomu, co tyto modely jsou a jak fungují, a díky tomu jsem se mohl odvážit riskovat. Konkrétně jsem chtěl založit společnost a něco změnit. Právě tato oblast nejvíce souvisela s tím, čemu jsem rozuměl a co jsem viděl přicházet. Chtěl jsem být její součástí.

Řekl jste, že každý telefonát je jako prodejní trychtýř, který firmy historicky nedokázaly systematicky optimalizovat. Jak vypadá optimalizace telefonického rozhovoru v praxi a jak může umělá inteligence postupně zlepšovat konverze, úspěšnost řešení požadavků nebo zákaznickou zkušenost?

Představte si, že si objednáváte návštěvu instalatéra. Pracovník na telefonu je vyškolený, aby zjistil vaše údaje a sjednal termín, ale podle toho, jak klade otázky, vás může upozornit i na služby, o nichž jste nevěděli, že je daná firma nabízí. Můžete si tedy domluvit návštěvu kvůli problému s instalací vody a ukáže se, že potřebujete také opravit dřez. Dobře natrénovaný hlasový agent s umělou inteligencí dokáže totéž: pomáhá firmě nabízet zákazníkům další služby a zvyšovat tržby. Může nabídnout produkt, o kterém by nový pracovník recepce nebyl proškolený, a přidat do objednávky další položku, díky čemuž bude zákazník spokojenější a firma dosáhne lepšího výsledku. Jednoduchý hlasový ChatGPT tohle neumí. Potřebujete produkt, který je pro tento účel vytvořený a natrénovaný.

Lidé navíc mohou hovory přehlédnout, nezvednout telefon nebo je přesměrovat do hlasové schránky. To malé firmy v Americe ničí. Nemají nikoho, kdo by zvedal telefony, nedokážou zajistit konzistentní kvalitu a nemají možnost ji optimalizovat. Pokud hovor s umělou inteligencí nepřinese výsledek, který firma požaduje, můžeme ho na základě dostupných dat optimalizovat. Díky rychlosti umělé inteligence můžeme změnit průběh rozhovoru, což by s lidmi nebylo možné zdaleka tak rychle.

V současnosti všichni vnímají umělou inteligenci jako způsob, jak ušetřit náklady. My si ale myslíme, že by ji lidé měli vnímat jako příležitost k růstu. Firmy mohou díky zavedení umělé inteligence skutečně růst a dosahovat lepších výsledků než dříve.

Hlasová umělá inteligence musí řešit výzvy, kterým se textová umělá inteligence často může vyhnout, například latenci, přerušování, přízvuky, hluk v pozadí, emocionální signály a nepředvídatelné rozhovory. Který z těchto problémů bylo nejtěžší spolehlivě vyřešit při nasazení ve velkých podnicích?

Největším problémem je latence. Teď už jsme ho vyřešili, ale zpočátku nám způsoboval velké potíže hned ze dvou důvodů.

Zaprvé jsme stavěli na řešeních startupů, která nebyla spolehlivá. Významná část požadavků na API OpenAI selhala a žádná odpověď nám nepřišla. Když jste na telefonu, je to totéž, jako kdyby vám někdo zavěsil, takže jsme museli zavést opakování požadavků.

Druhým problémem byla kapacita. Když jste poslali požadavek OpenAI, uvízli jste ve frontě za stovkami nebo tisíci dalších požadavků a nevěděli jste, na jakém místě se v ní ocitnete. Odpověď mohla přijít až za 30 sekund. Abychom to obešli, zjišťovali jsme, kde má OpenAI po světě koncové body, a přepínali mezi nimi podle toho, ve kterých zemích lidé spali a kde byla nízká poptávka. Museli jsme vybudovat celou tuto infrastrukturu jen proto, abychom našli koncové body s nejnižší poptávkou v danou chvíli. Byl to docela zajímavý technický problém. Teď trénujeme vlastní modely, včetně Alma, takže si s tím nemusíme dělat starosti, protože výpočetní kapacitu i poptávku máme pod kontrolou.

Phonely nyní vyřizuje přes 120 000 hovorů denně pro tisíce firem. Co jste se dozvěděli při provozování hlasových agentů v takovém měřítku, co vám při vývoji první verze platformy nebylo zřejmé?

Je opravdu důležité, aby systém fungoval 100 % času. Jednou z nejnáročnějších inženýrských výzev, které řešíme, je spolehlivost a rychlost. Oblast AI se vyvíjí neuvěřitelně rychle a my postupujeme rychle dokonce i na poměry AI firem. V Y Combinatoru se říká: „Jednejte rychle a rozbíjejte věci.“ Když ale máte zákazníky, kteří uskuteční 120 000 hovorů denně, nemůžete si dovolit něco rozbít. Velkou část našeho úsilí jsme proto věnovali hledání způsobu, jak vydávat novinky tempem, které potřebujeme, abychom zůstali relevantní a mohli produkt dále vylepšovat, a přitom udrželi firemní zákazníky spokojené a zajistili stabilitu, zatímco vyvíjíme nové funkce, abychom si udrželi náskok na trhu. Spolehlivost byla pravděpodobně jednou z největších výzev, se kterými jsme se při budování firmy potýkali.

Generativní systémy umělé inteligence se mohou chovat nepředvídatelně, ale hlasový agent komunikující se zákazníky může řešit platby, rezervace, zdravotní dotazy nebo jiné vysoce závažné situace. Jak navrhujete hlasové agenty tak, aby zůstali flexibilní a konverzační, aniž by si vymýšleli nebo jednali mimo hranice svého oprávnění?

Před zhruba dvěma lety jsme na to přišli tvrdou cestou a dnes se tento přístup v oboru poměrně široce uplatňuje. Uvědomili jsme si, že největším problémem velkých jazykových modelů je kontext. Když do promptu vložíte příliš mnoho informací, například celé stránky pokynů, zvyšuje se pravděpodobnost, že se něco pokazí.

Navrhli jsme tedy systém orchestrace osmi agentů, kteří si předávají práci, přičemž každý z nich má kontext omezený na daný úkol. Je to podobné, jako když člověk při hovoru postupuje podle scénáře: získá nějaké informace, přejde k další fázi a tak dále. Díky tomu můžeme jednotlivé kroky oddělit na úrovni kódu. Kdybych před vrácením peněz potřeboval zjistit vaše jméno, e-mail, telefonní číslo a datum narození, mohl bych zaručit, že se tyto údaje na úrovni kódu shromáždí ještě před přechodem k dalšímu kroku. Pokud se spoléháte pouze na velký jazykový model, takovou záruku dát nemůžete. Vytvořením této vrstvy orchestrace agentů můžete dosáhnout 100% spolehlivosti, protože se před předáním úkolu novému agentovi zaznamenají všechny kroky. Nový agent přitom stále má potřebný kontext, ale řídí se výhradně vlastními pokyny.

Jedno nasazení Phonely údajně zákazníkovi během pouhých tří měsíců přineslo 10 milionů dolarů čistých nových příjmů. Díky čemu mohla umělá inteligence vytvořit takový měřitelný přínos pro podnikání a kde podle vás dnes hlasová AI přináší nejvyšší návratnost investic?

Mohli jsme toho dosáhnout, protože jsme měli k dispozici metriky zákazníka. Zaměřoval se na prodej, protože šlo o příchozí hovory, a volající kvalifikoval, takže jsme mohli sledovat výsledky. V závislosti na dni dosahovalo jeho call centrum míry úspěšnosti prodeje přibližně 35 až 42 %. Poté, co jsme od zákazníka získali tyto informace, převzali jsme jeho pracovní postupy a optimalizovali agenta. Začínali jsme s mírou úspěšnosti prodeje přibližně 20 %. V následujících měsících jsme postupně prováděli úpravy a optimalizaci, až jsme ve většině případů překonávali výsledky jeho call centra. Naše míra úspěšnosti prodeje stále rostla, protože jsme odhalili problémy a zajistili, aby byla zkušenost pokaždé konzistentní a bezchybná. Dokázali jsme překonat výsledky call centra.

Jak mají firmy s rostoucími schopnostmi hlasových agentů rozhodovat, které konverzace lze plně automatizovat a kdy by měl zůstat zapojený člověk?

Firmy by měly být schopné automatizovat jakýkoli opakovatelný proces, který chtějí dodržovat a který je dostatečně jasně definovaný.

Automatizace je ale v několika oblastech náročná. Jednou z nich jsou integrace bez API. Dejme tomu, že potřebujete propojení, ale daný software nemá API. To se obtížně řeší, i když lze využít některé automatizace v prohlížeči. Dalším problémem je situace, kdy dochází k několika předáním mezi agentem a člověkem a zpět k agentovi. Třetím problémem jsou mezery v kontextu. Představte si, že zapomenu peněženku v restauraci. To je něco, co AI nikdy nedokáže vyřešit, protože neví, jestli u sebe peněženku máte, a nemůže ověřit, zda zůstala v restauraci.

Některé situace budou vždy vyžadovat člověka, stejně jako složitější práce, která propojuje více systémů. V takových případech agenta nepoužívejte.

Společnost Phonely nedávno získala 16 milionů dolarů v investičním kole série A poté, co její služby začalo využívat více než 10 000 firem. Jak bude vypadat další etapa rozvoje společnosti a které technické schopnosti podle vás odliší příští generaci platforem hlasové AI?

Další etapou je rozšiřování týmu a pokračující investice do něj. Této myšlence se chceme naplno věnovat. Mnoho firem se pouští do hlasové AI a pravděpodobně budou v různých oblastech dosahovat slušných výsledků. My ale nevyvíjíme jen hlasového agenta. Budujeme optimalizační platformu a hlas využíváme jako kanál. U firem, kterým záleží na potenciálních zákaznících a na tom, aby jim telefonní hovory generovaly tržby, se plně soustředíme na optimalizaci agentů AI tak, aby dosahovali výsledků, které zákazníci chtějí. Phonely si představte jako optimalizační společnost, jejíž zákazníci chtějí své agenty vylepšovat, aby dosahovali lepších výsledků.

V rámci svého akademického výzkumu jste se také zabýval využitím AI a technologie chytrých měřičů k rozšíření přístupu k energii a čistému vaření v rozvojových ekonomikách. Jak podle vás lze AI využít při řešení rozsáhlých problémů reálného světa, například při zajišťování přístupu k energii, a je to oblast, ke které byste se nakonec rád vrátil?

AI může přinést mnoho dobrého, ale řadu problémů způsobují lidé, a proto je třeba změna i z jejich strany. Technologie nedokáže vyřešit všechny problémy. Pro svět bude ale přínosné, když se technologický pokrok a změny v lidském jednání budou odehrávat současně.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, by měli navštívit Phonely.