Will Bodewes, medgrunnlegger og administrerende direktør i Phonely – intervjuserie

Will Bodewes er medgrunnlegger og administrerende direktør i Phonely, et selskap innen stemmebasert KI som hjelper bedrifter med å besvare samtaler og forbedre resultatene av kundesamtaler. Før han startet selskapet, arbeidet han med en doktorgrad ved University of Melbourne, der han forsket på anvendt kunstig intelligens og systemer som kunne følge instruksjoner samtidig som de kommuniserte naturlig. Tidligere grunnla han en oppstartsbedrift innen lydteknologi og konkurrerte i NCAA-langrenn og ultrasykling. I Phonely bruker han denne forskningsbakgrunnen til å løse de praktiske utfordringene ved å ta i bruk stemmeagenter, blant annet når det gjelder pålitelighet i samtaler, forsinkelse, integrasjoner og kontinuerlig optimalisering av bestillinger, salg og arbeidsflyter for kundeservice.

Phonely er en plattform for stemmeagenter basert på KI, som gjør det mulig for bedrifter å automatisere telefonsamtaler, bestille avtaler, kvalifisere potensielle kunder, viderekoble samtaler og koble kundeinteraksjoner til eksisterende programvare. Verktøyene kombinerer tilpassbare samtaleflyter med samtalehistorikk, analyser og A/B-testing, slik at team kan måle ytelsen og forbedre resultatene over tid. Selskapet betjener virksomheter fra små bedrifter til store konsern og oppgir at det støtter mer enn 10 000 bedrifter og håndterer over 120 000 samtaler per dag. Phonely utvikler også egne samtalemodeller, blant annet Alma, med mål om å gjøre automatiserte samtaler raskere, mer pålitelige og bedre tilpasset reelle forretningssamtaler.

Du begynte å bygge Phonely mens du arbeidet med en doktorgrad i KI ved University of Melbourne, med et tidlig fokus på å utvikle systemer som kunne følge instruksjoner og samtidig kommunisere naturlig. Hva overbeviste deg om at stemmebasert KI var kommet så langt at den kunne danne grunnlag for et selvstendig selskap, og hva så du i markedet som andre overså?

På det tidspunktet fantes det ingen bevis for at stemmebasert KI kunne danne grunnlag for et selvstendig selskap. Et par selskaper jobbet med dette og hadde rundt fem eller ti brukere, men ingen hadde lykkes med å ta i bruk stemmebasert KI som ikke var et IVR-system. Da vi startet Phonely, var det derfor et veddemål. På den tiden dreide alt seg om chat, så stemme var et nytt medium. Dette var et problem som ikke var løst, så vi tenkte: «Hvorfor ikke satse på det? Hvorfor ikke prøve å løse det?»

Doktorgradsforskningen din startet med målet om å skape en KI som kunne «følge instruksjoner som en robot og snakke som et menneske». Hvilke teknologiske gjennombrudd fikk deg til å innse at denne forskningen kunne bli grunnlaget for en kommersiell plattform for stemmebasert KI?

Forskningen var verdifull og viktig for å forstå den grunnleggende teknologien bak det som skjedde. Den gjorde det mulig for meg å se rundt hjørnet og få øye på det som var på vei. Jeg hadde den tekniske forståelsen av hva disse modellene var, og hvordan de fungerte, og det ga meg muligheten til å satse. Konkret ønsket jeg å bygge et selskap og gjøre en forskjell, og dette var området som lå nærmest det jeg visste noe om, og det jeg kunne se var på vei. Jeg ønsket å være en del av det.

Du har beskrevet hver telefonsamtale som en salgstrakt som bedrifter historisk sett ikke har kunnet optimalisere systematisk. Hvordan ser det egentlig ut å optimalisere en telefonsamtale, og hvordan kan KI forbedre konverteringen, løsningsgraden eller kundeopplevelsen over tid?

La oss si at du bestiller en time hos en rørlegger. Personen i telefonen er opplært til å innhente opplysningene dine og bestille timen, men avhengig av hvordan vedkommende stiller spørsmålene, kan personen også fortelle deg om ting du ikke visste at bedriften tilbød. Du bestiller kanskje en time for å få ordnet et problem med rørene, men så viser det seg at du også trengte å reparere vasken. En stemmeagent med god opplæring gjør det samme og hjelper bedriften med å selge mer til kundene og tjene mer. Den kan tilby et tilleggsprodukt som en nyansatt resepsjonist ikke har fått opplæring i, og legge enda en post til bestillingen. Det gjør kunden mer fornøyd og gir bedriften et bedre resultat. En enkel stemmefunksjon i ChatGPT vet ikke hvordan den skal gjøre dette. Du trenger et produkt som er utviklet og opplært til det.

I tillegg kan mennesker gå glipp av samtaler, la være å svare på telefonen eller sende samtaler til telefonsvareren. Det tar livet av småbedrifter i Amerika. De har ikke folk som svarer på telefonen, mangler jevn kvalitet og har ingen mulighet til å optimalisere den. Med KI kan vi optimalisere en samtale ved hjelp av dataene vi har, hvis den ikke gir bedriften det ønskede resultatet. Takket være KI går det raskt å endre samtalen, noe som ikke kunne skjedd på langt nær like fort med mennesker.

Akkurat nå er det mange som ser på KI som en måte å spare kostnader på. Men vi mener at folk bør se på KI som en vekstmotor. Bedrifter kan faktisk vokse ved å ta i bruk KI, slik at de kan prestere bedre enn før.

Stemmebasert KI må løse utfordringer som tekstbasert KI ofte kan unngå, blant annet forsinkelse, avbrytelser, aksenter, bakgrunnsstøy, følelsesmessige signaler og uforutsigbare samtaler. Hvilket av disse problemene har vært vanskeligst å løse pålitelig i stor skala for store virksomheter?

Forsinkelse er den største utfordringen. Nå har vi løst problemet, men i begynnelsen var det en stor hodepine av to grunner.

For det første bygde vi oppå oppstartsbedrifter som ikke var pålitelige. En betydelig andel av API-forespørslene til OpenAI feilet, og vi fikk ikke noe svar. Hvis du sitter i en telefonsamtale, er det det samme som at noen legger på, så vi måtte bygge inn forsøk på nytt.

Det andre var kapasiteten. Når du sendte en forespørsel til OpenAI, kunne du bli sittende fast i en kø bak hundrevis eller tusenvis av andre forespørsler, uten å vite hvor i køen du befant deg. Det kunne ta 30 sekunder før svaret kom. For å komme rundt dette undersøkte vi hvor OpenAI hadde endepunkter rundt om i verden, og byttet mellom endepunktene vi sendte forespørsler til, avhengig av hvilke land som sov og hadde lav etterspørsel. Vi måtte bygge all denne infrastrukturen bare for å finne endepunktene med lavest etterspørsel akkurat da. Det var et ganske interessant teknisk problem. Nå trener vi våre egne modeller, blant annet Alma, så vi slipper å bekymre oss for dette, fordi vi styrer både datakraften og etterspørselen.

Phonely håndterer nå mer enn 120 000 samtaler om dagen for tusenvis av bedrifter. Hva har dere lært av å drifte taleagenter i en slik skala, som ikke var åpenbart da dere utviklet den første versjonen av plattformen?

Det er veldig viktig å være tilgjengelig 100 % av tiden. En av de mest krevende tekniske utfordringene vi har jobbet med, er pålitelighet og hastighet. AI-feltet utvikler seg utrolig raskt, og vi beveger oss raskt selv til å være et AI-selskap. Y Combinator har et uttrykk: «Beveg deg raskt og ødelegg ting.» Men når kundene dine foretar 120 000 samtaler om dagen, har du ikke råd til å ødelegge ting. Mye av arbeidet vårt har derfor handlet om å finne ut hvordan vi kan lansere raskt nok til å holde oss relevante og videreutvikle produktet, samtidig som vi sørger for at bedriftskundene er fornøyde og får en stabil tjeneste mens vi fortsetter å utvikle nye funksjoner for å ligge i forkant av markedet. Pålitelighet var sannsynligvis en av de største utfordringene vi møtte da vi bygde selskapet.

Generative AI-systemer kan oppføre seg uforutsigbart, men en telefonagent som betjener kunder, kan håndtere betalinger, bestillinger, helsespørsmål eller andre situasjoner med mye på spill. Hvordan utformer dere taleagenter som er fleksible og samtalepregede, uten at de finner på informasjon eller handler utenfor de rammene de har fått fullmakt til?

Vi fant ut av dette på den harde måten for omtrent to år siden, og nå er løsningen ganske utbredt i bransjen. Vi innså at det største problemet med LLM-er er kontekst. Når du legger for mye inn i en instruksjon, for eksempel sider med retningslinjer, øker sannsynligheten for at noe går galt.

Derfor utviklet vi et orkestreringssystem med åtte agenter, der oppgaven overføres fra én agent til en annen, og hver agent har sin egen avgrensede kontekst. Det ligner på hvordan et menneske følger et manus i en telefonsamtale: Du får noe informasjon, går videre til neste trinn og så videre. Dermed kan vi skille trinnene fra hverandre på kodenivå. Hvis jeg måtte innhente navnet ditt, e-postadressen, telefonnummeret og fødselsdatoen din før jeg ga deg en refusjon, kunne jeg garantere at denne informasjonen ble samlet inn på kodenivå før vi gikk videre. Det kan du ikke garantere hvis du bare baserer deg på en LLM. Ved å bygge dette laget for agentorkestrering kan du oppnå 100 % pålitelighet, fordi alle trinnene registreres før oppgaven overføres til en ny agent, som fortsatt har kontekst, men er begrenset til sine egne instruksjoner.

Én Phonely-utrulling skal angivelig ha generert 10 millioner dollar i nye nettoinntekter for en kunde på bare tre måneder. Hva gjorde det mulig for AI å skape en så målbar forretningseffekt, og hvor mener du tale-AI gir best avkastning på investeringen i dag?

Vi kunne gjøre dette fordi vi hadde tilgang til kundens måltall. De ønsket å øke salget, siden samtalene var innkommende, og de kvalifiserte innringerne, så vi kunne måle resultatene. Avhengig av dagen lå kundesenterets salgsrate på rundt 35–42 %. Etter at vi hadde fått denne informasjonen fra kunden, tok vi utgangspunkt i arbeidsflytene deres og optimaliserte agenten. Vi startet med en salgsrate på rundt 20 %. I månedene som fulgte, videreutviklet vi løsningen, justerte ulike ting og optimaliserte den til den presterte bedre enn kundesenteret i de fleste tilfeller. Salgsraten vår fortsatte å øke fordi vi fant ut hva problemene var, og sørget for at opplevelsen var konsekvent og perfekt hver eneste gang. Vi klarte å prestere bedre enn et kundesenter.

Etter hvert som taleagenter blir mer avanserte, hvor bør bedrifter trekke grensen mellom samtaler som kan automatiseres fullt ut, og situasjoner der et menneske fortsatt bør være involvert?

Bedrifter bør kunne automatisere alt som er en repeterbar prosess de ønsker at skal følges, og som er tilstrekkelig godt definert.

Men på noen områder er automatisering krevende. Ett av dem er integrasjoner uten API-er: Si at du trenger en integrasjon, men at programvaren ikke har et API. Det er vanskelig å komme rundt, selv om det finnes noen automatiseringer du kan gjøre i nettleseren. Et annet område er situasjoner med flere overleveringer mellom en agent og et menneske, og tilbake til en agent. Det tredje er manglende kontekst. Si at jeg glemte lommeboken min på en restaurant. Det er noe AI aldri vil kunne løse, fordi den ikke vet om du har lommeboken, og den kan ikke undersøke om lommeboken ligger på restauranten.

Noen situasjoner vil alltid kreve et menneske, i tillegg til mer kompliserte arbeidsoppgaver som går på tvers av flere systemer. Unngå å bruke en agent til slike oppgaver.

Phonely hentet nylig inn 16 millioner dollar i en Series A-runde etter å ha vokst til over 10 000 bedrifter. Hvordan ser selskapets neste fase ut, og hvilke tekniske egenskaper tror du vil skille neste generasjon plattformer for stemmebasert KI fra konkurrentene?

Neste fase handler om å bygge ut teamet og fortsette å investere i det. Vi satser alt på denne ideen. Mange bedrifter satser på stemmebasert KI, og de kommer sannsynligvis til å gjøre det ganske bra på ulike områder. Men vi bygger ikke bare en stemmeagent. Vi bygger en optimaliseringsplattform, og bruker tale som kanal. For bedrifter som er opptatt av potensielle kunder og av at telefonsamtalene deres skal generere inntekter, er hovedfokuset vårt å optimalisere KI-agenter slik at de oppnår resultatene kundene ønsker. Tenk på Phonely som et optimaliseringsselskap, der folk ønsker å optimalisere agentene sine for å få dem til å yte bedre.

Den akademiske forskningen din har også undersøkt hvordan KI og teknologi for smarte strømmålere kan bidra til bedre tilgang til energi og renere matlaging i utviklingsøkonomier. Når du ser utover Phonely, hvordan tror du KI kan brukes til å løse store utfordringer i den fysiske verden, som tilgang til energi, og er dette et område du håper å vende tilbake til på sikt?

KI kan bidra til mye godt, men mange av problemene vi står overfor, er menneskeskapte, så det må også skje endringer på den fronten. Ikke alle problemer kan løses med teknologi. Men å la teknologisk utvikling og menneskelige endringer skje samtidig vil ha en positiv nettoeffekt for verden.

Takk for et flott intervju. Lesere som vil vite mer, kan besøke Phonely.