Will Bodewes, współzałożyciel i dyrektor generalny Phonely – cykl wywiadów

Will Bodewes jest współzałożycielem i dyrektorem generalnym Phonely, firmy rozwijającej głosową sztuczną inteligencję, która pomaga przedsiębiorstwom odbierać połączenia i poprawiać jakość rozmów z klientami. Zanim założył firmę, robił doktorat na University of Melbourne, gdzie zajmował się stosowaną sztuczną inteligencją oraz systemami potrafiącymi wykonywać polecenia i jednocześnie komunikować się w naturalny sposób. Wcześniej założył startup z branży technologii audio oraz startował w biegach przełajowych na nartach w zawodach NCAA i w wyścigach kolarskich ultra. W Phonely wykorzystuje swoje doświadczenie badawcze w praktycznym rozwiązywaniu problemów związanych z wdrażaniem agentów głosowych, takich jak niezawodność rozmów, opóźnienia, integracje oraz ciągłe optymalizowanie rezerwacji, sprzedaży i obsługi klienta.

Phonely to platforma agentów głosowych opartych na sztucznej inteligencji, która pozwala przedsiębiorstwom automatyzować rozmowy telefoniczne, umawiać spotkania, kwalifikować potencjalnych klientów, przekierowywać połączenia i łączyć interakcje z klientami z używanym już oprogramowaniem. Jej narzędzia łączą konfigurowalne scenariusze rozmów z historią połączeń, analityką i testami A/B, dzięki czemu zespoły mogą mierzyć skuteczność i z czasem poprawiać wyniki. Firma obsługuje organizacje od małych przedsiębiorstw po duże korporacje. Jak podaje, wspiera ponad 10 000 firm i obsługuje ponad 120 000 połączeń dziennie. Phonely rozwija również własne modele konwersacyjne, w tym Alma, koncentrując się na tym, by automatyczne połączenia były szybsze, bardziej niezawodne i lepiej dostosowane do rzeczywistych rozmów biznesowych.

Zacząłeś rozwijać Phonely podczas studiów doktoranckich z zakresu sztucznej inteligencji na University of Melbourne, początkowo skupiając się na tworzeniu systemów, które potrafiły wykonywać polecenia niczym robot i rozmawiać jak człowiek. Co przekonało cię, że głosowa sztuczna inteligencja osiągnęła poziom pozwalający jej stać się podstawą samodzielnej firmy? Co dostrzegłeś na rynku, czego nie zauważyli inni?

W tamtym czasie nie było dowodów na to, że głosowa sztuczna inteligencja może stanowić podstawę samodzielnej firmy. Zajmowało się tym kilka firm, które miały około pięciu lub dziesięciu użytkowników, ale nikt nie wdrożył z powodzeniem głosowej sztucznej inteligencji innej niż system IVR. Dlatego założenie Phonely było zakładem. W tamtym czasie wszyscy koncentrowali się na czacie, więc głos był nowym medium. Problem nie był rozwiązany, więc pomyśleliśmy: „Dlaczego się za to nie zabrać? Dlaczego nie spróbować go rozwiązać?”

Twoje badania doktoranckie rozpoczęły się od pomysłu stworzenia sztucznej inteligencji, która „wykonywałaby polecenia jak robot i rozmawiała jak człowiek”. Jakie przełomy techniczne uświadomiły ci, że te badania mogą stać się podstawą komercyjnej platformy głosowej sztucznej inteligencji?

Badania były cenne i ważne dla zrozumienia podstaw technologii, która za tym wszystkim stała. Pozwoliły mi wyprzedzać bieg wydarzeń i dostrzegać, co pojawi się w dalszych etapach rozwoju. Rozumiałem techniczne podstawy tych modeli i wiedziałem, jak działają, co dało mi możliwość podjęcia ryzyka. Chciałem konkretnie założyć firmę i wywrzeć wpływ, a ta dziedzina była najbliższa temu, co znałem i co potrafiłem przewidzieć. Chciałem być jej częścią.

Opisywałeś każdą rozmowę telefoniczną jako lejek sprzedażowy, którego przedsiębiorstwa historycznie nie potrafiły systematycznie optymalizować. Na czym właściwie polega optymalizowanie rozmowy telefonicznej i jak sztuczna inteligencja może z czasem poprawić konwersję, odsetek skutecznie rozwiązanych spraw lub doświadczenia klientów?

Załóżmy, że umawiasz wizytę u hydraulika. Osoba rozmawiająca z tobą przez telefon jest przeszkolona w zbieraniu informacji i ustalaniu terminu, ale w zależności od tego, jak zadaje pytania, może też opowiedzieć ci o usługach, o których nie wiedziałeś, że oferuje je ta firma. Możesz więc umówić wizytę w sprawie problemu z instalacją hydrauliczną, a w trakcie rozmowy okaże się, że trzeba też naprawić zlew. Dobrze wyszkolony agent głosowy oparty na sztucznej inteligencji działa tak samo i pomaga firmie zwiększać sprzedaż, oferując klientom dodatkowe produkty lub usługi, a tym samym generować większe przychody. Może zaproponować produkt, o którym nowy pracownik recepcji nie został przeszkolony, i dodać kolejną pozycję do zamówienia, dzięki czemu klient będzie bardziej zadowolony, a firma osiągnie lepszy wynik. Zwykły głosowy ChatGPT nie wie, jak to zrobić. Potrzebny jest produkt stworzony i wytrenowany właśnie w tym celu.

Poza tym ludzie mogą nie zauważyć połączenia, nie odebrać telefonu albo przekierować rozmowę na pocztę głosową. To dobija małe firmy w Ameryce. Nie mają pracowników, którzy odbieraliby telefony, brakuje im stałej jakości obsługi i nie mają sposobu, by ją optymalizować. Dzięki sztucznej inteligencji możemy optymalizować połączenie, jeśli nie przyniesie ono oczekiwanego przez firmę rezultatu, wykorzystując dostępne nam dane. Sztuczna inteligencja działa szybko, więc możemy zmieniać przebieg rozmowy — ludzie nie byliby w stanie robić tego niemal równie szybko.

Obecnie wszyscy myślą o sztucznej inteligencji w kontekście oszczędności. Uważamy jednak, że powinni postrzegać ją jako narzędzie rozwoju. Firmy mogą rzeczywiście rozwijać się dzięki wdrażaniu sztucznej inteligencji i osiągać lepsze wyniki niż wcześniej.

Głosowa sztuczna inteligencja musi mierzyć się z wyzwaniami, których systemy tekstowe często mogą uniknąć, takimi jak opóźnienia, przerywanie wypowiedzi, akcenty, hałas w tle, sygnały emocjonalne i nieprzewidywalny przebieg rozmów. Który z tych problemów najtrudniej było niezawodnie rozwiązać na dużą skalę w przedsiębiorstwach?

Największym problemem są opóźnienia. Teraz już go rozwiązaliśmy, ale na początku sprawiał nam ogromne trudności z dwóch powodów.

Po pierwsze, budowaliśmy na rozwiązaniach startupów, które nie były niezawodne. Znaczna część żądań API kierowanych do OpenAI kończyła się niepowodzeniem i nie otrzymywaliśmy odpowiedzi. W rozmowie telefonicznej oznaczałoby to po prostu rozłączenie się, dlatego musieliśmy wdrożyć mechanizm ponawiania prób.

Drugim problemem była przepustowość. Gdy wysyłało się żądanie do OpenAI, trafiało się do kolejki za setkami, a nawet tysiącami innych żądań i nie wiadomo było, które miejsce się w niej zajmuje. Odpowiedź mogła nadejść dopiero po 30 sekundach. Żeby sobie z tym poradzić, sprawdziliśmy, gdzie OpenAI ma punkty końcowe na całym świecie, i przełączaliśmy się między nimi, zależnie od tego, w których krajach była noc i popyt był niewielki. Musieliśmy zbudować całą tę infrastrukturę tylko po to, by znaleźć punkty końcowe o najmniejszym obciążeniu w danej chwili. To był całkiem interesujący problem techniczny. Teraz trenujemy własne modele, w tym Alma, więc nie musimy się tym martwić, bo sami zarządzamy mocą obliczeniową i popytem.

Phonely obsługuje obecnie ponad 120 000 połączeń dziennie w tysiącach firm. Czego nauczyło was działanie agentów głosowych na taką skalę, czego nie dało się przewidzieć podczas tworzenia pierwszej wersji platformy?

Niezwykle ważne jest, by system działał przez 100% czasu. Jednym z najtrudniejszych wyzwań inżynieryjnych, z którymi się mierzymy, jest zapewnienie niezawodności i szybkości. Branża AI rozwija się niezwykle szybko, a my działamy w szybkim tempie nawet jak na firmę z branży AI. W Y Combinator mówi się: „Działaj szybko i psuj rzeczy”. Jednak gdy klienci wykonują 120 000 połączeń dziennie, nie możemy sobie pozwolić na psucie czegokolwiek. Duża część naszych działań polegała więc na ustaleniu, jak wdrażać zmiany w tempie, którego potrzebujemy, by utrzymać znaczenie na rynku i rozwijać produkt, a jednocześnie dbać o zadowolenie klientów korporacyjnych i stabilność usług, gdy tworzymy kolejne funkcje, by wyprzedzać konkurencję. Niezawodność była prawdopodobnie jednym z największych wyzwań, z którymi mierzyliśmy się podczas budowania firmy.

Systemy generatywnej AI mogą zachowywać się nieprzewidywalnie, ale agent telefoniczny obsługujący klientów może zajmować się płatnościami, rezerwacjami, pytaniami dotyczącymi opieki zdrowotnej lub innymi sprawami o dużej wadze. Jak projektujecie agentów głosowych, by byli elastyczni i prowadzili naturalne rozmowy, a jednocześnie nie zmyślali informacji ani nie działali poza zakresem uprawnień?

Przekonaliśmy się o tym na własnej skórze około dwóch lat temu. Obecnie to podejście jest dość powszechnie stosowane w całej branży. Zrozumieliśmy, że największym problemem w przypadku dużych modeli językowych jest kontekst. Gdy umieści się w promptcie zbyt wiele informacji, na przykład całe strony instrukcji, wzrasta prawdopodobieństwo, że coś pójdzie nie tak.

Dlatego zaprojektowaliśmy system orkiestracji złożony z ośmiu agentów, który przekazuje zadanie od jednego agenta do następnego, a każdy z nich ma własny, ograniczony kontekst. Przypomina to sytuację, w której człowiek podczas rozmowy telefonicznej postępuje według scenariusza: uzyskuje pewne informacje, przechodzi do kolejnego etapu i tak dalej. Dzięki temu możemy rozdzielić poszczególne kroki na poziomie kodu. Gdybym przed przyznaniem zwrotu pieniędzy musiał zebrać imię i nazwisko, adres e-mail, numer telefonu i datę urodzenia, mógłbym zagwarantować, że te informacje zostaną zebrane na poziomie kodu, zanim przejdziemy dalej. Nie można tego zagwarantować, polegając wyłącznie na dużym modelu językowym. Dzięki zbudowaniu tej warstwy orkiestracji agentów można osiągnąć 100-procentową niezawodność, ponieważ wszystkie kroki są rejestrowane, zanim zadanie zostanie przekazane nowemu agentowi, który zachowuje kontekst, ale działa wyłącznie na podstawie własnych instrukcji.

Jak podano, jedno z wdrożeń Phonely przyniosło klientowi 10 milionów dolarów dodatkowego przychodu netto w zaledwie trzy miesiące. Co pozwoliło AI osiągnąć tak wymierny wpływ na wyniki biznesowe i gdzie, waszym zdaniem, głosowa AI zapewnia obecnie najwyższy zwrot z inwestycji?

Udało nam się to, ponieważ mieliśmy dostęp do wskaźników klienta. Zależało mu na zwiększeniu sprzedaży, ponieważ połączenia były przychodzące, a dzwoniący byli kwalifikowani, więc mogliśmy śledzić wyniki. W zależności od dnia jego centrum telefoniczne osiągało współczynnik sprzedaży na poziomie około 35–42%. Po uzyskaniu tych informacji od klienta przejęliśmy jego procesy i zoptymalizowaliśmy agenta. Zaczynaliśmy od współczynnika sprzedaży wynoszącego około 20%. W kolejnych miesiącach wprowadzaliśmy zmiany, dostrajaliśmy rozwiązanie i optymalizowaliśmy je, aż w większości przypadków zaczęło osiągać lepsze wyniki niż centrum telefoniczne klienta. Nasz współczynnik sprzedaży stale rósł, ponieważ rozpoznaliśmy problemy i zadbaliśmy o to, by obsługa za każdym razem była spójna i doskonała. Udało nam się osiągać lepsze wyniki niż centrum telefoniczne.

Wraz ze wzrostem możliwości agentów głosowych, gdzie firmy powinny wyznaczyć granicę między rozmowami, które można w pełni zautomatyzować, a sytuacjami, w których powinien uczestniczyć człowiek?

Firmy powinny móc automatyzować każdy powtarzalny proces, który chcą realizować, o ile jest on dostatecznie dobrze zdefiniowany.

Automatyzacja staje się jednak trudna w kilku obszarach. Pierwszym są integracje bez API. Załóżmy, że potrzebujesz integracji, ale dane oprogramowanie nie udostępnia API. Trudno sobie z tym poradzić, choć można zastosować pewne automatyzacje przeglądarki. Kolejnym problemem są sytuacje, w których zadanie wielokrotnie przechodzi od agenta do człowieka, a następnie z powrotem do agenta. Trzecim są luki w kontekście. Załóżmy, że zostawiłem portfel w restauracji. AI nigdy nie będzie w stanie rozwiązać takiego problemu, bo nie wie, czy masz przy sobie portfel, i nie może sprawdzić, czy znajduje się on w restauracji.

Niektóre sytuacje zawsze będą wymagały udziału człowieka, podobnie jak bardziej złożone zadania obejmujące wiele systemów. W takich przypadkach nie należy używać agenta.

Phonely niedawno pozyskała 16 mln dolarów w rundzie finansowania serii A, po tym jak liczba obsługiwanych przez nią firm przekroczyła 10 000. Jak będzie wyglądał kolejny etap rozwoju firmy i jakie możliwości techniczne, twoim zdaniem, pozwolą platformom głosowej AI nowej generacji wyróżnić się na rynku?

Kolejny etap to rozbudowa zespołu i dalsze inwestowanie w jego rozwój. W pełni angażujemy się w ten pomysł. Wiele firm wchodzi w obszar głosowej AI i prawdopodobnie całkiem dobrze poradzi sobie w różnych jego aspektach. My jednak nie budujemy po prostu agenta głosowego. Tworzymy platformę optymalizacyjną, a głos jest jednym z jej kanałów. W przypadku firm, którym zależy na pozyskiwaniu leadów i generowaniu przychodów dzięki połączeniom telefonicznym, skupiamy się przede wszystkim na optymalizacji agentów AI tak, by osiągały pożądane przez klientów wyniki. Warto postrzegać Phonely jako firmę zajmującą się optymalizacją, która pomaga klientom poprawiać działanie ich agentów.

W swoich badaniach akademickich zajmowałeś się również wykorzystaniem AI i technologii inteligentnych liczników do zwiększania dostępu do energii i czystych metod gotowania w gospodarkach rozwijających się. Patrząc poza Phonely, jak widzisz zastosowanie AI w rozwiązywaniu dużych problemów dotyczących świata rzeczywistego, takich jak dostęp do energii, i czy ostatecznie chciałbyś wrócić do tej dziedziny?

AI może przynieść wiele dobrego, ale wiele istniejących problemów jest spowodowanych przez ludzi, dlatego zmiana musi nastąpić również po tej stronie. Technologia nie rozwiąże wszystkich problemów. Światu przyniesie korzyść to, że zmiany technologiczne i społeczne będą zachodzić równocześnie.

Dziękujemy za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, mogą odwiedzić Phonely.