Isaiah N. Granet, współzałożyciel i CEO Bland – seria wywiadów

Isaiah N. Granet, współzałożyciel i CEO Bland, jest założycielem startupu i inżynierem, którego tło łączy wykonanie techniczne z wczesnym doświadczeniem przedsiębiorczym i długoletnią pracą społeczną. Przed założeniem swojej obecnej firmy, uczestniczył w Z Fellows i Y Combinator, zdobywał doświadczenie inżynierskie w Lantern, oraz założył San Diego Chill, organizację non-profit, która zebrała ponad 2,5 miliona dolarów, aby pomóc dzieciom z niepełnosprawnościami rozwojowymi w dostępie do sportu, zdobywając uznanie na poziomie krajowym i kontynuując swoją działalność na poziomie zarządu.

Bland koncentruje się na budowaniu infrastruktury dla połączeń telefonicznych zasilanych przez AI, umożliwiając firmom wdrożenie agentów głosowych, które mogą obsługiwać wsparcie klienta, sprzedaż i operacje na dużą skalę. Platforma jest zaprojektowana, aby zastąpić lub uzupełnić tradycyjne centra kontaktowe, oferując programowalne interakcje głosowe, odpowiedzi w czasie rzeczywistym i głębokie integracje z systemami biznesowymi, pozycjonując się jako podstawowa warstwa w automatyzacji komunikacji z klientami.

Założyłeś San Diego Chill jako nastolatek, aby stworzyć dostęp do sportu dla dzieci z niepełnosprawnościami rozwojowymi, długo przed wstąpieniem do Y Combinator lub założeniem Bland. Jak to wczesne doświadczenie budowania organizacji wpłynęło na sposób, w jaki podejściesz do założenia firmy głosowej AI, która teraz znajduje się pomiędzy przedsiębiorstwami a ich klientami?

Bardzo wiele mojego życia i pracy skupiło się na budowaniu. Od młodego wieku miałem tę ciągłą potrzebę tworzenia. Gdy tylko pojawiła się we mnie idea lub przekonanie o świecie, stało się dla mnie niemożliwe do zignorowania. Budowanie San Diego Chill nauczyło mnie nie tylko, jak tworzyć i prowadzić organizację, ale także nauczyło mnie o wpływie, jaki nasze działania mogą mieć na innych. Możliwość oddania czegoś przez stworzenie organizacji, która w przeciwnym razie nie istniałaby, jest dla mnie czymś głęboko satysfakcjonującym. Lekcje i wartości, które wyniosłem z Chill, towarzyszą mi każdego dnia.

Po przejściu przez YC w 2023 roku, co przekonało cię, że infrastruktura głosowa dla przedsiębiorstw jest nadal fundamentalnie złamana, aby uzasadnić budowę systemu końca z końca, zamiast nakładania modeli LLM na legacy IVR?

Pomyśl o ostatnim razie, kiedy używałeś czatu bankowego. Prawdopodobnie czekałeś dłużej, niż powinieneś, dostałeś odpowiedź, która nie rozwiązała twojego problemu, i skończyłeś na telefonie. Potem głos robota przeprowadził cię przez menu opcji, których nie chciałeś, a naciśnięcie 0 nic nie dało.

Banki wydały miliardy, aby uczynić ten doświadczenie możliwym, a chatboty nadal zajmują ostatnie miejsce w zadowoleniu klienta, na poziomie 29%. Niższy niż e-mail. Niższy niż centra kontaktowe, o których wszyscy już skarżą się.

To jest dynamiczna sytuacja od dwóch dekad. Przedsiębiorstwa próbują trzymać klientów z dala od swojego personelu. Klienci próbują dostać się do osoby. Żadna ze stron nie wygrywa.

Problem nie polega na tym, że firmy nie chcą to naprawić. Po prostu nie mogą obsłużyć dobrej jakości doświadczenia na dużą skalę. Centrum kontaktowe, które obsługuje milion połączeń miesięcznie, jest drogą i trudną operacją, a jakość jest niestabilna niemal z definicji.

To, co się zmieniło, to fakt, że AI pozwala teraz na rozwiązanie połączeń, zamiast tylko ich przekierowania. Nie drzewa połączeń. Nie muzyka na czekanie. Agent, który rozumie, o co pyta klient, i rozwiązuje to.

Ale to działa tylko wtedy, gdy system jest zbudowany od podstaw z myślą o głosie w czasie rzeczywistym. Gdy nakładasz modele LLM na legacy IVR lub łączysz usługi zewnętrzne, pojawia się opóźnienie i spada niezawodność. Rozmowy się psują.

Dlatego skoncentrowaliśmy się na budowaniu infrastruktury od końca do końca. Głos działa tylko wtedy, gdy czuje się natychmiastowy i naturalny. Jeśli nie, klient kończy połączenie.

Bland podjął niezwykły krok, budując i hostując własny stos TTS, inference i transkrypcji wewnętrznie. Jakie kompromisy widzieliście w zależności od API stron trzecich, które ostatecznie skłoniły was do posiadania pełnej warstwy infrastruktury głosowej?

Każda warstwa, którą zlecasz na zewnątrz, dodaje opóźnienie i ryzyko.

Większość platform AI głosowych jest sprzedawcami. Biorą transkrypcję stron trzecich, dodają model stron trzecich, kierują go przez TTS stron trzecich i wręczają wynik. To może działać w kontrolowanym demo. Rzadko działa, gdy połączenia są na dużą skalę lub coś w łańcuchu pójdzie nie tak.

Jest też problem z danymi. Dostawcy modeli podstawowych, OpenAI jako przykład, używali danych klientów do szkolenia modeli. Mówią, że licencje dla przedsiębiorstw są inne. Może są. Ale ta niepewność jest wystarczająca, aby wiele zespołów ds. bezpieczeństwa i zgodności czuło się niekomfortowo.

Gdy samodzielnie hostujesz cały stos — transkrypcję, inferencję, TTS, orchestrację — kontrolujesz każdy milisekund i każdą aktualizację modelu. Dane klienta pozostają wewnątrz ekosystemu klienta. Nie dotykają łańcucha szkoleniowego stron trzecich, nie przechodzą przez infrastrukturę, której nie możesz audytować, i nie poruszają się, chyba że klient zdecyduje się na to.

Możesz dać każdemu klientowi przedsiębiorstwa dedykowaną infrastrukturę, aby wzrost z innego przedsiębiorstwa nie dotknął ich wydajności. A gdy coś pójdzie nie tak, możesz to naprawić, zamiast czekać na dostawcę.

Dla branż regulowanych niektórzy klienci potrzebują pełnego stosu w swoim własnym VPC lub na miejscu. To jest możliwe tylko wtedy, gdy dostawca faktycznie posiada to, co wdraża.

Tradycyjna automatyzacja centrów kontaktowych koncentrowała się głównie na odwracaniu prostych połączeń wsparcia. Dlaczego zdecydowałeś się na priorytet długich, złożonych interakcji klienta zamiast optymalizacji pod kątem automatyzacji opartej na objętości?

Dlaczego zdecydowałeś się na priorytet długich, złożonych interakcji zamiast rozpoczęcia od przypadków o wysokiej objętości?

Zajęliśmy odwrotne podejście. Jeśli możemy niezawodnie obsłużyć najbardziej złożone i wrażliwe połączenia, wszystko inne staje się proste. Celem nie jest budowanie demo, ale dostarczanie pełnej agencji rozwiązania połączeń na dużą skalę. To wymaga systemów o niskim opóźnieniu i wysokiej niezawodności, które mogą zarządzać przypadkami brzegowymi, które definiują prawdziwe rozmowy z klientami.

Twoi agenci są coraz częściej integrowani z CRM i bazami operacyjnymi, aby rozwiązywać połączenia od końca do końca. Jak automatyzacja głosowa zmienia architekturę przepływów pracy przedsiębiorstw w porównaniu z pilotami opartymi na czacie?

Systemy legacy często nie mówią do siebie. CRM, narzędzia do planowania i platformy rozliczeniowe są rozproszone. Bez dostępu do tych systemów, agent głosowy może odpowiedzieć tylko na ogólne pytania i nie wiele więcej.

Nie może sprawdzić konta, zaktualizować rekordu ani umówić spotkanie. Zbiera informacje i przekazuje je dalej. Tymczasem przedstawiciele ludzcy spędzają czas na pracy, która nie powinna dotykać osoby: logowanie notatek z połączeń, ręczne planowanie spotkań, pobieranie raportów, aby ustalić, kto potrzebuje follow-up.

Głęboka integracja jest tym, co umożliwia rozwiązanie połączeń od końca do końca. Bez niej automatyzujesz tylko powitanie, a nie połączenie.

Niedawne demo klonu głosu Soulja Boy podkreśliło, jak agenci konwersacyjni mogą sięgać poza operacje wewnętrzne do doświadczeń zorientowanych na markę. Czy uważasz, że agenci głosowi dla przedsiębiorstw ewoluują w kierunku cyfrowych przedstawicieli, którzy będą działać nieprzerwanie na kanałach sprzedaży, wsparcia i marketingu?

Zdecydowanie. Widzimy świat, w którym każdy klient ma osobistą relację ze swoimi ulubionymi i niezbędnymi firmami. Ważne jest to, że AI nie jest tylko “zabawne”, ale może naprawdę rozwiązać najbardziej złożone problemy.

Wprowadzenie głosu w czasie rzeczywistym wprowadza opóźnienia, halucynacje i wyzwania tożsamości, które nie istnieją w wdrożeniach AI opartych na tekście. Jakie były najtrudniejsze ograniczenia techniczne, z którymi spotkałeś się przy budowaniu agentów, którzy muszą odpowiadać w czasie krótszym niż sekunda, utrzymując dokładność konwersacji?

Opóźnienie. To jest tam, gdzie większość demo umiera.

Jeśli chatbot potrzebuje trzech sekund, aby odpowiedzieć, użytkownik czeka. Jeśli agent głosowy pauzuje niewygodnie po tym, jak skończysz mówić, rozmowa jest już przerwana. Odpowiedzi muszą przyjść z powrotem w czasie krótszym niż 400 milisekund. Większość platform nie może dotrzeć do tego poziomu, ponieważ łączą wiele usług stron trzecich, każda z nich dodając własne opóźnienie.

Ale opóźnienie to tylko część problemu. Prawdziwe połączenia z klientami są nieporządne w sposób, który demo nigdy nie ujmuje. Ludzie przerywają w trakcie zdania. Hałas tła wkrada się. Klienci zmieniają język. Żądania są niejasne. AI głosowa, która wytrzymuje w produkcji, radzi sobie z przerwaniem bez utraty kontekstu, adaptuje się, gdy rozmowy schodzą z tematu, i robi to bez braku płynności.

Klienci nie porównują AI głosowej z innymi botami. Porównują ją z rozmową z osobą. To jest poprzeczka.

Wzrasta kontrola, w jaki sposób ludzkie systemy AI przedstawiają się w interakcjach. Jak przedsiębiorstwa powinny myśleć o przejrzystości przy wdrażaniu agentów konwersacyjnych, które mogą być nie do odróżnienia od personelu?

Stanowczo wierzymy w uczciwość i przejrzystość dla użytkownika końcowego. Chociaż niektóre regulacje są uciążliwe i paraliżujące, żadna forma oszustwa nie jest akceptowalna. Pracujemy z przedsiębiorstwami, aby stworzyć płynne doświadczenia oparte na zaufaniu z klientem.

Gdy agenci AI zaczynają obsługiwać miliony jednoczesnych interakcji z klientami, jakie wyzwania operacyjne pojawiają się najpierw, gdy firmy przechodzą z wdrożeń pilotażowych do wdrożeń na dużą skalę?

Kilka rzeczy ma znaczenie w praktyce. Po pierwsze, architektura modułowa promptów. Monolityczne prompty są prawie niemożliwe do debugowania. Gdy połączenie idzie nie tak, musisz izolować dokładnie, gdzie i dlaczego to się stało, a nie patrzeć na ścianę instrukcji, próbując ustalić, która linia spowodowała problem.

Pełna obserwowalność ma równie wielkie znaczenie. Podsumowania po połączeniu nie są wystarczające. Potrzebujesz rzeczywistej widoczności tego, co agent robi w każdym punkcie każdej interakcji.

Poręczenia są również niezbędne, zwłaszcza w branżach regulowanych. Agent musi pozostać w granicach polityki. To nie jest opcjonalne. A jeśli nie, musi być łagodne awaryjne.

Wreszcie, jest zarządzanie wiedzą. Agent potrzebuje dostępu do danych własnych, takich jak produkty, polityki i procedury. Platforma powinna również ujawniać luki w wiedzy automatycznie, gdy pojawiają się one w prawdziwych połączeniach, a nie tydzień później, po tym, jak klient się skarży.

Spójrzając w przyszłość, czy uważasz, że agenci głosowi dla przedsiębiorstw pozostaną specyficznymi narzędziami do zadań, czy ewoluują w agenci AI ogólnego przeznaczenia, zdolne do samodzielnego zarządzania całymi procesami biznesowymi zainicjowanymi przez rozmowę?

Jeśli tylko miałbym odpowiedź! Uważam, że agenci głosowi ewoluują na całym stosie biznesowym, ale mało prawdopodobne, że zobaczymy cały biznes prowadzony przez agenta głosowego. Uważam jednak, że ludzie będą mogli uzyskać natychmiastową, dokładną i bardziej kompleksową obsługę od agentów AI niż mają ją dzisiaj. W rzeczywistości wierzymy, że więcej połączeń telefonicznych będzie miało miejsce, gdy to się stanie. Nie mniej.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Bland.