Donny White, CEO & Co-Founder of Satisfi Labs – Wywiad

Założona w 2016 roku, Satisfi Labs jest wiodącą firmą zajmującą się sztuczną inteligencją konwersacyjną. Wczesny sukces przyniosły jej prace z New York Mets, Macy’s i US Open, umożliwiając łatwy dostęp do informacji często niedostępnych na stronach internetowych.

Donny spędził 15 lat w Bloomberg, zanim wszedł w świat startupów i uzyskał tytuł MBA na Uniwersytecie Cornell oraz tytuł licencjata na Baruch College. Pod kierownictwem Donny’ego, Satisfi Labs doświadczyła znacznego wzrostu w sektorach sportu, rozrywki i turystyki, otrzymując inwestycje od Google (GOOGL ), MLB i Red Light Management.

Czy mógłbyś powiedzieć, co spowodowało, że zostałeś przedsiębiorcą?

Podczas trzeciego roku studiów, aplikowałem na stanowisko recepcjonisty w Bloomberg. Gdy już się tam znalazłem, powiedziałem kolegom, że jeśli będą mnie uczyć, to mogę szybko się uczyć. W czasie czwartego roku studiów byłem już pełnoetatowym pracownikiem i przeniosłem wszystkie moje zajęcia na wieczór, aby móc robić obie rzeczy. Zamiast uczestniczyć w uroczystości zakończenia studiów w wieku 21 lat, spędziłem ten czas, zarządzając moim pierwszym zespołem. Od tego momentu miałem szczęście pracować w meritokracji i byłem kilkakrotnie awansowany. W wieku 25 lat kierowałem już własnym działem. Następnie przeniosłem się do zarządzania regionalnego, a potem do rozwoju produktu, aż w końcu kierowałem sprzedażą na wszystkich kontynentach amerykańskich. W 2013 roku zacząłem się zastanawiać, czy mógłbym zrobić coś większego. Poszedłem na kilka rozmów w młodych firmach technologicznych i jeden z założycieli powiedział mi: „Nie wiemy, czy jesteś dobry, czy Bloomberg jest dobry”. Wtedy wiedziałem, że muszę coś zmienić i sześć miesięcy później zostałem wiceprezesem ds. sprzedaży w moim pierwszym startupie, Datahug. Krótko potem zostałem zwerbowany przez grupę inwestorów, którzy chcieli zakłócić Yelp. Chociaż Yelp wciąż jest dobry i sławny, w 2016 roku zgodziliśmy się na nową wizję i założyłem Satisfi Labs z tymi samymi inwestorami.

Czy mógłbyś opowiedzieć o historii powstania Satisfi Labs?

Byłem na meczu baseballu na Citi Field z Randym, obecnie CTO i współzałożycielem Satisfi, kiedy usłyszałem o jednej z ich specjalności, boczku na patyku. Przeszliśmy przez korytarz i zapytaliśmy personelu o to, ale nie mogliśmy go nigdzie znaleźć. Okazało się, że był ukryty na jednym końcu stadionu, co spowodowało, że zrozumiałem, że byłoby o wiele wygodniej, gdyby można było bezpośrednio zapytać zespół przez czat. To było miejsce, w którym narodził się nasz pierwszy pomysł. Randy i ja pochodzimy z finansów i tła handlu algorytmicznego, co skłoniło nas do podjęcia koncepcji dopasowywania wniosków z odpowiedziami, aby zbudować własny NLP dla hiper-specyficznych zapytań, które będą zadawane w lokalizacjach. Oryginalny pomysł polegał na zbudowaniu indywidualnych botów, które każdy będzie specjalistą w określonej dziedzinie wiedzy, szczególnie wiedzy, która nie jest łatwo dostępna na stronie internetowej. Następnie nasz system miałby „dyrygenta”, który mógłby korzystać z każdego bota w razie potrzeby. To jest oryginalna architektura systemu, która jest nadal używana dzisiaj.

Satisfi Labs opracowała własny silnik NLP i była na progu opublikowania komunikatu prasowego, gdy OpenAI zakłócił waszą technologię, wydając ChatGPT. Czy mógłbyś omówić ten okres i jak to zmusiło Satisfi Labs do zmiany biznesu?

Mieliśmy zaplanowany komunikat prasowy, aby ogłosić naszą patentowaną aktualizację Context-based NLP na 6 grudnia 2022 r. 30 listopada 2022 r. OpenAI ogłosił ChatGPT. Ogłoszenie ChatGPT zmieniło nie tylko naszą mapę drogową, ale także cały świat. Początkowo my, jak wszyscy inni, goniliśmy, aby zrozumieć moc i ograniczenia ChatGPT i zrozumieć, co to oznacza dla nas. Wkrótce zrealizowaliśmy, że nasz system NLP kontekstowego nie konkurował z ChatGPT, ale mógł go nawet wzmocnić. To doprowadziło do szybkiej decyzji o zostaniu partnerem OpenAI. Ponieważ nasz system rozpoczął się od pomysłu zrozumienia i odpowiedzi na pytania na poziomie granularnym, byliśmy w stanie połączyć system „dyrygenta bota” i siedem lat danych o intencjach, aby ulepszyć system i włączyć LLM.

Satisfi Labs niedawno wydała patent na system odpowiedzi Context LLM, co to konkretnie?

W lipcu ogłosiliśmy nasz patentowany system odpowiedzi Context LLM. Nowy system łączy moc naszego patentowanego systemu odpowiedzi kontekstowej z możliwościami dużych modeli językowych, aby wzmocnić cały system Answer Engine. Nowa technologia Context LLM integruje możliwości dużych modeli językowych w całej platformie, od poprawy routingu intencji do generowania odpowiedzi i indeksowania intencji, co również napędza unikalne możliwości raportowania. Platforma przenosi sztuczną inteligencję konwersacyjną poza tradycyjne czaty, wykorzystując moc LLM, takich jak GPT-4. Nasza platforma pozwala markom odpowiadać zarówno generatywnymi odpowiedziami AI, jak i odpowiedziami napisanymi, w zależności od potrzeby kontroli w odpowiedzi.

Czy mógłbyś omówić obecne rozłączenie między większością stron internetowych firm i platform LLM w dostarczaniu odpowiedzi zgodnych z marką?

ChatGPT jest szkolony, aby zrozumieć szeroki zakres informacji i dlatego nie ma poziomu szkolenia granularnego, potrzebnego do odpowiedzi na pytania branżowe z poziomu szczegółowości, jakiej oczekują większość marek. Dodatkowo, dokładność odpowiedzi, które LLM dostarczają, jest tylko tak dobra, jak dane, które zostały dostarczone. Gdy używasz ChatGPT, źródłem danych jest cały internet, co może być niedokładne. ChatGPT nie priorytetuje danych z marki nad innymi danymi. Przez siedem lat obsługiwaliśmy różne branże, uzyskując cenne spostrzeżenia na temat milionów pytań zadawanych przez klientów każdego dnia. To pozwoliło nam zrozumieć, jak dostosować system do większego kontekstu na branżę i dostarczyć solidne i szczegółowe możliwości raportowania intencji, które są kluczowe biorąc pod uwagę wzrost dużych modeli językowych. Chociaż LLM są skuteczne w zrozumieniu intencji i generowaniu odpowiedzi, nie mogą raportować o zadawanych pytaniach. Wykorzystując lata obszernych danych o intencjach, skutecznie stworzyliśmy ustandaryzowane raportowanie za pomocą naszego systemu indeksowania intencji.

Jaką rolę odgrywają lingwiści w ulepszaniu możliwości technologii LLM?

Rola inżyniera promptów pojawiła się z tą nową technologią, co wymaga od osoby zaprojektowania i udoskonalenia promptów, które wywołują określoną odpowiedź od AI. Lingwiści mają głębokie zrozumienie struktury języka, takiej jak składnia i semantyka, między innymi. Jedna z naszych najbardziej udanych inżynierów AI ma wykształcenie lingwistyczne, co pozwala jej znaleźć nowe i subtelne sposoby, aby pobudzić AI. Delikatne zmiany w prompcie mogą mieć głęboki wpływ na to, jak dokładna i wydajna jest generowana odpowiedź, co robi wszystką różnicę, gdy obsługujemy miliony pytań wśród wielu klientów.

Czy mógłbyś opowiedzieć o tym, jak wygląda fine-tuning na backendzie?

Mamy własny model danych, który używamy, aby utrzymać LLM w linii. To pozwala nam zbudować własne bariery, aby utrzymać LLM pod kontrolą, zamiast szukać barier. Po drugie, możemy wykorzystywać narzędzia i funkcje, które inne platformy wykorzystują, co pozwala nam wspierać je na naszych platformach.

Fine-tuning danych szkoleniowych i używanie uczenia ze wzmocnieniem (RL) w naszej platformie może pomóc zminimalizować ryzyko dezinformacji. Fine-tuning, w przeciwieństwie do zapytania bazy wiedzy o konkretnych faktach, tworzy nową wersję LLM, która jest szkolona na tej dodatkowej wiedzy. Z drugiej strony, RL szkoli agenta z ludzką odpowiedzią i uczy się polityki, aby odpowiedzieć na pytania. To okazało się skuteczne w budowaniu mniejszych modeli, które stają się ekspertami w określonych zadaniach.

Czy mógłbyś omówić proces wdrożenia nowego klienta i integracji rozwiązań sztucznej inteligencji konwersacyjnej?

Ponieważ koncentrujemy się na miejscach i doświadczeniach, takich jak sport, rozrywka i turystyka, nowi klienci korzystają z tych, którzy już są w społeczności, co sprawia, że wdrożenie jest bardzo proste. Nowi klienci identyfikują, gdzie żyją ich najbardziej aktualne źródła danych, takie jak strona internetowa, podręczniki pracowników, blogi itp. Przetwarzamy dane i trenujemy system w czasie rzeczywistym. Ponieważ pracujemy z setkami klientów w tej samej branży, nasz zespół może szybko zaproponować zalecenia dotyczące odpowiedzi, które są najlepiej dopasowane do odpowiedzi napisanych lub wygenerowanych. Dodatkowo, ustawiamy przepływy kierowane, takie jak nasz dynamiczny Food & Beverage Finder, aby klienci nigdy nie musieli zajmować się budowaniem botów.

Satisfi Labs obecnie współpracuje ściśle ze zespołami sportowymi i firmami, jaka jest twoja wizja przyszłości firmy?

Widzimy przyszłość, w której więcej marek będzie chciało kontrolować więcej aspektów swojego doświadczenia czatu. To spowoduje wzrost potrzeby naszego systemu, aby zapewnić więcej dostępu na poziomie deweloperskim. Nie ma sensu, aby marki zatrudniały deweloperów, aby budować własne systemy sztucznej inteligencji konwersacyjnej, ponieważ niezbędna ekspertyza będzie rzadka i droga. Jednak z naszym systemem zasilającym backend, ich deweloperzy mogą skoncentrować się bardziej na doświadczeniu klienta i podróży, mając większą kontrolę nad promptami, łącząc dane własne, aby umożliwić większą personalizację, oraz zarządzając interfejsem czatu dla konkretnych potrzeb użytkowników. Satisfi Labs będzie technicznym zapleczem doświadczeń konwersacyjnych marek.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Satisfi Labs.