Deon Nicholas, współzałożyciel i CEO Forethought – seria wywiadów

Deon Nicholas jest współzałożycielem i CEO Forethought. Wcześniej Deon budował produkty i infrastrukturę w Facebooku, Palantir (PLTR ), Dropboxie i Pure Storage. Ma publikacje z zakresu ML i patenty na infrastrukturę, był finalistą mistrzostw świata ACM International Collegiate Programming Contest i został wymieniony na liście Forbes 30 pod 30. Pochodzący z Kanady, Deon lubi spędzać czas z żoną i synem, grać w koszykówkę i czytać jak najwięcej książek, jak tylko może. (META ) (DBX ) (CRM ) (GOOGL )

Forethought, platforma AI i Machine Learning dla przedsiębiorstw, rozpoczęła się od skupienia się na obsłudze klienta. AI firmy może uczyć się z dokumentów wewnętrznych, e-maili, czatu i nawet starych biletów wsparcia, aby automatycznie rozwiązywać bilety i szybko przedstawiać najbardziej istotną wiedzę instytucjonalną.

Spotkaliśmy się na naszym wywiadzie z Deonem na corocznej konferencji Upper Bound 2023 na temat AI, która odbywa się w Edmonton, AB i jest organizowana przez Amii (Alberta Machine Intelligence Institute).

To jest nasz drugi wywiad z Deonem, w naszym pierwszym wywiadzie skupiliśmy się na jego przeszłości i tym, jak zaczął swoją przygodę z AI, w tym wywiadzie skupimy się na jego wizji przyszłości.

Czy mógłbyś podsumować, czym jest Forethought?

W Forethought jesteśmy firmą zajmującą się generatywnym AI dla obsługi klienta. Uruchomiliśmy naszą działalność w 2018 roku na TechCrunch Disrupt, i od tego czasu rozrosliśmy się do obsługi wsparcia dla dużych firm, takich jak Instacart i inne. I podstawowo, dostarczamy warstwę inteligencji na górze danych biletów wsparcia klienta, co przekłada się na rzeczy takie jak chatboty, ale nadzieję, że mądrzejsze, aż do pomocy agentom, wykorzystując generatywne AI i tak dalej.

Jaki czas temu przeszliście na generatywne AI?

Co ciekawe, nawet kiedy zostaliśmy założeni, wykorzystywaliśmy jakiś rodzaj generatywnego AI od samego początku. Nic, co bym nazwał tak potężnym, jak to, co jest dostępne dzisiaj. Ale na przykład, GPT dwa został uruchomiony, sądzę, w 2018, 2019, i otwarty, i były inne modele, takie jak T5. Więc, wykorzystywaliśmy różne duże modele językowe, bawiliśmy się nimi, a także budowaliśmy niektóre z nich wewnętrznie. Ale co się zmieniło, myślę, to to, że używaliśmy go jako funkcji, która dawała nam pewne przewagi, gdy używaliśmy jej oszczędnie. I teraz myślę, że przez ostatnie sześć miesięcy, co się zmieniło, to to, że stało się ono przełomową zmianą w tym, jak działają modele biznesowe i jak działają silniki. I dla nas, musieliśmy ponownie pomyśleć o naszym silniku, powiedziałbym, w ciągu ostatnich kilku miesięcy. I uruchomiliśmy SupportGPT w marcu tego roku, 2023. I to było wykorzystaniem dużych modeli językowych, takich jak GPT OpenAI, i ponownym pomyśleniem o tym, jak robimy całą tę rzecz. I nie jest to tak naprawdę nowy produkt, ale nowy silnik, który napędza wszystkie nasze produkty, co doprowadziło do wielu ulepszeń w całym stosie.

Jaki jest proces dla firmy, która chce zacząć korzystać z SupportGPT?

Na końcu dnia, jest to wbudowane w jeden z naszych produktów. Więc to, co powiem, niezależnie od tego, zawsze zaczyna się od Twoich danych, i to jest nasz różnicujący czynnik. I rzecz, która nas wyróżnia od większości firm, to to, że zaczynasz od pustej kartki, i musisz hard-kodować te reguły. Dla nas, zaczynasz od integracji. Więc, jeśli korzystasz z popularnego help desk lub CRM, takiego jak Zendesk, chcesz współpracować z nami, zapisujesz się, a następnie instalujesz naszą integrację w swoim centrum pomocy. I to uruchamia indeksowanie, uruchamia szkolenie, dostrajanie i wszystkie te rzeczy, i buduje model i silnik. I potem, z tego miejsca, możesz konfigurować, edytować i wdrożyć jeden z naszych produktów. I nasz najpopularniejszy produkt to Solve, który jest agentem AI, który może siedzieć na stronie internetowej, prawie jak chatbot, lub może istnieć w e-mailu, w zasadzie w każdej formie, i zacząć automatycznie rozmawiać i odpowiadać na Twoich klientów, wykorzystując silnik SupportGPT, jak ChatGPT dla Twojej strony internetowej, tak aby mówić.

Ale potem ta automatyzacja obsługuje tylko 50% problemów, tak aby mówić. I co z problemami, które nadal muszą trafić do człowieka? No, mamy również Triage, które jest nazwą naszego drugiego produktu, trasowanie problemów, tagowanie ich, upewnienie się, że trafiają do odpowiedniego agenta, w odpowiednim kanale, o odpowiedniej porze, więc możesz wdrożyć to. I potem Assist jest pilotem agenta, wewnętrznym pilotem GPT dla agentów wsparcia klienta, a ostatecznie Discover, który jest naszym najnowszym, ale w wielu ways, najpotężniejszym produktem, który szuka informacji i robí rekomendacje, również wykorzystując generatywne AI do biznesu, aby powiedzieć, co powinno być zaktualizowane i co powinno być zmienione.

Czy hallucynacje są problemem w ogóle, biorąc pod uwagę, jak bardzo polegacie na generatywnym AI?

Tak. Myślę, że hallucynacje są jednym z dużych problemów związanych z wykorzystaniem generatywnego AI w większości przypadków praktycznych, i nagrałem filmik na LinkedIn o tym, który trochę zyskał na popularności, na temat hallucynacji jako jednego z dużych problemów z generatywnym AI. Są wiele przypadków, w których nie jest to problem, jak na przykład, gdy masz człowieka w pętli lub jest to przypadku czysto kreatywny, i chcesz coś nowego, jak marketing, tworzysz kopie bloga, i masz kogoś, kto to edytuje na końcu dnia. To naprawdę dobre, że one hallucynują trochę. To forma kreatywności. Ale w przypadkach, takich jak finanse lub opieka zdrowotna, lub wsparcie klienta, gdzie Twoje zdrowie, Twoje bogactwo, Twoje życie, lub coś, lub chcesz poprawną odpowiedź, hallucynacje są ogromnym problemem. To duży ogranicznik. Więc, w wielu ways, jedną z fajnych rzeczy, które zrealizowaliśmy, i dlaczego możemy to zrobić, a nikt inny nie, było to, że od dawna wykorzystujemy jakiś rodzaj generatywnego AI.

Wszystkie nasze modele były ukierunkowane na poprawność od samego początku, zrozumienie polityk, zrozumienie przepływów pracy, kiedy ktoś prosi o zwrot pieniędzy, jeśli jest to w ciągu 30 dni, możesz wydać zwrot. Jeśli nie, nie możesz. I wszystkie te rzeczy, które już zbudowaliśmy. I kiedy przyszło czas, aby wykorzystać te nowoczesne duże modele językowe, stwierdziliśmy, że humanizacja dużych modeli językowych, plus rzeczywista informacja i poprawność, którą mogliśmy dostarczyć z naszych modeli, była idealnym dopasowaniem. I potem możesz wykorzystać wszystko to poprzez inżynierię promtu, poprzez dostrajanie, co naprawdę zmniejsza problem hallucynacji. To nie jest całkowicie wyeliminowane, ale zostaje zminimalizowane do punktu, w którym jest bardzo skuteczne. I naszym ostatecznym celem, oczywiście, jest mieć mniej hallucynacji niż błędy ludzkie. Dopóki Twoja szybkość dokładności jest na poziomie ludzkiej dokładności, jesteś w bardzo silnej pozycji.

Co nauczyłeś się od czasu naszego ostatniego wywiadu w 2021 roku o byciu przedsiębiorcą?

Och, Boże. Cały świat się zmienił. Z punktu widzenia przedsiębiorczości, kilka rzeczy się wydarzyło. Pod koniec 2021 roku, krótko po naszym wywiadzie, podnieśliśmy naszą serię C. Podnieśliśmy 65 milionów serii C od Steadfast Capital, NEA, a także luminarzy, takich jak Gwyneth Paltrow, Baron Davis i Robert Downey Jr. W wielu ways, zobaczyliśmy ogromne podekscytowanie wokół naszej wizji, i myślę, że to były ludzie, którzy zobaczyli generatywne AI przed czasem. To było fajne w wielu ways. To był ekscytujący i szalony czas dla nas, aby po prostu rosnąć i podsycać ogień czegoś, co działało. Ale co było interesujące, to to, że krótko po tym, w połowie 2022 roku, więc sześć miesięcy później, recesja. Cały świat wybuchł, tak aby mówić. I to nauczyło mnie wiele, ponieważ tam, gdzie niektóre firmy wydawały, przestały wydawać, i cały model biznesowy nawet być przedsiębiorcą się zmienił z “roś na wszystkie koszty”.