Deon Nicholas, współzałożyciel i CEO Forethought – seria wywiadów

Deon Nicholas jest współzałożycielem i dyrektorem generalnym Forethought. Wcześniej tworzył produkty i infrastrukturę w Facebooku (META ), Palantirze (PLTR ), Dropboxie (DBX ) i Pure Storage. Jest autorem publikacji o uczeniu maszynowym i patentów dotyczących infrastruktury. Był finalistą światowego finału ACM International Collegiate Programming Contest i znalazł się na liście Forbes 30 under 30. Pochodzi z Kanady. Lubi spędzać czas z żoną i synem, grać w koszykówkę i czytać tyle książek, ile zdoła.

Forethought, platforma sztucznej inteligencji i uczenia maszynowego dla przedsiębiorstw, początkowo koncentrowała się na obsłudze klienta. Jej AI może uczyć się na podstawie wewnętrznych dokumentów, e-maili, czatów, a nawet starych zgłoszeń, aby automatycznie rozwiązywać sprawy, prawidłowo kierować zgłoszenia i szybko wydobywać najistotniejszą wiedzę organizacji.

Spotkaliśmy się z Deonem podczas corocznej konferencji AI Upper Bound w Edmonton w Albercie w 2023 roku. Jej organizatorem jest Amii , czyli Alberta Machine Intelligence Institute.

To nasz drugi wywiad z Deonem. W pierwszym wywiadzie rozmawialiśmy o jego przeszłości i początkach w AI; tym razem skupiliśmy się na jego wizji przyszłości.

Czy mógłbyś krótko wyjaśnić, czym zajmuje się Forethought?

Forethought dostarcza generatywną sztuczną inteligencję do obsługi klienta. Wystartowaliśmy w 2018 roku na TechCrunch Disrupt i od tego czasu rozwinęliśmy się, obsługując duże firmy, takie jak Instacart. Dostarczamy warstwę inteligencji opartą na danych zgłoszeń klientów. Przekłada się to na chatboty, mamy nadzieję inteligentniejsze, oraz pomoc dla konsultantów. Obecnie wykorzystujemy w tym generatywną AI.

Kiedy przeszliście na generatywną AI?

Co ciekawe, korzystaliśmy z pewnych form generatywnej AI od samego początku. Oczywiście nie były tak potężne jak dzisiejsze rozwiązania. GPT-2, o ile pamiętam, ukazał się w 2018 lub 2019 roku jako otwarty model; były też inne modele, jak T5. Eksperymentowaliśmy z różnymi dużymi modelami językowymi i budowaliśmy własne. Wcześniej była to funkcja dająca przewagę przy oszczędnym wykorzystaniu. W ciągu ostatnich sześciu miesięcy stała się jednak fundamentalną zmianą modeli biznesowych i napędzających je mechanizmów.

W ostatnich miesiącach musieliśmy przemyśleć nasz silnik na nowo. W marcu tego roku, 2023, uruchomiliśmy SupportGPT, wykorzystujący duże modele językowe, takie jak GPT OpenAI. Przemyśleliśmy cały sposób działania. To niekoniecznie nowy produkt, lecz nowy silnik wszystkich naszych produktów, który przyniósł wiele ulepszeń na każdym poziomie.

Jak wygląda rozpoczęcie korzystania z SupportGPT przez firmę?

Jest on wbudowany w nasze produkty. Zawsze zaczynamy od danych klienta i to nas wyróżnia. W większości rozwiązań startuje się od pustej kartki i trzeba ręcznie programować reguły. U nas zaczyna się od integracji. Jeśli używasz popularnego systemu obsługi zgłoszeń lub CRM, takiego jak Zendesk czy Salesforce Service Cloud, rejestrujesz się i instalujesz naszą integrację w centrum pomocy. Uruchamia to indeksowanie, trenowanie, dostrajanie i budowę modelu oraz silnika. Następnie można konfigurować, edytować i wdrażać produkty. Najpopularniejszy jest Solve, agent AI działający na stronie internetowej jak chatbot, w e-mailach lub w innej formie. Automatycznie rozmawia z klientami i odpowiada im za pomocą SupportGPT, niejako ChatGPT dla Twojej witryny.

Automatyzacja obsługuje jednak, powiedzmy, tylko 50% problemów. Co ze sprawami wymagającymi człowieka? Nasz drugi produkt, Triage, kieruje i oznacza zgłoszenia, aby trafiały do właściwego konsultanta odpowiednim kanałem i we właściwym czasie. Assist jest pomocnikiem konsultanta, wewnętrznym GPT dla zespołu obsługi. Discover, najnowszy i pod wieloma względami najpotężniejszy produkt, wyszukuje przydatne spostrzeżenia i za pomocą generatywnej AI rekomenduje firmie, co należy zaktualizować lub zmienić.

Czy przy tak dużym wykorzystaniu generatywnej AI halucynacje stanowią problem?

Tak. Halucynacje są jednym z głównych problemów generatywnej AI w większości praktycznych zastosowań. Nagrałem o tym film na LinkedIn, który zdobył pewną popularność. W wielu sytuacjach nie przeszkadzają: gdy wynik sprawdza człowiek lub chodzi o twórcze zastosowanie, jak teksty reklam i blogów, które ktoś później zredaguje. Odrobina zmyślania jest wtedy formą kreatywności. Ale w finansach, ochronie zdrowia czy obsłudze klienta, gdy stawką jest zdrowie, majątek, źródło utrzymania albo po prostu poprawna odpowiedź, halucynacje są ogromnym problemem i ograniczeniem. Naszą przewagą okazało się około pięciu lat doświadczenia z generatywną AI.

Nasze modele od początku skupiały się na poprawności, rozumieniu zasad i procesów. Jeśli ktoś prosi o zwrot w ciągu 30 dni, można go przyznać; później już nie. Takie mechanizmy mieliśmy zbudowane. Kiedy sięgnęliśmy po nowsze duże modele językowe, ich bardziej ludzki sposób wypowiedzi świetnie połączył się z rzeczywistymi informacjami i poprawnością naszych modeli Forethought. Projektowanie promptów i dostrajanie pozwalają wykorzystać tę poprawność do ograniczania halucynacji. Nie eliminujemy ich całkowicie, ale zmniejszamy do poziomu umożliwiającego bardzo skuteczne działanie. Ostatecznie chcemy, by halucynacje były rzadsze niż ludzkie błędy. Trafność porównywalna z ludzką daje już bardzo mocną pozycję.

Ostatnio rozmawialiśmy w 2021 roku. Czego od tego czasu nauczyłeś się o przedsiębiorczości?

Cały świat się zmienił. Pod koniec 2021 roku, niedługo po naszym wywiadzie, pozyskaliśmy 65 milionów dolarów w rundzie C od Steadfast Capital, NEA oraz znanych osób, takich jak Gwyneth Paltrow, Baron Davis i Robert Downey Jr. Nasza wizja budziła ogromne zainteresowanie. Ci ludzie dostrzegli generatywną AI, zanim stała się modna. Był to ekscytujący, szalony czas rozwoju i przyspieszania czegoś, co działało. Ale około sześciu miesięcy później, w połowie 2022 roku, nadeszła recesja. Świat niejako stanął na głowie. Firmy ograniczały wydatki, a model przedsiębiorczości odszedł od wzrostu za wszelką cenę.

Wcześniej myślano: masz wielką rezerwę kapitału, wydawaj ją i rośnij do następnej rundy. Nagle inwestorzy i rady nadzorcze uznali, że pieniądze nie są darmowe. Trzeba budować biznes rentowny albo przynajmniej efektywny. Chodziło o wzrost przy rozsądnej efektywności, choć nadal jak największy w tych granicach. Model odwrócił się niemal z dnia na dzień: nie było gwarancji dostępu do kapitału przez kolejny rok lub dwa, a przy recesji może trzy. Klienci zaciskali pasa. Musieliśmy skupić się na własnej efektywności i zapewnianiu jej klientom.

To wymusiło większe skupienie. Zawsze dostarczaliśmy wartość: jeśli konsultanci rozwiązują więcej spraw w danym czasie, firma oszczędza, klienci mają lepsze doświadczenia i otrzymują więcej uwagi. Trzeba było jednak dopracować prezentacje sprzedażowe, komunikację i kierunek produktów, by pokazać tę wartość. Wewnątrz firmy też musieliśmy działać efektywniej. Nie mogliśmy zakładać, że mamy duże rezerwy i zawsze zbierzemy więcej. Pytaliśmy: jak zbudujemy firmę, jeśli już nigdy nie pozyskamy finansowania?

A jeśli rynek kapitału wysokiego ryzyka otworzy się dopiero za kilka lat? To w porządku, ale musimy być bardzo efektywni, by przy rundzie D mieć wskaźniki świadczące o sukcesie według nowych kryteriów. Były zwolnienia i ogromne zmiany. Rok 2022 był trudny, a w 2023 generatywna AI znów jest popularna. Są wzloty i upadki.

Wszystko to uczy koncentracji i odporności. Jeśli odniesiesz sukces, to dziesięcioletnia podróż; jeśli nie, kończy się wcześniej. Trzeba przyjmować wzloty i upadki ze spokojem, pamiętając, że stale budujesz w kierunku ostatecznej wizji.

Jakie są największe wyzwania przy budowie chatbotów do obsługi klienta i innych zastosowań?

Przejdę chronologicznie. Pierwsze było techniczne: czy modele działają? Dlatego już w 2017 roku korzystaliśmy z nowoczesnych mechanizmów rozumienia i generowania języka naturalnego. Trzeba być na bieżąco z badaniami, a jednocześnie dostarczać wartość. Gdy na początku pytaliśmy klientów dlaczego, mówili, że problem jest ogromny i zapłacą za jego rozwiązanie. Kłopot polegał na tym, że chatboty nigdy nie działały.

W 2017 roku, jeszcze przed oficjalnym startem, zastanawialiśmy się, czy w ogóle powinniśmy wchodzić na ten rynek. Problem był wyraźny, ale rozwiązania zawodziły. Dopytywałem dlaczego i odkryłem, że przypadkiem lub dzięki naszemu doświadczeniu podchodziliśmy do sprawy zupełnie inaczej. Ludzie znali hasła AI i chatbot, lecz nie robili tego, co my. Wszystko opierano na drzewach decyzyjnych i ręcznie wpisanych regułach. Jeśli system zobaczy słowo „zwrot”, realizuje zwrot, ale nie rozumie „chcę odzyskać pieniądze”, bo zabrakło magicznego słowa kluczowego.

Były to drzewa decyzyjne, reguły i narzędzia bez kodowania, które nadawały interfejsowi formę rozmowy, lecz nie były AI. Nawet nie wiedziałem, że tak buduje się chatboty. Chcieliśmy czegoś innego, a ludzie pytali, czy naprawdę się da. Kluczowe było dostrzeżenie różnicy: choć AI od około dziesięciu lat była modnym hasłem, nowoczesnej formy tej technologii, której możliwości widzimy teraz w generatywnej AI, nie stosowano w tym obszarze. Miało to liczne konsekwencje.

Na rynku było mnóstwo szumu. Mówiliśmy, że robimy coś innego, a klienci odpowiadali, że inne firmy też deklarują AI. Musieliśmy bardzo się starać, by udowodnić wartość. Gdy mogliśmy wdrożyć pilotaż w systemie klienta i pokazać, jak rozwiązanie działa i się uczy, sprawa była jasna. Tak zdobywaliśmy klientów i ich logotypy, ale każdy krok oznaczał mozolne udowadnianie wartości. To chyba największe wyzwanie w tej głośnej branży z wcześniejszymi kiepskimi rozwiązaniami.

Z perspektywy czasu wydaje się oczywiste, że drzewa decyzyjne nie zadziałają. Wtedy nie było to takie jasne.

Nie było. I chyba było to wówczas najlepsze, co można było zrobić, prawda?

To też prawda.

Ludzie utożsamiają konwersacyjną obsługę klienta z AI. Te pojęcia w dużym stopniu się pokrywają: ChatGPT to dobry przykład rozmowy, ale jego silnik GPT-3 istniał wcześniej i to on był sztuczną inteligencją. Był potrzebny, by poprawić rozmowę. Dawniej chcieliśmy rozmowy i AI, ale rozmowę mogliśmy uzyskać tylko przez pisanie scenariuszy. Był to duży system IVR, interaktywnej odpowiedzi głosowej, albo menu telefoniczne w formie czatu. Potem przyklejano etykietę AI. Dostawaliśmy rozmowę, nie sztuczną inteligencję. Tu następowało nieporozumienie: nie tyle różnica była nieoczywista, ile alternatywa nie była możliwa albo ludzie nie wiedzieli, że jest możliwa i że chodzi o dwie różne rzeczy.

Nazwałeś siebie optymistą w kwestii AI w niedawnym podcaście. Skąd taki optymizm?

Z kilku powodów. Ogólnie widzę nową zmianę platformy i modelu biznesowego, podobną do przejścia od wielkich komputerów centralnych do komputerów osobistych, internetu, potem z komputerów lokalnych do chmury i dalej do urządzeń mobilnych. Mniej więcej co dekadę pojawia się zmiana tworząca nowe modele biznesowe i firmy warte biliony dolarów. Salesforce (CRM ), gigant wart 200 miliardów dolarów, rozpoznał na przykład przejście do chmury. Pewnie twierdziłby, że sam je wywołał, ale dostrzegł je i przeniósł bazy danych oraz systemy ewidencji z lokalnych instalacji Oracle czy Siebel do chmury.

Zbudował system ewidencji dla sprzedawców, wszedł na giełdę i stał się miliardowym biznesem. Powtórzył to dla obsługi i marketingu, dochodząc do 200 miliardów dolarów. Pytam siebie, co by było, gdyby Salesforce powstał w naszych czasach, powiedzmy w 2030 roku. Wierzę, że historia się powtórzy. Dlatego pracuję nad naszą firmą: przedsiębiorstwa takie jak Forethought, budowane wokół AI, staną się następnymi Salesforce’ami i stworzą możliwości warte biliony dolarów. To szansa dla biznesu, ale też klientów i konsumentów. Telefony dały nam superkomputer w kieszeni.

GPT da nam w kieszeni superumysł. Gdy potrzebujesz strzyżenia, Twoja AI porozmawia z AI salonu i umówi wizytę. Miejmy nadzieję, że wszystko napędzi Forethought, ale chodzi o całkiem nowy sposób działania. Zmienią się modele ekonomiczne. To także wyrównuje szanse, bo innowację łatwo przyjąć. Kiedyś trzeba było doktoratu z AI, by wiedzieć, jak z tego korzystać. Dziś moja mama używa ChatGPT. Więcej osób poznaje AI i być może zechce uczyć się programowania czy projektowania promptów. To wyrównuje możliwości niezależnie od wiedzy eksperckiej. Właśnie ta ekonomiczna szansa budzi mój największy optymizm.

Jak przewidujesz rozwój ogólnej sztucznej inteligencji, AGI? Zobaczymy ją za naszego życia?

Zacznę od tego, że nikt nie wie. To zapewne prawda. Kto twierdzi, że wie, kłamie. Ale widzimy wystarczająco dużo postępów. Może AGI istnieje już dziś. Kto powie, że GPT i podobne modele nie są mniej więcej tak inteligentne jak ludzki mózg? Nie wiem, może. Raczej nie; to najbardziej prawdopodobna odpowiedź. Ale ludzki mózg ma, ile, bilion neuronów? GPT się zbliża. Co się stanie, kiedy taki system będzie miał bilion neuronów i zostanie wytrenowany na odpowiednich danych? Nasz mózg ukształtowała ewolucja, ale w pewnym sensie uczenie ze wzmocnieniem jest dla maszyn ewolucją na sterydach.

Wszystkie te techniki już istnieją i taka wizja nie wydaje się nieprawdopodobna. Może potrzebujemy nowych technik: transformer i rekurencyjne sieci neuronowe były przełomami, które z perspektywy czasu wydają się oczywiste, ale wcześniej wyglądały na niemożliwe. Przed sieciami rekurencyjnymi nie potrafiliśmy tak przetwarzać języka; później transformery je wyparły, a teraz mamy generatywne wstępnie wytrenowane transformery, GPT. Może potrzeba nowych badań, ale wyniki są już tak dobre, że nie jest to fantazja. Może w pewnym sensie jesteśmy na miejscu, może mamy składniki i musimy je właściwie połączyć, a może dotrzemy tam za 30–50 lat.

Nie wiem, czy pytałeś też o mój stosunek do tego, ale są zagrożenia. Ktoś, chyba Andrej Karpathy z Tesli, porównał AI z energią jądrową. Jej potęga jest zbliżona: fuzja mogłaby dać ogrom energii i umożliwić rzeczy wcześniej niewyobrażalne, nawet podróże kosmiczne, bo energii wystarczyłoby na wszystko. Ale jest też ciemna strona: bomby i broń jądrowa, ogromna zdolność niszczenia.

Najlepszym rozwiązaniem znalezionym przez społeczeństwo było wzajemne ustalanie zasad właściwego użycia tej siły przez jej posiadaczy. Sądzę, że AI ma porównywalną moc, ale zaczyna w świecie cyfrowym, więc początkowo mniej przeraża, dopóki nie otrzyma na przykład dostępu do broni jądrowej. Jeśli wraz z rozwojem AI budujemy ograniczenia i zabezpieczenia, jak sądzę robimy, jesteśmy w dobrej sytuacji. Potrzebujemy AI tak potężnej jak GPT, by wykrywać fałszywe wiadomości generowane przez GPT. Jestem optymistą, ale to nie zwalnia nas z równoczesnego rozwijania technologii bezpieczeństwa.

Lubisz czytać. Jakie dobre książki polecasz?

Ostatnio przeczytałem „The Advantage” Patricka Lencioniego. Opowiada o budowaniu zdrowej organizacji: od spotkań i wspólnego kierunku zespołu kierowniczego po komunikowanie misji i wartości. Łączy pomysły z jego wcześniejszych książek, takich jak Death by Meeting. The Advantage jest chyba ostatnią przeczytaną przeze mnie książką. Co zabawne, ostatnio nie czytałem książek o AI, choć czytam artykuły badawcze. Gorąco polecono mi „Superhuman”, którą powinienem przeczytać. Jeszcze jedna książka z literatury faktu to „Good to Great”, moja ulubiona o zarządzaniu. Z beletrystyki polecam The Expanse, na podstawie której powstał też serial.

Oglądałem serial.

Oglądałeś? Chyba jest na Amazon Prime. Lubię go, bo świetnie pokazuje nie tylko science fiction, lecz także realizm naukowy. Oczywiście jest w nim dużo fikcji, ale subtelnie przedstawia świat podróży kosmicznych i rozwój polityki. Ludzie zapewne zachowywaliby się właśnie tak. Telefony mają zaawansowaną AGI, ale jest to pokazane dyskretnie, nie stanowi głównego tematu. Dlatego o tym mówię. Bohaterowie zwracają się do telefonu, on wykonuje zadanie i kończy je kilka godzin później, gdy akcja toczy się dalej. Rozmawiają z nim jak z człowiekiem, wracają do swoich zajęć, a on później przychodzi z informacjami i odpowiedziami.

Myślę, że tak AGI będzie działać u nas. Każdy będzie miał własnego Einsteina, C-3PO albo R2-D2 w telefonie, a w końcu w robocie. Wykona zadania, odpowie i rozwiąże problemy z inteligencją Einsteina. Gdyby każdy miał przyjaciela Alberta Einsteina, AGI równie inteligentną jak człowiek albo inteligentniejszą, moglibyśmy zrobić więcej. Ludzie od razu pytają, co jeśli wszystkie staną się złe. Ale już mamy osiem miliardów istot o ludzkiej inteligencji. Ludzie mają wiele wad, a jednak stworzyliśmy społeczeństwo i cywilizację, w których żyjemy. To piękne.

Ciekawy jest kontrast ze Star Trekiem, gdzie korzystanie z technologii jest podkreślane.

My nie rozmawiamy ciągle o telefonach. Ale sto lat temu powiedzenie komuś, że można natychmiast porozmawiać z osobą w Katarze, brzmiałoby jak magia. Wiele dzisiejszych rzeczy byłoby dosłownie magicznych dla ówczesnych ludzi.

Nawet Kindle wydawałby się magiczny sto lat temu: książka, która zmienia się zależnie od tego, czego chcesz.

Dokładnie, zależnie od życzenia. Jak z Harry’ego Pottera. Tak postrzegam te technologie. Podobne szybkie zmiany przyniosły elektryczność i druk. Przez pewien czas są wielkie i zadziwiające, potem kolejne pokolenie uważa je za zwykłą część życia. Wyobraź sobie świat, w którym AGI jest oczywistością, wbudowaną we wszystko, co robimy.

Niedawno napisałeś na Twitterze: „Mierz sukces tym, co kończysz, a nie tym, co zaczynasz”. Jak wygląda meta dla Twojej firmy?

Jaki jest ostateczny cel? Wracając do nowych modeli ekonomicznych, inspirują mnie dyskusje o tym, że Google (GOOGL ) nie ma trudnej do skopiowania przewagi konkurencyjnej. Wyciekł dokument i wszyscy spanikowali. Uważam, że to prawda, ale OpenAI zapewne też nie ma takiej przewagi. Ważniejsze jest to, że w najbliższych miesiącach pojawi się mnóstwo historii o firmach, których modele biznesowe AI wywraca do góry nogami. Dotyczy to obsługi klienta, platform wsparcia, CRM-ów, wyszukiwarek i innych dziedzin.

Wiele firm teraz wskakuje do tego pociągu. Ale technologia może ulepszać istniejący biznes równie mocno, jak go przeobrażać. Jedne firmy dostosują się szybciej, a te, które osiągnęły już pewną skalę, mogą przyspieszyć bardziej niż te, które jeszcze jej nie mają.

Nie zawsze tak będzie: małe firmy także mogą poruszać się szybciej. Nie ma uniwersalnej reguły. Część starych organizacji zareaguje za wolno i zostanie zastąpiona, część małych ruszy szybko, a inne będą pomiędzy. Moglibyśmy uczynić każdy punkt styku ludzi z firmami szybszym i inteligentniejszym. Dziś pracujemy nad obsługą klienta, bo to najczęstsza interakcja: masz problem lub pytanie. Przetwarzamy ponad 100 milionów zgłoszeń rocznie i dopiero zaczynamy. Z czasem może to być miliard, dziesięć miliardów albo bilion, a to tylko obsługa klienta.

Tę samą technologię można wykorzystać w marketingu, mam nadzieję dzięki Forethought. Dlaczego kontaktować się z firmą tylko w sprawie problemu? A gdy chcesz poznać nowy produkt, usługę lub coś kupić? Także u pracodawcy: masz pytanie o IT albo kadry? AI może zmienić każdy punkt styku. Możemy uczestniczyć w tej historii i być firmą przynoszącą taką przyszłość. To nasza misja i cel: uwolnienie ludzkiego potencjału. Wszystko może stać się szybsze i efektywniejsze, oddając ludziom czas, energię i uwagę dla bliskich albo tego, co jest dla nich ważne. Ludzkość wchodzi na wyższy poziom.

Wierzę, że mamy tę szansę i możemy ją wykorzystać. Biznesowo może to być firma warta miliardy, być może dziesiątki lub setki miliardów dolarów, tak jak Salesforce. Co by było, gdyby Salesforce powstał w 2023 roku?

Dziękujemy za wywiad. Czytelnicy zainteresowani dodatkowymi informacjami mogą przeczytać nasz pierwszy wywiad z Deonem lub odwiedzić Forethought.