Deon Nicholas, medgrundare och VD för Forethought – Intervjuserie

Deon Nicholas är medgrundare och VD för Forethought. Tidigare har Deon byggt produkter och infrastruktur på Facebook (META ), Palantir (PLTR ), Dropbox (DBX ) och Pure Storage. Han har publicerat artiklar om maskinlärning och har patent på infrastruktur, varit finalist i ACM International Collegiate Programming Contest och utnämnts till Forbes 30 under 30. Deon är ursprungligen från Kanada och tycker om att tillbringa tid med sin fru och son, spela basket och läsa så många böcker som han kan.

Forethought, plattformen för AI och maskinlärning för företag, började med fokus på kundsupport. Företagets AI kan lära sig från interna dokument, e-post, chatt och till och med gamla supportärenden för att automatiskt lösa ärenden och snabbt presentera den mest relevanta institutionella kunskapen.

Vi satte oss ner för en intervju med Deon på den årliga Upper Bound-konferensen 2023 om AI, som hålls i Edmonton, AB och arrangeras av Amii (Alberta Machine Intelligence Institute).

Detta är vår andra intervju med Deon. I vår första intervju fokuserade vi på hans bakgrund och hur han började med AI, medan vi i denna intervju fokuserade på hans vision för framtiden.

Kan du sammanfatta vad Forethought är?

På Forethought är vi ett företag som utvecklar generativ AI för kundsupport. Vi lanserades 2018 på TechCrunch Disrupt och sedan dess har vi vuxit till att förse support till stora företag som Instacart och andra. Vi tillhandahåller ett intelligenslager ovanpå deras kundsupportdata, som sedan översätts till saker som chattbotar, men med stöd av generativ AI och liknande.

Hur länge sedan gjorde du övergången till generativ AI?

Det som är intressant är att även när vi grundades har vi använt någon form av generativ AI sedan de tidiga dagarna. Ingenting som jag skulle hävda är lika kraftfullt som vad som finns tillgängligt idag. Men till exempel lanserades GPT-2 2018-2019 och det fanns andra modeller som T5. Vi har använt olika stora språkmodeller, experimenterat med dem och byggt våra egna interna modeller. Men vad som har förändrats är att det tidigare var en funktion som gav dig vissa fördelar när du använde den sparsamt. Och nu tror jag att det har skett en seminal förändring i hur affärsmodeller fungerar och hur motorerna fungerar. Och för oss tvingades vi omvärdera vår motor, skulle jag säga, under de senaste månaderna. Och vi lanserade SupportGPT i mars i år, 2023. Och det var med stöd av stora språkmodeller som OpenAIs GPT, och vi tänkte om hur vi gör allt.

Vad är processen för ett företag som vill börja använda SupportGPT?

Till slut handlar det om att det är inbäddat i en av våra produkter. Så jag säger att oavsett vad, allt börjar med er data, och det är vår differentiering. Och det unika med Forethought, till skillnad från de flesta företag, är att ni börjar med en tom canvas och måste hårdkoda regler. För oss börjar ni med att integrera. Så om ni använder en populär hjälpdesk eller ett CRM som Zendesk eller Salesforce (CRM ) Service Cloud och vill arbeta med oss, skriver ni upp er och installerar vår integration i er hjälpcenter. Och det startar indexering, utbildning, finjustering och allt annat, och bygger modellen och motorn. Och sedan kan ni konfigurera, redigera och distribuera en av våra produkter. Och vår mest populära produkt är Solve, som är en AI-agent som kan sitta på en webbplats, nästan som en chattbot, eller finnas i e-post och börja automatiskt konversera och svara på era kunder, med stöd av SupportGPT-motorn, som ChatGPT för er webbplats, så att säga.

Men sedan klarar automationen bara av 50% av problemen, så att säga. Och vad händer med problemen som fortfarande måste gå till en människa? Jo, vi har också Triage, som är namnet på vår andra produkt, som dirigerar problem, märker dem och ser till att de hamnar hos rätt agent i rätt kanal, vid rätt tidpunkt, så att ni kan distribuera det. Och sedan har vi Assist, som är en co-pilot för kundsupportagenten, en intern GPT för kundsupportagenterna, och sedan till sist Discover, som är vår senaste, men på många sätt mest kraftfulla produkt, som letar efter insikter och ger rekommendationer, också med stöd av generativ AI till företaget om vad som bör uppdateras och vad som bör ändras.

Med så stor tillit till generativ AI, är hallucinationer ett problem?

Ja. Jag tycker att hallucination är ett av de stora problemen med att använda generativ AI för de flesta praktiska användningsfall, och jag har spelat in en video på LinkedIn om det, som blev ganska viral, om hallucination som ett av de stora problemen med generativ AI. Det finns många fall där det inte är ett problem, som till exempel när det finns en människa i loopet eller när det är ett rent kreativt användningsfall, och du vill ha något nytt, som marknadsföring, du skapar annonskopior och blogginlägg och du kommer att ha någon som redigerar till slut. Det är en form av kreativitet. Men i fall som finans eller hälsovård eller kundsupport, där din hälsa, dina tillgångar, ditt liv eller något annat står på spel, eller du vill ha ett korrekt svar, är hallucination ett jätteproblem. Det är en stor begränsning. Så på många sätt var en av de coola sakerna vi insåg, och varför vi kan göra det och ingen annan kan, att vi har använt någon form av generativ AI under de senaste fem åren.

Alla våra modeller har fokuserat på korrekthet från början, förstått policys, förstått arbetsflöden, när någon ber om en återbetalning, om det är inom 30 dagar, kan du ge återbetalning. Om det inte är det, kan du inte. Och allt det där som vi redan hade byggt. Och när det var dags att använda dessa moderna stora språkmodeller, fann vi att humaniseringen av de stora språkmodellerna, plus den faktiska informationen och korrektheten som vi kunde ge från våra modeller, var en perfekt match. Och sedan kan du använda all den korrektheten genom prompt-engineering, finjustering, som faktiskt minskar hallucinationsproblemet. Det är inte helt eliminerat, men det minskas till en punkt där det är mycket effektivt. Och vårt slutgiltiga mål, förstås, är att ha färre hallucinationer än vad människor skulle ha fel. Så länge din noggrannhetsgrad är i nivå med mänsklig noggrannhet, då är du i en riktigt stark position.

Vi intervjuade dig senast 2021. Vad har du lärt dig sedan om att vara entreprenör?

Oh, min gud. Hela världen har förändrats. Från ett entreprenörsperspektiv har flera saker hänt. I slutet av 2021, strax efter vår intervju, höll vi en serie C-runda. Vi höll 65 miljoner serie C från Steadfast Capital, NEA, samt kändisar som Gwyneth Paltrow, Baron Davis och Robert Downey Jr. På många sätt såg vi en massa spänning kring vår vision, och jag tror att det var människor som såg generativ AI innan det. Det var coolt på många sätt. Det var en spännande och galen tid för oss att bara växa och lägga bränsle på något som fungerade. Men vad som var intressant var att strax efter, mitt i 2022, så kom recessionen. Hela världen sprängdes, så att säga, rätt? Och det lärde mig en massa, för där vissa företag spenderade, så klippte de tillbaka på utgifterna, och hela affärsmodellen för att vara entreprenör förändrades från “väx till varje pris”.

Hej, du har den här jättestora krigskassan av kapital, bränna det och väx, för att komma till din nästa runda. Till att plötsligt alla, inklusive våra VC, alla VC och styrelsemedlemmar, vaknade upp och sa, “Hey, pengar är inte gratis, och du måste bygga antingen ett lönsamt företag, eller så behöver det inte nödvändigtvis vara lönsamt, men det måste vara effektivt”. Och det är inte längre bara att växa till varje pris, utan att växa med rimlig effektivitet. Och du vill fortfarande växa maximalt med rimlig effektivitet, men modellen hade nästan vänds upp och ner över en natt, eftersom det inte finns någon garanti för att du kommer att ha tillgång till kapital för en till två år. Om vi hamnar i recession, kanske tre. Köpare drar åt purse-strings, så att säga. Och så måste du verkligen fokusera på effektivitet och också driva effektivitet för dina kunder.

På många sätt tvingades vi att bli mer fokuserade på, jag menar, vi levererade alltid värde på många sätt, eftersom det är branschen vi är i. Om vi kan hjälpa er hjälpa era agenter producera mer, lösa fler frågor under en given tid, så kommer ni att spara en massa kostnader och ni kommer att ha en bättre kundupplevelse, och ni kommer att ha mer uppmärksamhet. Allt det där måste hända, men vi måste bli tightare på våra pitches, tightare på vår messaging och på vår produktfokus för att dela det. Och sedan internt, för oss själva, måste vi fokusera på effektivitet. Det var inte bara, “Hey, du har den här stora krigskassan, och du kan alltid samla in mer pengar, och så vidare”. Nej, det var som, “Låt oss figurera ut hur vi kan bygga ett företag”. Vad händer om vi aldrig kan samla in pengar igen? Vad händer om det tar oss år att samla in pengar innan VC-marknaden öppnar upp? Jo, det är okej. Vi måste bygga ett mycket effektivt företag, så att när det blir dags för en serie D, har vi alla metricer som framgång ser ut som, åtminstone i den nya världen, i termer av vad som mäts. Jag tror att det var stort, och uppsägningar och allt, och hela världen förändrades. Och jag tror att det har varit ett mycket tufft år. 2022 var ett tufft år, och sedan 2023, generativ AI är het igen. Och så finns det upp- och nedgångar i det här.

Så, jag pratar mycket där. Men ja, jag tror att allt det där lär dig att vara fokuserad och att vara resilient. Det är den andra saken som är viktigt, att det är en tioårig resa, om du är framgångsrik. Om du inte är det, så är det tidigt, och så kom ihåg det genom upp- och nedgångarna, du måste ta det i etapper och att du alltid bygger mot den slutgiltiga visionen.

Vilka är de största utmaningarna som du står inför när du försöker bygga chattbotar för kundservice och andra användningsområden?

Ja, de största utmaningarna. Jag ska gå i kronologisk ordning. Den första var teknisk, fungerar modellerna? Och så varför vi började, redan 2017, använda många av dessa moderna, vad vi kallar, naturlig språkförståelse och naturlig språkgenerering-motorer. Och bara se till att du alltid är i framkant av forskningen, men också se till att du levererar värde. Eftersom en av de saker vi insåg var att när vi började fråga våra kunder, “Hey, varför?”, i de tidiga dagarna, sa de att det här problemet är jättestort. Om du kan bygga det här åt oss, kommer vi att betala för det. Problemet är att chattbotar har aldrig fungerat.

Även i de tidiga dagarna, som 2017 för oss, innan vi hade lanserat officiellt, var vi som, “Oh, well, ska vi ens vara i den här branschen?” Men sedan grävde vi djupare. Vi visste att det fanns ett problem, ett tydligt problem, men lösningarna hade inte fungerat. Och sedan när jag fortsatte att fråga, var jag som, “Varför?” Och sedan insåg jag att vi, antingen av en slump eller på grund av våra bakgrunder, närmade oss det på ett mycket annorlunda sätt. Och fastän människor hade hört ordet AI, hade hört ordet chattbotar, hade hört de sakerna, var det vi gjorde inte det som de hade gjort. De hade närmat sig allt från ett beslutsträdsperspektiv. Du hårdkodar regler. Om du ser ordet återbetalning, gå och ge återbetalning, men om någon säger frasen “Jag vill bara ha tillbaka mina pengar”, har den ingen aning om hur den ska hanteras, eftersom den inte sa det magiska nyckelordet.

Det var alla beslutsträd, alla regler, och det var bara icke-kodbyggare som gjorde det konverserande, men de var inte AI. Och jag var som, “Men det är vad ni har gjort?” Och jag visste inte ens att det var så alla chattbotar byggdes. Och jag var som, “Men det är inte vad vi vill göra”. Vi vill göra det här. Och de var som, “Verkligen? Kan du göra det?” Och jag tror att det första och främsta var att inse att det fanns en subtilhet, att fastän AI som en buzzword har funnits i tio år, den moderna formen av AI, det som vi nu ser är möjligt med generativ AI, och om du backar några år, det som började bli möjligt var inte faktiskt tillämpat på det här området. Och jag tror att det var stort. Och sedan finns det en massa avkastningar från det.

Det finns en massa brus i marknaden, för vi går och säger, “Killar, vi gör något annorlunda”. Och sedan säger de, “Hey, är du säker? Det här företaget sa att de också hade AI”. Och vi tvingades slå våra huvuden mot väggen många gånger för att bara bevisa vår värdering. När vi väl kom in i en POC, när vi väl kom in i deras system och visade hur det fungerade, hur du kan lära, då var det game over. Och vi började, som du kan se från alla dessa logotyper och alla kunder, men det kändes som en långsam kamp för att bevisa vår värdering varje steg på vägen. Jag tror att det är det största, intressanta i det här området, särskilt ett som är bullrigt, men med dåliga lösningar.

Det är ganska uppenbart när man tänker på det att beslutsträd inte kommer att fungera. Det var bara inte uppenbart på den tiden.

Det var inte uppenbart på den tiden. Och jag tror att det också är att det var det bästa man kunde göra, rätt?

Det är sant också.

Människor förväxlar konverserande kundsupport med AI. Och de två, det finns en stor överlappning av var det är, som ChatGPT är ett bra konverserande exempel, men GPT-3-motorn som driver det fanns innan, och det var AI. Och du behöver det för att göra det konverserande bättre. Tidigare ville vi ha konverserande, vi ville ha AI, vi kunde göra konverserande, men sättet att göra det var att skriva manus för konversationerna. Det var en stor IVR, eller en telefontjänst, i chattform. Men sedan började människor klistra på ordet AI, och så var vi konverserande, men vi var inte AI. Jag tror att det var där brytningen skedde, inte för att det inte var uppenbart, men för att det inte ens var möjligt, eller människor visste inte att det var möjligt, eller att de här sakerna är två olika saker.

Du har beskrivit dig själv som en AI-optimist i en nylig podcast. Varför är du så optimistisk om AI?

Jo, först och främst, tror jag att det är en ny affärsmodell eller plattformsskift som sker. På samma sätt som datorer i sig blev en sak, datorer som gick från stora huvuddatorer till persondatorer, och sedan internet som blev en plattformsskift, och sedan molnet som gick från skrivbord till moln, och sedan mobilen som blev den nya affärsmodellen. Varje decennium eller så sker det en ny skiftning, och dessa skiftningar bringar med sig nya affärsmodeller. Och faktiskt, trillions av dollar värda nya företag i sig själva, som Salesforce, till exempel, en 200 miljarder dollar stor jätte, och allt de gjorde var att de insåg skiftet till molnet. De kan hävda att de förde skiftet till molnet, men de insåg skiftet till molnet, och de tog databaser, ditt system av register, och tog det från lokal, Oracle , Siebel, eller vad det nu var, till molnet.

Och sedan gjorde de en förmögenhet på det, och byggde ett system av register för säljare, och sedan blev det en miljard-dollar affär. Och sedan gjorde de det för service, service-moln, marknadsföringsmoln, pang, pang, pang, en 200 miljarder dollar affär. Och nu frågar jag mig själv, vad skulle ha hänt om Salesforce byggdes i vår tid? I 10 år senare, vad det nu är, vet jag inte hur gammal de är nu, men i 2030. Samma sak kommer att hända. Och jag tror att det kommer att bli så, att det är AI-först-företag, som Forethought, som kommer att bli nästa Salesforce, som kommer att skapa alla möjligheter, trillions av dollar värda möjligheter. Jag tror att det kommer att betyda bra affärer, men det kommer också att vara fantastiskt för kunder, för konsumenter. När telefoner kom ut, hade du en superdator i din ficka.

Nu kommer du att ha en superhjärna i din ficka med GPT. Nästa gång du behöver klippa ditt hår, kan du bara ha din sak, din AI, gå och prata med AI på frisörshoppen, och du kan boka en tid. Och hoppas, att allt det där drivs av Forethought, fint. Men du vet vad jag menar? Det är bara ett helt annat sätt att göra saker på. Jag tror att ekonomiska modeller kommer att förändras. Jag tror också att det är en utjämnare, för det är den typen av AI-innovation, eller den typen av innovation, som är lätt att anta. Tidigare behövde du ha en doktorsexamen i AI för att ens veta hur man gör det. Och nu använder min mamma ChatGPT, och människor börjar bli exponerade för AI, och det öppnar upp, fler människor kommer förmodligen att vilja lära sig hur man kodar, fler människor kommer att vilja bli prompt-engineers, eller vad det nu är. Och jag tror att det är det jag är mest optimistisk om, att det är den ekonomiska möjligheten.

Vad är dina förutsägelser för AGI? Tror du att vi kommer att se det under vår livstid?

Ja. Först och främst, ska jag säga att ingen vet. Detta är förmodligen sant.

Någon som påstår att de vet är en lögnare. Men ja, jag tror att vi ser tillräckligt med framsteg. Det kan finnas AGI som existerar idag. Vem vet, kanske GPT och den klassen av modeller inte är lika intelligenta som den mänskliga hjärnan? Jag vet inte, kanske inte. Men en mänsklig hjärna har vad? En trillion neuroner, GPT är på väg dit. Och vad händer när den här sakerna har en trillion neuroner och den är tränad med rätt data, och vår hjärna har utvecklats genom evolution, men på något sätt är förstärkt inlärning evolution på steroider för maskiner.

Och alla dessa tekniker finns tillgängliga just nu. Och det verkar inte så långsökt att föreställa sig. Och vi kanske behöver nya tekniker som transformer och återkommande neurala nätverk, som var framsteg som, i efterhand, verkade uppenbara, men just före det var omöjliga. Och vi kanske behöver ny forskning för att komma dit, men det är inte längre långsökt, för sakerna är så bra. Och jag tror att vi antingen redan är där, på något sätt, eller så kommer vi att vara där inom de närmaste 30 till 50 åren.

Och jag vet inte om du frågade mig det eller inte, men vad jag tycker om det, är att det finns risker. Den bästa analogin till det var någon, jag tror det var Andrej Karpathy, Teslas AI-person, som beskrev det som att det är som kärnenergi. Det är lika kraftfullt som kärnenergi. Obegränsad kapacitet med fusion, eller vad det nu är, för att skapa obegränsad energi och låta oss göra saker som vi aldrig trodde var möjliga, resa genom rymden, för att vi kommer att ha tillräckligt med energi för att göra resorna. Det kommer att finnas så många saker som är möjliga med kärnenergi, men du har också den mörka sidan av det, som är kärnvapen, som jag inte vet om jag får prata om i den här typen av intervjuer, men du har också det där, eller kärnvapen, ska jag säga, rätt? Och den enorma kapaciteten för förstörelse.

Och det bästa vi har lyckats med som samhälle för att hantera det är att alla har det, och alla har satt in regleringar för att se till att vi använder det korrekt. Jag tror att det finns en motsvarande mängd kraft där, som börjar i den digitala sfären. Så du har mindre rädsla från början, för om något som det får tillgång till kärnvapen, men min poäng är, om du kan skapa skydd och säkerhetsåtgärder medan AI utvecklas, som jag tror att vi gör som samhälle, då är du i en riktigt bra position. Att ha AI som kan upptäcka falsk information, som är lika kraftfull som GPT, för att upptäcka GPT-genererad falsk information, är super viktigt. Jag tror att jag kommer att vara optimistisk om det, men det är inte att säga att vi inte borde utveckla teknologi för att göra det säkert.

Vad är några bra böcker som du skulle rekommendera?

Den senaste boken jag läste var “The Advantage” av Patrick Lencioni, som lär ut hur man bygger en hälsosam organisation, allt från hur man gör möten till verkställande team-alignment, till att kommunicera mission och värderingar, och bygga en riktigt hälsosam organisation. Och det är en sammanfattning av alla hans andra böcker, som “Death by Meeting” och allt det där. Jag skulle säga att “The Advantage” är förmodligen den senaste jag har läst. Om AI har jag inte läst, ironiskt nog, har jag inte läst några AI-böcker nyligen. Jag har läst några AI-papper, men jag tror att det finns en bok som heter “Superhuman”, som rekommenderades till mig, som jag behöver gå och läsa. Och sedan, sist, ska jag säga att en annan icke-fackbok, “Good to Great”. Min favorit managementbok genom tiderna.

Du har nyligen tweetat, “Mät framgång, inte med hur många saker du startar, utan hur många saker du slutför.” Vad ser utgångslinjen ut för ditt företag?

Vad är slutmålet? Gå tillbaka till konceptet med nya ekonomiska affärsmodeller, en av de saker som jag tycker är super spännande, är att när människor säger att Google (GOOGL ) har ingen motring. I själva verket sa Google att de inte har någon motring, och alla panikade. Jag menar, det är sant. Jag tror att de har ingen motring. Men också, OpenAI har förmodligen ingen motring. Ingen har en motring. Men mer viktigt, de existerande affärsmodellerna idag, det kommer att finnas många fler berättelser under de kommande månaderna om företag X som har ingen motring. Det är att bli stört av AI. Och det kommer att hända i kundsupport, det kommer att hända med hjälpdeskar, det kommer att hända med CRM, det kommer att hända med sökmotorer, det kommer att hända med allt.

Jag tror att det mest spännande med det är att det finns många företag som just hoppar på tåget just nu, men den här teknologin är lika mycket en hållbar teknologi som den är en disruptiv, och vad jag menar med det är att det finns företag som kommer att anpassa sig snabbare, men också företag som har en rimlig mängd skala som faktiskt kan accelerera i en högre derivata än de som inte är i skala. Och ibland kommer det inte att vara sant. Det kan finnas mindre företag som rör sig snabbare, och det kan finnas företag mittemellan. Så det finns olika lager av företag, och det kan finnas de äldsta företagen som kommer att vara för långsamma för att anpassa sig och bli omkullkastade. Du kan ha de minsta företagen som rör sig snabbare, och du kan ha företag mittemellan.

Så den tanken att vi kunde vara det företag som gör varje enskild kontaktyta mellan människor och företag snabbare och mer intelligent. Idag är det i kundsupport, för det är den vanligaste interaktionen vi har. Du har ett problem, du ställer en fråga. Vi hjälper till att driva det. Idag bearbetar vi över 100 miljoner supportärenden per år, och vi är bara i början. Till slut kommer det att vara en miljard, 10 miljarder, en trillion. Och det är bara i kundsupport.

Jag tror att AI, och förhoppningsvis genom Forethought, kan du applicera samma teknologi på marknadsföring. Varför når du bara ut till ett företag när du har en fråga? Vad händer när du vill lära dig om en ny produkt? Vad händer när du har en tjänst som du är intresserad av? Vad händer med försäljning? Vad händer när du når ut till företag som du arbetar för? Du har en fråga om IT? Du har en fråga om HR? Varje enskild kontaktyta kan förändras genom AI. Och jag tror att vi har möjligheten, genuint har möjligheten, att vara en del av den berättelsen, att vara det företag, eller ett av de företag, som bringar fram den framtiden, och det är slutmålet, det är vår mission. Och till slut handlar det om att frigöra mänsklig potential. Till slut kommer det att göra allt snabbare, allt mer effektivt, ge människor tid, energi och uppmärksamhet tillbaka, så att de kan fokusera på att tillbringa tid med sina nära och kära, eller vad det nu är. Mänskligheten nivellerar upp.

Och jag tror att vi har den möjligheten. Jag tror att vi kan göra det. Och jag tror att från ett affärsperpektiv, det kunde vara ett multi-miljarders, om inte tiotals eller hundratals miljarder dollar värde företag. Det kunde vara på samma sätt, samma som Salesforce-berättelsen. Vad händer om Salesforce byggdes i 2023?

Tack för den underbara intervjun, läsare som vill lära sig mer kan läsa vår första intervju med Deon, eller besöka Forethought.