Deon Nicholas, medgrunnlegger og CEO av Forethought – Intervju-serie

Deon Nicholas er medgrunnlegger og CEO av Forethought. Tidligere bygde Deon produkter og infrastruktur i Facebook (META ), Palantir (PLTR ), Dropbox (DBX ) og Pure Storage. Han har ML-publikasjoner og infrastrukturpatenter, var en verdensfinalist i ACM International Collegiate Programming Contest og ble kåret til Forbes 30 under 30. Opprinnelig fra Canada, liker Deon å tilbringe tid med sin kone og sønn, spille basketball og lese så mange bøker som han kan komme over.

Forethought, AI- og maskinlæringsplattformen for bedrifter, begynte med fokus på kundeservice. Selskapets AI kan lære fra interne dokumenter, e-post, chat og selv gamle støttesaker for å automatisk løse og rutebilletter riktig, og raskt fremheve den mest relevante institusjonelle kunnskapen.

Vi satte oss ned for intervju med Deon på den årlige 2023 Upper Bound-konferansen om AI som holdes i Edmonton, AB og vertskapet av Amii (Alberta Machine Intelligence Institute).

Dette er vårt andre intervju med Deon, i vårt første intervju fokuserte vi på hans fortid og hvordan han fikk sin start i AI, i dette intervjuet fokuserte vi på hans visjon for fremtiden.

Kunne du sammenfatte hva Forethought er?

Ved Forethought er vi det generative AI-selskapet for kundeservice. Vi lanserte i 2018 på TechCrunch Disrupt, og siden da har vi vokst til å drive støtte for store selskaper som Instacart og andre. Og grunnleggende, vi gir et intelligenslag på toppen av deres kundeservice-billettdata, som oversetter til ting som chatboter, men håper smartere, helt til agentstøtte, alt ved hjelp av generativt AI og lignende.

Hvor lenge siden gjorde du skiftet til generativt AI?

Hva er interessant er at selv da vi ble grunnlagt, har vi vært avhengig av noen form for generativt AI siden de tidlige dagene. Ingen ting jeg ville argumentere, like kraftfulle som det som er tilgjengelig i dag. Men for eksempel, GPT to ble lansert, tror jeg i 2018, 2019, og åpnet kilde, og det var andre modeller som T5. Så, vi hadde vært avhengig av ulike store språkmodeller, lekt og bygget noen av våre egne internt. Men hva som har endret seg, tror jeg, er at det brukes nå som en seminal skift i hvordan forretningsmodeller skjer og hvordan motorer skjer. Og for oss, vi måtte faktisk tenke om vår motor, ville jeg si, i de siste månedene. Og vi lanserte SupportGPT i mars i år, 2023. Og det var ved hjelp av store språkmodeller som OpenAI’s GPT, og virkelig tenke om hvordan vi gjør hele greia. Og det er ikke faktisk et nytt produkt, men en ny motor som driver alle våre produkter, som har ført til en rekke forbedringer over hele staken.

Hva er prosessen for et selskap som ønsker å begynne å bruke SupportGPT?

Til slutt, det er alltid innbygget i ett av våre produkter. Så hva jeg vil si, er at det alltid starter med deres data, og det er vår differensiering. Og det unike med Forethought med de fleste selskaper, du starter med en blank canvas, og du må hardkod disse reglene. For oss, du starter ved å integrere. Så, hvis du utnytter en populær hjelpeskrive eller en CRM som en Zendesk, en Salesforce (CRM ) -tjeneste, ønsker du å jobbe med oss, du registrerer deg og installerer vår integrasjon i ditt hjelpesenter. Og det utløser indeksering, det utløser trening, finjustering og alt det, og bygger modellen og bygger motoren. Og deretter kan du konfigurere, du kan redigere og du kan distribuere ett av våre produkter. Og vårt mest populære produkt er Solve, som er en AI-agent som kan sitte på en nettside, nesten tenk på en chatbot, eller kan eksistere i e-post i virkelig enhver form og starte automatisk samtale og svare på dine kunder, ved hjelp av SupportGPT-motoren som ChatGPT for din nettside, så å si.

Men deretter håndterer den automatiseringen bare 50% av problemene, så å si. Og hva med problemene som fortsatt må gå til en menneske? Vel, vi har også Triage, som er navnet på vårt andre produkt, ruteproblemer, merke dem, sørge for at de kommer til riktig agent i riktig kanal, riktig tid, så du kan distribuere det. Og deretter Assist er en agent-kopilot, internrettet GPT for kundeserviceagentene, og deretter Discover, som er vårt nyeste, men på mange måter, vårt kraftfulleste produkt, som ser etter innsikt og gir anbefalinger, også ved hjelp av generativt AI til bedriftene om hva som bør oppdateres og hva som bør endres.

Med så mye avhengighet av generativt AI, er hallucinasjoner et problem?

Ja. Jeg tror hallucinasjon er ett av de store problemene med å bruke generativt AI for de fleste praktiske bruksområder, og jeg har spilt inn en video på LinkedIn om dette, som gikk litt viral, om hallucinasjon som ett av de store problemene med generativt AI. Det er mange tilfeller hvor det ikke er et problem, som hvis du har en menneske i løkken eller det er et rent kreativt bruksområde, og du ønsker noe nytt som markedsføring, du kommer opp med reklamekopier og blogger, og du skal ha noen som redigerer til slutt. Det er virkelig bra at de hallucinerer litt. Det er en form for kreativitet. Men i tilfeller som finansielle eller helse, eller kundeservice hvor helsen, rikdommen, livsgleden eller noe lignende, eller du ønsker et korrekt svar, er hallucinasjon enormt. Det er et stort problem, og det er en stor begrensning. Så, på mange måter, ett av de kule tingene vi innsett og hvorfor vi kan gjøre dette og ingen andre kan, var fordi vi hadde vært avhengig av noen form for generativt AI i de siste fem årene.

Alle våre modeller har vært fokusert på korrekthet fra starten av, forståelse av politikker, forståelse av arbeidsflyter som når noen ber om en refusjon, hvis det er innen 30 dager, kan du utstedde refusjonen. Hvis det ikke er, kan du ikke. Og all den greia som vi allerede hadde bygget. Og når det kom til å bruke disse mer moderne store språkmodellene, fant vi at humaniseringen av de store språkmodellene, pluss den faktiske informasjonen og korrektheten som vi kunne gi fra de tidligere modellene, var en perfekt match. Og deretter kan du bruke all den korrektheten gjennom promptingeniør, gjennom finjustering, som faktisk bringer hallucinasjonsproblemet ned. Det er ikke eliminert fullstendig, men det blir minimert til et punkt hvor det er svært effektivt. Og vårt endelige mål, åpenbart, er å ha færre hallucinasjoner enn mennesker ville ha feil. Så lenge din nøyaktighetsrate er på linje med menneskelig nøyaktighet, er du i en svært sterk posisjon.

Vi intervjuet deg sist i 2021. Hva har du lært siden om å være en entreprenør?

Oh, min gud. Hele verden har endret seg. Fra et entreprenørperspektiv, noen ting har skjedd. I slutten av 2021, like etter vårt intervju, raisede vi vår serie C. Vi raisede 65 millioner serie C fra Steadfast Capital, NEA, samt luminærer som Gwyneth Paltrow, Baron Davis og Robert Downey Jr. På mange måter, så vi en tonn eksitasjon rundt vår visjon, og jeg tror disse var mennesker som så generativt AI før. Det var kult på mange måter. Det var en spennende og vanvittig tid for oss å vokse og helle bensin på ild til noe som fungerte. Men hva var interessant, var at like etter, midt i 2022, så kom recessionen. Hele verden eksploderte, så å si, rett? Og så lærte det meg mye, fordi hvor noen bedrifter brukte penger, kutte utgiftene, og hele forretningsmodellen med å være entreprenør endret seg fra å vokse til enhver pris.

Hey, du har denne gigantiske krigskassen av kapital, brenn det og vokse for å komme til neste runde. Til å vente, plutselig, alle, inkludert våre VC, alle VC-er og styremedlemmer, våknet opp og sa, nei, penger er ikke gratis, og du må bygge enten et lønnsomt bedrift eller det trenger ikke å være lønnsomt, men det må være effektivt. Og det er ikke om å vokse til enhver pris, men det er om å vokse med rimelig effektivitet. Og du ønsker fortsatt å vokse maksimalt gitt rimelig effektivitet, men modellen hadde nesten blitt snudd på hodet over natten, fordi det er ingen garanti for at du kommer til å ha tilgang til kapital for neste ett, to år. Hvis vi glir inn i en resesjon, kanskje tre. Kjøperne strammer til sine pengesekker, så å si. Og så må du virkelig fokusere på effektivitet og også drive effektivitet for dine kunder.

I mange måter, tvang det oss til å bli mye mer fokusert på, jeg mener, vi var alltid leverer verdi på mange måter, fordi det er bare industrien vi er i. Hvis vi kan hjelpe deg å hjelpe dine agenter produsere mer, løse flere spørsmål i en gitt tid, vil du spare en del kostnader og du vil ha en bedre kundeopplevelse, og du vil ha mer oppmerksomhet. Alt dette må skje, men vi måtte bli tettere på våre pitches, tettere på vår melding og på vår produktfokus for å dele det. Og deretter, internt, oss selv, måtte vi fokusere på effektivitet. Det var ikke bare, hei, du har denne store krigskassen, og du kan alltid raise mer penger, og så videre. Nei, det var, la oss finne ut hvordan vi skal bygge en bedrift. Hva hvis vi aldri kan raise penger igjen?

Hva hvis det tar oss år å raise penger før VC-markedet åpner opp? Vel, det er greit. Vi må bygge en svært effektiv bedrift, så når det kommer tid for en serie D, har vi alle metricene som suksess ligner, at least i denne nye verden, i terms of hva som måles. Jeg tror det var stort, og nedbemanninger og alt, og hele verden skiftet. Og jeg tror det har vært et svært tungt år. 2022 var et tungt år, og deretter 2023, generativt AI er hot igjen. Og så, det er opp og ned i dette.

Så, uansett, jeg snakker mye der. Men ja, jeg tror alt dette lærer deg å være fokusert og å være resilient. Det er den andre ting som er viktig, er bare, det er en 10-års reise, hvis du er suksessfull. Hvis du ikke er, er det tidlig, og så husk på det gjennom opp og ned, du må ta det i stride og at du alltid bygger mot den endelige visjonen.

Hva er de største utfordringene du møter når du prøver å bygge chatboter for kundeservice og andre bruksområder?

Ja, de største utfordringene. Jeg vil gå i kronologisk rekkefølge. Den første var teknisk, fungerer modellene? Og så det er hvorfor vi startet, selv tilbake i 2017, å bruke mange av disse moderne, hva vi kaller, naturlig språkforståelse og naturlig språkgenerering-motorer. Og bare sørge for at du alltid er på forkant av forskningen, men samtidig sørge for at du leverer verdi. Fordi en av tingene vi innsett, var at når vi startet å spørre våre kunder, som, hei, hvorfor? I de tidlige dagene, sa de til oss at dette problemet er enormt. Hvis du kan bygge dette for oss, vil vi betale for det. Problemet er at chatboter har aldri fungert.

Even i de tidlige dagene, som 2017 for oss, før vi hadde offisielt lansert, var vi som, oh, så hvis vi ikke skal være i denne markedet? Hva skjer? Men så dykker du dyptere og spør, hvorfor? Hvorfor ikke? Og da jeg fortsatte å spørre, var jeg som, nei, det er et problem, et tydelig problem, men løsningene har ikke fungert. Og da jeg fortsatte å dykke dyptere, innsett jeg at vi, enten ved en tilfeldighet eller på grunn av våre bakgrunner, var å nærme oss det på en svært annen måte. Og selv om folk hadde hørt ordet, AI, hadde hørt ordet chatboter, hadde hørt disse tingene, hva vi gjorde, var ikke hva de hadde gjort. De hadde nærmet seg alt fra et beslutningstre-perspektiv. Du hardkoder regler. Hvis jeg ser ordet refund, gå og utsted en refund, men hvis noen sier frasen, jeg vil bare ha pengene mine tilbake, har den ingen ide om hvordan den skal håndtere det, fordi den ikke sa det magiske nøkkelordet.

Det var alle beslutningstreer, det var alle regler, og disse var bare kodebyggere som gjorde det konversasjonelt, men de var ikke AI. Og jeg var som, oh, det er hva du har gjort? Og jeg innsett ikke engang at det var hvordan alle chatboter ble bygget. Og jeg var som, nei, det er ikke hva vi ønsker å gjøre. Vi ønsker å gjøre dette. Og de var som, virkelig? Kan du gjøre det? Og jeg tror det første og fremste ting var bare å innse at det er en nuanser, selv om AI som et buzzord har eksistert i kanskje 10 år, denne moderne formen for AI, hva vi nå ser er mulig med generativt AI. Og hvis du baker noen år tilbake, hva som begynte å bli mulig, var ikke faktisk blitt brukt i denne rommet.

Det var mye fall på effekter fra det. Det er mye støy i markedet, fordi vi går og sier, hei, gutter, vi gjør noe annet. Og så er de som, hei, er du sikker? Denne andre selskapet sa de hadde AI også. Og vi måtte slå hodet mot veggen mange ganger for å bare bevise vår verdi. En gang vi kom inn i en POC, en gang vi kom inn i deres system og viste hvordan det fungerte, hvordan du kan lære, da var det game over. Og vi startet, som du kan se fra alle disse logoene og alle kundene, men det føltes som en langsomt løp for å bevise vår verdi hver skritt av veien. Jeg tror det er kanskje det største, interessante ting i dette rommet, spesielt det som er støyende, men med dårlige løsninger.

Det er noenlunde åpenbart når du tenker på det, at beslutningstreer ikke vil fungere. Det var bare ikke så åpenbart på den tiden.

Det var ikke så åpenbart på den tiden. Og jeg tror det også er at det var det beste du kunne gjøre, rett? Folk konflaterer konversasjonell kundeservice med AI. Og de to, det er en stor overlapping av hvor det er, som ChatGPT er et godt konversasjonelt eksempel, men GPT-3-motoren som driver det, eksisterte før, og det var AI. Og du trenger det for å gjøre det konversasjonelle bedre. I fortiden, hva som skjedde, var at vi ønsket konversasjonelt, vi ønsket AI, vi kunne gjøre konversasjonelt, men måten å gjøre det på, var å skrive konversasjonene. Det var en stor IVR, eller en telefontre, i chat-form.

Men så mennesker begynte å klistre ordet AI på, og så vi fikk konversasjonelt, men vi fikk ikke AI. Jeg tror det var der breakdownen skjedde, ikke at det ikke var åpenbart, men bare at det ikke var mulig, eller folk ikke engang visste at det var mulig, eller at disse er to forskjellige ting.

Du har beskrevet deg selv som en AI-optimist i en nylig podcast. Hvorfor er du så optimistisk om AI?

Vel, noen ting. Først, bare generelt, tror jeg det er en ny forretningsmodell eller plattformskift som skjer. Samme måten som databehandling i og for seg ble en ting. Datamaskiner gikk fra store hovedmaskiner til personlige datamaskiner. Gikk fra internettet, internettet var en plattformskift, og deretter gikk til skyen, og deretter mobilen, og alt dette. Hver tiår eller så, er det denne nye skiftet og disse skiftene bringer om nye forretningsmodeller. Og faktisk, billioner av dollar verd av nye bedrifter i og for seg, Salesforce, for eksempel, en 200 milliarder dollar-juggernaut, og alt de gjorde, var å gjenkjenne dette skiftet til skyen.

De tok databaser, ditt system av record, og tok det fra på stedet, Oracle , Siebel, eller hva det nå var, til skyen. Og deretter gjorde de en drøss av det, og bygde et system av record for salgsfolk, IPO, milliarder dollar bedrift. Og, for øvrig, deretter gjorde de det for tjeneste, tjenesten sky, markedsføringsky, boom, boom, boom, 200 milliarder dollar bedrift. Og nå spør jeg meg selv, hva ville skje hvis det Salesforce var bygget i vår tid? I 10 år senere, hva det nå er, jeg vet ikke hvor gammel de er nå, men i 2030. Samme ting vil skje. Og jeg tror, som jeg jobber på dette selskapet, at det er disse AI-førsteselskapene, som Forethought, som vil bli de neste Salesforces, som vil skape all denne muligheten, billioner av dollar verd av mulighet.

Jeg tror det vil bety godt for bedrifter, men det vil også være fantastisk for kunder, for forbrukere. Når telefoner kom rundt, hadde du en superdatamaskin i lommen. Nå vil du ha en superhjerne i lommen med GPT. Neste gang du trenger å få en hårfjerning, du bare har din ting, din AI, gå og snakke med AI-en til frisøren, og du kan bestille en hårfjerning. Og håperligvis, det er alle drevet av Forethought, fint. Men du vet hva jeg mener? Det er bare en helt annen måte å gjøre ting på. Jeg tror økonomiske modeller vil skifte. Jeg tror også dette er en equalizer, fordi det er en form for AI-innovasjon eller innovasjon som er lett å adoptere.

Hva er dine prediksjoner for AGI? Tror du vi vil se det i vår levetid?

Ja. Først, jeg vil si at ingen vet. Dette er sannsynligvis sant. Ingen som hevder å vite, lyver. Men ja, jeg tror vi ser nok fremgang. Det kan være AGI som eksisterer i dag. Hvem vet, kanskje. Det er kanskje ikke. Svaret er kanskje ikke, men en menneskehjerne har hva? En billioner neuroner, GPT er på vei opp. Og hva skjer når denne ting har en billioner neuroner og er trent med riktig data, og vår hjerne har utviklet seg gjennom evolusjon, men i noen sanser, forsterkingslæring er evolusjon på steroider for maskiner.

Og alle disse teknikkene eksisterer nå. Og det ser ikke ut til å være så langt unna å forestille seg. Og vi kanskje trenger nye teknikkene som transformator og gjentakende neurale nettverk, var alle fremgang som, i etterkant, ser ut til å være åpenbart, men på den tiden eller like før, var umulig. Og vi kanskje trenger ny forskning for å komme dit, men det er ikke lenger langt unna, fordi tingene er så gode. Og jeg tror vi enten allerede er der, eller vi har allerede alle ingrediensene, og vi bare trenger å finne riktig konfigurasjon, eller vi vil være der i de neste 30 til 50 årene.

Hva er dine favorittbøker?

Den siste boken jeg leste, var ‘The Advantage‘ av Patrick Lencioni, som lærer hvordan du bygger en sunn organisasjon, alt fra hvordan du gjør møter til eksekutivt team-alignment, til kommunikasjon av misjon og verdier, og bygging av en sunn organisasjon. Og det er en sammenfatting av alle hans andre bøker, som Death by Meeting og lignende. Jeg ville si, The Advantage er kanskje den nyeste boken jeg har lest. Om AI, har jeg ikke lest, ironisk nok, noen AI-bøker nylig. Jeg leste noen AI-papirer, men jeg tror det er en bok som heter ‘Superhuman‘, som var høyt anbefalt til meg, og som jeg må gå og lese. Og deretter, sist, jeg vil si, en annen ikke-fiksjonsbok, ‘Good to Great‘. Min favoritt ledelsesbok gjennom alle tider. Fiksjon, The Expanse. Det er nå en TV-serie.

Du har nylig tweeta, “Mål suksess, ikke ved hvor mange ting du starter, men hvor mange ting du fullfører.” Hva ser slutten ut for ditt selskap?

Hva er slutten? Gå tilbake til konseptet om nye økonomiske forretningsmodeller, en av tingene jeg finner super inspirerende, er at når folk sier Google (GOOGL ) har ingen mote. I faktum, Google sa at det hadde ingen mote, og alle hadde et panikkangrep, jeg mener, det er sant. Jeg tror de har ingen mote. Men også, OpenAI har kanskje ingen mote. Ingen har en mote. Men mer viktig, de eksisterende forretningsmodellene i dag, det vil være mange flere historier i de kommende månedene om bedrift X har ingen mote. Det blir forstyrret av AI. Og det vil skje i kundeservice. Det vil skje med hjelpeskrivere, det vil skje med CRM-er, det vil skje med søkemotorer, det vil skje med alt.

Jeg tror det mest spennende med det, er at det er mange selskaper som bare hopper på båndet nå, men denne teknologien er like mye en bærende teknologi som den er en forstyrrende, og hva jeg mener, er at det vil være mennesker som tilpasser seg raskere, men også mennesker som har en rimelig mengde skala, kan faktisk akselerere med en høyere avledning enn de som ikke er på skala ennå. Og noen ganger vil det ikke være sant. Det kan være noen mindre selskaper, og det vil være overalt, men det er ikke nødvendigvis gitt. Og så har du disse forskjellige lagene av selskaper, og det kan være de eldste som vil være for langsomme til å tilpasse seg og bli felt. Du kan ha de minste selskapene som beveger seg raskere, og du kan ha noen der imellom.

Så tanken om at vi kunne være det selskapet som gjør hver enkelt berøring mellom mennesker og bedrifter raskere og mer intelligent. I dag, det er i kundeservice, fordi det er den mest vanlige interaksjonen vi har. Du har et problem, du stiller et spørsmål. Vi hjelper med å drive det. I dag, vi prosesserer over 100 millioner støttesaker i året, og vi er bare i gang. Til slutt, det vil være en milliard, 10 milliarder, trillioner. Og det er bare i kundeservice alene.

Jeg tror AI, og håperligvis gjennom Forethought, kan du bruke samme teknologi til markedsføring. Hvorfor når du bare når ut til et selskap når du har et spørsmål? Hva med når du ønsker å lære om et nytt produkt? Hva med når du har en tjeneste du er interessert i? Hva med salg? Hva med når du når ut til bedrifter du jobber for? Du har et spørsmål om IT? Du har et spørsmål om HR? Hver enkelt berøring kan bli transformert gjennom AI. Og jeg tror vi har muligheten, faktisk har muligheten, til å være en del av denne historien, til å være det selskapet eller ett av selskapene som bringer om denne fremtiden, og det er slutten, det er vår misjon. Og til slutt, det er om å låse opp menneskelig potensial. Til slutt, det vil gjøre alt raskere, alt mer effektivt, gi mennesker tid, energi og oppmerksomhet tilbake, så de kan fokusere på å tilbringe tid med sine kjære, hva det nå er. Menneskeheten er i ferd med å nå neste nivå.

Og jeg tror vi har den muligheten. Jeg tror vi kan gjøre det. Og jeg tror fra et forretningsperspektiv, at det kunne være et multi-milliard, hvis ikke titalls eller hundreder av milliarder dollar verd av selskap. Det kunne være på samme måte, samme som Salesforce-historien. Hva hvis Salesforce var bygget i 2023?

Takk for et flott intervju, lesere som ønsker å lære mer, bør lese vårt første intervju med Deon, eller besøke Forethought.