Deon Nicholas, medstifter og administrerende direktør i Forethought – interviewserie

Deon Nicholas er medstifter og administrerende direktør i Forethought. Tidligere udviklede han produkter og infrastruktur hos Facebook (META ), Palantir (PLTR ), Dropbox (DBX ) og Pure Storage. Han har publiceret forskning i maskinlæring og har infrastrukturpatenter, deltog i verdensfinalen ved ACM International Collegiate Programming Contest og blev optaget på Forbes’ 30 under 30-liste. Han kommer fra Canada og nyder tiden med sin kone og søn, basketball og så mange bøger, som han kan nå at læse.

Forethought er en AI- og maskinlæringsplatform for virksomheder, som begyndte med fokus på kundesupport. Dens AI lærer af interne dokumenter, e-mails, chats og gamle supportsager for automatisk at løse og fordele sager korrekt og hurtigt finde den mest relevante viden i organisationen.

Vi interviewede Deon ved den årlige AI-konference Upper Bound i Edmonton, Alberta, i 2023. Konferencen arrangeres af Amii (Alberta Machine Intelligence Institute).

Dette er vores andet interview med Deon. I det første interview fokuserede vi på hans baggrund og vej ind i AI. Denne gang handler det om hans fremtidsvision.

Kan du kort forklare, hvad Forethought er?

Forethought leverer generativ AI til kundesupport. Vi lancerede ved TechCrunch Disrupt i 2018 og understøtter nu store virksomheder som Instacart. Vi lægger et intelligent lag oven på deres supportsagsdata, som kan bruges til alt fra forhåbentlig smartere chatbots til hjælp til supportmedarbejdere. I dag bygger det blandt andet på generativ AI.

Hvornår gik I over til generativ AI?

Vi har faktisk brugt en form for generativ AI siden begyndelsen, om end ikke noget så kraftfuldt som det, der findes nu. GPT-2 blev, så vidt jeg husker, lanceret som open source i 2018 eller 2019, og der var modeller som T5. Vi eksperimenterede med forskellige store sprogmodeller og udviklede også vores egne. Tidligere var det en funktion, som gav fordele, når den blev brugt selektivt. Men i de seneste seks måneder har teknologien medført et grundlæggende skift i forretningsmodeller og de tekniske motorer bag dem.

Derfor har vi gentænkt vores motor i de seneste måneder. Vi lancerede SupportGPT i marts 2023 og bruger store sprogmodeller som OpenAI’s GPT til at gentænke hele løsningen. Det er ikke nødvendigvis et nyt produkt, men en ny motor, der driver alle vores produkter og har forbedret hele teknologistakken.

Hvordan kommer en virksomhed i gang med SupportGPT?

Det er indbygget i vores produkter, og det begynder altid med jeres data. Det adskiller os fra andre. Hos mange leverandører starter man fra et tomt lærred og skal programmere reglerne manuelt. Hos os starter man med integration. Bruger man en almindelig helpdesk eller CRM, som Zendesk eller Salesforce Service Cloud, tilmelder man sig og installerer integrationen i sit hjælpecenter. Det sætter indeksering, træning og finjustering i gang og opbygger modellen og motoren. Derefter kan man konfigurere, redigere og implementere et produkt.

Det mest populære er Solve, en AI-agent, der kan fungere på et website som en chatbot eller gennem e-mail og andre kanaler. Den bruger SupportGPT til automatisk at føre samtaler med og svare kunderne, lidt som ChatGPT til ens website.

Men lad os sige, at automatiseringen kun håndterer halvdelen af problemerne. Hvad med resten, som kræver et menneske? Vores andet produkt, Triage, fordeler og mærker sager, så de når den rette medarbejder via den rette kanal på det rette tidspunkt. Assist er en intern GPT-baseret hjælper til supportmedarbejdere. Discover er vores nyeste og på mange måder mest kraftfulde produkt: Det finder indsigter og bruger også generativ AI til at anbefale virksomheden, hvad der bør opdateres eller ændres.

Er hallucinationer et problem, når I bruger så meget generativ AI?

Ja. Hallucinationer er et af de store problemer i de fleste praktiske anvendelser. Jeg lavede en video om det på LinkedIn, som fik en del opmærksomhed. I nogle tilfælde er det ikke et stort problem, eksempelvis når et menneske kontrollerer resultatet, eller når formålet er kreativt. I markedsføring kan AI finde på nye reklametekster eller blogudkast, som nogen bagefter redigerer; her kan det at opfinde noget være kreativitet. Men i finans, sundhed og kundesupport, hvor helbred, formue, levebrød eller et korrekt svar er på spil, er hallucinationer et stort problem og en væsentlig begrænsning. En grund til, at vi kan håndtere dette, er, at vi har arbejdet med en form for generativ AI i omtrent fem år.

Vores modeller har fra begyndelsen fokuseret på korrekthed og på at forstå regler og arbejdsgange. Hvis en kunde beder om tilbagebetaling inden for 30 dage, kan den godkendes; efter fristen kan den ikke. Den slags havde vi allerede bygget. Da vi begyndte at bruge nyere store sprogmodeller, passede deres naturlige måde at kommunikere på godt sammen med de oplysninger og den korrekthed, vores egne modeller kunne levere. Via prompt engineering og finjustering kan det mindske hallucinationerne. De forsvinder ikke helt, men kan reduceres til et niveau, hvor løsningen er effektiv. Vores langsigtede mål er, at systemet skal hallucinere sjældnere, end mennesker begår fejl. Hvis nøjagtigheden er på niveau med menneskers, står man allerede stærkt.

Vi interviewede dig sidst i 2021. Hvad har du siden lært om at være iværksætter?

Hele verden har ændret sig. I slutningen af 2021, kort efter interviewet, rejste vi 65 millioner dollar i en serie C-runde fra Steadfast Capital, NEA og kendte investorer som Gwyneth Paltrow, Baron Davis og Robert Downey Jr. Der var stor begejstring for vores vision, og på mange måder så de potentialet i generativ AI tidligt. Det var en spændende og hektisk tid, hvor vi voksede og investerede mere i noget, som allerede virkede.

Omkring seks måneder senere, i midten af 2022, kom recessionen, og alt ændrede sig. Virksomheder skar ned, og iværksættermodellen skiftede fra vækst for enhver pris. Før havde man en stor kapitalreserve, som skulle bruges til vækst frem mod næste finansieringsrunde. Pludselig sagde investorer og bestyrelser: Penge er ikke gratis. Virksomheden skal være profitabel eller i det mindste effektiv. Det handler om mest mulig vækst inden for en rimelig effektivitet, fordi der ikke længere er garanti for ny kapital om et eller to år, måske tre under en recession. Kunderne strammer også budgetterne. Derfor skal man fokusere på effektivitet både internt og hos kunderne.

Vi leverede allerede værdi: Hvis supportmedarbejdere kan løse flere spørgsmål på samme tid, sparer kunden penge og får en bedre kundeoplevelse. Men vi måtte skærpe vores salgspræsentationer, budskaber og produktfokus for at gøre værdien tydelig. Internt kunne vi ikke længere regne med, at vi altid kunne rejse flere penge. Hvordan bygger vi en virksomhed, hvis vi aldrig får ny finansiering?

Hvis det tager år, før venturemarkedet åbner igen, skal vi stadig kunne drive en meget effektiv virksomhed. Når en serie D-runde bliver mulig, skal vi have de nøgletal, der viser succes i den nye virkelighed. Det var en stor forandring, sammen med afskedigelser og meget andet. 2022 var hårdt, mens generativ AI igen blev populært i 2023. Der er både op- og nedture.

Det lærer en at holde fokus og være modstandsdygtig. Hvis man lykkes, er det en tiårig rejse; hvis ikke, slutter den tidligere. Man må tage udsvingene i stiv arm og hele tiden bygge videre mod den langsigtede vision.

Hvad er de største udfordringer ved at bygge chatbots til kundeservice og andre formål?

Kronologisk var den første udfordring teknisk: Virker modellerne? Derfor begyndte vi allerede i 2017 med moderne systemer til naturlig sprogforståelse og sproggenerering. Vi skulle følge forskningsfronten og samtidig levere værdi. Tidlige kunder sagde, at problemet var stort, og at de ville betale, hvis vi løste det. Men chatbots havde aldrig fungeret for dem.

Før lanceringen i 2017 overvejede vi derfor, om vi overhovedet skulle være på markedet. Da vi spurgte mere ind, blev det klart, at problemet fandtes, men at løsningerne ikke virkede. Måske tilfældigt eller på grund af vores baggrund havde vi valgt en anden tilgang. Kunderne havde hørt om AI og chatbots, men de tidligere løsninger var beslutningstræer og faste regler. Hvis ordet “refund” blev nævnt, udløste det tilbagebetaling; sagde kunden “I just want my money back”, vidste systemet ikke, hvad det skulle gøre, fordi det magiske nøgleord manglede.

Det var regler og beslutningstræer gjort samtalebaserede med no-code-værktøjer, men ikke den AI, vi ville bygge. Jeg vidste ikke engang, at chatbots typisk blev lavet sådan. Vi ville noget andet, og kunderne blev overraskede over, at det kunne lade sig gøre. AI havde været et modeord i måske ti år, men de nyere muligheder, som nu ses i generativ AI, var ikke blevet anvendt ordentligt på området. Den forskel var vigtig og havde mange følgevirkninger.

Der var også meget støj på markedet. Når vi sagde, at vi gjorde noget andet, svarede kunderne, at andre leverandører også påstod at have AI. Vi måtte igen og igen bevise vores værdi. Når vi først fik en konceptafprøvning og viste løsningen i kundens system, og hvordan den kunne lære, blev forskellen tydelig. Det har ført til de mange kunder, vi har i dag, men det var en langsom proces at bevise værdien ved hvert skridt i et marked fyldt med støj og dårlige løsninger.

Når man tænker over det, virker det oplagt, at beslutningstræer ikke er nok, men det var ikke oplagt dengang.

Nej, og det var nok også det bedste, man kunne gøre på det tidspunkt.

Det er også rigtigt.

Folk blander samtalebaseret kundesupport sammen med AI. Der er stort overlap: ChatGPT er et godt eksempel på en samtaleløsning, men GPT-3-motoren fandtes allerede og udgjorde AI-delen, som kunne forbedre samtalen. Tidligere ønskede man både samtale og AI, men kunne kun skabe samtalen ved at skrive et manuskript. Det var nærmest et interaktivt telefonsystem med menuer, bare i chatform. Så begyndte man at sætte AI-mærkatet på. Man fik en samtale, men ikke AI. Problemet var ikke bare, at forskellen var uklar; teknologien var måske ikke mulig endnu, eller folk vidste ikke, at den var mulig, eller at der var tale om to forskellige ting.

I en nylig podcast beskrev du dig som AI-optimist. Hvorfor er du så optimistisk?

Først og fremmest sker der et skift i platforme og forretningsmodeller. Det minder om overgangen fra store mainframes til personlige computere, derefter internettet, fra desktopsoftware til cloud og videre til mobile enheder. Omtrent hvert årti kommer et nyt skift, som skaber nye forretningsmodeller og virksomheder til en samlet værdi af billioner af dollar. Salesforce (CRM ) er eksempelvis en virksomhed til omkring 200 milliarder dollar, som greb overgangen til cloud. De vil nok sige, at de selv drev skiftet, men de tog databaser og registreringssystemer fra lokale løsninger som Oracle og Siebel og flyttede dem til skyen.

De byggede et registreringssystem til sælgere, blev børsnoteret og voksede til en milliardforretning. Derefter kom Service Cloud og Marketing Cloud og til sidst en virksomhed til 200 milliarder dollar. Jeg spørger mig selv, hvad der ville ske, hvis Salesforce blev grundlagt i vores tid, eksempelvis i 2030. Noget tilsvarende vil ske igen. Derfor arbejder jeg på denne virksomhed: Jeg tror, at AI-først-virksomheder som Forethought kan blive de næste Salesforce og skabe muligheder til billioner af dollar. Det er godt for virksomheder, men også for kunder og forbrugere. Med telefonen fik man en supercomputer i lommen.

Med GPT får man en superhjerne i lommen. Næste gang man skal klippes, kan ens AI tale med frisørsalonens AI og bestille en tid. Jeg håber selvfølgelig, at Forethought står bag det. Det er en helt anden måde at gøre tingene på, og økonomiske modeller vil ændre sig. Teknologien kan også udligne forskelle, fordi den er let at tage i brug. Før skulle man nærmest have en ph.d. i AI for at forstå det; nu bruger min mor ChatGPT. Flere får adgang, vil måske lære at programmere eller blive prompt engineers. Det gælder både eksperter og andre. Det er især den økonomiske mulighed, jeg er optimistisk omkring.

Hvad forventer du af AGI? Vil vi opleve det i vores levetid?

Først: Ingen ved det. Enhver, der påstår at vide det, lyver. Men vi ser mange fremskridt. Måske findes AGI allerede. Hvem kan sige, at GPT og lignende modeller ikke er omtrent lige så intelligente som hjernen? Jeg ved det ikke; sandsynligvis er de ikke. Men hvor mange neuroner har hjernen — en billion? GPT bevæger sig mod den størrelsesorden. Hvad sker der, når et system får en billion neuroner og trænes med de rigtige data? Hjernen er udviklet gennem evolution; på en måde er forstærkningslæring evolution på steroider for maskiner.

Teknikkerne findes allerede, så det er ikke længere utænkeligt. Måske kræves nye teknikker, ligesom rekurrente neurale netværk og transformere var fremskridt, som virkede indlysende bagefter, men umulige før. Vi kunne ikke håndtere sprog på samme måde før de rekurrente netværk, som transformere siden afløste; nu har vi generative prætrænede transformere, GPT. Der kan være brug for ny forskning, men teknologien er så god, at målet ikke længere virker fjernt. Måske er vi der i en vis forstand, måske har vi alle ingredienserne og mangler den rette kombination, eller måske tager det 30 til 50 år.

Jeg mener også, at der er risici. Nogen — jeg tror, det var Andrej Karpathy fra Teslas AI-arbejde — sammenlignede det med atomenergi. Fusion kan potentielt give enorme energimængder og gøre hidtil utænkelige ting mulige, som rumrejser med tilstrækkelig energi. Men der findes også en mørk side i form af atomvåben og massiv ødelæggelseskraft.

Som samfund har vi forsøgt at håndtere det gennem fælles regler for ansvarlig anvendelse. Jeg tror, AI har tilsvarende kraft, men begynder digitalt, så frygten måske er mindre i starten, medmindre systemet får adgang til eksempelvis atomvåben. Pointen er, at hvis vi udvikler sikkerhedsforanstaltninger og rammer samtidig med AI, står vi bedre. AI, som er stærk nok til at opdage falske nyheder skabt af GPT, er meget vigtig. Jeg er optimist, men vi skal samtidig udvikle de teknologier, der gør anvendelsen sikker.

Du læser meget. Hvilke bøger vil du anbefale?

Den seneste, jeg læste, var Patrick Lencionis “The Advantage”. Den handler om sunde organisationer, fra møder og fælles retning i ledelsen til kommunikation af mission og værdier. Den samler ideer fra hans andre bøger som Death by Meeting. Ironisk nok har jeg ikke læst AI-bøger for nylig, men læser forskningsartikler. En bog kaldet “Superhuman” er blevet varmt anbefalet til mig, og den skal jeg læse. Af andre fagbøger vil jeg nævne “Good to Great”, min favorit blandt ledelsesbøger. Inden for fiktion: The Expanse, som nu også er en tv-serie.

Jeg har set den serie.

Du har set den, ikke? Jeg tror, den ligger på Amazon Prime. Jeg elsker, at den ikke bare er science fiction, men også arbejder med videnskabelig realisme. Den undersøger, hvad rumrejser ville betyde for verden og politik, og hvordan mennesker sandsynligvis ville opføre sig. En meget diskret detalje er, at telefonerne har avanceret AGI indbygget. Det fremhæves ikke og er ikke centralt for historien. Folk siger blot noget til telefonen, den udfører opgaven, og senere er den færdig. De taler med den, som var den et menneske, går videre med deres dag og får senere et svar.

Sådan tror jeg, AGI vil fungere hos os. Alle får deres egen Einstein, C-3PO eller R2-D2, på en telefon eller siden i en robot. Den udfører opgaver, svarer og finder løsninger, lige så klog som Einstein. Hvis alle havde en ven med intelligens på niveau med eller over mennesker, kunne vi gøre mere. Folk spørger straks, hvad der sker, hvis de bliver ondsindede. Men vi har allerede otte milliarder væsener med menneskelig intelligens. Mennesker har mange fejl, men det er også smukt, at vi har skabt samfund og civilisation og fortsætter fremad.

Det er interessant, hvor anderledes det er end Star Trek, der gør et stort nummer ud af teknologien.

Vi taler ikke særligt om telefoner, men for hundrede år siden ville muligheden for straks at tale med nogen i Qatar virke magisk. Mange af vores dagligdags ting ville være ren magi for datidens mennesker.

Selv en Kindle ville være magisk for hundrede år siden: En bog, som ændrer sig efter, hvad man ønsker.

Præcis. Det er som taget ud af Harry Potter. Sådan tænker jeg om teknologien. Der er mange eksempler på hurtige forandringer, som elektricitet og trykpressen. Først er de store og utrolige, men næste generation tager dem for givet. Forestil dig, at AGI på samme måde blot er en indbygget del af alt, vi gør.

Du tweetede for nylig: “Mål ikke succes på, hvor mange ting du begynder, men på, hvor mange du afslutter.” Hvordan ser målstregen ud for virksomheden?

Hvad er slutmålet? Når folk siger, at Google (GOOGL ) ikke har en konkurrencebeskyttende voldgrav — noget fra Google blev vist lækket og skabte panik — synes jeg, det er spændende. Jeg tror, det kan være rigtigt. OpenAI har måske heller ikke en sådan beskyttelse. Ingen har den nødvendigvis. Vigtigere er, at vi vil se mange flere historier om eksisterende forretningsmodeller, som AI udfordrer. Det gælder kundeservice, helpdesks, CRM-systemer, søgemaskiner og meget andet.

Mange virksomheder følger nu med bølgen, men teknologien kan både forbedre eksisterende forretninger og skabe disruption. Nogle tilpasser sig hurtigere, og virksomheder med en vis størrelse kan måske accelerere hurtigere end dem, der endnu ikke har skala. Det gælder ikke altid; små virksomheder kan også føre an. De ældste kan være for langsomme og blive væltet, de mindste kan være hurtige, og der er muligheder midt imellem.

Vi kan blive en virksomhed, som gør hver eneste kontakt mellem mennesker og virksomheder hurtigere og mere intelligent. I dag fokuserer vi på kundeservice, fordi det er den hyppigste kontakt: Man har et problem og stiller et spørgsmål. Vi håndterer over 100 millioner supportsager om året og er kun lige begyndt. Det kan med tiden blive en milliard, ti milliarder, en billion — alene i kundesupport.

Den samme teknologi kan også bruges til markedsføring. Hvorfor kun kontakte en virksomhed, når man har et problem? Hvad med et nyt produkt, en interessant tjeneste eller salg? Eller kontakt til ens arbejdsgiver om IT eller HR? Hvert kontaktpunkt kan forandres med AI. Vi har mulighed for at være en af de virksomheder, der skaber den fremtid. Det er missionen og slutmålet: At frigøre menneskers potentiale, gøre alt hurtigere og mere effektivt og give tid, energi og opmærksomhed tilbage, så folk kan være sammen med deres nærmeste eller gøre det, der betyder noget. Menneskeheden kan løfte sig til et nyt niveau.

Jeg tror, vi kan gøre det. Forretningsmæssigt kan det blive en virksomhed til flere milliarder, måske titals eller hundredvis af milliarder dollar. Ligesom Salesforce-historien: Hvad hvis Salesforce blev grundlagt i 2023?

Tak for interviewet. Læsere, som vil vide mere, kan læse vores første interview med Deon eller besøge Forethought.