Deon Nicholas, Co-Fondator și CEO al Forethought – Seria de Interviuri

Deon Nicholas este cofondatorul și directorul general al Forethought. Anterior, a dezvoltat produse și infrastructură la Facebook (META ), Palantir (PLTR ), Dropbox (DBX ) și Pure Storage. Are publicații în domeniul învățării automate și brevete pentru infrastructură, a fost finalist mondial la concursul internațional universitar de programare ACM și a fost inclus în lista Forbes 30 Under 30. Originar din Canada, îi place să petreacă timp cu soția și fiul său, să joace baschet și să citească cât mai multe cărți.

Forethought, platforma de inteligență artificială și învățare automată pentru companii, s-a concentrat inițial pe asistența pentru clienți. Inteligența artificială a companiei poate învăța din documente interne, e-mailuri, conversații și chiar solicitări vechi de asistență, pentru a rezolva automat solicitările, a le direcționa corect și a găsi rapid informațiile organizaționale relevante.

Am discutat cu Deon la conferința anuală de AI Upper Bound din 2023, desfășurată în Edmonton, Alberta, și organizată de Amii (Alberta Machine Intelligence Institute).

Acesta este al doilea interviu cu Deon. În primul interviu am vorbit despre trecutul său și începuturile în AI; aici ne concentrăm pe viziunea lui asupra viitorului.

Puteți explica pe scurt ce este Forethought?

Forethought este o companie de AI generativă pentru asistența clienților. Ne-am lansat în 2018 la TechCrunch Disrupt, iar de atunci am ajuns să susținem serviciile de asistență ale unor companii mari precum Instacart. Oferim, în esență, un strat de inteligență peste datele solicitărilor de asistență. Acesta se concretizează în chatboturi, sperăm mai inteligente, dar și în asistență pentru agenții umani, toate folosind astăzi AI generativă și tehnologii similare.

Când ați făcut trecerea la AI generativă?

Interesant este că foloseam deja o formă de AI generativă încă de la înființare. Nu aș spune că era la fel de puternică precum cea disponibilă astăzi. Dar, de exemplu, GPT-2 a apărut, cred, în 2018 sau 2019, cu sursă deschisă, și existau alte modele precum T5. Foloseam diferite modele lingvistice mari, experimentam cu ele și construiam și modele interne. Diferența este că înainte era o funcționalitate care aducea avantaje când era folosită punctual. În ultimele șase luni a devenit o schimbare fundamentală a modelelor de afaceri și a motoarelor tehnologice. În ultimele luni a trebuit să ne regândim motorul. Am lansat SupportGPT în martie 2023, folosind modele mari precum GPT de la OpenAI și regândind întregul sistem. Nu este neapărat un produs nou, ci un motor nou pentru toate produsele noastre, care a adus numeroase îmbunătățiri în întreaga platformă.

Cum începe o companie să folosească SupportGPT?

Motorul este integrat într-unul dintre produsele noastre. Totul pornește de la datele companiei, acesta fiind diferențiatorul nostru. La majoritatea furnizorilor începi cu o pagină goală și trebuie să programezi explicit regulile. Cu Forethought începi prin integrare. Dacă folosești un serviciu de asistență sau un CRM popular, precum Zendesk sau Salesforce Service Cloud, te înscrii și instalezi integrarea noastră în centrul tău de asistență. Aceasta declanșează indexarea, antrenarea și ajustarea fină și construiește modelul și motorul. Apoi poți configura, modifica și implementa produsele noastre. Cel mai popular este Solve, un agent AI care poate funcționa pe un site, asemănător unui chatbot, prin e-mail sau în alte forme. Începe să converseze automat cu clienții și să le răspundă folosind SupportGPT, ca un fel de ChatGPT pentru site-ul tău.

Dar automatizarea rezolvă, să spunem, doar 50% dintre probleme. Ce facem cu cele care încă trebuie preluate de oameni? Avem Triage, al doilea produs: direcționează și etichetează solicitările, astfel încât să ajungă la agentul potrivit, pe canalul potrivit și la momentul potrivit. Assist este copilotul agenților, un GPT pentru uz intern destinat echipelor de asistență. Iar Discover, cel mai recent produs și în multe privințe cel mai puternic, caută informații utile și folosește tot AI generativă pentru a recomanda companiei ce ar trebui actualizat sau schimbat.

Având în vedere această dependență de AI generativă, halucinațiile reprezintă o problemă?

Da. Pentru multe utilizări practice, halucinațiile sunt una dintre marile probleme ale AI generative. Am înregistrat pe LinkedIn un videoclip despre asta, care a devenit destul de popular. În unele cazuri nu sunt o problemă: dacă un om verifică rezultatul sau dacă este o utilizare creativă, cum ar fi redactarea unor reclame ori articole de marketing pe care cineva le va edita. O anumită inventivitate poate fi utilă acolo. Dar în finanțe, sănătate sau asistența clienților, unde sunt în joc sănătatea, banii ori mijloacele de trai și se dorește un răspuns corect, halucinațiile sunt o problemă enormă și o limitare majoră. Noi am realizat că avem un avantaj deoarece foloseam deja forme de AI generativă de aproximativ cinci ani.

Modelele noastre s-au concentrat de la început pe corectitudine: să înțeleagă politicile și fluxurile de lucru. Dacă cineva cere o rambursare în primele 30 de zile, o poți aproba; după acest termen, nu. Aveam deja construite aceste mecanisme. Când am început să folosim modelele lingvistice mai moderne, am constatat că exprimarea lor mai apropiată de cea umană se potrivea foarte bine cu informațiile reale și corectitudinea oferite de modelele Forethought. Putem folosi această corectitudine prin proiectarea instrucțiunilor și ajustare fină, reducând halucinațiile. Nu le eliminăm complet, dar le minimizăm suficient pentru un sistem foarte eficient. Obiectivul final este, evident, ca halucinațiile să fie mai rare decât greșelile oamenilor. Dacă precizia este comparabilă cu cea umană, ești într-o poziție foarte bună.

V-am intervievat ultima dată în 2021. Ce ați învățat de atunci despre antreprenoriat?

Doamne, întreaga lume s-a schimbat. La sfârșitul lui 2021, la scurt timp după interviu, am atras 65 de milioane de dolari într-o rundă de serie C de la Steadfast Capital, NEA și personalități precum Gwyneth Paltrow, Baron Davis și Robert Downey Jr. Exista mult entuziasm pentru viziunea noastră; acești oameni văzuseră potențialul AI generative înainte să devină populară. Era o perioadă agitată și captivantă, în care puteam accelera dezvoltarea unui lucru care funcționa. Dar după aproximativ șase luni, la mijlocul lui 2022, a venit recesiunea. Totul s-a răsturnat, ca să spun așa. Companiile care cheltuiau au început să reducă bugetele, iar modelul antreprenorial s-a schimbat de la creștere cu orice preț.

Înainte, ideea era: ai o rezervă mare de capital, cheltuiește-o și crește până la următoarea rundă. Dintr-odată, investitorii și consiliile de administrație au spus că banii nu sunt gratis și trebuie să construiești o afacere profitabilă sau, cel puțin, eficientă. Nu mai era vorba de creștere cu orice preț, ci cu o eficiență rezonabilă. Evident, vrei cât mai multă creștere în aceste condiții. Dar modelul s-a întors aproape peste noapte: nu exista garanția accesului la capital pentru încă unul sau doi ani, poate trei într-o recesiune. Clienții își restrângeau cheltuielile. Trebuia să ne concentrăm atât pe eficiența proprie, cât și pe cea oferită clienților.

Asta ne-a obligat să fim mult mai concentrați. Oferisem întotdeauna valoare: dacă agenții rezolvă mai multe întrebări într-un anumit timp, compania economisește bani, clienții au o experiență mai bună și primesc mai multă atenție. Dar trebuia să ne rafinăm prezentările comerciale, mesajele și direcția produselor pentru a comunica asta. Și în interior trebuia să punem eficiența pe primul loc. Nu mai puteam presupune că rezerva de capital era mare și că puteam atrage mereu alte fonduri. Trebuia să ne întrebăm: cum construim afacerea dacă nu mai putem obține finanțare niciodată?

Dacă trec ani până se redeschide piața capitalului de risc? E în regulă, dar trebuie să avem o afacere foarte eficientă, astfel încât la o rundă D să prezentăm indicatorii succesului în această lume nouă. Au existat concedieri și multe schimbări. 2022 a fost un an dificil, iar în 2023 AI generativă a redevenit un subiect fierbinte. Există urcușuri și coborâșuri.

Pe scurt, toate acestea te învață să rămâi concentrat și rezilient. O altă idee importantă este că, dacă reușești, călătoria durează zece ani. Dacă nu, se poate termina mai devreme. Trebuie să treci prin urcușuri și coborâșuri ținând minte că construiești mereu spre viziunea finală.

Care sunt cele mai mari provocări în construirea chatboturilor pentru asistența clienților și alte utilizări?

Le voi lua cronologic. Prima a fost tehnică: funcționează modelele? De aceea, încă din 2017 foloseam motoare moderne de înțelegere și generare a limbajului natural. Trebuia să rămânem la zi cu cercetarea, dar și să oferim valoare. Când îi întrebam pe clienți, spuneau că problema este enormă și ar plăti pentru o soluție. Dar chatboturile nu funcționaseră niciodată.

În 2017, înainte de lansarea oficială, ne întrebam dacă ar trebui să intrăm pe această piață. Problema era clară, însă soluțiile nu funcționaseră. Am continuat să întrebăm de ce și am înțeles că abordarea noastră era foarte diferită, fie întâmplător, fie datorită experienței noastre. Oamenii auziseră de AI și chatboturi, dar ceea ce făceam noi nu era ceea ce făcuseră ei. Totul era construit ca un arbore decizional, cu reguli explicite: dacă apare cuvântul „rambursare”, procesează rambursarea. Dar dacă persoana spune „vreau banii înapoi”, sistemul nu știe ce să facă fiindcă lipsește cuvântul-cheie magic.

Erau arbori decizionali, reguli și instrumente fără cod care făceau interfața conversațională, dar nu era AI. Nu realizasem că toate chatboturile erau construite așa. Noi voiam altceva, iar oamenii întrebau dacă într-adevăr se poate. A trebuit să explicăm diferența: deși AI exista ca termen la modă de vreo zece ani, această formă modernă, ale cărei posibilități le vedem acum în AI generativă, nu fusese aplicată domeniului. Acest lucru a avut multe consecințe.

Pe piață era mult zgomot. Spuneam că facem ceva diferit, iar oamenii răspundeau că și altă companie pretindea că are AI. A trebuit să depunem mult efort pentru a ne demonstra valoarea. Odată ce ajungeam la o demonstrație de fezabilitate în sistemul clientului și arătam cum funcționează și cum învață, diferența devenea clară. Așa au apărut clienții și siglele pe care le vedeți, dar fiecare pas a fost o muncă lentă de demonstrare a valorii. Aceasta a fost probabil cea mai importantă particularitate a unui domeniu gălăgios, cu soluții slabe.

Privind retrospectiv, pare evident că arborii decizionali nu aveau să funcționeze. Atunci nu era atât de evident.

Nu era evident și cred că aceea era și limita a ceea ce puteai face atunci, nu?

Și asta este adevărat.

Oamenii confundă asistența conversațională pentru clienți cu AI. Există o suprapunere mare: ChatGPT este un bun exemplu conversațional, dar GPT-3, motorul din spate, exista deja și acela era AI. Aveai nevoie de el pentru o conversație mai bună. În trecut doream conversație și AI, dar puteam obține conversația doar prin scenarii prestabilite. Era un sistem IVR, de răspuns vocal interactiv, sau un meniu telefonic transpus în chat. Apoi oamenii i-au pus eticheta AI. Aveam conversație, nu AI. Aici apărea ruptura: nu neapărat că diferența nu era evidentă, ci că nu era posibilă alternativa sau oamenii nu știau că este posibilă și că vorbim despre două lucruri diferite.

V-ați descris drept un optimist în privința AI într-un podcast recent. De ce sunteți atât de optimist?

Din mai multe motive. În linii mari, cred că apare o schimbare de platformă și de model de afaceri, asemenea trecerii de la calculatoare centrale uriașe la computere personale, apoi la internet, de la desktop la cloud și mai târziu la mobil. Aproximativ în fiecare deceniu apare o nouă schimbare care creează modele de afaceri și oportunități de mii de miliarde de dolari. Salesforce (CRM ), de exemplu, a devenit o companie de 200 de miliarde de dolari recunoscând trecerea la cloud. Probabil ar spune că a provocat-o, dar a recunoscut-o și a mutat bazele de date, sistemele de evidență, de la instalări locale precum Oracle sau Siebel în cloud.

A construit un sistem de evidență pentru agenții de vânzări, s-a listat și a devenit o afacere de miliarde. A repetat modelul pentru asistență și marketing, ajungând la 200 de miliarde. Mă întreb ce s-ar întâmpla dacă Salesforce ar fi construit în epoca noastră, de exemplu în 2030. Cred că același lucru se va întâmpla: companiile care pun AI în centrul lor, precum Forethought, vor deveni următoarele Salesforce și vor crea oportunități de mii de miliarde de dolari. Va fi bine pentru afaceri, dar și pentru clienți și consumatori. Telefonul a pus un supercomputer în buzunarul tău.

Cu GPT vei avea un supercreier în buzunar. Când vrei o tunsoare, AI-ul tău poate vorbi cu AI-ul frizeriei și face programarea. Sperăm că toate vor folosi Forethought, dar ideea este că vom face lucrurile cu totul altfel. Modelele economice se vor schimba. Este și o forță de egalizare, fiindcă această inovație este ușor de adoptat. Înainte aveai nevoie de un doctorat în AI ca să știi cum să o folosești. Acum mama mea utilizează ChatGPT. Tot mai mulți oameni descoperă AI; poate mai mulți vor învăța programare sau proiectarea instrucțiunilor. Egalizează accesul, indiferent dacă ești expert. Această oportunitate economică mă face cel mai optimist.

Ce predicții aveți despre inteligența artificială generală, AGI? O vom vedea în timpul vieții noastre?

Mai întâi aș spune că nimeni nu știe. Probabil acesta este adevărul.

Cine susține că știe minte. Dar vedem suficiente progrese. Poate există deja AGI. Cine poate spune că GPT și această clasă de modele nu sunt aproximativ la fel de inteligente ca un creier uman? Nu știu, poate. Probabil nu; acesta este răspunsul cel mai probabil. Dar un creier uman are, cât, o mie de miliarde de neuroni? GPT se apropie. Ce se întâmplă când un asemenea sistem are o mie de miliarde de neuroni și este antrenat cu datele potrivite? Creierul nostru a evoluat biologic, dar, într-un anumit sens, învățarea prin întărire este o evoluție accelerată pentru mașini.

Aceste tehnici există deja. Nu mai pare atât de improbabil. Poate avem nevoie de tehnici noi: Transformer și rețelele neuronale recurente au fost progrese care par evidente retrospectiv, dar înainte păreau imposibile. Înaintea rețelelor recurente nu puteam gestiona limbajul în acest fel; apoi Transformer le-a depășit și avem transformere generative preantrenate, GPT. Poate sunt necesare alte cercetări, dar nu mai pare imposibil, fiindcă rezultatele sunt atât de bune. Poate suntem deja acolo într-un sens, poate avem ingredientele și trebuie să găsim combinația potrivită, sau poate ajungem în următorii 30–50 de ani.

Nu știu dacă m-ați întrebat și ce cred despre asta, dar există riscuri. Cineva, cred că Andrej Karpathy de la Tesla, a comparat AI cu energia nucleară. Este aproximativ la fel de puternică: fuziunea ar putea oferi energie enormă, ar permite lucruri neimaginate, inclusiv călătorii spațiale pentru care ar exista suficientă energie. Dar există și partea întunecată: bombe sau arme nucleare și o capacitate imensă de distrugere.

Ca societate, cea mai bună soluție găsită a fost ca cei care dețin această putere să stabilească reguli reciproce pentru utilizarea ei corectă. Cred că AI are o putere comparabilă, dar începe în mediul digital, deci poate inspira inițial mai puțină teamă, cât timp nu ajunge la arme nucleare, de exemplu. Ideea este că, dacă dezvoltăm limite și măsuri de siguranță odată cu progresul AI, așa cum cred că facem, suntem într-o poziție bună. Este foarte important să avem AI la fel de puternică precum GPT pentru a detecta știrile false generate de GPT. Sunt optimist, dar asta nu înseamnă că nu trebuie să dezvoltăm simultan tehnologiile care o fac sigură.

Vă place să citiți. Ce cărți bune ați recomanda?

Cea mai recentă carte citită este „The Advantage” de Patrick Lencioni, despre construirea unei organizații sănătoase: de la ședințe și alinierea conducerii la comunicarea misiunii și valorilor. Reunește idei din celelalte cărți ale sale, precum Death by Meeting. The Advantage este probabil ultima pe care am citit-o. Ironic, n-am citit recent cărți despre AI, deși citesc lucrări de cercetare. Mi-a fost recomandată insistent o carte numită „Superhuman”, pe care trebuie să o citesc. Încă o carte de nonficțiune: „Good to Great”, preferata mea despre management. La ficțiune, The Expanse, care a devenit și serial de televiziune.

Am văzut serialul.

L-ați văzut, da? Cred că este pe Amazon Prime. Îmi place fiindcă prezintă foarte bine nu doar science-fiction, ci realism științific. Are multă ficțiune, evident, dar explorează subtil cum ar arăta lumea dacă am călători în spațiu și cum ar evolua politica. Oamenii probabil s-ar comporta astfel. Telefoanele au o formă avansată de AGI, dar acest lucru este foarte discret, nu subiectul central. De aceea îl menționez. Personajele spun ceva telefonului, acesta se ocupă de sarcină și o termină câteva ore mai târziu, în timpul poveștii. Vorbesc cu telefonul ca și cu o persoană, își continuă activitatea, apoi dispozitivul revine cu informații și le răspunde.

Cred că așa va funcționa AGI în lumea noastră. Fiecare va avea propriul Einstein, C-3PO sau R2-D2, pe telefon sau, în cele din urmă, într-un robot. Va îndeplini sarcini, va răspunde și va rezolva probleme, cu inteligența unui Einstein. Dacă fiecare om ar avea un prieten numit Albert Einstein, o AGI la fel de inteligentă ca oamenii sau mai inteligentă, am putea face mai multe. Oamenii întreabă imediat ce se întâmplă dacă toate devin răuvoitoare. Dar avem deja opt miliarde de ființe cu inteligență umană. Oamenii au multe defecte, însă este frumos că am putut crea societatea și civilizația în care trăim.

Este interesant contrastul cu Star Trek, unde utilizarea tehnologiei este pusă în evidență.

Noi nu discutăm despre telefoane, dar acum o sută de ani, dacă spuneai cuiva că poți vorbi instantaneu cu o persoană din Qatar, ar fi părut magie. Multe lucruri de astăzi ar fi fost literalmente magice pentru oamenii de atunci.

Chiar și un Kindle ar fi părut magic acum o sută de ani: o carte care se schimbă în funcție de ce dorești.

Exact, în funcție de ce dorești. Pare scos direct din Harry Potter. Așa văd aceste tehnologii. Există multe analogii cu lucruri care s-au schimbat rapid: electricitatea, tiparul. O vreme sunt mari și uimitoare, apoi generația următoare le consideră normale și integrate în viață. Imaginați-vă o lume în care AGI este ceva de la sine înțeles, încorporat în tot ce facem.

Recent ați scris pe Twitter: „Măsurați succesul nu după câte lucruri începeți, ci după câte terminați.” Cum arată linia de sosire pentru compania dumneavoastră?

Care este scopul final? Revenind la modelele economice noi, mă stimulează discuțiile despre faptul că Google (GOOGL ) nu ar avea un avantaj competitiv greu de replicat. A apărut un document scurs și lumea s-a panicat. Cred că este adevărat, dar nici OpenAI probabil nu are un asemenea avantaj. Mai important, în lunile următoare vor exista multe povești despre companii ale căror modele de afaceri sunt perturbate de AI. Se va întâmpla în asistența clienților, platformele de suport, CRM-uri, motoarele de căutare și peste tot.

Multe companii se grăbesc acum să urmeze tendința. Dar această tehnologie poate îmbunătăți afacerile existente la fel de mult cât le poate perturba. Unii se vor adapta mai repede, însă companiile care au deja o anumită amploare pot accelera mai rapid decât cele care încă nu au ajuns acolo.

Nu va fi întotdeauna așa; unele companii mici pot avansa mai repede. Nu există o regulă garantată. Unele organizații vechi se vor adapta prea lent și vor fi înlocuite, unele mici se vor mișca rapid, iar altele vor fi între aceste extreme. Noi am putea face fiecare punct de contact dintre oameni și companii mai rapid și mai inteligent. Astăzi lucrăm la asistența clienților, fiindcă aceasta este interacțiunea cea mai frecventă: ai o problemă și pui o întrebare. Procesăm deja peste 100 de milioane de solicitări anual și abia începem. În timp ar putea deveni un miliard, zece miliarde, o mie de miliarde, doar în asistența clienților.

Aceeași tehnologie poate fi aplicată marketingului, sperăm prin Forethought. De ce să contactezi o companie doar când ai o întrebare? Dar când vrei să afli despre un produs nou, un serviciu sau o achiziție? Și în relația cu angajatorul: ai o întrebare despre IT sau resurse umane? Fiecare punct de contact poate fi transformat de AI. Putem participa la această poveste și deveni una dintre companiile care aduc acest viitor. Aceasta este misiunea și scopul final: eliberarea potențialului uman. Totul poate deveni mai rapid și eficient, redând oamenilor timp, energie și atenție pentru cei dragi sau ceea ce contează pentru ei. Omenirea trece la un nivel superior.

Cred că avem această oportunitate și o putem realiza. Comercial, ar putea deveni o companie de miliarde, poate zeci sau sute de miliarde de dolari, asemenea poveștii Salesforce. Cum ar fi dacă Salesforce ar fi construit în 2023?

Mulțumim pentru interviu. Cei care doresc să afle mai multe pot citi primul nostru interviu cu Deon sau pot vizita Forethought.