Deon Nicholas, spoluzakladatel a generální ředitel Forethought – série rozhovorů

Deon Nicholas je spoluzakladatel a generální ředitel společnosti Forethought. Dříve vyvíjel produkty a infrastrukturu ve společnostech Facebook (META ), Palantir (PLTR ), Dropbox (DBX ) a Pure Storage. Publikoval práce o strojovém učení a má patenty v oblasti infrastruktury. Byl světovým finalistou mezinárodní univerzitní programátorské soutěže ACM a dostal se do žebříčku Forbes 30 Under 30. Pochází z Kanady, rád tráví čas s manželkou a synem, hraje basketbal a čte co nejvíce knih.

Forethought, podniková platforma pro AI a strojové učení , se původně zaměřila na zákaznickou podporu. Její AI se učí z interních dokumentů, e-mailů, chatů i starších požadavků podpory, aby je automaticky řešila, správně směrovala a rychle vyhledávala relevantní znalosti organizace.

S Deonem jsme mluvili na každoroční konferenci o AI Upper Bound v roce 2023 v Edmontonu v Albertě, kterou pořádá Amii (Alberta Machine Intelligence Institute).

Jde o náš druhý rozhovor. V prvním rozhovoru jsme probírali jeho minulost a začátky v AI, tentokrát se soustředíme na jeho vizi budoucnosti.

Můžete stručně představit Forethought?

Jsme společnost nabízející generativní AI pro zákaznickou podporu. Spustili jsme ji v roce 2018 na TechCrunch Disrupt a od té doby jsme vyrostli tak, že zajišťujeme podporu velkých společností, například Instacartu. Nad daty požadavků podpory vytváříme inteligentní vrstvu. Ta se promítá do chatbotů, doufejme chytřejších, i do pomoci lidským pracovníkům podpory. Dnes to vše využívá generativní AI a související technologie.

Kdy jste přešli na generativní AI?

Zajímavé je, že nějakou formu generativní AI jsme používali už od počátků. Ne tak silnou, jaká je dostupná dnes. GPT-2 například vyšlo, myslím, v roce 2018 nebo 2019 s otevřeným zdrojovým kódem, existovaly i modely jako T5. Experimentovali jsme s různými velkými jazykovými modely a vytvářeli vlastní. Dříve to byla funkce poskytující výhodu při cíleném použití. Za posledních šest měsíců se ale stala zásadním posunem obchodních modelů a technologických motorů. V posledních měsících jsme náš motor museli přehodnotit. V březnu 2023 jsme spustili SupportGPT, založené na velkých modelech jako GPT od OpenAI, a promysleli celý systém znovu. Nejde nutně o nový produkt, ale o nový motor všech našich produktů, který přinesl mnoho zlepšení napříč platformou.

Jak má postupovat firma, která chce začít používat SupportGPT?

Je zabudovaný do některého z našich produktů. Vždy začínáme vašimi daty; tím se odlišujeme. U většiny dodavatelů začínáte s prázdným plátnem a musíte ručně naprogramovat pravidla. U nás začínáte integrací. Používáte-li běžný helpdesk nebo CRM, například Zendesk či Salesforce Service Cloud, zaregistrujete se a nainstalujete naši integraci do centra podpory. Spustí se indexování, trénování a dolaďování, vytvoří se model i motor. Pak můžete naše produkty konfigurovat, upravovat a nasazovat. Nejpopulárnější je Solve: AI agent na webu, podobný chatbotu, ale může fungovat i v e-mailu či jiné podobě. Automaticky komunikuje se zákazníky a odpovídá jim pomocí SupportGPT, tedy jakéhosi ChatGPT pro váš web.

Automatizace ale vyřeší třeba jen 50 % problémů. Co s těmi, které musí dostat člověk? Druhý produkt Triage požadavky směruje a označuje, aby se dostaly ke správnému pracovníkovi správným kanálem a ve správnou chvíli. Assist je kopilot pro pracovníky podpory, tedy interní GPT. Nejnovější Discover je v mnoha ohledech nejsilnější: hledá poznatky a pomocí generativní AI doporučuje firmě, co aktualizovat nebo změnit.

Představují při tak velkém využití generativní AI problém halucinace?

Ano, v mnoha praktických případech patří k hlavním problémům. Natočil jsem o tom video na LinkedIn, které se poměrně rozšířilo. Někdy nejsou zásadní: pokud výsledek kontroluje člověk nebo jde o tvořivé použití, například marketingové texty, které někdo později upraví. Trocha vymýšlení tam může představovat kreativitu. Ve financích, zdravotnictví nebo podpoře, kde jde o zdraví, peníze či živobytí a potřebujete správnou odpověď, jsou však halucinace obrovským problémem a omezením. Naší výhodou je, že nějakou formu generativní AI používáme asi pět let.

Naše modely se od začátku soustředily na správnost, na pochopení pravidel a pracovních postupů. Když někdo požádá o vrácení peněz do 30 dnů, můžete mu vyhovět, po této lhůtě ne. Tyto mechanismy jsme již měli. Když jsme zapojili modernější jazykové modely, jejich lidštější vyjadřování se dobře doplnilo se skutečnými informacemi a správností modelů Forethought. Přesnost lze využít návrhem instrukcí a dolaďováním, což halucinace omezuje. Neodstraní je to úplně, ale sníží na úroveň velmi účinného systému. Konečným cílem je, aby model halucinoval méně často, než lidé chybují. Pokud je přesnost srovnatelná s lidskou, je to velmi dobrá pozice.

Naposledy jsme s vámi mluvili v roce 2021. Co jste se od té doby naučil o podnikání?

Celý svět se změnil. Koncem roku 2021, krátce po rozhovoru, jsme získali 65 milionů dolarů v sérii C od Steadfast Capital, NEA a osobností jako Gwyneth Paltrow, Baron Davis a Robert Downey Jr. Pro naši vizi panovalo velké nadšení; tito lidé viděli potenciál generativní AI dříve, než byla populární. Bylo to divoké a vzrušující období růstu, kdy jsme mohli přidávat palivo něčemu, co fungovalo. O šest měsíců později, v polovině roku 2022, ale přišla recese a všechno se převrátilo. Firmy omezovaly výdaje a podnikatelský model se změnil od růstu za každou cenu.

Dříve zněla rada: máte velkou kapitálovou rezervu, utrácejte a rostěte k dalšímu kolu. Najednou investoři a správní rady říkali, že peníze nejsou zdarma a musíte stavět ziskovou nebo alespoň efektivní firmu. Nešlo o růst za každou cenu, ale s rozumnou efektivitou. Pořád chcete maximální růst v těchto mezích, jenže nebylo zaručeno, že další rok či dva získáte kapitál, při recesi možná ani tři roky. Zákazníci utahovali rozpočty. Museli jsme zvyšovat efektivitu vlastní i zákazníků.

Přimělo nás to více se soustředit. Hodnotu jsme nabízeli vždy: pokud pracovníci vyřeší více dotazů za stejný čas, ušetříte náklady, zákazníci mají lepší zkušenost a dostanou více pozornosti. Museli jsme ale zpřesnit obchodní prezentace, sdělení a zaměření produktů. Uvnitř firmy jsme se také museli věnovat efektivitě. Už nešlo předpokládat, že máme velkou rezervu a vždy získáme další peníze. Ptali jsme se, jak vybudovat podnik, pokud už nikdy nezískáme financování.

Co když potrvá roky, než se trh rizikového kapitálu otevře? Nevadí, ale musíme být efektivní, abychom při sérii D měli ukazatele úspěchu odpovídající novým podmínkám. Přišlo propouštění a mnoho změn. Rok 2022 byl těžký, v roce 2023 je generativní AI opět žhavé téma. Jsou tu vzestupy i pády.

To vše učí soustředění a odolnosti. Úspěšná cesta trvá deset let; neúspěšná může skončit dřív. Přes všechny výkyvy je třeba pokračovat s vědomím, že stále budujete směrem ke konečné vizi.

Jaké jsou největší výzvy při vývoji chatbotů pro zákaznickou podporu a další využití?

Vezmu to chronologicky. První výzva byla technická: fungují modely? Už v roce 2017 jsme proto používali moderní systémy porozumění přirozenému jazyku a jeho generování. Bylo nutné držet krok s výzkumem a zároveň přinášet hodnotu. Zákazníci říkali, že jde o obrovský problém a za řešení zaplatí. Jenže chatboty nikdy nefungovaly.

Před oficiálním spuštěním v roce 2017 jsme se ptali, zda vůbec máme vstupovat na tento trh. Problém byl jasný, řešení selhávala. Při dalším zkoumání jsme zjistili, že postupujeme úplně jinak, snad náhodou nebo díky zkušenostem. Lidé znali pojmy AI a chatbot, ale dělali něco jiného. Všechno stavěli jako rozhodovací strom s pevnými pravidly: když se objeví slovo „refundace“, vrať peníze. Když ale člověk řekne „chci své peníze zpátky“, systém neví, co dělat, protože chybí kouzelné klíčové slovo.

Byly to rozhodovací stromy, pravidla a nástroje bez programování, které vytvářely konverzační rozhraní, ale nebyla to AI. Netušil jsem, že tak jsou postavené všechny chatboty. My chtěli něco jiného a zákazníci se ptali, zda je to možné. Důležité bylo pochopit rozdíl: AI byla módním slovem snad deset let, ale moderní možnosti, které dnes vidíme u generativní AI a začínaly být dostupné už několik let předtím, se na tento obor neuplatňovaly. To mělo další důsledky.

Na trhu bylo mnoho hluku. Tvrdili jsme, že děláme něco jiného, zákazníci ale namítali, že i jiná firma říká, že má AI. Prokazovat hodnotu vyžadovalo velké úsilí. Jakmile jsme vytvořili ověření konceptu v jejich systému a ukázali, jak funguje a učí se, rozdíl byl jasný. Tak jsme získávali zákazníky, jejichž loga vidíte. Každý krok však byl pomalým dokazováním hodnoty v hlučném oboru se špatnými řešeními.

Zpětně se zdá zřejmé, že rozhodovací stromy nebudou fungovat. Tehdy to tak zřejmé nebylo.

Nebylo, a myslím, že to také bylo nejlepší, co tehdy šlo udělat, že?

To je také pravda.

Lidé zaměňují konverzační podporu za AI. Tyto oblasti se výrazně překrývají: ChatGPT je dobrý konverzační příklad, ale jeho motor GPT-3 existoval dříve a právě ten byl AI. Potřebovali jste jej pro lepší konverzaci. Dříve jsme chtěli obojí, ale konverzaci jsme uměli jen předem napsat. Byl to velký systém IVR, interaktivní hlasová odezva či telefonní nabídka, v chatové podobě. Pak na to lidé přilepili označení AI. Dostávali jsme konverzaci, nikoli AI. Tam vznikalo nedorozumění: ne nutně proto, že rozdíl nebyl zřejmý, ale protože alternativa nebyla možná nebo lidé nevěděli, že možná je a že jde o dvě různé věci.

V nedávném podcastu jste se označil za optimistu v oblasti AI. Proč jste tak optimistický?

Z více důvodů. Obecně se odehrává změna platformy či obchodního modelu, podobně jako přechod od velkých sálových počítačů k osobním, později k internetu, od desktopu ke cloudu a pak k mobilním zařízením. Přibližně každé desetiletí přichází změna vytvářející nové obchodní modely a příležitosti za biliony dolarů. Salesforce (CRM ) například vyrostl na společnost za 200 miliard dolarů tím, že rozpoznal přesun do cloudu. Možná by tvrdil, že jej sám přinesl, ale rozpoznal jej a přesunul databáze a systémy evidence z místních instalací Oracle či Siebel do cloudu.

Vybudoval systém pro obchodníky, vstoupil na burzu a stal se miliardovou firmou. Totéž udělal pro podporu a marketing a dospěl k 200 miliardám. Ptám se, co by se stalo, kdyby Salesforce vznikal v naší době, třeba v roce 2030. Věřím, že firmy s AI v jádru, například Forethought, budou dalšími Salesforce a vytvoří příležitosti za biliony dolarů. Bude to dobré pro podnikání i pro zákazníky a spotřebitele. Telefon vám dal do kapsy superpočítač.

GPT vám tam dá supermozek. Když budete chtít ostříhat, vaše AI promluví s AI kadeřnictví a objedná vás. Doufejme, že to bude běžet na Forethought, ale jde o úplně jiný způsob fungování. Ekonomické modely se změní. Je to také prostředek vyrovnání příležitostí, protože tuto inovaci lze snadno přijmout. Dříve jste potřebovali doktorát z AI, abyste věděli, jak s ní pracovat. Teď moje maminka používá ChatGPT. Více lidí poznává AI, možná se naučí programovat nebo navrhovat instrukce. Vyrovnává to možnosti odborníků i ostatních. Právě tato ekonomická příležitost mě nejvíce naplňuje optimismem.

Co předpovídáte pro obecnou umělou inteligenci, AGI? Uvidíme ji během svého života?

Začnu tím, že nikdo neví. To je asi pravda.

Kdo tvrdí, že ví, lže. Vidíme ale dost pokroku. Možná AGI existuje už dnes. Kdo může říci, že GPT a podobné modely nejsou přibližně tak inteligentní jako lidský mozek? Nevím, možná. Pravděpodobně ne. Mozek má ale, kolik, bilion neuronů? GPT se k tomu blíží. Co se stane, až bude mít bilion neuronů a bude trénován na správných datech? Náš mozek vznikl evolucí, ale posilované učení je v určitém smyslu urychlená evoluce pro stroje.

Tyto techniky už existují a ta představa není tak přitažená za vlasy. Možná potřebujeme nové metody: Transformer a rekurentní sítě byly pokroky, které zpětně vypadají samozřejmě, ale předtím byly nemožné. Před rekurentními sítěmi jsme jazyk takto nezvládali, pak je Transformer překonal a máme generativní předtrénované transformery, GPT. Možná je třeba další výzkum, ale už to není nereálné, výsledky jsou tak dobré. Možná tam v určitém smyslu jsme, máme všechny přísady a musíme najít správnou konfiguraci, nebo tam budeme za 30 až 50 let.

Nevím, zda jste se ptal i na můj názor, ale jsou tu rizika. Někdo, myslím Andrej Karpathy z Tesly, to přirovnal k jaderné energii. Je to podobně mocné: fúze může přinést obrovské množství energie a umožnit věci, o kterých jsme neuvažovali, třeba cestování vesmírem. Ale existuje temná stránka, jaderné bomby či zbraně s obrovskou ničivou silou.

Nejlepší společenské řešení, které jsme našli, je, že držitelé této moci přijímají vzájemná pravidla správného využití. AI má podle mě srovnatelnou sílu, ale začíná digitálně, takže zpočátku vzbuzuje méně strachu, pokud třeba nezíská přístup k jaderným zbraním. Jde mi o to, že pokud s rozvojem AI vytváříme omezení a pojistky, jak podle mě jako společnost děláme, jsme v dobré pozici. Je důležité mít AI stejně silnou jako GPT, která odhalí falešné zprávy vytvořené GPT. Jsem optimista, ale zároveň musíme vyvíjet technologie zajišťující bezpečnost.

Rád čtete. Jaké dobré knihy doporučujete?

Naposledy jsem četl „The Advantage“ od Patricka Lencioniho o budování zdravé organizace: od porad a sladění vedení po komunikaci poslání a hodnot. Shrnuje jeho další knihy, například Death by Meeting. Je to asi nejnovější přečtená kniha. Ironií je, že jsem v poslední době nečetl knihy o AI, i když čtu výzkumné práce. Velmi mi doporučovali knihu „Superhuman“, kterou si musím přečíst. Z další literatury faktu „Good to Great“, moji nejoblíbenější knihu o managementu. Z beletrie The Expanse, ze které je nyní i seriál.

Ten seriál jsem viděl.

Viděl jste ho, že? Myslím, že je na Amazon Prime. Mám ho rád pro vědecký realismus, nejen science fiction. Samozřejmě je v něm hodně fikce, ale jemně rozebírá, jak by vypadal svět s cestováním vesmírem a jak by se vyvíjela politika. Lidé by se asi opravdu chovali takto. Telefony mají pokročilou AGI, ale není to zdůrazněné ani ústřední téma. Proto to zmiňuji. Postavy něco řeknou telefonu, ten to vyřídí a o pár hodin později, v čase příběhu, je úkol hotový. Mluví s ním jako s člověkem, pokračují ve svém a on se vrátí s dalšími informacemi.

Tak podle mě bude AGI fungovat u nás. Každý bude mít vlastního Einsteina, C-3PO či R2-D2, v telefonu a časem v robotovi. Bude plnit úkoly, odpovídat a řešit problémy, inteligentní jako Einstein. Kdyby měl každý na planetě přítele Alberta Einsteina, AGI stejně inteligentní nebo chytřejší než lidé, zvládli bychom více. Lidé hned namítají, co když všichni začnou jednat zlovolně. Máme ale už osm miliard bytostí s lidskou inteligencí. Lidé mají mnoho chyb, přesto je krásné, že jsme vytvořili společnost a civilizaci.

Zajímavý protiklad ke Star Treku, kde používání techniky výrazně předvádějí.

My o telefonech nemluvíme, ale před sto lety by možnost okamžitě hovořit s někým v Kataru působila jako magie. Mnoho dnešních věcí by lidem tehdy připadalo doslova kouzelných.

I Kindle by před sto lety působil magicky. Kniha, která se mění podle toho, co chcete.

Přesně tak. Jako něco přímo z Harryho Pottera. Tak tyto technologie vnímám. Podobných rychlých změn bylo mnoho: elektřina, knihtisk. Chvíli jsou ohromující a velké, pak je další generace bere jako samozřejmost. Představte si svět, kde je AGI samozřejmá a zabudovaná do všeho, co děláme.

Nedávno jste napsal na Twitter: „Měřte úspěch ne počtem věcí, které začnete, ale které dokončíte.“ Jak vypadá cílová páska vaší firmy?

Jaký je konečný cíl? V debatě o nových ekonomických modelech mě podněcuje tvrzení, že Google (GOOGL ) nemá těžko napodobitelnou konkurenční výhodu. Unikl nějaký dokument a všichni zpanikařili. Myslím, že je to pravda, ale ani OpenAI takovou výhodu asi nemá. Důležitější je, že v dalších měsících uslyšíme o mnoha firmách, jejichž model narušuje AI. Bude to zákaznická podpora, helpdesky, CRM, vyhledávače, všechno.

Mnoho firem teď naskakuje na trend, ale tato technologie umí zlepšovat stávající podnikání stejně jako je narušovat. Někteří se přizpůsobí rychleji, ovšem firmy, které už mají určité měřítko, mohou zrychlovat více než ty, které ho ještě nedosáhly.

Neplatí to vždy, některé malé firmy mohou být rychlejší. Není to zaručené. Staré firmy se mohou přizpůsobovat pomalu a padnout, malé mohou postupovat rychle a jiné budou mezi nimi. My bychom mohli učinit každý kontakt lidí s firmami rychlejším a inteligentnějším. Dnes je to podpora, nejčastější interakce: máte problém, položíte otázku. Zpracujeme přes 100 milionů požadavků ročně a teprve začínáme. Časem to může být miliarda, deset miliard, bilion, jen v podpoře.

Stejnou technologii lze použít v marketingu, doufejme přes Forethought. Proč firmu kontaktovat jen s problémem? Co když se chcete dozvědět o produktu či službě, nebo něco koupit? A co kontakt se zaměstnavatelem ohledně IT či personalistiky? AI může proměnit každý kontaktní bod. Máme příležitost být jednou z firem, které tuto budoucnost přinesou. To je naše poslání: uvolnit lidský potenciál. Vše bude rychlejší a efektivnější, lidem se vrátí čas, energie a pozornost pro blízké a důležité věci. Lidstvo se posune výš.

Věřím, že to můžeme dokázat. Obchodně by mohlo jít o firmu za miliardy, možná desítky či stovky miliard dolarů, podobně jako Salesforce. Co kdyby Salesforce vznikal v roce 2023?

Děkujeme za rozhovor. Zájemci si mohou přečíst náš první rozhovor s Deonem nebo navštívit Forethought.