Dimitri Masin, CEO a spoluzakladatel Gradient Labs – rozhovor

Dimitri Masin je CEO a spoluzakladatel Gradient Labs, startupu zabývajícího se vývojem autonomních zákaznických podpůr, které jsou speciálně navrženy pro regulované odvětví, jako jsou finanční služby. Před založením Gradient Labs v roce 2023 zastával Masin vedoucí pozice v bance Monzo, včetně viceprezidenta pro datové vědy, finanční zločiny a podvody, a dříve pracoval v Googlu. Pod jeho vedením získaly Gradient Labs rychlý úspěch, dosáhly ročního obratu 1 milion liber do pěti měsíců od spuštění. Masin se zaměřuje na vývoj systémů umělé inteligence, které kombinují vysoký výkon s přísnou souladností s předpisy, umožňující bezpečnou a škálovatelnou automatizaci složitých zákaznických operací.

Co vás inspirovalo k založení Gradient Labs po takové úspěšné kariéře v Monzu?

V Monzu jsme strávili roky prací na automatizaci zákaznické podpory, cílem bylo dosáhnout skromných 10% zvýšení efektivity. Ale na počátku roku 2023 jsme byli svědky zásadního technologického posunu s vydáním GPT-4. Najednou se stalo možné automatizovat 70-80% manuálních, opakujících se úkolů zcela autonomně pomocí umělé inteligence.

Tento technologický průlom, který právě prožíváme, nás inspiroval k založení Gradient Labs. Během své kariéry jsem viděl dvě takové revoluční vlny: mobilní revoluci (která se událala na počátku mé kariéry) a nyní umělou inteligenci. Když si uvědomíte, že jste uprostřed takové transformace, která zcela změní, jak svět funguje, musíte tuto chvíli využít. Naše tým věděl – je čas.

V Monzu jste pomáhal vést společnost během masivního růstu. Jaké byly největší lekce z této zkušenosti, které nyní aplikujete v Gradient Labs?

První, vyvážení autonomie a směru. V Monzu jsme zpočátku předpokládali, že lidé prostě prosperují na autonomii – že to je to, co je nejvíce motivuje. Nicméně, toto názor se nyní zdá být příliš zjednodušený. Věřím, že lidé také oceňují směr. Skutečná autonomie není říkat lidem “dělejte, co si myslíte”, ale spíše poskytovat jasný směr a dát jim svobodu řešit dobře definované problémy svým způsobem.

Druhé, špičkový talent vyžaduje špičkovou odměnu. Pokud máte v úmyslu najmout nejlepší 5% ve své funkci, musíte platit odpovídajícím způsobem. Jinak velké technologické společnosti je odvedou, jakmile se zjistí, že máte špičkový talent, který je podhodnocen.

Třetí, nevytvářejte kolo znovu. V Monzu jsme se pokusili vytvořit inovativní přístupy k pracovním strukturám, systémům odměn a kariérním žebříčkům. Hlavní poznatek: neplýtvejte energií inovacemi na organizační základy – tisíce společností již etablovaly nejlepší postupy. Stále vidím příspěvky na LinkedIn o “zrušení všech titulů a hierarchie” – sledoval jsem, jak se to opakovaně hraje, a téměř všechny společnosti se nakonec vrátí k tradičním strukturám.

Gradient Labs se zaměřuje na regulovaná odvětví, která tradičně mají složitější potřeby. Jak jste přistupovali k vývoji umělých agentů (jako Otto), kteří mohou účinně fungovat v tomto prostředí?

Přistoupili jsme k tomu netradičním způsobem, odmítli jsme běžný názor, že bychom měli vydávat rychle a iterovat na živém produktu. Místo toho jsme strávili 14 měsíců před vydáním Otto, udržovali jsme velmi vysokou kvalitu od začátku. Potřebovali jsme vytvořit něco, co by banky a finanční instituce důvěřovaly, aby zcela autonomně zpracovávaly jejich podporu.

Nebyli jsme budovat piloty – budovat jsme koncovou automatizaci zákaznické podpory. Díky našemu zázemí ve finančních službách jsme měli přesnou interní měřítko pro “co je dobré”, což nám umožnilo posoudit kvalitu bez závislosti na zpětné vazbě zákazníků. To nám dalo svobodu soustředit se na kvalitu, zatímco jsme rychle iterovali. Bez živých zákazníků jsme mohli udělat větší skoky, rozbít věci volně a rychle se otočit – nakonec jsme dodali lepší produkt při spuštění.

Otto jde za hranice odpovědí na jednoduché otázky a zpracovává složitější pracovní postupy. Můžete nás provést, jak Otto zpracovává vícekrokové nebo vysoce rizikové úkoly, které typičtí umělí agenti mohou selhat?

Postavili jsme Otto kolem konceptu SOP (Standard Operating Procedures) – vlastně návody psané v běžném jazyce, které popisují, jak řešit konkrétní problémy, podobně jako byste dali lidskému agentovi.

Dvě klíčové architektonické rozhodnutí činí Otto zvláště účinným při zpracování složitých pracovních postupů:

První, omezujeme expozici nástrojů. Běžný selhání umělých agentů je špatná volba z příliš mnoha možností. Pro každý postup jsme vystavili pouze malou sadu relevantních nástrojů Otto. Například v pracovním postupu pro nahrazení karty může Otto vidět pouze 1-2 nástroje místo všech 30 registrovaných v systému. To dramaticky zlepšuje přesnost snížením prostoru pro rozhodnutí.

Druhé, přestavěli jsme velkou část typické infrastruktury umělých asistentů, aby umožňovala rozsáhlé řetězové uvažování. Místo toho, abychom prostě házeli postupy na asistenta OpenAI nebo Anthropic, naše architektura umožňuje několik zpracování mezi vstupy a výstupy. To umožňuje hlubší uvažování a spolehlivější výsledky.

Gradient Labs zmiňuje dosažení “nadlidské kvality” ve zákaznické podpoře. Co pro vás znamená “nadlidská kvalita” a jak ji měříte interně?

Nadlidská kvalita znamená poskytovat zákaznickou podporu, která je měřitelně lepší než ta, kterou mohou dosáhnout lidé. Následující tři příklady ilustrují toto:

První, komplexní znalosti. Umělí agenti mohou zpracovat obrovské množství informací a mají podrobné znalosti o společnosti. Naopak lidé obvykle se učí pouze malou sadu informací a když nevědí něco, musí konzultovat znalostní báze nebo eskalovat na kolegy. To vede k frustrujícímu zážitku, kdy zákazníci jsou předáváni mezi týmy. Umělý agent, na rozdíl od toho, má hluboké pochopení společnosti a jejích procesů, poskytující konzistentní, komplexní odpovědi – bez eskalace.

Druhé, nelíné vyhledávání – umělá inteligence je rychlá při shromažďování informací. Zatímco lidé se snaží ušetřit čas dotazováním zákazníků před vyšetřováním, umělá inteligence proaktivně prohlíží informace o účtu, vlajky, upozornění a chybové zprávy před zahájením konverzace. Takže, když zákazník vágně řekne “mám problém s X”, umělá inteligence může okamžitě nabídnout řešení místo toho, aby kladla mnoho vyjasňujících otázek.

Třetím, trpělivost a konzistentní kvalita. Na rozdíl od lidí, kteří čelí tlaku na zpracování určitého počtu odpovědí za hodinu, naše umělá inteligence udržuje konzistentně vysokou kvalitu, trpělivost a stručnou komunikaci. Odpovídá trpělivě, jak dlouho je potřeba, bez spěchu.

Měříme to především prostřednictvím hodnocení spokojenosti zákazníků. Pro všechny současné zákazníky dosahujeme skóre spokojenosti zákazníků v průměru 80%-90% – obvykle vyšší než u jejich lidských týmů.

Úmyslně jste se vyhnuli vázání Gradient Labs na jediného poskytovatele LLM. Proč byl tento výběr důležitý a jak ovlivňuje výkon a spolehlivost pro vaše klienty?

Za posledních dva roky jsme pozorovali, že naše největší zlepšení výkonu přišly z naší schopnosti přepnout na nejlepší model, kdykoli OpenAI nebo Anthropic vydal něco rychlejšího, lepšího nebo přesnějšího. Modelová agilita byla klíčová.

Tato flexibilita nám umožňuje nepřetržitě zlepšovat kvalitu, zatímco spravujeme náklady. Některé úkoly vyžadují výkonnější modely, jiné méně. Naše architektura nám umožňuje přizpůsobit se a vyvíjet se v čase, vybírat optimální model pro každou situaci.

Nakonec budeme podporovat soukromé open-source LLM hostované na infrastruktuře zákazníků. Díky naší architektuře bude tato přechod hladká, což je zejména důležité při službě bankám, které mohou mít specifické požadavky na nasazení modelů.

Gradient Labs není pouze budování chatbota — máte v úmyslu zpracovat také back-office procesy. Jaké jsou největší technické nebo provozní výzvy při automatizaci těchto typů úkolů pomocí umělých inteligencí?

Existují dvě rozdílné kategorie procesů, každá se svými vlastními výzvami:

Pro jednoduché procesy existuje již většina technologií. Hlavní výzvou je integrace – připojení k mnoha speciálním backendovým systémům a nástrojům, které finanční instituce používají, protože většina zákaznických operací zahrnuje řadu interních systémů.

Pro složitější procesy zůstávají významné technické výzvy. Tyto procesy obvykle vyžadují, aby lidé byli najati a vyškoleni po dobu 6-12 měsíců, aby získali odborné znalosti, jako je vyšetřování podvodů nebo posuzování praní špinavých peněz. Výzvou zde je přenos znalostí — jak dát umělým agentům stejné odborné znalosti? To je tvrdý problém, se kterým se všichni v tomto prostoru stále snaží vypořádat.

Jak Gradient Labs vyvažuje potřebu rychlosti a efektivity umělých inteligencí s přísnými požadavky na souladnost v regulovaných odvětvích?

Je to jistě vyvážení, ale na úrovni konverzace náš agent prostě tráví více času思考. Hodnotí několik faktorů: Chápu, co zákazník žádá? Poskytuji správnou odpověď? Zákazník ukazuje známky zranitelnosti? Zákazník chce podat stížnost?

Tento úmyslný přístup zvyšuje latenci – naše mediánová doba odpovědi může být 15-20 sekund. Ale pro finanční instituce je to spravedlivá výměna. Odpověď za 15 sekund je stále mnohem rychlejší než lidská odpověď, zatímco záruky kvality jsou pro regulované společnosti, se kterými spolupracujeme, mnohem důležitější.

Předpokládáte budoucnost, ve které budou umělí agenti důvěřováni nejen pro podporu, ale také pro úkoly vyšších rizikových rozhodnutí uvnitř finančních institucí?

Finanční instituce již používaly tradičnější techniky umělé inteligence pro rozhodnutí s vysokými riziky před současnou vlnou generativní umělé inteligence. Kde vidím skutečnou příležitost, je v orchestraci – ne rozhodnutí, ale koordinaci celého procesu.

Například zákazník nahrává dokumenty, umělý agent je směruje do validačního systému, obdrží potvrzení o platnosti a poté spouští příslušné akce a komunikaci se zákazníkem. Tato orchestrace je funkcí, ve které excelují umělí agenti.

Pro nejvyšší rizika sama rozhodnutí nevidím mnoho změn v blízké budoucnosti. Tyto modely vyžadují vysvětlitelnost, prevenci zkreslení a schválení prostřednictvím modelových rizikových výborů. Velké jazykové modely by čelily významným výzvám souladnosti v těchto kontextech.

Jak podle vás umělá inteligence změní zákaznický zážitek pro banky, fintech společnosti a další regulovaná odvětví v příštích 3–5 letech?

Vidím pět hlavních trendů, které změní zákaznický zážitek:

První, skutečná omni-kanálová interakce. Představte si zahájení chatu v aplikaci pro bankovnictví a poté bezproblémový přechod na hlas se stejným umělým agentem. Hlas, hovory a chat se budou slévat do jediného kontinuálního zážitku.

Druhé, adaptivní uživatelské rozhraní, která minimalizují navigaci v aplikaci. Místo toho, aby zákazníci procházeli menu za konkrétními funkcemi, jednoduše vyjádří své potřeby: “Prosím, zvýšte mé limity” – a akce se provede okamžitě prostřednictvím konverzace.

Třetím, lepší ekonomika jednotek. Podpora a operace jsou obrovské nákladové centry. Snížení těchto nákladů by mohlo umožnit bankám obsluhovat dříve neziskové zákazníky nebo předat úspory uživatelům — zejména v segmentech s nízkým bankovnictvím.

Čtvrté, výjimečná podpora ve velkém měřítku. V současné době mohou startupy s malým počtem zákazníků poskytovat personalizovanou podporu, ale kvalita se obvykle zhoršuje, jak společnosti rostou. Umělá inteligence dělá skvělou podporu škálovatelnou, ne jen možnou.

Posledním, zákaznická podpora se změní z frustrující nutnosti na skutečně užitečnou službu. Nebude již považována za nákladnou a časově náročnou infrastrukturní náklad, ale za cenný, efektivní zákaznický kontakt, který zlepšuje celkový zážitek.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí dozvědět více, by měli navštívit Gradient Labs.