Ayush Sharma, zakladatel a generální ředitel Warp – série rozhovorů

Ayush Sharma je zakladatelem a generálním ředitelem společnosti Warp, kterou spustil v roce 2023 poté, co na vlastní kůži poznal složitost zpracování mezd ve více státech USA i v různých zemích. Vyrůstal v malém městě v Indii a na MIT studoval informatiku a fyziku. Jeho magisterský výzkum se zaměřoval na zmírnění dopadu pomalu pracujících komponent při trénování distribuovaných modelů strojového učení a na hledání způsobů, jak mohou rozsáhlé systémy fungovat efektivněji, když jednotlivé stroje zaostávají. Warp se připojil k zimní kohortě Y Combinatoru 2023 se zaměřením na dodržování daňových předpisů při zpracování mezd. Sharma klade důraz na agenty AI, kteří zvládají celé pracovní postupy a od samého začátku mají nastavená oprávnění, možnost lidského schválení i auditovatelnost.

Warp je platforma pro správu zaměstnanců navržená od základu pro AI, která propojuje zpracování mezd, personalistiku, dodržování daňových předpisů, benefity a IT prostřednictvím společného záznamu o zaměstnanci. Platforma využívá agenty k úkonům, jako je registrace k daňovým povinnostem v jednotlivých státech, kontrola mezd, řešení daňových oznámení, přihlašování k benefitům a nástup nových zaměstnanců. Firmy mohou pro každý pracovní postup samostatně nastavit míru autonomie a určit, zda agent navrhne postup, počká na schválení, nebo bude jednat samostatně. Činnost agentů se zaznamenává pro účely kontroly a úkoly vyžadující zapojení člověka lze předat správcům ve firmě nebo specialistům společnosti Warp. Warp podporuje také přípravu zařízení a účtů pro zaměstnance, mezinárodní platby smluvním spolupracovníkům a specializovanou podporu při správě účtů i v oblasti benefitů.

Vaše cesta od dětství v malém městě v Indii přes studium informatiky a fyziky na MIT až po pozdější práci na infrastruktuře pro strojové učení ve společnosti Yelp je poměrně neobvyklá. Co vás nakonec vedlo k založení společnosti Warp v roce 2023 a proč jste se rozhodl, že právě zpracování mezd a řízení zaměstnanců jsou oblasti, které chcete znovu vybudovat s využitím AI?

Před založením Warp jsem pracoval ve startupu, který během covidu vyrostl z přibližně 10 na 40 lidí. Najímal zaměstnance na dálku v různých státech a já viděl, kolik práce spojené se mzdami a dodržováním předpisů se stále dělá ručně. Později, když jsem sám nabíral své první zaměstnance, strávil jsem celý den zjišťováním, jak se zaregistrovat u Ministerstva práce státu New York. Pokud bych zmeškal termín, hrozila mi pokuta. Ve firmě tehdy hořelo na všech stranách, ale ten den mi utkvěl v paměti.

Personalisté se každý den potýkají s rutinními, opakujícími se úkoly, které jim ubírají čas, jenž by měli věnovat lidem. Je to ideální oblast pro využití AI, jenže všechny hlavní personální platformy vznikly ještě před nástupem agentů a tuto schopnost nelze snadno doplnit do starého softwaru.

Když jsme v roce 2023 přišli na pohovor do Y Combinatoru, neměli jsme hotový produkt ani žádné tržby, jen problém, na který jsme nedokázali přestat myslet. Na hovoru bylo pět lidí z Y Combinatoru a prvních deset nebo dvanáct minut se stále vraceli k jediné otázce: mohlo dodržování daňových předpisů při zpracování mezd skutečně posloužit jako dostatečně silný vstupní bod pro řešení všeho ostatního? Byla to hypotéza, ale naše úvaha dávala smysl. Firmy začínaly působit ve více státech mnohem dříve než dřív, takže složitost jen narůstala. A předpisy týkající se daně ze mzdy jsou přísnější než u daně z prodeje, kde platí velkorysé limity, než se pravidla začnou uplatňovat. U mezd stačí najmout jednoho člověka v jednom státě a už se na vás vztahuje celý daňový systém daného státu.

Proto bylo dodržování předpisů jasným místem, kde začít. Na MIT jsem se strojovému učení věnoval řadu let, a když se velké jazykové modely a agenti začali stávat skutečností, viděl jsem, že práce se mzdami a dodržováním předpisů, do které se nikomu nechtělo, bude brzy zvládnutelná. První verze Warp uměla jedinou věc: mohli jste najmout někoho v kterémkoli státě a nemuseli jste se vůbec dotknout úředních dokumentů. Věřili jsme, že když zvládneme správně vyřešit daňové povinnosti při zpracování mezd, zbytek půjde snáz.

Tvrdil jste, že společnosti jako ADP a Workday čelí zásadní nevýhodě, protože jejich systémy byly navrženy dávno před nástupem moderní AI. Jak na technické úrovni vypadá architektura HR postavená od základu na AI a co dokáže Warp, čeho by bylo obtížné dosáhnout pouhým přidáním AI agentů ke starší platformě?

Většina personálního softwaru vznikla pro člověka, který sedí u obrazovky a proklikává se jednotlivými kroky. Když takové platformy přidají AI, obvykle se projeví jako agent AI, který vám radí, co udělat dál, zatímco práci stále vykonáváte sami. Architekturu Warp jsme postavili opačně: od samého začátku jsme navrhovali rozhraní API, oprávnění i auditní stopu tak, aby práci mohl vykonávat agent a lidé mohli zasáhnout, když je to potřeba.

Představte si, že vedete personální oddělení ve firmě s 350 zaměstnanci a právě byly podepsány čtyři pracovní nabídky: dvě v Oregonu a dvě v Coloradu, tedy ve státech, kde firma dosud žádného zaměstnance neměla. Než bude možné komukoli vyplatit mzdu, musíte se zaregistrovat u finančních úřadů obou států, založit účty pro pojištění v nezaměstnanosti, přihlásit se do programu placeného volna v každém státě, zjistit místní daně pro každou adresu a nastavit srážky. Běžný asistent AI vám dokáže říct, které formuláře potřebujete, ale náš agent je vyplní a podá. A pokud jste mu povolili jednat samostatně, dozvíte se o tom až ve chvíli, kdy bude vše hotové.

Naši agenti mají kontext, oprávnění i infrastrukturu potřebné k provádění více kroků napříč systémy firmy – od zpracování mezd a správy benefitů až po vyřizování daňových povinností – bez nutnosti, aby to někdo celé řídil ručně. Přidání agenta ke starší platformě může uživatelům usnadnit orientaci v softwaru, ale nemění způsob, jakým se samotná práce vykonává. Agenti Warp způsob, jakým se práce vykonává, skutečně mění.

Warp popisuje své agenty jako systémy, které mají na starosti celé pracovní postupy, včetně zakládání účtů u státních daňových úřadů, podávání daňových přiznání, vyřizování oznámení od státních úřadů a správy zaměstnaneckých benefitů. Jak určujete, které úkony může agent provádět samostatně a u kterých je nutný souhlas člověka?

Warp stanovuje vnější hranice a každá společnost rozhoduje, jakou míru autonomie v jejich rámci svým agentům poskytne. Některé úkony, například platby, podléhají pevným limitům, které zákazník nemůže změnit žádným nastavením. V mezích těchto pravidel si společnosti nastavují míru autonomie pro každý pracovní postup zvlášť: v jedné oblasti může agent pouze navrhnout úkon, v jiné počkat na schválení a někde jinde vše vyřídit samostatně. Většina zákazníků nejprve schvaluje každý úkon a míru autonomie postupně zvyšuje, jak získává důvěru v práci agenta. Pokud rozhodnutí přísluší zákazníkovi, agent je předá jeho administrátorovi. Pokud úkol vyžaduje zásah člověka, ať už proto, že to ukládá zákon, nebo proto, že daný úřad nekomunikuje se softwarem, převezme jej specialista společnosti Warp.

V oblasti zpracování mezd a plnění daňových povinností je jen velmi malý prostor pro halucinace nebo pravděpodobnostní odpovědi. Warp působí v tisících daňových jurisdikcí a musí se vyrovnávat s měnícími se předpisy. Jak zajišťujete, aby vaše systémy umělé inteligence vycházely z autoritativních zdrojů, jak měříte jejich spolehlivost a jak postupujete, když si agent není jistý správným řešením?

Naše kontrolní mechanismy pro daňové povinnosti související se zpracováním mezd testujeme už tři roky; jde o nejnáročnější oblast HR. Warp sleduje více než 10 000 daňových jurisdikcí a agent nikdy neodpovídá na daňové otázky na základě toho, co si pamatuje. Veškeré sazby, formuláře a lhůty, podle nichž postupuje, pocházejí přímo od příslušných úřadů a náš daňový tým před zavedením každé změny pravidel do systému prověřuje. Letos bychom měli zpracovat mzdy v objemu přes 2 miliardy dolarů a naši zákazníci se přitom vyhnuli pokutám v celkové výši přes 200 milionů dolarů.

Před každým zpracováním mezd agent kontroluje, zda něco nevypadá neobvykle, například neočekávané zvýšení něčí mzdy nebo chybějící daňové nastavení v novém státě. Pokud si není jistý, jak postupovat, nebo nemá oprávnění jednat, zastaví se a místo hádání předá úkol administrátorovi.

Daňová oznámení ukazují, jak to funguje. Agenti jich 80 % vyřeší automaticky na základě mzdových údajů společnosti a vlastních pokynů příslušného úřadu; zbývající oznámení předají daňovému specialistovi společnosti Warp, takže se vyřeší každé z nich. Při zpracování mezd může mít chybná odpověď závažné následky, proto vždy raději necháme agenta úkol předat dál, než aby hádal.

HR systémy obsahují některé z nejcitlivějších informací o společnosti – od výše mezd a čísel sociálního zabezpečení až po bankovní údaje a informace o benefitech. Jak nástup autonomních agentů mění bezpečnostní model ochrany těchto údajů a existují podle vás kategorie informací o zaměstnancích, nad nimiž by umělá inteligence nikdy neměla mít autonomní kontrolu?

Agenti mění pohled na bezpečnost, protože se systémy společnosti dokážou pohybovat mnohem rychleji než kterýkoli člověk, což znamená, že případné mezery v oprávněních mohou také rychleji zneužít. Největším rizikem je, že někdo prostřednictvím agenta získá přístup k údajům, ke kterým by se sám nikdy nedostal. Na tento princip jsme mysleli už od začátku, a proto každý agent Warp přebírá přesně stejná oprávnění jako člověk, jehož jménem jedná. Pokud tedy zaměstnanec nemůže zobrazit údaje o odměňování, nemůže o to požádat ani agenta. Osobní údaje jednotlivých zaměstnanců zůstávají v rámci účtu dané společnosti a nikdy se nesdílejí s jinými zákazníky. Warp splňuje požadavky SOC 2 Type II, vynucuje vícefaktorové ověřování a se zákazníky z řad podniků, kteří potřebují splnit požadavky HIPAA, uzavírá smlouvy s obchodními partnery.

Pokud jde o to, co by umělá inteligence nikdy neměla ovládat samostatně, hranici pro nás představuje cokoli, co lze jen obtížně vzít zpět. Nejzřetelnějším příkladem je převod peněz, proto se na platby vztahují pevné limity, které agent nesmí překročit bez ohledu na to, kdo o ně žádá. Totéž platí pro každý úkol, u něhož zákon vyžaduje zásah člověka; takový úkol vždy převezme specialista společnosti Warp.

Mezi tím, když umělá inteligence nějaký úkon doporučí, a tím, když skutečně převede peníze, podá daňové přiznání nebo změní přístupová oprávnění zaměstnance, je zásadní rozdíl. Jaká ochranná opatření, auditní záznamy, mechanismy pro vrácení změn a systémy pro předávání úkolů jsou nezbytné, když agenti umělé inteligence přecházejí od rad k vykonávání důležitých firemních procesů?

Jakmile agent začne místo navrhování úkonů jednat, musíte být schopni zjistit, za koho jednal, k čemu měl oprávnění, proč se rozhodl právě takto a jak jeho úkon vrátit zpět, pokud se něco pokazí. Každý úkon v systému Warp tyto informace obsahuje, takže se nic z toho, co agent udělá, neděje skrytě.

Většina práce agenta probíhá prostřednictvím rutin, tedy úloh, které agent spouští podle plánu nebo při určité události, například když nový zaměstnanec podepíše pracovní nabídku. Každá rutina průběžně zaznamenává, kdo ji vytvořil, kdy byla schválena a jaké kroky agent provedl. Týmy HR i auditoři tak mají k dispozici jasnou auditní stopu.

Způsob, jakým úkon vrátíme zpět, závisí na jeho povaze. Změny, jako je aktualizace něčích přístupových oprávnění nebo volby benefitů, lze vrátit zpět. Zpracování mezd a platby se vracejí zpět nejobtížněji, proto podléhají nejpřísnějším kontrolám, včetně pevných limitů, které agent nemůže změnit. O všem, co nespadá do jeho pravomoci, rozhoduje přímo administrátor zákazníka.

Některé situace stále vyžadují člověka, například když se státním daňovým úřadem lze jednat pouze telefonicky. Když agent narazí na takovou překážku, práci dokončí specialista Warp, takže se nezastaví a nezůstane ležet v něčí e-mailové schránce.

Warp nedávno získal 60 milionů dolarů v rámci investičního kola série B, čímž se celková výše financování zvýšila na 85 milionů dolarů. Společnost plánuje dále investovat do AI agentů a daňové a compliance infrastruktury. Které technické problémy spojené s automatizací HR pomocí agentů dosud nejsou vyřešené a kam podle vás poputuje největší část těchto investic?

AI agent může člověku pomoct pracovat o 20 % rychleji, ale ještě větší příležitost spočívá v tom, aby agent dokázal práci dokončit. Složité je, že HR není soustředěné na jednom místě. Mzdy, benefity, zařízení a IT účty obvykle fungují v oddělených systémech a agent může dobře jednat jen tehdy, když k nim všem má přístup najednou. Další výzvou je dlouhý seznam výjimek: každý státní úřad, poskytovatel pojištění i daňový úřad má svá specifika a mnohé z nich nikdy nebyly navrženy tak, aby spolupracovaly se softwarem. Právě v tom vidíme největší příležitost a tam také směřujeme naše investice.

Naši zákazníci často mají jen jednoho nebo dva lidi, kteří se starají o HR pro stovky zaměstnanců, takže s růstem firmy musí agenti přebírat větší díl odpovědnosti. Zaměřujeme se na to, abychom vše spojili do jediného systému, v němž agent může jednat, a zákazníkům usnadnili vytváření vlastních postupů podle toho, jak jejich firma funguje. Rozšiřujeme také tým, který podporuje zákazníky, posilujeme daňovou a compliance infrastrukturu a rozšiřujeme okruh činností, které naši agenti zvládnou během celého pracovního cyklu zaměstnance.

Jedním z příslibů softwaru založeného na agentech je, že firmy mohou fungovat s mnohem menšími administrativními týmy, zatímco personalisté věnují více času strategické práci a péči o lidi. Které části HR podle vás AI agenti v příštích několika letech z velké části zautomatizují a která rozhodnutí zůstanou výhradně v rukou lidí?

Činnosti v HR, které vyžadují úsudek, zůstanou v rukou lidí — ať už jde o výběr nových zaměstnanců, utváření firemní kultury, podporu člověka v těžké chvíli nebo rozpoznání, že je zaměstnanec připraven na další krok. Právě proto existují personální týmy a právě na tyto části práce by si podle přání většiny vedoucích pracovníků v HR chtěli udělat více času.

Agenti mohou převzít administrativní práci, která nenápadně zabírá většinu týdne: od kontroly každé položky ve mzdách a vyřizování záležitostí s daňovými úřady až po odpovídání na dotazy ohledně placeného volna, správu registrace k benefitům a nastavování nebo rušení notebooků a účtů při každém nástupu či odchodu zaměstnance. Ve velké firmě tato práce zaměstná celé oddělení, zatímco v malé obvykle připadne zakladateli pozdě večer, až všichni ostatní odejdou domů.

Zaškolování nových zaměstnanců dobře ukazuje, kolik času se tím ušetří. Podle našeho odhadu věnují rychle rostoucí firmy obvykle 10 až 20 hodin péči o každého nového zaměstnance během jeho prvního měsíce. Naši zákazníci nám říkají, že stejná práce jim nyní zabere méně než dvě hodiny, takže personálním týmům zbývá mnohem více času na práci s lidmi.

Když se podíváte pět let dopředu, myslíte si, že HR software bude i nadále založený na přehledech, formulářích a pracovních postupech, s nimiž zaměstnanci aktivně pracují, nebo jeho rozhraní nakonec zmizí, až AI agenti převezmou většinu činností spojených se správou zaměstnanců na pozadí?

Očekáváme, že během příštího roku budou agenti provádět většinu úkonů ve Warp, a to zdaleka nejen v oblasti daní. Patří sem zaškolování nových zaměstnanců, zpracování mezd i každodenní HR úkoly, které lidé dnes stále vyřizují klikáním. Tím se mění, co lidé od používaného softwaru potřebují. Místo aby se přihlašovaly a kontrolovaly průběh procesu nebo ho posouvaly dál, budou se personální týmy o Warp dozvídat hlavně tehdy, když bude potřeba jejich pozornost — například když bude nutné rozhodnutí, které mohou učinit jen ony, nebo když dostanou stručnou zprávu, že nový zaměstnanec v jiném státě je plně zařízený a připravený na výplatu. Zbytek práce bude probíhat tiše na pozadí, podobně jako většina lidí už dnes očekává, že jim bude doručena e-mailová zpráva nebo že banka zpracuje platbu, aniž by museli sledovat každý krok.

Téměř ve všech oblastech podnikového softwaru se už objevil nový konkurent vytvořený pro AI a správa zaměstnanců je jednou z posledních oblastí, které tato změna teprve čeká. Věříme, že budujeme to, co přijde po Workday.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, mohou navštívit Warp.