Ayush Sharma, grundare och vd för Warp – intervjuserie

Ayush Sharma är grundare och vd för Warp, som han startade 2023 efter att ha upplevt hur komplicerat det är att hantera löner i flera delstater i USA och andra länder. Han växte upp i en småstad i Indien och studerade datavetenskap och fysik vid MIT. Hans masterforskning handlade om att minska flaskhalsar i långsamma komponenter vid distribuerad maskininlärningsträning och undersöka hur storskaliga system kan fungera effektivare när enskilda maskiner hamnar på efterkälken. Warp antogs till Y Combinators vinterkull 2023 med ett inledande fokus på skatteefterlevnad för löner. Sharma förespråkar AI-agenter som utför kompletta arbetsflöden, med behörigheter, mänskliga godkännanden och granskningsbarhet inbyggda från början.

Warp är en plattform för personalhantering som har AI inbyggt i grunden och samlar lönehantering, HR, skatteefterlevnad, förmåner och IT kring en gemensam medarbetarprofil. Plattformen använder agenter för att hantera uppgifter som skatteregistrering i delstater, lönekontroller, hantering av skattebesked, registrering för förmåner och introduktion av nyanställda. Företag kan ställa in graden av självständighet separat för varje arbetsflöde och välja om en agent ska rekommendera en åtgärd, invänta godkännande eller agera på egen hand. Agenternas aktiviteter loggas för granskning, och uppgifter som kräver mänsklig medverkan kan skickas vidare till företagets administratörer eller Warps specialister. Warp stöder också tilldelning av enheter och konton till anställda, betalningar till internationella uppdragstagare samt särskilt stöd för kundansvar och förmåner.

Din väg från uppväxten i en småstad i Indien till studier i datavetenskap och fysik vid MIT och senare arbete med infrastruktur för maskininlärning på Yelp är ganska ovanlig. Vad fick dig till slut att grunda Warp 2023, och varför valde du att bygga om lönehantering och personalhantering med AI som grund?

Innan Warp arbetade jag på ett startupföretag som växte från ungefär 10 till 40 personer under covidpandemin och anställde på distans i flera delstater. Då såg jag hur mycket av lönehanteringen och skatteefterlevnaden som fortfarande sköttes manuellt. Senare, när jag själv skulle anställa mina första medarbetare, förlorade jag en hel dag på att ta reda på hur jag skulle registrera mig hos New Yorks arbetsmarknadsdepartement, samtidigt som böter väntade om jag missade tidsfristen. Med allt annat som brann i företaget fastnade den dagen i minnet.

HR-team hanterar procedurmässiga, repetitiva uppgifter varje dag, vilket tar tid från det arbete med människor som de egentligen borde ägna sig åt. Det är ett perfekt område för AI, men alla stora HR-plattformar byggdes innan agenter fanns, och det är svårt att lägga till den funktionaliteten i äldre programvara.

När vi satte oss ner för vår intervju med YC 2023 hade vi varken en färdig produkt eller några intäkter, bara ett problem som vi inte kunde sluta tänka på. Fem personer från YC deltog i samtalet, och under de första tio eller tolv minuterna återkom de till en enda fråga: kunde skatteefterlevnad för löner verkligen vara en tillräckligt stor ingång till allt det övriga? Det var en hypotes, men resonemanget höll. Företag började verka i flera delstater mycket tidigare än förr, så komplexiteten ökade. Dessutom är löneskatt strängare än omsättningsskatt, där man får generösa tröskelvärden innan reglerna börjar gälla. När det gäller lön räcker det att anställa en person i en delstat för att omfattas av hela delstatens skatteapparat.

Därför var skatteefterlevnad den självklara platsen att börja på. Jag hade ägnat flera år åt maskininlärning vid MIT, och när stora språkmodeller och agenter började bli verklighet insåg jag att arbete inom lönehantering och skatteefterlevnad som ingen ville ta itu med snart skulle kunna utföras. Den första versionen av Warp gjorde en enda sak: du kunde anställa någon i vilken delstat som helst utan att någonsin behöva hantera myndighetspapper. Vi tänkte att om vi kunde få löneskatten rätt skulle resten bli enklare.

Du har hävdat att företag som ADP och Workday har en grundläggande nackdel eftersom deras system utformades långt innan dagens AI fanns. Hur ser en AI-inbyggd arkitektur för HR ut på teknisk nivå, och vad kan Warp göra som skulle vara svårt att åstadkomma genom att bara lägga AI-agenter ovanpå en äldre plattform?

De flesta HR-program utformades för att en person skulle sitta framför en skärm och klicka sig igenom varje steg. När sådana plattformar lägger till AI brukar det därför handla om en AI-agent som talar om vad du ska göra härnäst, medan du fortfarande själv utför arbetet. Vi byggde Warps arkitektur utifrån det motsatta synsättet och utformade API:et, behörigheterna och granskningsloggen från början, så att en agent kan sköta arbetet och människor kan ingripa när det behövs.

Tänk dig att du är personalchef på ett företag med 350 anställda och att fyra anställningserbjudanden skrivs under – två i Oregon och två i Colorado – i delstater där företaget aldrig tidigare har haft någon anställd. Innan någon kan få lön måste du registrera dig hos två delstatliga skattemyndigheter, öppna konton för arbetslöshetsskatt, ansluta dig till respektive delstats program för betald ledighet, reda ut de lokala skatterna för varje adress och ordna med avdragen. En vanlig AI-assistent kan tala om vilka formulär du behöver, men vår agent fyller i och skickar in dem. Om du har gett den tillstånd att agera på egen hand får du veta det först när allt är klart.

Våra agenter har den kontext, de behörigheter och den infrastruktur som krävs för att utföra flera steg i olika av företagets system, från lönekörningar och förmånshantering till skatteefterlevnad, utan att någon behöver hantera allt manuellt. Att lägga till en agent i en äldre plattform kan hjälpa användarna att hitta rätt i programvaran, men det förändrar inte hur det underliggande arbetet utförs. Warps agenter förändrar faktiskt hur arbetet utförs.

Warp beskriver sina agenter som ansvariga för hela arbetsflöden, bland annat att öppna skattekonton på delstatsnivå, lämna in deklarationer, hantera myndighetsmeddelanden och administrera förmåner. Hur avgör ni vilka åtgärder en agent kan utföra på egen hand och vilka som bör kräva mänskligt godkännande?

Warp sätter de yttre gränserna, och varje företag avgör hur stor självständighet agenterna får inom dem. Vissa åtgärder, som betalningar, har fasta gränser som ingen kundinställning kan ändra. Inom dessa ramar bestämmer företagen graden av självständighet för varje arbetsflöde, så agenten kanske bara föreslår en åtgärd inom ett område, inväntar godkännande inom ett annat och sköter allt själv någon annanstans. De flesta kunder börjar med att godkänna allt och utökar agentens självständighet i takt med att de får förtroende för dess arbete. När ett beslut ankommer på kunden skickar agenten det till kundens administratör. När en uppgift kräver en person, antingen för att lagen kräver det eller för att en myndighet inte arbetar med programvara, överlämnas den till en specialist på Warp.

Lönehantering och efterlevnad av skatteregler lämnar mycket litet utrymme för hallucinationer eller probabilistiska svar. Warp är verksamt i tusentals skattejurisdiktioner med ständigt föränderliga regler. Hur säkerställer ni att era AI-system bygger på auktoritativ information, mäter deras tillförlitlighet och hanterar situationer där en agent är osäker på vad den bör göra?

Vi har ägnat tre år åt att testa våra kontroller för efterlevnad av skatteregler inom lönehantering, det minst förlåtande området inom HR. Warp bevakar över 10 000 skattejurisdiktioner, och agenten besvarar aldrig en skattefråga ur minnet. Alla skattesatser, blanketter och tidsfrister som den agerar utifrån kommer direkt från myndigheterna, och vårt skatteexpertteam granskar varje regeländring innan den införs i systemet. Vi ligger i fas för att hantera över 2 miljarder dollar i löneutbetalningar i år, och våra kunder har under tiden sluppit över 200 miljoner dollar i sanktionsavgifter.

Inför varje lönekörning kontrollerar agenten om något verkar avvika, till exempel en oväntad löneökning för någon eller en utebliven skatteinställning i en ny delstat. Om den är osäker på vad den ska göra eller saknar behörighet att agera, avbryter den och lämnar över uppgiften till administratören i stället för att gissa.

Skattemeddelanden visar hur det här fungerar. Agenterna hanterar 80 % av dem automatiskt, med hjälp av företagets löneuppgifter och myndighetens egna riktlinjer. Resten går till en skattespecialist på Warp, så att varje meddelande blir hanterat. Inom lönehantering kan ett felaktigt svar bli dyrt, så vi föredrar alltid att agenten lämnar över uppgiften framför att gissa.

HR-system innehåller en del av ett företags allra känsligaste information, från löner och personnummer till bankuppgifter och information om förmåner. Hur förändrar framväxten av självständiga agenter säkerhetsmodellen för dessa uppgifter, och finns det kategorier av medarbetarinformation som AI enligt er aldrig bör få självständig kontroll över?

Agenter förändrar säkerhetsfrågan eftersom de kan röra sig genom ett företags system mycket snabbare än någon person, vilket också innebär att brister i behörigheterna utnyttjas snabbare. Den största risken är att någon använder en agent för att komma åt uppgifter som personen själv aldrig skulle kunna nå. Vi utformade systemet med detta i åtanke från början, så varje Warp-agent får exakt samma behörigheter som personen den agerar för. Om en medarbetare inte kan se löneuppgifter kan hen alltså inte heller be agenten att visa dem. Uppgifter om enskilda medarbetare stannar inom företagets eget konto och delas aldrig med andra kunder. Warp uppfyller SOC 2 Type II, tillämpar flerfaktorsautentisering och undertecknar Business Associate Agreements för Enterprise-kunder som behöver uppfylla HIPAA-kraven.

När det gäller vad AI aldrig bör få styra på egen hand går gränsen för oss vid sådant som är svårt att ångra. Pengaförflyttningar är det tydligaste exemplet, så det finns fasta gränser för betalningar som agenten inte kan överskrida, oavsett vem som ber om dem. Detsamma gäller alla uppgifter där lagen kräver att en person utför dem; de går alltid till en specialist på Warp.

Det är stor skillnad mellan att AI rekommenderar en åtgärd och att AI faktiskt flyttar pengar, lämnar in en deklaration eller ändrar en medarbetares åtkomstbehörigheter. Vilka skyddsåtgärder, granskningsspår, återställningsmekanismer och eskaleringssystem behövs när AI-agenter går från att ge människor råd till att utföra verksamhetskritiska processer?

Så snart en agent börjar vidta åtgärder i stället för att komma med förslag måste ni kunna svara på vem den agerade för, vilka uppgifter den hade behörighet att komma åt, varför den fattade just det beslutet och hur det kan återställas om något går fel. På Warp loggas den informationen för varje åtgärd, så inget som agenten gör sker i det fördolda.

Det mesta av agentens arbete sker genom rutiner, det vill säga uppgifter som agenten utför enligt ett schema eller när något inträffar, till exempel när en nyanställd skriver under ett anställningserbjudande. Varje rutin har en löpande logg över vem som skapade den, när den godkändes och varje steg agenten tog. Det ger HR-team och revisorer ett tydligt granskningsspår att följa.

Hur en åtgärd återställs beror på vad det handlar om. Ändringar som att uppdatera någons åtkomst eller val av förmåner kan återställas. Lönekörningar och betalningar är svårast att återställa och omfattas därför av de striktaste kontrollerna, bland annat fasta gränser som agenten inte kan ändra. Allt som ligger utanför agentens befogenheter skickas direkt till kundens administratör för beslut.

Vissa situationer kräver fortfarande en människa, till exempel när ett delstatligt skattekontor bara går att kontakta per telefon. När agenten stöter på ett sådant hinder slutför en Warp-specialist arbetet, så att det fortsätter framåt i stället för att bli liggande i någons inkorg.

Warp tog nyligen in 60 miljoner dollar i en B-runda, vilket innebär att den totala finansieringen uppgår till 85 miljoner dollar. Planen är att investera mer i AI-agenter och företagets infrastruktur för skatt och regelefterlevnad. Vilka tekniska problem inom automatisering av HR med AI-agenter är fortfarande olösta, och vart räknar ni med att den största delen av investeringen går?

En AI-agent kan göra någon 20 % snabbare, vilket är bra, men den större möjligheten ligger i en agent som slutför arbetet. Utmaningen är att HR inte finns samlat på ett ställe. Lönehantering, förmåner, enheter och IT-konton finns vanligtvis i separata system, och en agent kan bara agera effektivt om den kan se dem alla tillsammans. En annan utmaning är den långa svansen av undantag: varje delstatlig myndighet, försäkringsgivare och skattekontor har sina egna egenheter, och många av dem har aldrig utformats för att fungera med programvara. Det är här vi ser de största möjligheterna, och det är dit vår finansiering går.

Våra kunder har ofta en eller två personer som sköter HR för hundratals anställda, så agenterna måste ta på sig mer ansvar i takt med att företaget växer. Vi fokuserar på att samla allt i ett och samma system som agenten kan agera i och på att göra det enklare för kunderna att skapa egna rutiner utifrån hur deras företag fungerar. Vi utökar också teamet som hjälper kunderna, stärker vår infrastruktur för skatt och regelefterlevnad och utökar vad våra agenter kan hantera under hela anställningstiden.

Ett av löftena med programvara som bygger på AI-agenter är att företag kan fungera med betydligt mindre administrationsteam, samtidigt som HR-medarbetare får mer tid till strategiskt arbete och sådant som rör människor. Vilka delar av HR tror du att AI-agenter i stor utsträckning kommer att automatisera under de närmaste åren, och vilka beslut kommer i grunden att fortsätta vara mänskliga?

De delar av HR som kräver omdöme kommer att förbli människors ansvar, vare sig det handlar om att välja vem som ska anställas, forma företagskulturen, stötta någon genom en svår period eller se när en anställd är redo för något större. Det är därför personalteam finns, och det är just de delarna av arbetet som de flesta HR-chefer önskar att de hade mer tid för.

Agenter kan ta över det administrativa arbete som obemärkt fyller större delen av veckan: allt från att stämma av lönerad för lönerad och följa upp med skattemyndigheter till att besvara frågor om betald ledighet, hantera anmälan till förmåner och konfigurera eller stänga av bärbara datorer och konton varje gång någon börjar eller slutar. På ett stort företag håller det arbetet en hel avdelning sysselsatt, medan det på ett litet företag ofta hamnar hos grundaren sent på kvällen, efter att alla andra har gått hem.

Introduktion av nyanställda är ett bra exempel på hur mycket tid det här frigör. Enligt våra beräkningar lägger snabbväxande företag vanligtvis 10 till 20 timmar på att hantera varje nyanställd under den första månaden, medan våra kunder berättar att samma arbete nu tar mindre än två timmar. Det ger HR-teamen betydligt mer tid att ägna åt den mänskliga sidan av arbetet.

Om du blickar fem år framåt, tror du då att HR-programvara fortfarande kommer att kretsa kring instrumentpaneler, formulär och arbetsflöden som anställda själva interagerar med, eller kommer gränssnittet till slut att försvinna när AI-agenter hanterar merparten av personaladministrationen i bakgrunden?

Inom det närmaste året räknar vi med att agenterna kommer att utföra de flesta åtgärderna i Warp, långt utöver skattehantering. Det omfattar introduktion av nyanställda, lönehantering och de vardagliga HR-uppgifter som människor fortfarande klickar sig igenom i dag. Det förändrar vad människor behöver av programvaran de använder. I stället för att logga in för att kontrollera hur en process fortskrider eller föra den vidare kommer HR-teamen främst att höra från Warp när något kräver deras uppmärksamhet, till exempel ett beslut som bara de kan fatta eller en snabb uppdatering om att en nyanställd i en annan delstat är helt konfigurerad och redo att få lön. Resten av arbetet kommer att ske obemärkt i bakgrunden, precis som de flesta redan förväntar sig att e-posten ska levereras eller banken behandla en betalning utan att de behöver följa varje steg.

Nästan alla delar av företagsprogramvaran har redan fått en ny AI-anpassad utmanare, och personaladministration är ett av de sista områdena som ännu inte har genomgått den omställningen. Vi tror att vi bygger det som kommer efter Workday.

Tack för en mycket givande intervju. Läsare som vill veta mer kan besöka Warp.