Ayush Sharma, grundlægger og administrerende direktør for Warp – interviewserie

Ayush Sharma er grundlægger og administrerende direktør for Warp, som han lancerede i 2023 efter selv at have oplevet, hvor kompliceret det er at administrere løn på tværs af flere amerikanske delstater og lande. Han voksede op i en lille by i Indien og læste datalogi og fysik på MIT. Hans kandidatforskning handlede om at afhjælpe langsomme komponenter i distribueret træning af maskinlæring og undersøge, hvordan systemer i stor skala kan fungere mere effektivt, når enkelte maskiner sakker bagud. Warp blev optaget på Y Combinators vinterhold i 2023 med det indledende fokus på overholdelse af regler for lønskat. Sharmas tilgang lægger vægt på AI-agenter, der udfører komplette arbejdsgange, med tilladelser, menneskelige godkendelser og mulighed for revision indbygget fra begyndelsen.

Warp er en medarbejderadministrationsplatform, der er bygget med AI som udgangspunkt, og som samler lønadministration, HR, overholdelse af skatteregler, personalegoder og IT omkring én fælles medarbejderregistrering. Platformen bruger agenter til at håndtere opgaver som skatteregistrering i delstater, lønkontrol, håndtering af skattebeskeder, tilmelding til personalegoder og onboarding af medarbejdere. Virksomheder kan indstille graden af selvstændighed særskilt for hver arbejdsgang og vælge, om en agent skal anbefale en handling, afvente godkendelse eller handle på egen hånd. Agenternes aktiviteter registreres, så de kan gennemgås, og opgaver, der kræver menneskelig involvering, kan sendes videre til virksomhedens administratorer eller Warps specialister. Warp understøtter også klargøring af medarbejderes enheder og konti, betalinger til internationale kontraktansatte samt dedikeret support til kontoadministration og personalegoder.

Din vej fra en opvækst i en lille by i Indien til studier i datalogi og fysik på MIT og senere arbejde med maskinlæringsinfrastruktur hos Yelp er ret usædvanlig. Hvad fik dig i sidste ende til at grundlægge Warp i 2023, og hvorfor besluttede du, at lønadministration og medarbejderadministration var de problemer, du ville gentænke med AI?

Før Warp arbejdede jeg i en startup, der voksede fra omkring 10 til 40 medarbejdere under covid, mens den ansatte folk på afstand i flere delstater. Her så jeg, hvor meget af lønadministrationen og arbejdet med at overholde regler stadig foregik manuelt. Senere, da jeg selv skulle ansætte mine første medarbejdere, brugte jeg en hel dag på at finde ud af, hvordan jeg skulle registrere mig hos New York Department of Labor, mens en bøde ventede, hvis jeg overskred fristen. Med alt det andet, der brændte på i virksomheden, blev den dag siddende i mig.

HR-teams håndterer procedureprægede, gentagne opgaver hver dag, og det tager tid fra det arbejde med mennesker, de burde bruge tiden på. Det er et oplagt område at anvende AI på, men alle de store HR-platforme blev bygget, før agenter fandtes, og det er ikke let at føje den funktionalitet til gammel software.

Da vi deltog i YC-interviewet i 2023, havde vi hverken et færdigt produkt eller nogen omsætning – kun et problem, vi ikke kunne holde op med at tænke på. Fem personer fra YC deltog i samtalen, og i de første ti eller tolv minutter blev de ved med at stille ét spørgsmål: Kunne overholdelse af regler for lønskat virkelig være et stort nok springbræt til alt det øvrige? Det var en hypotese, men ræsonnementet holdt. Virksomheder begyndte at operere i flere delstater langt tidligere end før, så kompleksiteten voksede kun. Og reglerne for lønskat er strengere end reglerne for omsætningsafgift, hvor man først møder kravene, når man når relativt høje tærskler. Når det gælder løn, betyder det at ansætte én person i én delstat, at man bliver omfattet af hele delstatens skattesystem.

Derfor var overholdelse af regler det oplagte sted at begynde. Jeg havde brugt flere år på maskinlæring på MIT, og da store sprogmodeller og agenter begyndte at blive en realitet, kunne jeg se, at det arbejde inden for lønadministration og regeloverholdelse, som ingen havde lyst til at tage sig af, snart ville kunne automatiseres. Den første version af Warp kunne én ting: Man kunne ansætte nogen i en hvilken som helst delstat uden selv at skulle røre offentlige formularer. Vi tænkte, at hvis vi kunne få styr på lønskatten, ville resten være lettere.

Du har argumenteret for, at virksomheder som ADP og Workday står med en grundlæggende ulempe, fordi deres systemer blev udviklet længe før moderne AI. Hvordan ser en AI-baseret arkitektur til HR ud på et teknisk niveau, og hvad kan Warp gøre, som ville være svært at opnå ved blot at føje AI-agenter til en ældre platform?

Det meste HR-software blev udviklet til, at en person skulle sidde foran en skærm og klikke sig gennem hvert trin. Når de platforme tilføjer AI, viser det sig derfor som regel i form af en AI-agent, der fortæller dig, hvad du skal gøre som det næste, mens du stadig selv udfører arbejdet. Vi byggede Warps arkitektur med det modsatte udgangspunkt og udformede API’et, tilladelserne og revisionssporet fra starten, så en agent kunne udføre arbejdet, og mennesker kunne træde til, når der var brug for dem.

Forestil dig, at du er HR-chef i en virksomhed med 350 medarbejdere, og at fire ansættelsestilbud bliver underskrevet – to i Oregon og to i Colorado – i delstater, hvor virksomheden aldrig før har haft medarbejdere. Før nogen kan få løn, skal virksomheden registreres hos skattemyndighederne i begge delstater, der skal oprettes arbejdsløshedskonti, virksomheden skal tilmeldes hver delstats ordning for betalt orlov, de lokale skatter skal afklares for hver adresse, og der skal oprettes løntræk. En typisk AI-assistent kan fortælle dig, hvilke formularer du skal bruge, men vores agent udfylder og indsender dem. Hvis du har givet den tilladelse til at handle på egen hånd, hører du først om det, når alt er gjort.

Vores agenter har den kontekst, de tilladelser og den infrastruktur, der skal til for at udføre flere trin på tværs af en virksomheds systemer – fra lønkørsel og administration af personalegoder til håndtering af skattekrav – uden at nogen behøver at styre det hele manuelt. Hvis man føjer en agent til en ældre platform, kan den hjælpe brugerne med at finde rundt i softwaren, men det ændrer ikke på, hvordan det underliggende arbejde bliver udført. Warps agenter ændrer faktisk måden, arbejdet udføres på.

Warp beskriver sine agenter som ansvarlige for hele arbejdsgange, herunder oprettelse af skattekonti på delstatsniveau, indsendelse af selvangivelser, håndtering af offentlige myndigheders varsler og administration af personalegoder. Hvordan afgør I, hvilke handlinger en agent kan udføre selvstændigt, og hvilke der kræver menneskelig godkendelse?

Warp fastlægger de overordnede grænser, og hver virksomhed beslutter, hvor stor selvstændighed dens agenter får inden for dem. Nogle handlinger, for eksempel betalinger, har faste grænser, som ingen kundeindstilling kan fjerne. Inden for disse rammer fastlægger virksomhederne graden af selvstændighed for hver arbejdsgang, så agenten måske kun foreslår en handling på ét område, afventer godkendelse på et andet og selv håndterer opgaver et tredje sted. De fleste kunder begynder med at godkende alt og giver agenten større selvstændighed, efterhånden som de får tillid til dens arbejde. Når en beslutning skal træffes af kunden, sender agenten den videre til kundens administrator. Når en opgave kræver et menneske, enten fordi loven kræver det, eller fordi en myndighed ikke vil samarbejde med software, overdrages den til en Warp-specialist.

Lønbehandling og overholdelse af skatteregler giver meget lidt plads til hallucinationer eller svar baseret på sandsynligheder. Warp opererer på tværs af tusindvis af skattejurisdiktioner og skiftende regler. Hvordan forankrer I jeres AI-systemer i autoritative oplysninger, måler deres pålidelighed og håndterer situationer, hvor en agent er usikker på, hvad den skal gøre?

Vi har brugt tre år på at teste vores kontroller for overholdelse af reglerne om lønskat, som er det mest krævende område inden for HR. Warp holder styr på mere end 10.000 skattejurisdiktioner, og agenten besvarer aldrig et skattespørgsmål ud fra sin hukommelse. Alle satser, formularer og frister, som den handler på baggrund af, kommer direkte fra myndighederne, og vores skattehold gennemgår hver regelændring, inden den indføres i systemet. Vi er på vej til at behandle mere end 2 mia. dollar i løn i år, og vores kunder har undervejs undgået bøder på mere end 200 mio. dollar.

Inden hver lønkørsel undersøger agenten, om der er noget, der ser forkert ud, for eksempel en uventet stigning i en persons løn eller manglende skatteoplysninger i en ny delstat. Hvis den er usikker på, hvad den skal gøre, eller ikke har tilladelse til at handle, stopper den og overdrager opgaven til administratoren i stedet for at gætte.

Skattemeddelelser viser, hvordan det fungerer. Agenterne løser 80 % af dem automatisk på grundlag af virksomhedens løndata og myndighedens egne retningslinjer, mens resten sendes videre til en Warp-skattespecialist, så alle meddelelser bliver løst. Et forkert svar kan være dyrt, når det gælder lønbehandling, så vi foretrækker altid, at agenten overdrager opgaven frem for at gætte.

HR-systemer indeholder nogle af virksomhedens mest følsomme oplysninger, fra lønninger og personnumre til bank- og personalegodedata. Hvordan ændrer fremkomsten af selvstændige agenter sikkerhedsmodellen for disse oplysninger, og er der kategorier af medarbejderoplysninger, som AI efter jeres mening aldrig bør have selvstændig kontrol over?

Agenter ændrer sikkerhedsspørgsmålet, fordi de kan bevæge sig gennem en virksomheds systemer langt hurtigere end noget menneske, hvilket også betyder, at de hurtigere kan udnytte mangler i adgangskontrollen. Den største risiko er, at nogen bruger en agent til at få adgang til data, som de ikke selv ville kunne tilgå. Vi har taget højde for det fra begyndelsen, så hver Warp-agent arver præcis de samme adgangsrettigheder som den person, den handler på vegne af. Hvis en medarbejder ikke kan se lønoplysninger, kan vedkommende altså heller ikke bede agenten om at vise dem. Oplysninger om den enkelte medarbejder forbliver på virksomhedens egen konto og deles aldrig med andre kunder. Warp overholder SOC 2 Type II, håndhæver multifaktorgodkendelse og indgår forretningspartneraftaler med Enterprise-kunder, der har brug for at overholde HIPAA.

Når det gælder, hvad AI aldrig bør kontrollere på egen hånd, trækker vi grænsen ved handlinger, der er svære at omgøre. Pengeoverførsler er det tydeligste eksempel, så der er faste grænser for betalinger, som agenten ikke må overskride, uanset hvem der beder om det. Det samme gælder enhver opgave, hvor loven kræver et menneske; sådanne opgaver sendes altid videre til en Warp-specialist.

Der er stor forskel på, at AI anbefaler en handling, og at AI rent faktisk overfører penge, indsender en selvangivelse eller ændrer en medarbejders adgangsrettigheder. Hvilke sikkerhedsforanstaltninger, revisionsspor, muligheder for at rulle ændringer tilbage og systemer til eskalering bliver nødvendige, når AI-agenter går fra at rådgive mennesker til at udføre forretningsprocesser med væsentlige konsekvenser?

Så snart en agent begynder at handle i stedet for at komme med forslag, skal man kunne svare på, hvem den handlede på vegne af, hvad den havde tilladelse til at tilgå, hvorfor den traf det pågældende valg, og hvordan handlingen kan omgøres, hvis noget går galt. Alle handlinger i Warp indeholder disse oplysninger, så intet, agenten gør, foregår i det skjulte.

Det meste af agentens arbejde foregår gennem rutiner, som er opgaver, agenten udfører efter en tidsplan eller som reaktion på en hændelse, for eksempel når en nyansat underskriver et jobtilbud. Hver rutine fører løbende en log over, hvem der oprettede den, hvornår den blev godkendt, og hvert trin, agenten udførte. Det giver HR-teams og revisorer et tydeligt spor at følge.

Hvordan en handling omgøres, afhænger af, hvad den går ud på. Ændringer som opdatering af en persons adgang eller valg af personalegoder kan rulles tilbage. Lønkørsler og betalinger er sværest at omgøre og har derfor de strengeste kontroller, herunder faste grænser, som agenten ikke kan ændre. Alt, der ligger uden for agentens beføjelser, sendes direkte til kundens administrator, som træffer beslutningen.

Nogle situationer kræver stadig et menneske, for eksempel når et statsligt skattekontor kun vil tale med dig i telefonen. Når agenten støder på en af den slags forhindringer, gør en Warp-specialist arbejdet færdigt, så det fortsætter fremad i stedet for at gå i stå i nogens indbakke.

Warp har for nylig rejst 60 millioner dollar i en Series B-finansieringsrunde, så den samlede finansiering nu er på 85 millioner dollar, og virksomheden planlægger at investere yderligere i AI-agenter samt sin infrastruktur til skat og compliance. Hvilke tekniske problemer inden for automatisering af HR ved hjælp af agenter er endnu ikke løst, og hvor forventer du, at den største del af investeringen vil gå hen?

En AI-agent kan måske gøre nogen 20 % hurtigere, og det er en hjælp, men den større mulighed ligger i en agent, der gør arbejdet færdigt. Udfordringen er, at HR ikke er samlet ét sted. Løn, personalegoder, enheder og IT-konti ligger som regel i separate systemer, og en agent kan kun handle effektivt, hvis den kan se dem alle samlet. En anden udfordring er den lange hale af undtagelser, fordi hvert enkelt statsligt organ, forsikringsselskab og skattekontor har sine egne særheder, og mange af dem aldrig er blevet udviklet til at fungere sammen med software. Det er her, vi ser de største muligheder, og det er her, vores finansiering går hen.

Vores kunder har ofte en eller to personer, der håndterer HR for hundredvis af medarbejdere, så agenterne skal kunne påtage sig mere ansvar, efterhånden som virksomhederne vokser. Vi fokuserer på at samle alt i ét system, som agenten kan handle på, og gøre det lettere for kunderne at skrive deres egne rutiner ud fra den måde, deres virksomhed fungerer på. Vi udvider også teamet, der hjælper kunderne, styrker vores infrastruktur til skat og compliance og øger omfanget af det, vores agenter kan håndtere gennem hele medarbejderens livscyklus.

Et af løfterne ved software med agenter er, at virksomheder kan klare sig med langt mindre administration, mens HR-medarbejdere bruger mere tid på strategisk arbejde og opgaver med fokus på mennesker. Hvilke dele af HR tror du, at AI-agenter i vid udstrækning vil automatisere i løbet af de næste par år, og hvilke beslutninger vil fortsat grundlæggende kræve menneskelig indblanding?

De dele af HR, der kræver dømmekraft, vil fortsat blive varetaget af mennesker, hvad enten det handler om at vælge, hvem der skal ansættes, forme virksomhedskulturen, støtte nogen gennem en svær tid eller opdage, når en medarbejder er klar til noget større. Det er grundene til, at People-teams findes, og det er de dele af arbejdet, som de fleste HR-ledere helst ville have mere tid til.

Agenter kan overtage det administrative arbejde, der ubemærket fylder det meste af ugen – lige fra at afstemme lønnen linje for linje og følge op hos skattemyndighederne til at besvare spørgsmål om betalt frihed, håndtere tilmelding til personalegoder og oprette eller lukke for bærbare computere og konti, hver gang nogen begynder eller stopper. I en stor virksomhed holder det arbejde en hel afdeling beskæftiget, mens det i en lille virksomhed typisk ender hos stifteren sent om aftenen, efter at alle andre er gået hjem.

Onboarding er et godt eksempel på, hvor meget tid det frigør. Efter vores skøn bruger virksomheder i kraftig vækst typisk 10 til 20 timer på at håndtere hver nyansat i den første måned, og vores kunder fortæller os, at det samme arbejde nu tager under to timer. Det giver HR-teams langt mere tid til den menneskelige side af arbejdet.

Når du ser fem år frem, forventer du så, at HR-software stadig vil være bygget op omkring dashboards, formularer og arbejdsgange, som medarbejderne aktivt bruger, eller vil brugerfladen til sidst forsvinde, efterhånden som AI-agenter håndterer de fleste opgaver med medarbejderadministration i baggrunden?

I løbet af det næste år forventer vi, at agenterne vil udføre de fleste handlinger i Warp – langt mere end blot skatteopgaver. Det omfatter onboarding af nyansatte, lønkørsel og de daglige HR-opgaver, som folk stadig klikker sig igennem i dag. Det ændrer, hvad folk har brug for fra den software, de bruger. I stedet for at logge ind for at tjekke en proces eller få den videre, vil HR-teams for det meste høre fra Warp, når noget kræver deres opmærksomhed, for eksempel en beslutning, som kun de kan træffe, eller en hurtig besked om, at en nyansat i en anden delstat er helt sat op og klar til at få løn. Resten af arbejdet vil foregå ubemærket i baggrunden, sådan som de fleste allerede forventer, at deres e-mail bliver leveret, eller at banken gennemfører en betaling uden at skulle følge hvert eneste trin.

Næsten alle dele af virksomhedssoftware har allerede fået en ny konkurrent udviklet til AI, og medarbejderadministration er et af de sidste områder, der endnu ikke har gennemgået den forandring. Vi mener, at vi bygger det, der kommer efter Workday.

Tak for et godt interview. Læsere, der gerne vil vide mere, kan besøge Warp.