Ayush Sharma, grunnlegger og daglig leder i Warp – intervjuserie

Ayush Sharma er grunnlegger og daglig leder i Warp, som han startet i 2023 etter å ha erfart hvor komplisert det var å håndtere lønn på tvers av flere amerikanske delstater og land. Han vokste opp i en liten by i India og studerte informatikk og fysikk ved MIT. Masteroppgaven hans handlet om å redusere flaskehalser som skyldes trege komponenter i distribuert maskinlæring, og undersøkte hvordan storskala systemer kan fungere mer effektivt når enkelte maskiner blir hengende etter. Warp kom med i Y Combinators vinterkull i 2023, med etterlevelse av regler for lønnsskatt som første satsingsområde. Sharma legger vekt på KI-agenter som utfører komplette arbeidsflyter, med tilganger, menneskelig godkjenning og mulighet for revisjon innebygd fra starten av.

Warp er en KI-basert plattform for medarbeideradministrasjon som samler lønn, HR, etterlevelse av skatteregler, personalgoder og IT rundt én felles medarbeiderprofil. Plattformen bruker agenter til å håndtere oppgaver som skatteregistrering i delstater, lønnskontroller, oppfølging av skattevarsler, påmelding til personalgoder og introduksjon av nyansatte. Selskapene kan stille inn graden av autonomi separat for hver arbeidsflyt og velge om en agent skal anbefale en handling, vente på godkjenning eller utføre den på egen hånd. Agentenes aktivitet loggføres for gjennomgang, og oppgaver som krever menneskelig medvirkning, kan sendes videre til selskapets administratorer eller spesialister hos Warp. Warp støtter også klargjøring av enheter og kontoer for ansatte, betalinger til oppdragstakere over hele verden samt dedikert kundekontakt og støtte knyttet til personalgoder.

Veien din fra oppveksten i en liten by i India, via studier i informatikk og fysikk ved MIT, til senere arbeid med maskinlæringsinfrastruktur hos Yelp er ganske uvanlig. Hva var det til slutt som fikk deg til å starte Warp i 2023, og hvorfor bestemte du deg for at lønn og medarbeideradministrasjon var områdene du ville bygge opp på nytt med KI?

Før Warp jobbet jeg i en oppstartsbedrift som vokste fra rundt 10 til 40 ansatte under covidpandemien. Vi ansatte folk på avstand i flere delstater, og jeg så hvor mye av lønnsarbeidet og etterlevelsen av regler som fortsatt ble gjort manuelt. Senere, da jeg skulle ansette mine første medarbeidere på egen hånd, brukte jeg en hel dag på å finne ut hvordan jeg skulle registrere meg hos arbeidsdepartementet i New York. Hvis jeg ikke rakk fristen, ventet det en bot. Med utfordringer på alle andre områder i selskapet også, gjorde den dagen inntrykk på meg.

HR-team håndterer prosedyrepreget og repetitivt arbeid hver dag, og det går på bekostning av tiden de burde bruke på mennesker. Dette er et ideelt område å ta i bruk KI på, men alle de store HR-plattformene ble bygget før agentene fantes, og det er ikke enkelt å legge til slik funksjonalitet i gammel programvare.

Da vi møtte til intervju hos YC i 2023, hadde vi verken et ferdig produkt eller inntekter, bare et problem vi ikke klarte å slutte å tenke på. Fem personer fra YC var med på samtalen, og de første ti eller tolv minuttene dreide seg om ett spørsmål: Kunne etterlevelse av regler for lønnsskatt virkelig være et stort nok inngangspunkt til alt det andre? Det var en hypotese, men resonnementet holdt. Selskaper utvidet virksomheten til flere delstater mye tidligere enn før, så kompleksiteten økte. Dessuten er reglene for lønnsskatt strengere enn for omsetningsskatt, der terskelverdiene som utløser regelverket, er romslige. Når det gjelder lønn, fører det å ansette én person i én delstat til at selskapet omfattes av hele delstatens skattesystem.

Derfor var etterlevelse av regler det åpenbare stedet å begynne. Jeg hadde brukt flere år på maskinlæring ved MIT, og da store språkmodeller og agenter begynte å bli en realitet, skjønte jeg at arbeid innen lønn og etterlevelse som ingen ønsket å ta i, snart ville kunne automatiseres. Den første versjonen av Warp gjorde én ting: Du kunne ansette noen i hvilken som helst delstat uten å måtte håndtere offentlige skjemaer selv. Vi tenkte at hvis vi klarte å få lønnsskatten riktig, ville resten bli enklere.

Du har hevdet at selskaper som ADP og Workday har en grunnleggende ulempe fordi systemene deres ble utviklet lenge før moderne KI. Hvordan ser en KI-basert HR-arkitektur fra grunnen av ut på et teknisk nivå, og hva kan Warp gjøre som ville vært vanskelig å få til ved bare å legge KI-agenter oppå en eldre plattform?

Mesteparten av HR-programvaren ble utviklet for at en person skulle sitte foran en skjerm og klikke seg gjennom hvert trinn. Når slike plattformer legger til KI, kommer det derfor som regel til uttrykk i form av en KI-agent som forteller deg hva du skal gjøre videre, mens du fortsatt må utføre arbeidet selv. Vi bygget Warp med motsatt utgangspunkt og utformet API-et, tilgangene og revisjonssporet fra starten av, slik at en agent kunne utføre arbeidet og mennesker kunne gripe inn når det var nødvendig.

Tenk deg at du leder HR i et selskap med 350 ansatte, og at fire jobbtilbud blir signert: to i Oregon og to i Colorado, delstater der selskapet aldri har hatt ansatte. Før noen kan få lønn, må du registrere selskapet hos skattemyndighetene i begge delstatene, opprette arbeidsledighetskontoer, melde deg på hver delstats ordning for betalt permisjon, finne ut hvilke lokale skatter som gjelder for hver adresse, og sette opp trekk. En vanlig KI-assistent kan fortelle deg hvilke skjemaer du trenger, men agenten vår fyller dem ut og sender dem inn. Hvis du har gitt den tillatelse til å handle på egen hånd, får du beskjed når alt er gjort.

Agentene våre har konteksten, tilgangene og infrastrukturen de trenger for å utføre flere trinn på tvers av selskapets systemer, fra lønnskjøring og administrasjon av personalgoder til håndtering av skatteregler, uten at noen må styre alt manuelt. En agent som legges til en eldre plattform, kan hjelpe brukerne med å finne fram i programvaren, men endrer ikke hvordan arbeidet underliggende utføres. Agentene i Warp endrer faktisk hvordan arbeidet blir gjort.

Warp beskriver agentene sine som ansvarlige for hele arbeidsflyter, blant annet å opprette skattekontoer hos delstatene, levere skattemeldinger, håndtere offentlige varsler og administrere ytelser. Hvordan avgjør dere hvilke handlinger en agent kan utføre selvstendig, og hvilke som bør kreve godkjenning fra et menneske?

Warp setter de overordnede grensene, og hvert selskap bestemmer hvor stor selvstendighet agentene får innenfor disse. Enkelte handlinger, som betalinger, har faste grenser som ingen kundeinnstilling kan oppheve. Innenfor disse rammene bestemmer selskapene graden av selvstendighet for hver arbeidsflyt. Agenten kan dermed foreslå en handling på ett område, vente på godkjenning på et annet og håndtere oppgaven på egen hånd et tredje sted. De fleste kundene begynner med å godkjenne alt og gir agentene større selvstendighet etter hvert som de blir tryggere på arbeidet deres. Når det er kunden som må ta en beslutning, sender agenten den videre til administratoren deres. Når en oppgave krever at et menneske utfører den, enten fordi loven krever det eller fordi en offentlig etat ikke vil samarbeide med programvare, overlates den til en Warp-spesialist.

Lønnskjøring og etterlevelse av skatteregler gir svært lite rom for hallusinasjoner eller sannsynlighetsbaserte svar. Warp opererer på tvers av tusenvis av skattejurisdiksjoner og regelverk i stadig endring. Hvordan forankrer dere KI-systemene i autoritativ informasjon, måler påliteligheten deres og håndterer situasjoner der en agent er usikker på hva den skal gjøre?

Vi har brukt tre år på å teste kontrollmekanismene våre for etterlevelse av regler for lønnsskatt, det mest krevende området innen HR. Warp følger med på mer enn 10 000 skattejurisdiksjoner, og agenten svarer aldri på skattespørsmål ut fra hukommelsen. Alle satser, skjemaer og frister den handler ut fra, kommer direkte fra etatene selv, og skatteekspertene våre går gjennom hver regelendring før den tas inn i systemet. Vi ligger an til å håndtere lønnsutbetalinger på over 2 milliarder dollar i år, og kundene våre har underveis unngått mer enn 200 millioner dollar i gebyrer og bøter.

Før hver lønnskjøring ser agenten etter ting som virker unormale, for eksempel en uventet økning i lønnen til en ansatt eller manglende skatteoppsett i en ny delstat. Hvis den er usikker på hva den skal gjøre, eller ikke har tillatelse til å handle, stanser den og sender oppgaven videre til administratoren i stedet for å gjette.

Skattevarsler viser hvordan dette fungerer. Agentene løser 80 % av dem automatisk ved hjelp av selskapets lønnsdata og etatens egne retningslinjer, mens resten sendes til en skattespesialist hos Warp, slik at alle varslene blir håndtert. Feil svar i forbindelse med lønnskjøring kan få store konsekvenser, så vi foretrekker alltid at agenten sender saken videre fremfor å gjette.

HR-systemer inneholder noe av den mest sensitive informasjonen i et selskap, fra lønn og personnumre fra Social Security til bankopplysninger og informasjon om ytelser. Hvordan påvirker fremveksten av selvstendige agenter sikkerhetsmodellen for disse dataene, og finnes det kategorier av ansattinformasjon som dere mener KI aldri bør få selvstendig kontroll over?

Agenter endrer sikkerhetsbildet fordi de kan bevege seg gjennom et selskaps systemer mye raskere enn et menneske. Det betyr også at de raskere kan utnytte mangler i tilgangskontrollen. Den største risikoen er at noen bruker en agent til å få tilgang til data de aldri kunne ha sett på egen hånd. Vi tok høyde for dette fra starten av, så hver Warp-agent arver nøyaktig de samme tilgangsrettighetene som personen den handler på vegne av. Hvis en ansatt for eksempel ikke kan se lønnsopplysninger, kan vedkommende heller ikke be agenten om å vise dem. Opplysninger om den enkelte ansatte forblir i selskapets egen konto og deles aldri med andre kunder. Warp oppfyller kravene i SOC 2 Type II, krever flerfaktorautentisering og inngår avtaler om forretningsforbindelser med Enterprise-kunder som trenger å overholde HIPAA.

Når det gjelder hva KI aldri bør kunne kontrollere på egen hånd, går grensen vår ved alt som er vanskelig å gjøre om. Pengeoverføringer er det tydeligste eksemplet, så betalinger har faste grenser agenten ikke kan overskride, uansett hvem som ber om dem. Det samme gjelder alle oppgaver som ifølge loven må utføres av et menneske. Slike oppgaver går alltid til en Warp-spesialist.

Det er stor forskjell på at KI anbefaler en handling, og at KI faktisk overfører penger, leverer en skattemelding eller endrer en ansatts tilgangsrettigheter. Hvilke sikkerhetstiltak, revisjonsspor, mekanismer for å rulle tilbake endringer og systemer for eskalering blir nødvendige når KI-agenter går fra å gi mennesker råd til å utføre forretningsprosesser med store konsekvenser?

Så snart en agent begynner å handle i stedet for bare å komme med forslag, må dere kunne svare på hvem den handlet på vegne av, hva den hadde tillatelse til å gjøre, hvorfor den valgte som den gjorde, og hvordan handlingen kan reverseres hvis noe går galt. Alle handlinger i Warp inneholder denne informasjonen, så ingenting agenten gjør, skjer i det skjulte.

Det meste av agentens arbeid utføres gjennom rutiner, det vil si oppgaver agenten kjører etter en tidsplan eller når noe skjer, for eksempel når en nyansatt signerer et jobbtilbud. Hver rutine har en løpende logg over hvem som opprettet den, når den ble godkjent, og hvert trinn agenten utførte. Dermed får HR-team og revisorer et tydelig spor å følge.

Hvordan vi reverserer en handling, avhenger av hva slags handling det er. Endringer som å oppdatere noens tilgang eller valg av ytelser kan rulles tilbake. Lønnskjøringer og betalinger er vanskeligst å reversere, så de har de strengeste kontrollene, inkludert faste grenser agenten ikke kan endre. Alt som ligger utenfor agentens myndighet, sendes direkte til kundens administrator for avgjørelse.

Noen situasjoner krever fortsatt et menneske, for eksempel når et delstatlig skattekontor bare vil snakke med deg på telefon. Når agenten støter på en slik hindring, fullfører en Warp-spesialist jobben, slik at arbeidet går videre i stedet for å bli liggende fast i noens innboks.

Warp hentet nylig inn 60 millioner dollar i en serie B-runde, slik at den samlede finansieringen kom opp i 85 millioner dollar. Selskapet planlegger å investere ytterligere i KI-agenter og infrastrukturen for skatt og etterlevelse. Hvilke tekniske problemer innen HR-automatisering med KI-agenter er fortsatt uløste, og hvor forventer du at den største delen av investeringen vil gå?

En KI-agent kan kanskje gjøre noen 20 % raskere, og det er nyttig, men den største muligheten ligger i en agent som fullfører jobben. Utfordringen er at HR-arbeidet ikke foregår på ett sted. Lønn, personalgoder, enheter og IT-kontoer ligger som regel i separate systemer, og en agent kan bare utføre oppgaver godt hvis den har oversikt over dem samlet. En annen utfordring er den lange halen av unntakstilfeller: Hvert delstatlige organ, hver forsikringsleverandør og hvert skattekontor har sine særegenheter, og mange av dem ble aldri laget for å fungere sammen med programvare. Det er her vi ser de største mulighetene, og det er dit finansieringen vår går.

Kundene våre har ofte én eller to personer som håndterer HR for hundrevis av ansatte, så agentene må ta på seg mer ansvar etter hvert som selskapene vokser. Vi fokuserer på å samle alt i ett system som agenten kan utføre oppgaver i, og på å gjøre det enklere for kundene å lage egne rutiner tilpasset hvordan selskapet deres fungerer. Vi utvider også teamet som støtter kundene, styrker infrastrukturen for skatt og etterlevelse og utvider hvilke oppgaver agentene våre kan håndtere gjennom hele arbeidsforholdet.

Et av løftene ved programvare med KI-agenter er at selskaper kan drives med langt mindre administrative team, samtidig som HR-medarbeidere bruker mer tid på strategisk arbeid og oppgaver som handler om mennesker. Hvilke deler av HR tror du KI-agenter i stor grad vil automatisere i løpet av de neste årene, og hvilke beslutninger vil fortsatt være grunnleggende menneskelige?

HR-oppgaver som krever skjønn, vil fortsatt ligge hos mennesker. Det gjelder blant annet å velge hvem man skal ansette, forme bedriftskulturen, støtte noen gjennom en vanskelig periode eller forstå når en ansatt er klar for nye utfordringer. Det er grunnen til at HR-team finnes, og dette er oppgavene HR-ledere flest skulle ønske de hadde mer tid til.

Agentene kan overta det administrative arbeidet som i det stille fyller det meste av arbeidsuken: alt fra å avstemme lønnsposteringer én etter én og purre på skattemyndigheter til å svare på spørsmål om betalt fri, håndtere påmelding til personalgoder og klargjøre eller stenge bærbare datamaskiner og kontoer hver gang noen begynner eller slutter. I et stort selskap holder slikt arbeid en hel avdeling opptatt, mens det i et lite selskap gjerne havner hos gründeren sent på kvelden, etter at alle andre har gått hjem.

Introduksjon av nyansatte er et godt eksempel på hvor mye tid dette frigjør. Etter våre beregninger bruker selskaper i rask vekst vanligvis 10 til 20 timer på å håndtere hver nyansatt den første måneden. Kundene våre forteller at det samme arbeidet nå tar mindre enn to timer, noe som gir HR-teamene langt mer tid til den menneskelige siden av jobben.

Ser du fem år fram i tid: Tror du HR-programvare fortsatt vil dreie seg om dashbord, skjemaer og arbeidsflyter som ansatte aktivt bruker, eller vil grensesnittet etter hvert forsvinne når KI-agenter håndterer det meste av personaladministrasjonen i bakgrunnen?

I løpet av det neste året forventer vi at agentene vil utføre de fleste handlingene i Warp, langt utover skatteområdet. Det omfatter introduksjon av nyansatte, lønnskjøring og de daglige HR-oppgavene folk fortsatt må klikke seg gjennom i dag. Dette endrer hva folk trenger av programvaren de bruker. I stedet for å logge inn for å sjekke hvordan en prosess går eller få den videre, vil HR-teamene stort sett høre fra Warp når noe krever oppmerksomhet, for eksempel en beslutning bare de kan ta, eller en kort beskjed om at en nyansatt i en annen delstat er ferdig satt opp og klar til å få utbetalt lønn. Resten av arbeidet vil foregå stille i bakgrunnen, slik de fleste allerede forventer at e-posten deres blir levert eller at banken behandler en betaling uten at de følger med på hvert eneste trinn.

Nesten alle deler av bedriftsprogramvare har allerede fått en ny utfordrer utviklet for KI, og personaladministrasjon er et av de siste områdene som fortsatt venter på denne omstillingen. Vi mener at vi bygger det som kommer etter Workday.

Takk for et flott intervju. Lesere som ønsker å vite mer, kan besøke Warp.