I lønnskjøringen ser de farligste KI-feilene riktige ut

Lønnskjøring er en av få forretningsprosesser der hver feil har et navn, et beløp og en dato. Derfor fortjener KI i lønnskjøringen en grundigere diskusjon, siden det meste av samtalen handler om hva KI fanger opp. Det vanskeligere spørsmålet er hva KI endrer mens ingen følger med.

Jeg har jobbet med økonomi i sytten år, først som finansdirektør og deretter med å bygge infrastruktur for lønn på tvers av landegrenser. I løpet av den tiden har jeg lært å se på automatisering som en byttehandel: Du gir avkall på synlig manuelt arbeid og får usynlig systematferd i retur.

Hva regelverket faktisk krever

I henhold til EUs KI-forordning innebærer KI på arbeidsplassen høy risiko når den bidrar til å ta beslutninger om en person: hvem som ansettes, forfremmes eller sies opp, hvordan arbeidet deres fordeles, hvordan prestasjonene deres vurderes, eller hvordan arbeidsvilkårene deres endres. Disse beslutningene påvirker noens jobb og inntekt, så selskapet som bruker verktøyet, må sørge for at et menneske har kontrollen, og dokumentere hvordan hver beslutning ble tatt. Lønnsberegning står ikke på listen som standard, fordi det å anvende avtalte satser på godkjente timer er ren aritmetikk. Det blir høyrisiko når lønnsdata begynner å påvirke beslutninger om mennesker, eller når et verktøy som selges som «lønnskjøring», i det stille begynner å ta slike beslutninger.

I USA publiserte National Institute of Standards and Technology (NIST), en føderal etat kjent for å fastsette tekniske standarder og sikkerhetsstandarder, allerede i 2023 et eget rammeverk for risikostyring av KI som organisasjoner enkelt kan tilpasse til sine egne forhold. Rammeverket gir selskaper en praktisk sirkel med fire trinn, som jeg kommer tilbake til nedenfor.

Hvor langt kan KI trygt gå i lønnskjøringen i dag?

Ved første øyekast virker KI i lønnskjøringen som et par raskere hender. Men KI har en superkraft som samtidig er dens forbannelse: feilfri, sømløs og avhengighetsskapende automatisering. Når systemet først er i drift, er det vanskelig å se og rette opp alle måtene det påvirker dem det til syvende og sist er ment å tjene – menneskene på arbeidsplassen. Derfor regnes KI innen HR som høyrisiko: Den påvirker folks livsgrunnlag, muligheter til å lykkes på arbeidsplassen og framtidige karrieremuligheter direkte.

De fleste lønnsverktøy følger en kort vei. Først kontrollerer og klargjør de, sammenligner, markerer avvik og utarbeider utkast. Deretter begynner de å komme med anbefalinger, for eksempel om å holde tilbake en utbetaling eller undersøke en faktura, mens et menneske tar avgjørelsen. Ved det tredje trinnet, når verktøyet handler på en måte som påvirker en persons jobb, status eller inntekt, bør det stoppe og overlate beslutningen til et menneske. Utfordringen er at disse trinnene glir over i hverandre. Et avvik på uvanlig mange arbeidstimer er en harmløs kontroll av samsvar i det første trinnet, men en vurdering av prestasjoner i det tredje. Modellen endrer seg ikke mellom trinnene; det som endrer seg, er hvordan et menneske bruker resultatet.

Her gjør KI reell nytte

Et positivt resultat av automatisert lønnskjøring er en dramatisk reduksjon i antall feil – opptil 78 prosent, ifølge Blair McQuillen fra Ignite HCM, en konsulenttjeneste innen lønnskjøring. Et KI-drevet verktøy som skal redusere feil i lønnskjøringen, utfører i hovedsak følgende operasjoner for å skanne og rette opp lønnssystemer:

• Avviksdeteksjon innebærer at maskinlæringsalgoritmer sammenligner lønnsdata med historiske registre for å avdekke økninger i utbetalinger, dupliserte oppføringer og uvanlige trekk.
• Validering av data i sanntid betyr at KI ser på både oppdaterte medarbeiderdata (f.eks. automatisk registrert oppmøte) og kildesystemer (f.eks. timelister), og peker ut feil som skyldes manuell kopiering og innliming.
• Forebygging av feil ved hjelp av prediksjon går ut på å forutse feil før lønnskjøringen ferdigstilles.
• Etterlevelse kan også automatiseres til en viss grad ved hjelp av KI-agenter. De overvåker ansatte og lønnsberegninger og varsler HR umiddelbart, selv før den kvartalsvise revisjonen finner sted. Å slippe KI inn i etterlevelsesarbeidet som varsler innebærer at man tydelig tar stilling til hva den kan gjøre, og sørger for at virkelige mennesker deltar i beslutningene.
• Prognoser basert på KI forutsier hvordan organisatoriske endringer eller markedssvingninger vil påvirke lønnskostnader og budsjetter.

Ifølge OpenLadger Report oppnådde selskaper med et KI-drevet, innebygd regnskaps-API 19 prosent raskere avslutning av regnskapet og 34 prosent bedre budsjettoverholdelse.

Når grunnlinjen lærer av feilene dine

Det meste av KI for lønnskjøring markedsføres med kontinuerlig læring. Over tid finner systemet ut hvordan en normal lønnskjøring ser ut i organisasjonen din, og måler hver kjøring opp mot dette. Det er virkelig nyttig, men det er også her den stille svikten begynner.

Et system som lærer hva som er «normalt» fra historiske data, lærer også feilene i disse dataene. Tenk deg at et trekk ble beregnet feil i seks måneder. Avviksdetektoren slutter å markere det, fordi det ikke lenger virker uvanlig sammenlignet med seks måneder med den samme feilen.

Arbeid på tvers av landegrenser gjør dette enda tydeligere. Når du betaler oppdragstakere i mange land, med ulike valutaer og betalingsmåter, er «uvanlig» ofte helt legitimt: en milepæl i et prosjekt, bytte av betalingskanal, et engangsoppdrag eller åpning av en ny betalingskorridor. En modell som er justert for å redusere antallet falske positive, vil over tid begynne å undertrykke de reelle avvikene også.

Når en utbetaling holdes tilbake, flagges eller justeres, må noen forklare hvorfor: for oppdragstakeren som venter på pengene, for en revisor flere måneder senere og til slutt for en tilsynsmyndighet.

Tre måter å gjøre lønnsautomatisering etterprøvbar på

1. Skill oppgavene fra hverandre. Én enkelt assistent som henter inn data, klassifiserer arbeidstakere, beregner lønn, kontrollerer etterlevelse og sender ut lønnsslipper, er praktisk å kjøpe inn, men vanskelig å kontrollere. Hvis resultatet er feil, kan du ikke vite hvilket trinn som førte til feilen. Noen lønnsleverandører går allerede over til løsninger med flere agenter, der separate komponenter håndterer innhenting av timelister, klassifisering av arbeidstakere, lønnsberegning, etterlevelse og kommunikasjon, og hver av dem skriver til et felles revisjonsspor. Det koster mer å sette opp en slik løsning, men kostnaden er tjent inn første gang en tilsynsmyndighet spør hvordan en beslutning ble tatt. Du kan følge kjeden trinn for trinn.
2. La hvor enkelt tiltaket kan reverseres, avgjøre hvordan det håndteres. En modell med menneskelig kontroll, som nå er vanlig innen HR-teknologi, deler automatiserte handlinger inn i tre nivåer: automatisk utføring, eskalering og blokkering. Jeg ville fordelt handlingene etter ett enkelt kriterium: kostnaden ved å ta feil. Handlinger med lav risiko som enkelt kan reverseres, for eksempel påminnelser, forespørsler om dokumentasjon og formateringskontroller, kan utføres automatisk. Ved handlinger med middels risiko, som å holde tilbake en utbetaling mens man ber om en avklaring eller stiller spørsmål ved en faktura, bør KI-en legge fram dokumentasjonen, mens en person tar avgjørelsen. Handlinger som ikke kan reverseres, og alt som berører noens levebrød, skal ikke overlates til maskinen: å avslutte et oppdrag, endre statusen til en arbeidstaker eller holde tilbake lønn av hensyn til etterlevelse. Jeg bruker ett spørsmål som test: Hvis det viser seg at handlingen var feil, kan vi gjøre den om før personen det gjelder, merker det? Hvis svaret er nei, må et menneske godkjenne den.
3. Få styringen på plass før du skalerer opp. NISTs rammeverk for risikostyring innen KI, som jeg nevnte tidligere, bygger på fire funksjoner: styre, kartlegge, måle og håndtere. I lønnssammenheng blir de til fire spørsmål. Hvem har ansvaret for resultatet: lønnsavdelingen, økonomiavdelingen, de som jobber med etterlevelse, eller leverandøren? I henhold til KI-forordningen ligger forpliktelsene til den som tar systemet i bruk hos organisasjonen som driver systemet. «Leverandøren» er derfor ikke et mulig svar, selv om mange produkter nå er merket «klare for EUs KI-forordning». Hvilke av verktøyene deres bruker faktisk KI, når så mye maskinlæring nå er innebygd i programvare som er kjøpt inn som regelbasert? Hvor ofte overstyrer folk KI-en? Dette tallet ville jeg fulgt aller tettest, for en overstyringsrate nær null betyr sjelden at modellen er feilfri, og ofte at menneskene har sluttet å lese. Og hva er reserveplanen hvis modellen ikke er tilgjengelig ved periodestengning, eller resultatet ikke lenger er til å stole på? Er det fortsatt noen på teamet som vet hvordan man kjører lønn manuelt? For HR- og lønnsledere som planlegger å bruke KI i stor skala, er det verdt å få denne strukturen på plass tidlig.

KI-æraen gir virksomheter et tidsvindu til å gjøre det lite glamorøse arbeidet: lage en oversikt over KI-aktiverte verktøy, føre logger som dokumenterer begrunnelsen og ikke bare resultatene, utpeke navngitte ansvarlige for hver automatiserte beslutning og jevnlig gjennomgå måltall for overstyringer.

Når kravene til høyrisikosystemer trer i kraft, vil ikke revisorene spørre «Bruker dere KI?». De vil spørre «Vis meg hvorfor denne utbetalingen ble gjennomført, holdt tilbake eller endret.» Virksomheter som kan svare på få minutter, vil lykkes med å skalere automatiseringen sin.