W obszarze płac najgroźniejsze błędy AI wyglądają poprawnie

Płace to jeden z nielicznych obszarów działalności, w których każdy błąd wiąże się z konkretnym nazwiskiem, kwotą i datą. Dlatego wykorzystanie AI w obsłudze płac wymaga bardziej wnikliwej dyskusji, podczas gdy większość rozmów koncentruje się na tym, co AI wychwytuje. Trudniejsze pytanie brzmi: co AI zmienia, gdy nikt nie patrzy?

Przez siedemnaście lat pracowałem w finansach — najpierw jako dyrektor finansowy, a później przy budowie infrastruktury płacowej obsługującej wiele krajów. W tym czasie nauczyłem się traktować automatyzację jak wymianę: w zamian za rezygnację z widocznej pracy ręcznej otrzymuje się niewidoczne działanie systemu.

Czego tak naprawdę wymagają przepisy

Zgodnie z EU AI Act sztuczna inteligencja wykorzystywana w miejscu pracy wiąże się z wysokim ryzykiem, gdy pomaga podejmować decyzje dotyczące danej osoby: o tym, kogo zatrudnić, awansować lub zwolnić, jak przydzielać tej osobie zadania, jak oceniać jej wyniki albo jak zmieniać warunki jej pracy. Decyzje te wpływają na zatrudnienie i dochody danej osoby, dlatego firma korzystająca z narzędzia musi zapewnić człowiekowi kontrolę i prowadzić dokumentację pokazującą, jak podjęto każdą decyzję. Obliczanie płac nie jest domyślnie ujęte na tej liście, ponieważ stosowanie uzgodnionych stawek do zatwierdzonych godzin to działanie arytmetyczne. Staje się obszarem wysokiego ryzyka, gdy dane płacowe zaczynają służyć do podejmowania decyzji dotyczących ludzi albo gdy narzędzie sprzedawane jako „system płacowy” po cichu zaczyna takie decyzje podejmować.

W Stanach Zjednoczonych National Institute of Standards and Technology (NIST), agencja federalna znana z ustanawiania norm technicznych i bezpieczeństwa, opublikował już w 2023 roku specjalne ramy zarządzania ryzykiem związanym ze sztuczną inteligencją, które organizacje mogą łatwo dostosować do własnych warunków. Oferują one firmom praktyczny, czteroetapowy cykl, do którego wrócę poniżej.

Jak daleko AI może dziś bezpiecznie sięgać w obszarze płac

Na pierwszy rzut oka AI w obsłudze płac przypomina sprawniejszą parę rąk. Jednak supermocą AI, a zarazem jej przekleństwem, jest bezbłędna, płynna i uzależniająca automatyzacja. Gdy system już działa, trudno dostrzec i skorygować wszystkie sposoby, w jakie wpływa on na swoich ostatecznych beneficjentów — ludzi w pracy. Dlatego AI w zarządzaniu zasobami ludzkimi uznaje się za obszar wysokiego ryzyka: ma bezpośredni wpływ na źródła utrzymania ludzi, ich powodzenie w miejscu pracy i przyszłe perspektywy zawodowe.

Większość narzędzi płacowych przechodzi krótką drogę. Najpierw sprawdzają i przygotowują dane, porównują je, oznaczają nieprawidłowości i tworzą projekty dokumentów. Następnie zaczynają rekomendować działania, na przykład sugerują wstrzymanie wypłaty lub zakwestionowanie faktury, ale decyzję podejmuje człowiek. Na trzecim etapie — gdy narzędzie podejmuje działanie wpływające na pracę, status lub dochody danej osoby — powinno się zatrzymać i oddać decyzję człowiekowi. Problem polega na tym, że te etapy zlewają się ze sobą. Oznaczenie nietypowej liczby godzin jest nieszkodliwym sprawdzeniem zgodności na pierwszym etapie, a na trzecim staje się oceną wyników pracy. Model się nie zmienia; zmienia się sposób, w jaki człowiek wykorzystuje jego wyniki.

Gdzie AI naprawdę pomaga

Jednym z pozytywnych efektów automatyzacji płac jest znaczne ograniczenie liczby błędów — nawet o 78%, według Blair McQuillen z Ignite HCM, firmy świadczącej usługi doradcze w zakresie obsługi płac. Narzędzie oparte na AI, które ma ograniczać liczbę błędów płacowych, wykonuje zasadniczo następujące operacje, aby skanować systemy płacowe i usuwać błędy:

• Wykrywanie anomalii polega na tym, że algorytmy uczenia maszynowego porównują dane płacowe z danymi historycznymi, aby wskazać skokowe wzrosty wypłat, zduplikowane wpisy i nietypowe potrącenia.
• Weryfikacja danych w czasie rzeczywistym oznacza, że AI analizuje zarówno aktualne dane pracowników (np. automatycznie rejestrowaną obecność), jak i dane z systemów źródłowych (np. karty ewidencji czasu pracy), wskazując błędy wynikające z ręcznego kopiowania i wklejania.
• Predykcyjne zapobieganie błędom pomaga przewidywać błędy, zanim płace zostaną ostatecznie naliczone.
• Zgodność z przepisami można również w pewnym stopniu zautomatyzować za pomocą agentów AI. Monitorują oni pracowników i obliczenia płacowe, a także natychmiast powiadamiają dział kadr, nawet zanim odbędzie się audyt kwartalny. Dopuszczenie AI do pełnienia roli sygnalisty w obszarze zgodności z przepisami oznacza jednoznaczne określenie jej możliwości i trwałe włączenie ludzi w proces decyzyjny.
• Prognozowanie oparte na AI pozwala przewidzieć, jak zmiany organizacyjne lub wahania rynkowe wpłyną na koszty płac i budżety.

Według OpenLadger Report, firmy oferującej wbudowane API księgowe oparte na AI, przedsiębiorstwa skróciły zamknięcie okresu finansowego o 19% i poprawiły zgodność z budżetem o 34%.

Gdy system uczy się na własnych błędach

Większość systemów AI do obsługi płac jest promowana jako rozwiązanie, które nieustannie się uczy. Z czasem system ustala, jak wyglądają typowe płace w danej organizacji, i porównuje z nimi każdy kolejny cykl naliczeń. To naprawdę przydatne — i właśnie w tym miejscu zaczyna się ukryta awaria.

System, który uczy się, co jest „normą”, na podstawie danych historycznych, uczy się również błędów zawartych w tych danych. Załóżmy, że przez sześć miesięcy nieprawidłowo naliczano potrącenie. System przestaje je oznaczać, ponieważ po sześciu miesiącach powtarzania tego samego błędu nie wygląda ono już na coś nietypowego.

Praca transgraniczna jeszcze bardziej uwidacznia ten problem. Gdy wypłaca się wynagrodzenia wykonawcom w wielu krajach, walutach i za pomocą różnych metod płatności, „nietypowe” często oznacza coś całkowicie uzasadnionego: kamień milowy projektu, zmianę kanału płatności, jednorazowe zlecenie albo uruchomienie nowego korytarza płatniczego. Model dostrojony tak, by ograniczać liczbę fałszywych alarmów, z czasem zacznie tłumić również prawdziwe sygnały.

Gdy wypłata zostaje wstrzymana, oznaczona jako podejrzana lub skorygowana, ktoś musi wyjaśnić dlaczego: wykonawcy czekającemu na pieniądze, audytorowi kilka miesięcy później, a w końcu także organowi nadzorczemu.

Trzy sposoby na zapewnienie audytowalności automatyzacji płac

1. Rozdziel zadania. Zakup jednego asystenta, który pobiera dane, klasyfikuje pracowników, oblicza wynagrodzenia, sprawdza zgodność z przepisami i wysyła paski płacowe, jest wygodny, ale trudno go audytować, ponieważ gdy wynik jest błędny, nie da się ustalić, na którym etapie doszło do pomyłki. Niektórzy dostawcy systemów płacowych już przechodzą na architekturę wieloagentową, w której odrębne komponenty zajmują się pobieraniem danych z ewidencji czasu pracy, klasyfikacją pracowników, obliczaniem wynagrodzeń, zgodnością z przepisami i komunikacją, a każdy z nich zapisuje informacje we wspólnym rejestrze audytowym. Taka konfiguracja jest droższa w budowie, ale zwraca się już przy pierwszym pytaniu organu nadzorczego o to, jak podjęto daną decyzję. Można prześledzić cały łańcuch krok po kroku.
2. Ustal poziomy działań w zależności od możliwości ich odwrócenia. Model z udziałem człowieka, powszechnie stosowany obecnie w technologiach HR, dzieli zautomatyzowane działania na trzy kategorie: automatyczne wykonanie, eskalację i blokadę. Poziomy te przypisałbym według jednego kryterium: kosztu pomyłki. Działania niskiego ryzyka, które można odwrócić, takie jak przypomnienia, prośby o dokumenty i sprawdzanie formatowania, mogą być wykonywane automatycznie. W przypadku działań średniego ryzyka, takich jak wstrzymanie wypłaty do czasu uzyskania wyjaśnień lub zakwestionowanie faktury, sztuczna inteligencja powinna przygotować dowody, a decyzję podjąć człowiek. Działania nieodwracalne oraz wszelkie decyzje wpływające na czyjeś źródło utrzymania powinny pozostać poza zasięgiem maszyny: zakończenie współpracy, zmiana statusu pracownika czy wstrzymanie wynagrodzenia ze względów związanych ze zgodnością z przepisami. Stosuję jeden test, oparty na jednym pytaniu: jeśli okaże się, że to działanie było błędne, czy możemy je cofnąć, zanim osoba po drugiej stronie to zauważy? Jeśli odpowiedź brzmi „nie”, decyzję zatwierdza człowiek.
3. Zadbaj o nadzór, zanim zwiększysz skalę. Wspomniane wcześniej ramy zarządzania ryzykiem związanym ze sztuczną inteligencją NIST opierają się na czterech funkcjach: ładzie, mapowaniu, pomiarze i zarządzaniu. W kontekście płac przekładają się one na cztery pytania. Kto odpowiada za wyniki: dział płac, finanse, dział ds. zgodności czy dostawca? Zgodnie z unijnym aktem w sprawie sztucznej inteligencji obowiązki podmiotu wdrażającego spoczywają na organizacji korzystającej z systemu, więc „dostawca” nie jest dopuszczalną odpowiedzią, niezależnie od tego, ile produktów ma obecnie oznaczenie „gotowy na unijny akt w sprawie sztucznej inteligencji”. Które z używanych przez was narzędzi faktycznie wykorzystują sztuczną inteligencję, skoro coraz więcej oprogramowania kupowanego jako oparte na regułach zawiera już funkcje uczenia maszynowego? Jak często ludzie nadpisują decyzje sztucznej inteligencji? To właśnie tę liczbę obserwowałbym najpilniej, ponieważ odsetek nadpisań bliski zeru rzadko oznacza, że model jest bezbłędny, a często świadczy o tym, że ludzie przestali sprawdzać jego wyniki. Jakie jest rozwiązanie awaryjne, gdy model jest niedostępny podczas zamykania listy płac albo nie można już ufać jego wynikom, i czy ktoś w zespole nadal potrafi sporządzić listę płac ręcznie? Dla osób kierujących działami HR i płac, które planują szeroko wykorzystywać sztuczną inteligencję, warto jak najwcześniej zbudować taką strukturę.

Era sztucznej inteligencji daje firmom szansę na wykonanie mało efektownej, ale ważnej pracy: sporządzenie wykazu narzędzi wykorzystujących sztuczną inteligencję, prowadzenie dzienników rejestrujących nie tylko wyniki, lecz także tok rozumowania, wyznaczenie konkretnych osób odpowiedzialnych za każdą zautomatyzowaną decyzję oraz regularne analizowanie wskaźników nadpisywania decyzji.

Gdy zaczną obowiązywać wymogi dotyczące systemów wysokiego ryzyka, audytorzy nie zapytają: „Czy korzystacie ze sztucznej inteligencji?”, lecz: „Pokażcie, dlaczego ta płatność została zrealizowana, wstrzymana lub zmieniona”. Firmy, które będą potrafiły odpowiedzieć na to pytanie w ciągu kilku minut, z powodzeniem zwiększą skalę automatyzacji.