Ve mzdách vypadají nejnebezpečnější chyby AI správně

Mzdy jsou jedním z mála firemních procesů, při němž má každá chyba své jméno, částku a datum. Proto si využití AI při zpracování mezd zaslouží důkladnější debatu, která se většinou soustředí na to, co AI zachytí. Těžší otázkou je, co AI mění, když se nikdo nedívá.

Sedmnáct let jsem působil ve financích, nejprve jako finanční ředitel a později při budování přeshraniční mzdové infrastruktury. Za tu dobu jsem se naučil vnímat automatizaci jako obchod: výměnou za to, že se vzdáte viditelné ruční práce, získáte neviditelné chování systému.

Co regulace skutečně požaduje

Podle nařízení EU o umělé inteligenci (EU AI Act) představuje AI na pracovišti vysoké riziko, pokud pomáhá rozhodovat o člověku: kdo bude přijat, povýšen nebo propuštěn, jak mu bude přidělována práce, jak bude hodnocen jeho výkon nebo jak se změní podmínky jeho práce. Tato rozhodnutí ovlivňují pracovní místo a příjem člověka, takže společnost, která nástroj používá, musí zajistit lidský dohled a vést záznamy o tom, jak bylo každé rozhodnutí přijato. Výpočet mezd na tento seznam ve výchozím nastavení nepatří, protože uplatnění dohodnutých sazeb na schválený počet odpracovaných hodin je aritmetika. Vysokým rizikem se stává tehdy, když se mzdová data začnou používat při rozhodování o lidech nebo když nástroj prodávaný jako „mzdový“ začne taková rozhodnutí nenápadně přijímat.

Ve Spojených státech vydal Národní institut pro standardy a technologie (NIST), federální agentura známá stanovováním technických a bezpečnostních standardů, už v roce 2023 specializovaný rámec pro řízení rizik AI, který si organizace mohou snadno přizpůsobit vlastním podmínkám. Nabízí firmám praktický čtyřkrokový cyklus, k němuž se vrátím níže.

Kam až může dnes AI bezpečně zajít při zpracování mezd

Na první pohled vypadá AI při zpracování mezd jako rychlejší pár rukou. Superschopností AI, ale zároveň i její slabinou, je bezchybná, plynulá a návyková automatizace. Jakmile je systém v provozu, je těžké rozpoznat a napravit všechny způsoby, kterými ovlivňuje ty, jimž má sloužit — lidi v práci. Proto se AI v oblasti lidských zdrojů považuje za vysoce rizikovou: přímo ovlivňuje živobytí lidí, jejich úspěch v práci i budoucí kariérní vyhlídky.

Většina mzdových nástrojů prochází krátkou cestou. Nejprve kontrolují a připravují podklady, porovnávají údaje, označují nesrovnalosti a vytvářejí návrhy. Poté začnou doporučovat — například navrhnou pozastavit výplatu nebo prověřit fakturu, zatímco rozhodnutí ponechají na člověku. Třetím krokem, u něhož by se měl nástroj zastavit a předat rozhodnutí člověku, je situace, kdy zasáhne do něčeho, co ovlivňuje něčí zaměstnání, postavení nebo příjem. Potíž je v tom, že se tyto kroky navzájem stírají. Upozornění na neobvyklý počet odpracovaných hodin je v prvním kroku neškodnou kontrolou při porovnávání údajů, ve třetím už ale představuje hodnocení pracovního výkonu. Model se přitom nemění; mění se způsob, jakým člověk jeho výstup využije.

Kde AI skutečně pomáhá

Jedním z pozitivních výsledků automatizace zpracování mezd je výrazné snížení počtu chyb — až o 78 %, podle Blaira McQuillena ze společnosti Ignite HCM, která poskytuje poradenské služby v oblasti mezd. Nástroj využívající AI ke snižování počtu mzdových chyb v zásadě provádí následující operace, kterými kontroluje a opravuje mzdové systémy:

• Odhalování anomálií spočívá v tom, že algoritmy strojového učení porovnávají mzdy s historickými záznamy a upozorňují na prudké nárůsty částek, duplicitní záznamy a neobvyklé srážky.
• Ověřování údajů v reálném čase znamená, že AI kontroluje jak aktuální údaje o zaměstnancích (například automaticky zaznamenanou docházku), tak zdrojové systémy (například výkazy pracovní doby) a upozorňuje na chyby vzniklé při ručním kopírování a vkládání.
• Předcházení chybám pomocí predikce pomáhá předvídat chyby ještě před uzavřením mezd.
• Dodržování předpisů mohou do určité míry automatizovat také agenti AI. Sledují zaměstnance a výpočty mezd a ihned upozorňují personální oddělení, dokonce ještě před plánovaným čtvrtletním auditem. Pokud má AI při kontrole dodržování předpisů působit jako oznamovatel, je třeba jednoznačně vymezit její možnosti a zajistit, aby se rozhodování skutečně účastnili lidé.
• Prognózy založené na AI předpovídají, jak organizační změny nebo výkyvy na trhu ovlivní mzdové náklady a rozpočty.

Podle zprávy OpenLadger, kterou vydal poskytovatel integrovaného účetního API využívajícího AI, dosáhly společnosti při finančním uzavírání účetních období o 19 % vyšší rychlosti a o 34 % lepšího dodržování rozpočtu.

Když se systém naučí vaše chyby

Většina nástrojů AI pro zpracování mezd se prodává s příslibem průběžného učení. Systém postupem času zjistí, jak vypadá běžné zpracování mezd ve vaší organizaci, a porovnává s ním každé další zpracování. To je opravdu užitečné — a právě tady také začíná nenápadné selhávání.

Systém, který se z historie učí, co je „běžné“, se zároveň učí i chyby, které tato historie obsahuje. Představte si, že se po dobu šesti měsíců nesprávně uplatňuje určitá srážka. Detektor na ni přestane upozorňovat, protože po šesti měsících opakování stejné chyby už nevypadá neobvykle.

Přeshraniční práce tento problém ještě zvýrazňuje. Když vyplácíte dodavatelům v mnoha zemích, různými měnami a různými způsoby, bývá „neobvyklá“ platba často zcela oprávněná: může jít o platbu po dokončení projektového milníku, změnu platebního kanálu, jednorázovou zakázku nebo otevření nové platební trasy. Model nastavený tak, aby omezoval falešně pozitivní výsledky, začne časem potlačovat i ty správné.

Když je výplata pozastavena, označena jako podezřelá nebo upravena, někdo musí vysvětlit proč: dodavateli, který na peníze čeká, auditorovi o několik měsíců později a nakonec i regulačnímu orgánu.

Tři způsoby, jak zajistit kontrolovatelnost automatizace mezd

1. Rozdělte jednotlivé úkoly. Jediný asistent, který načítá data, klasifikuje pracovníky, vypočítává mzdy, kontroluje dodržování předpisů a rozesílá výplatní pásky, se snadno pořizuje, ale obtížně kontroluje. Když je totiž výsledek chybný, nelze zjistit, ve kterém kroku chyba vznikla. Někteří poskytovatelé mzdových systémů už přecházejí k architekturám s více agenty, v nichž se samostatné komponenty starají o načítání výkazů odpracované doby, klasifikaci pracovníků, výpočet mezd, dodržování předpisů a komunikaci a každá z nich zaznamenává svou činnost do sdíleného auditního záznamu. Takové řešení je nákladnější na sestavení, ale náklady se vrátí hned při první žádosti regulačního orgánu o vysvětlení, jak se k určitému rozhodnutí dospělo. Celý řetězec můžete projít krok za krokem.
2. Rozdělujte úkony podle toho, zda je lze vrátit zpět. Model s člověkem zapojeným do procesu, dnes běžný v HR technologiích, rozděluje automatizované úkony do tří kategorií: automaticky provést, předat k posouzení a zablokovat. Kategorie bych určoval podle jediného kritéria: jaké jsou náklady na případnou chybu. Nízce rizikové, vratné úkony, například zasílání připomínek a žádostí o dokumenty nebo kontrola formátování, lze provádět automaticky. U středně rizikových úkonů, jako je pozastavení výplaty do vyjasnění situace nebo žádost o vysvětlení faktury, by měla umělá inteligence připravit podklady a rozhodnutí by měl učinit člověk. Nevratné úkony a vše, co se dotýká něčího živobytí, musí zůstat mimo dosah stroje: ukončení spolupráce, změna statusu pracovníka nebo zadržení mzdy z důvodů dodržování předpisů. Řídím se jednou otázkou: Kdyby se ukázalo, že tento úkon byl chybný, mohli bychom ho vzít zpět dřív, než si toho člověk na druhé straně všimne? Pokud je odpověď ne, musí rozhodnutí schválit člověk.
3. Než začnete systém rozšiřovat, nastavte pravidla jeho řízení. Rámec NIST pro řízení rizik umělé inteligence, o kterém jsem se zmínil dříve, stojí na čtyřech funkcích: řídit, mapovat, měřit a spravovat. V oblasti mezd se z nich stávají čtyři otázky. Kdo odpovídá za výstup: mzdové oddělení, finanční oddělení, oddělení compliance, nebo dodavatel? Podle aktu o umělé inteligenci nese povinnosti provozovatele systému organizace, která systém používá, takže „dodavatel“ nepřipadá v úvahu jako odpověď, ať už dnes označení „připraveno na požadavky aktu EU o umělé inteligenci“ nese kolik chce produktů. Které z vašich nástrojů skutečně využívají umělou inteligenci, když se dnes strojové učení dodává jako součást tolika programů, které byly pořízeny jako systémy založené na pravidlech? Jak často lidé výstupy umělé inteligence přepisují? Právě tuto hodnotu bych sledoval nejpečlivěji, protože míra přepisování blízká nule jen zřídka znamená, že je model bezchybný, a často naopak znamená, že lidé přestali výsledky číst. A jaký je záložní postup, když je model během mzdové uzávěrky nedostupný nebo už jeho výstupům nelze důvěřovat? Ví ještě někdo v týmu, jak zpracovat mzdy ručně? Pro vedoucí pracovníky v oblasti HR a mezd, kteří plánují ve velkém měřítku využívat umělou inteligenci, stojí za to tuto strukturu vybudovat včas.

Éra umělé inteligence dává firmám příležitost věnovat se méně okázalé, ale důležité práci: sestavit přehled nástrojů využívajících umělou inteligenci, vést záznamy zachycující důvody rozhodnutí, nejen výsledky, určit jmenovitě odpovědné osoby za každé automatizované rozhodnutí a pravidelně kontrolovat ukazatele přepisování výstupů umělé inteligence.

Až začnou platit povinnosti pro vysoce rizikové systémy, auditorům už nepůjde o otázku „Používáte umělou inteligenci?“, ale o otázku „Ukažte mi, proč byla tato platba provedena, pozastavena nebo změněna.“ Firmy, které na ni dokážou odpovědět během několika minut, budou schopny úspěšně rozšiřovat automatizaci.