In der Lohnabrechnung sehen die gefährlichsten KI-Fehler richtig aus

Die Lohnabrechnung ist einer der wenigen Geschäftsprozesse, bei denen jeder Fehler mit einem Namen, einem Betrag und einem Datum verbunden ist. Deshalb verdient der Einsatz von KI in der Lohnabrechnung eine genauere Betrachtung, denn in den meisten Diskussionen geht es darum, was KI erkennt. Die schwierigere Frage ist, was KI verändert, während niemand hinsieht.

Ich bin seit siebzehn Jahren im Finanzwesen tätig, zunächst als CFO und später mit dem Aufbau einer grenzüberschreitenden Infrastruktur für die Lohnabrechnung. In dieser Zeit habe ich gelernt, Automatisierung als Tauschgeschäft zu betrachten: Man gibt sichtbare manuelle Arbeit auf und erhält dafür unsichtbares Systemverhalten.

Was die Regulierung tatsächlich verlangt

Laut der EU-KI-Verordnung gilt KI am Arbeitsplatz als Hochrisiko-KI, wenn sie dabei hilft, Entscheidungen über eine Person zu treffen: wer eingestellt, befördert oder entlassen wird, wie die Arbeit zugeteilt wird, wie die Leistung beurteilt wird oder wie sich die Arbeitsbedingungen ändern. Diese Entscheidungen prägen den Arbeitsplatz und das Einkommen einer Person. Deshalb muss das Unternehmen, das das Tool einsetzt, die Kontrolle bei einem Menschen belassen und dokumentieren, wie jede Entscheidung zustande kam. Die Berechnung der Lohnabrechnung fällt nicht grundsätzlich darunter, denn vereinbarte Sätze auf genehmigte Arbeitsstunden anzuwenden, ist reine Arithmetik. Zum Hochrisiko wird sie, wenn Daten aus der Lohnabrechnung in Entscheidungen über Menschen einfließen oder wenn ein als „Lohnabrechnung“ verkauftes Tool unbemerkt beginnt, solche Entscheidungen zu treffen.

In den USA veröffentlichte das National Institute of Standards and Technology (NIST), eine Bundesbehörde, die für technische Standards und Sicherheitsstandards bekannt ist, bereits 2023 ein eigenes Rahmenwerk für KI-Risikomanagement, das Organisationen leicht an ihre jeweiligen Gegebenheiten anpassen können. Es bietet Unternehmen einen praxisorientierten Ablauf in vier Schritten, auf den ich weiter unten zurückkomme.

Wie weit KI heute in der Lohnabrechnung sicher gehen kann

Oberflächlich betrachtet wirkt KI in der Lohnabrechnung wie ein schnelleres Paar Hände. Doch die Superkraft und zugleich der Fluch der KI ist eine fehlerfreie, nahtlose und süchtig machende Automatisierung. Sobald das System läuft, lassen sich all die Arten, auf die es sich auf die letztlich Betroffenen auswirkt – die Menschen bei der Arbeit –, nur schwer erkennen und korrigieren. Deshalb gilt KI im Personalwesen als Hochrisiko: Sie wirkt sich direkt auf den Lebensunterhalt, den Erfolg im Beruf und die künftigen Karrierechancen von Menschen aus.

Die meisten Lohnabrechnungstools durchlaufen nur wenige Schritte. Zunächst prüfen und bereiten sie Daten auf, vergleichen sie, markieren Auffälligkeiten und erstellen Entwürfe. Anschließend beginnen sie, Empfehlungen auszusprechen – etwa eine Auszahlung zurückzuhalten oder eine Rechnung zu beanstanden –, während ein Mensch die Entscheidung trifft. Beim dritten Schritt sollte Schluss sein: Wenn das Tool selbst Maßnahmen ergreift, die sich auf den Arbeitsplatz, den Status oder das Einkommen einer Person auswirken, sollte es die Entscheidung wieder einem Menschen überlassen. Schwierig ist, dass diese Schritte ineinander übergehen. Eine Markierung ungewöhnlicher Arbeitsstunden ist im ersten Schritt eine harmlose Abstimmungsprüfung, im dritten hingegen eine Beurteilung der Arbeitsleistung. Das Modell ändert sich dabei nicht; anders ist nur, wie ein Mensch seine Ergebnisse nutzt.

Wo KI wirklich hilft

Ein positiver Effekt der automatisierten Lohnabrechnung ist die deutliche Verringerung von Fehlern – laut Blair McQuillen von Ignite HCM, einem Beratungsdienst für Lohnabrechnung, um bis zu 78 %. Ein KI-gestütztes Tool zur Verringerung von Fehlern in der Lohnabrechnung führt im Wesentlichen die folgenden Vorgänge durch, um Lohnabrechnungssysteme zu überprüfen und Fehler zu beheben:

• Die Erkennung von Anomalien beruht darauf, dass Algorithmen des maschinellen Lernens die Lohnabrechnung mit historischen Daten vergleichen und auf Zahlungsspitzen, doppelte Einträge und ungewöhnliche Abzüge hinweisen.
• Echtzeitvalidierung von Daten bedeutet, dass die KI sowohl aktuelle Beschäftigtendaten (z. B. automatisch erfasste Anwesenheit) als auch Quellsysteme (z. B. Stundenzettel) prüft und auf manuelle Fehler beim Kopieren und Einfügen hinweist.
• Die vorausschauende Fehlervermeidung soll Fehler erkennen, bevor die Lohnabrechnung abgeschlossen wird.
• Auch die Einhaltung von Vorschriften lässt sich teilweise durch KI-Agenten automatisieren. Sie überwachen Personal- und Lohnabrechnungen und benachrichtigen die Personalabteilung umgehend – noch bevor ein Quartalsprüfungsbericht ansteht. KI als Hinweisgeber für die Compliance einzusetzen, setzt voraus, ihre Fähigkeiten eindeutig zu definieren und sicherzustellen, dass Menschen an den Entscheidungen beteiligt bleiben.
• KI-gestützte Prognosen sagen voraus, wie sich Veränderungen in der Organisation oder Marktschwankungen auf Lohnkosten und Budgets auswirken werden.

Laut dem Bericht von OpenLadger, einem KI-gestützten, eingebetteten Buchhaltungs-API, schlossen Unternehmen ihre Finanzabschlüsse 19 % schneller ab und verbesserten die Einhaltung ihrer Budgets um 34 %.

Wenn der Referenzwert aus Ihren Fehlern lernt

Die meisten KI-Systeme für die Lohnabrechnung werden mit kontinuierlichem Lernen beworben. Mit der Zeit ermittelt das System, wie eine normale Lohnabrechnung in Ihrem Unternehmen aussieht, und vergleicht jeden Durchlauf damit. Das ist tatsächlich nützlich – und zugleich der Punkt, an dem das schleichende Versagen beginnt.

Ein System, das aus der Vergangenheit lernt, was „normal“ ist, lernt auch die Fehler, die in dieser Vergangenheit stecken. Angenommen, ein Abzug wurde sechs Monate lang falsch berechnet. Das Erkennungssystem schlägt nicht mehr darauf an, weil derselbe Fehler über sechs Monate hinweg nicht länger ungewöhnlich erscheint.

Bei grenzüberschreitender Arbeit verschärft sich das Problem. Wenn Sie Auftragnehmer in vielen Ländern bezahlen und dabei unterschiedliche Währungen und Auszahlungsmethoden nutzen, ist etwas „Ungewöhnliches“ oft völlig legitim: ein Projektmeilenstein, ein Wechsel des Zahlungswegs, ein einmaliger Auftrag oder ein neu eröffneter Zahlungskorridor. Ein Modell, das darauf ausgelegt ist, Fehlalarme zu reduzieren, beginnt mit der Zeit, auch echte Auffälligkeiten zu unterdrücken.

Wenn eine Auszahlung zurückgehalten, markiert oder angepasst wird, muss jemand erklären, warum: dem Auftragnehmer, der auf sein Geld wartet, einem Monate später prüfenden Auditor und schließlich einer Aufsichtsbehörde.

Drei Wege, die Automatisierung der Lohnabrechnung nachvollziehbar zu halten

1. Aufgaben trennen. Ein einzelner Assistent, der Daten einliest, Beschäftigte einstuft, Löhne berechnet, die Einhaltung von Vorschriften prüft und Lohnabrechnungen versendet, ist zwar bequem in der Anschaffung, aber schwer zu prüfen. Denn wenn das Ergebnis falsch ist, lässt sich nicht erkennen, welcher Schritt den Fehler verursacht hat. Einige Anbieter von Lohnabrechnungssoftware setzen bereits auf Multi-Agenten-Architekturen, bei denen separate Komponenten die Erfassung von Arbeitszeitnachweisen, die Einstufung von Beschäftigten, die Lohnberechnung, die Compliance-Prüfung und die Kommunikation übernehmen und jeweils in einem gemeinsamen Prüfprotokoll dokumentieren. Der Aufbau kostet mehr, doch diese Investition macht sich bezahlt, sobald eine Aufsichtsbehörde zum ersten Mal wissen will, wie eine Entscheidung zustande kam. So lässt sich die gesamte Prozesskette Schritt für Schritt nachvollziehen.
2. Aktionen nach ihrer Umkehrbarkeit staffeln. Ein in der HR-Technologie inzwischen verbreitetes Mensch-in-der-Schleife-Modell unterteilt automatisierte Aktionen in drei Stufen: automatisch ausführen, eskalieren und blockieren. Maßgeblich für die Zuordnung sollte meiner Ansicht nach ein einziges Kriterium sein: die Folgen eines Fehlers. Aktionen mit geringem Risiko, die sich rückgängig machen lassen – etwa Erinnerungen, Dokumentenanforderungen und Formatierungsprüfungen –, können automatisch ausgeführt werden. Bei Aktionen mit mittlerem Risiko, etwa wenn eine Auszahlung zur Klärung zurückgehalten oder eine Rechnung beanstandet wird, sollte die KI die Belege zusammenstellen und ein Mensch die Entscheidung treffen. Unumkehrbare Aktionen und alles, was die Existenzgrundlage eines Menschen berührt, müssen für die Maschine tabu bleiben: einen Auftrag beenden, den Status einer beschäftigten Person ändern oder aus Compliance-Gründen Lohn einbehalten. Ich stelle mir dazu eine Frage: Könnten wir die Aktion rückgängig machen, bevor die betroffene Person bemerkt, dass etwas nicht stimmt? Wenn die Antwort Nein lautet, muss ein Mensch die Freigabe erteilen.
3. Erst klare Regeln schaffen, dann skalieren. Das zuvor erwähnte NIST-Rahmenwerk für das KI-Risikomanagement basiert auf vier Funktionen: Steuern, Zuordnen, Messen und Managen. Auf die Lohnabrechnung übertragen, ergeben sich daraus vier Fragen. Wer trägt die Verantwortung für das Ergebnis: die Lohnbuchhaltung, die Finanzabteilung, die Compliance-Abteilung oder der Anbieter? Nach der KI-Verordnung liegen die Pflichten des Betreibers bei der Organisation, die das System einsetzt. „Der Anbieter“ ist also keine mögliche Antwort – auch wenn inzwischen viele Produkte mit dem Siegel „bereit für die EU-KI-Verordnung“ werben. Welche Ihrer Tools nutzen tatsächlich KI, wenn doch inzwischen so viel maschinelles Lernen in Software steckt, die als regelbasiert gekauft wurde? Wie oft setzen Mitarbeitende die Entscheidungen der KI außer Kraft? Diese Zahl würde ich besonders aufmerksam verfolgen, denn eine nahezu nullprozentige Eingriffsquote bedeutet selten, dass das Modell fehlerfrei ist, und oft, dass die Menschen aufgehört haben, die Ergebnisse zu prüfen. Und auf welches Verfahren wird zurückgegriffen, wenn das Modell während des Abrechnungslaufs nicht verfügbar ist oder seinen Ergebnissen nicht mehr vertraut werden kann? Weiß überhaupt noch jemand im Team, wie sich die Lohnabrechnung manuell durchführen lässt? Für Führungskräfte aus HR und Lohnabrechnung, die KI in großem Umfang einsetzen wollen, lohnt es sich, diese Strukturen frühzeitig aufzubauen.

Das KI-Zeitalter bietet Unternehmen Gelegenheit, die wenig glamouröse Grundlagenarbeit zu erledigen: ein Verzeichnis KI-gestützter Tools, Protokolle, die Entscheidungsgründe statt nur Ergebnisse festhalten, namentlich benannte Verantwortliche für jede automatisierte Entscheidung und Kennzahlen dazu, wie oft Entscheidungen außer Kraft gesetzt werden und regelmäßig überprüft werden.

Wenn die Pflichten für Hochrisiko-KI gelten, werden Auditoren nicht fragen: „Nutzen Sie KI?“ Sie werden sagen: „Zeigen Sie mir, warum diese Zahlung geleistet, zurückgehalten oder geändert wurde.“ Unternehmen, die diese Frage innerhalb weniger Minuten beantworten können, werden ihre Automatisierung erfolgreich ausbauen.