給与計算で最も危険なAIのエラーは、正しく見える

給与計算は、あらゆるミスに名前、金額、日付が伴う数少ない業務プロセスの一つです。だからこそ、給与計算におけるAIについては、より慎重に議論する必要があります。議論の多くは、AIが何を検知するかに集中しているからです。より難しい問いは、誰も見ていない間にAIが何を変えているのか、ということです。

私は財務分野で17年間、まずCFOとして働き、その後、国境を越えた給与計算のインフラ構築に携わってきました。その間に、オートメーションとは取引のようなものだと考えるようになりました。目に見える手作業を手放す代わりに、目に見えないシステムの挙動を引き受けるのです。

規制が実際に求めていること

EUのAI法によると、職場のAIが、誰を採用・昇進・解雇するか、仕事をどう割り当てるか、業績をどう評価するか、あるいは労働条件をどう変更するかなど、個人に関する判断を支援する場合、そのAIは高リスクに分類されます。こうした判断は人の仕事や収入を左右するため、ツールを利用する企業は、人間が判断を管理し、個々の判断がどのように行われたかを記録しておかなければなりません。合意済みの単価を承認済みの労働時間に適用する給与計算は、算術処理であるため、原則としてこのリストには含まれません。しかし、給与データが人に関する判断に使われ始めたり、「給与計算」用として販売されたツールがひそかにそうした判断を下し始めたりすると、高リスクになります。

米国では、技術基準やセキュリティ基準の策定で知られる連邦機関、米国国立標準技術研究所（NIST）が2023年に、組織がそれぞれの状況に合わせて容易に適用できる専用のAIリスク管理フレームワークを公表しました。このフレームワークは、実践的な4段階のサイクルを企業に示しており、後ほど改めて取り上げます。

今日、給与計算でAIを安全に活用できる範囲

表面的には、給与計算におけるAIは、より速く働く人手のように見えます。しかし、AIの強みであると同時に厄介な点でもあるのが、完璧でシームレス、そしてやみつきになるほどの自動化です。システムが稼働し始めると、最終的な受益者である職場で働く人々に、どのような影響を及ぼしているのかをすべて把握し、修正するのは困難です。人事分野のAIが高リスクと見なされるのはこのためです。人々の生計、職場での成功、将来のキャリアの見通しに直接影響するからです。

多くの給与計算ツールがたどる工程は短いものです。まず、データを照合して問題に印を付け、書類を作成するなど、確認と準備を行います。次に、人が判断する一方で、支払いを保留したり請求書に疑義を示したりするよう提案し始めます。さらに、ツールが人の仕事、地位、収入に影響する事柄に介入する第3段階では、そこで処理を止め、判断を人に戻すべきです。難しいのは、こうした段階の境目が曖昧になることです。通常と異なる労働時間へのフラグ付けは、第1段階では無害な照合作業ですが、第3段階では業績評価になります。段階が変わってもモデル自体は変わりません。変わるのは、人がその出力をどう使うかです。

AIが本当に役立つ場面

給与計算の自動化がもたらす好ましい効果の一つは、エラーを大幅に削減できることです。給与計算コンサルティングサービスIgnite HCMのBlair McQuillenによると、削減率は最大78%に達します。給与計算のエラー削減を目的とするAI搭載ツールは、基本的に次の処理を実行し、給与計算システムをスキャンして問題を修正します。

• 異常検知とは、機械学習アルゴリズムが給与データを過去の記録と比較し、支給額の急増、重複入力、通常と異なる控除を指摘することです。
• リアルタイムのデータ検証とは、AIが従業員の現在のデータ（自動記録された出勤状況など）と、タイムシートなどの情報源となるシステムの両方を確認し、手作業でのコピー＆ペーストによるミスを指摘することです。
• 予測によるエラー防止は、給与計算が確定する前にエラーを予測するものです。
• コンプライアンスも、AIエージェントによってある程度自動化できます。AIエージェントは従業員や給与計算を監視し、四半期監査を待たずに人事部門へ直ちに警告します。AIを内部告発者としてコンプライアンス業務に導入するには、その能力を明確に定義し、実際の人間が意思決定に関与する体制を整える必要があります。
• AIによる予測は、組織の変化や市場の変動が給与コストや予算に及ぼす影響を予測します。

AI搭載の組み込み型会計APIであるOpenLadgerのレポートによると、企業では財務締めの期間が19%短縮し、予算の遵守率が34%向上しました。

基準値が過去のミスを学習するとき

多くの給与計算AIは、継続的に学習することを売りにしています。時間がたつにつれ、システムは組織にとって通常の給与計算がどのようなものかを把握し、実行のたびにそれと照らし合わせます。これは確かに有用ですが、静かに問題が始まるのもここです。

過去のデータから「通常」を学習するシステムは、その履歴に含まれるエラーも学習します。控除が6か月間にわたって誤って適用されていたとします。検知システムはその控除への警告をやめます。同じミスが6か月続けば、もはや異常に見えなくなるからです。

国境を越えた業務では、この問題がいっそう顕著になります。多くの国、通貨、支払い方法を使って請負業者に支払う場合、「通常と異なる」ことが正当な理由によるケースは少なくありません。プロジェクトのマイルストーン、決済手段の切り替え、単発の業務、新たな決済ルートの開設などがその例です。誤検知を減らすよう調整されたモデルは、十分な時間がたつと、真の異常も誤検知とともに抑制し始めます。

支払いが保留されたり、フラグが立てられたり、金額が調整されたりした場合、誰かがその理由を説明しなければなりません。支払いを待つ契約社員に、数カ月後には監査担当者に、そして最終的には規制当局に説明する必要があります。

給与計算の自動化を監査可能に保つ3つの方法

1. 業務を分ける。データの取り込み、労働者の分類、給与計算、コンプライアンス確認、給与明細の送付を一手に担う単一のアシスタントは、導入しやすい一方で監査が困難です。出力に誤りがあったとき、どの段階でエラーが生じたのか特定できないからです。一部の給与計算ベンダーはすでにマルチエージェント方式へ移行しており、タイムシートの取り込み、労働者の分類、給与計算、コンプライアンス、コミュニケーションを個別のコンポーネントが担当し、それぞれが共通の監査証跡に記録を残します。この仕組みは構築により多くの費用がかかりますが、規制当局から意思決定の経緯を尋ねられたとき、最初の一度でそのコストに見合う価値が得られます。処理の流れを一段階ずつたどることができます。
2. 取り消しやすさに応じてアクションを段階分けする。HRテクノロジーで現在一般的な、人間が介在するモデルでは、自動化されたアクションを「自動実行」「エスカレーション」「ブロック」の3段階に分けます。私は、誤った場合の損失という単一の基準で段階を決めます。リスクが低く、取り消し可能なアクション、たとえばリマインダーの送信、書類の依頼、書式の確認などは、自動で実行できます。支払いを確認のために保留したり、請求書について問い合わせたりするような中程度のリスクを伴うアクションでは、AIが根拠を準備し、人が判断すべきです。取り消せないアクションや、誰かの生活に関わるものは、機械に任せてはなりません。契約の終了、労働者のステータス変更、コンプライアンス上の理由による給与の差し止めなどが該当します。私が判断基準にしているのは、次の問いです。このアクションが誤りだと判明した場合、相手が気づく前に取り消せるでしょうか。答えが「いいえ」なら、人が承認します。
3. 規模を拡大する前にガバナンスを整える。先ほど触れたNIST AI Risk Management Frameworkは、「ガバナンス」「マッピング」「測定」「管理」の4つの機能で構成されています。給与計算に当てはめると、4つの問いになります。出力に責任を持つのは誰でしょうか。給与計算部門、財務部門、コンプライアンス部門、それともベンダーでしょうか。AI法の下では、導入者の義務を負うのはシステムを運用する組織です。そのため、製品に「EU AI Act対応」のバッジがいくつ付いていても、「ベンダー」は答えになりません。ルールベースのソフトウェアとして購入した製品に機械学習がどれほど組み込まれているかを踏まえ、実際にAIを使っているツールはどれでしょうか。人々がAIの判断をどれほど頻繁に覆しているでしょうか。私はこの数値を最も注意深く見ます。なぜなら、上書き率がほぼゼロであっても、モデルにまったく欠陥がないとは限らず、人間が確認をやめてしまったことを示している場合も多いからです。また、月次締めの最中にモデルが利用できなくなった場合や、その出力をもはや信頼できなくなった場合、代替手段は何でしょうか。チームには、今も手作業で給与計算を行う方法を知っている人がいるでしょうか。AIを大規模に活用する計画がある人事・給与計算部門のリーダーにとって、この体制は早い段階で整える価値があります。

AI時代の今、企業には、AI搭載ツールの一覧を作成し、結果だけでなく推論の過程も記録するログを整備し、自動化されたすべての意思決定に責任者を明確に定め、上書き率の指標を定期的に確認するという、華やかさはないものの重要な取り組みを進める機会があります。

高リスクの義務が適用される頃には、監査担当者の問いは「AIを使っていますか？」ではなく、「この支払いが実行、保留、または変更された理由を示してください」になるでしょう。数分以内に答えられる企業は、自動化の規模をうまく拡大できるでしょう。