在薪资核算中，最危险的 AI 错误看起来往往毫无问题

薪资核算是少数几种每个错误都带有姓名、金额和日期的业务流程之一。因此，关于薪资核算中的 AI，值得展开更审慎的讨论，因为大多数讨论都集中在 AI 能发现什么。更难回答的问题是：当无人留意时，AI 会改变什么？

我在金融领域工作了十七年，先担任首席财务官，后来着手构建跨境薪资基础设施。这些年来，我逐渐认识到，自动化是一种交换：你放弃看得见的人工操作，换来系统行为中那些看不见的部分。

法规实际要求什么

根据欧盟《人工智能法案》，如果工作场所中的 AI 会协助做出与个人有关的决定，就属于高风险 AI：例如决定谁会被录用、晋升或解雇，如何分配其工作、如何评估其表现，或如何改变其工作条件。这些决定会影响一个人的工作和收入，因此，使用相关工具的公司必须确保由人类掌控，并记录每项决定是如何做出的。默认情况下，薪资核算不在该清单之列，因为按照约定费率计算已获批准的工时，属于算术运算。但当薪资数据开始被用于影响个人的决定，或者一款以“薪资核算”之名销售的工具悄然开始替人做出这些决定时，它就会成为高风险事项。

美国国家标准与技术研究院（NIST）是一个以制定技术和安全标准著称的联邦机构。早在 2023 年，该机构就发布了专门的人工智能风险管理框架，组织可以根据自身情况灵活采用。我将在下文再次谈到这个框架；它为企业提供了一个实用的四步循环。

如今，AI 在薪资核算中可以安全地发挥多大作用

表面上看，薪资核算中的 AI 就像一双更快的手。然而，AI 的超能力，同时也是它的诅咒，就是那种毫无差错、无缝衔接、令人欲罢不能的自动化。系统一旦运行起来，人们就很难看清并纠正它影响最终受益者——职场人士——的种种方式。这就是为什么人力资源领域的 AI 被视为高风险：它会直接影响人们的生计、职场成就和未来职业前景。

大多数薪资工具的处理流程都不长。首先，它们会进行检查和准备，包括比对、标记问题和起草内容。随后，它们开始提出建议，例如建议暂缓一笔款项，或对某张发票提出疑问，同时由人来做决定。到了第三步，工具开始对影响某人工作、身份或收入的事项采取行动；此时它就应该停下来，把决定权交还给人。难点在于，这几个步骤之间的界限会逐渐模糊。第一步中，对异常工时的标记只是无害的核对检查；到了第三步，却可能变成对工作表现的评判。模型本身没有变化；变化的是人们如何利用它的输出。

AI 真正能发挥作用之处

自动化薪资核算的一项积极成果是大幅减少错误——据薪资咨询服务 Ignite HCM 的 Blair McQuillen 称，错误最多可减少 78%。用于减少薪资错误的 AI 工具，基本上会通过以下操作扫描并修正薪资系统：

• 异常检测是指机器学习算法将薪资数据与历史记录进行比对，以指出付款激增、重复条目和异常扣款。
• 实时数据验证是指 AI 同时查看当前员工数据（例如自动记录的出勤情况）和源系统数据（例如工时表），并指出手动复制粘贴造成的错误。
• 预测性错误预防旨在薪资结算完成之前预先发现错误。
• 合规工作也可以在一定程度上由 AI 智能体自动完成。它们会监控员工情况和薪资计算，并立即向人力资源部门发出警报，甚至早于季度审计。若让 AI 充当合规监督中的举报者，就必须明确其能力范围，并确保实际决策由真人参与。
• AI 驱动的预测可以预测组织变动或市场波动将如何影响薪资成本和预算。

根据 AI 驱动的嵌入式会计 API OpenLadger 报告，企业的财务结账速度提高了 19%，预算遵守情况改善了 34%。

当基准开始学习你的错误

大多数薪资 AI 产品都以持续学习为卖点。随着时间推移，系统会摸清你的组织通常会如何处理薪资，并据此评估每次运行的结果。这确实很有用，而悄无声息的失效也正是从这里开始的。

一个从历史数据中学习“常态”的系统，也会学到这些历史数据中的错误。假设某项扣款连续六个月都被错误地执行。检测器就会停止标记它，因为同样的错误持续了六个月之后，它看起来已不再异常。

跨境业务会让这个问题更加突出。当你在许多国家、使用多种货币和付款方式向承包商付款时，“异常”往往其实合情合理：项目里程碑、切换支付渠道、一次性合作，或新支付通道的开通。经过足够长的时间后，一个为减少误报而调优的模型会开始连同误报一起压制真正的问题。

当一笔款项被暂缓、标记或调整时，必须有人说明原因：向等待收款的承包人员说明，向数月后进行审计的审计人员说明，最终还要向监管机构说明。

确保工资自动化可审计的三种方法

1. 分开处理各项工作。 一个助手包办数据导入、员工分类、工资计算、合规检查和工资单发送，采购起来很方便，却难以审计，因为一旦输出有误，就无法判断错误出在哪个环节。一些薪资服务供应商已经开始采用多智能体设计，由不同组件分别负责工时表导入、员工分类、工资计算、合规检查和沟通，并由每个组件将记录写入共享审计轨迹。这种架构的搭建成本更高，但监管机构第一次询问某项决定是如何作出时，就能收回这笔投入。你可以逐步追溯整个流程。
2. 根据操作的可逆性分级。 如今在人力资源技术领域颇为常见的人工参与式模式，会将自动化操作分为三个级别：自动执行、升级处理和拦截。我会依据一个标准来划分级别：出错的代价。提醒、索取文件和格式检查等低风险、可逆的操作，可以自动执行。暂缓付款以待澄清或询问发票等中等风险操作，应由人工智能整理证据，再由人来作决定。不可逆的操作，以及任何影响他人生计的操作，都不应交由机器处理：终止合作关系、变更员工身份，或因合规原因扣留工资。我采用的判断标准只有一个问题：如果事后发现这项操作有误，我们能否在对方察觉之前撤销？如果答案是否定的，就必须由人审核批准。
3. 先做好治理，再扩大规模。我之前提到的NIST人工智能风险管理框架由四项职能构成：治理、识别、衡量、管理。放在薪资管理中，这四项职能可以转化为四个问题。谁对输出结果负责：薪资部门、财务部门、合规部门，还是供应商？根据《人工智能法案》，部署者的义务由运行该系统的组织承担，因此，无论如今有多少产品贴着“符合欧盟《人工智能法案》要求”的标识，“供应商”都不是可接受的答案。考虑到如今许多按规则运行的软件中都内置了机器学习，你的哪些工具实际上使用了人工智能？人们多久会推翻人工智能的决定？这是我最关注的指标，因为推翻率接近零，很少意味着模型毫无瑕疵，更多时候意味着人们已经不再审阅结果。如果模型在工资结算期间不可用，或者其输出结果已不再可信，有什么备用方案？团队里还有人知道如何手动处理工资吗？对于计划大规模使用人工智能的人力资源和薪资管理负责人来说，尽早建立这套治理框架很有价值。

人工智能时代为企业留出了时间，去完成那些不起眼却必不可少的工作：盘点启用了人工智能的工具，建立记录推理过程而不只是结果的日志，为每项自动化决策指定负责人，并定期审查人工干预指标。

等到高风险义务开始适用时，审计人员问的就不会是“你们使用人工智能吗？”，而会是“请说明这笔款项为何支付、暂缓或变更。”能够在几分钟内作出回答的企业，才能成功扩大自动化应用规模。