В расчёте зарплаты самые опасные ошибки ИИ выглядят правильными

Расчёт зарплаты — один из немногих бизнес-процессов, где у каждой ошибки есть имя, сумма и дата. Именно поэтому применение ИИ в расчёте зарплаты заслуживает более внимательного обсуждения: в большинстве разговоров речь идёт о том, что ИИ выявляет. Но важнее спросить, что меняет ИИ, когда никто за ним не наблюдает.

Я проработал в финансовой сфере семнадцать лет: сначала финансовым директором, а затем занимался созданием инфраструктуры для расчёта зарплаты в разных странах. За это время я привык рассматривать автоматизацию как обмен: взамен видимой ручной работы приходится иметь дело с незаметным поведением системы.

Что на самом деле требует регулирование

Согласно Закону ЕС об искусственном интеллекте, ИИ на рабочем месте считается высокорисковым, если с его помощью принимают решения о человеке: кого нанять, повысить или уволить, как распределить работу, как оценить результаты труда или как изменить условия работы. Такие решения влияют на должность и доход человека, поэтому компания, использующая этот инструмент, должна обеспечить контроль со стороны человека и вести учёт того, как было принято каждое решение. Расчёт зарплаты сам по себе не относится к этой категории: применение согласованных ставок к утверждённым часам работы — это арифметика. Высокорисковым он становится, когда данные о зарплате начинают использовать для принятия решений о людях или когда инструмент, продаваемый как средство «для расчёта зарплаты», незаметно начинает принимать такие решения.

В США Национальный институт стандартов и технологий (NIST), федеральное агентство, известное разработкой технических стандартов и стандартов безопасности, ещё в 2023 году опубликовал специальную Рамочную структуру управления рисками ИИ, которую организации могут адаптировать к своим условиям. Она предлагает компаниям практический цикл из четырёх этапов, к которому я вернусь ниже.

Как далеко сегодня может безопасно зайти ИИ в расчёте зарплаты

На первый взгляд ИИ в расчёте зарплаты похож на более расторопного помощника. Однако сверхспособность ИИ и одновременно его проклятие — безупречная, бесперебойная и затягивающая автоматизация. Когда система запущена, трудно заметить и исправить все способы, которыми она влияет на тех, кому в конечном счёте служит, — людей на работе. Именно поэтому ИИ в сфере управления персоналом считается высокорисковым: он напрямую влияет на средства к существованию людей, их успех на рабочем месте и будущие карьерные перспективы.

Большинство инструментов для расчёта зарплаты проходит короткий путь. Сначала они проверяют и подготавливают данные: сверяют их, отмечают отклонения и готовят документы. Затем начинают давать рекомендации — например, предлагают задержать выплату или запросить разъяснения по счёту, а решение принимает человек. На третьем этапе инструмент уже действует в отношении того, что влияет на должность, статус или доход человека; здесь он должен остановиться и передать решение человеку. Сложность в том, что эти этапы постепенно сливаются. На первом этапе отметка о необычно большом количестве отработанных часов — безобидная проверка при сверке данных, а на третьем — оценка результатов работы. Модель при этом не меняется; меняется то, как человек использует её результат.

В чём ИИ действительно помогает

Одно из преимуществ автоматизированного расчёта зарплаты — значительное сокращение числа ошибок: до 78%, по словам Blair McQuillen из Ignite HCM, консалтинговой компании в сфере расчёта зарплаты. Инструмент на базе ИИ, предназначенный для сокращения числа ошибок при расчёте зарплаты, выполняет следующие операции для проверки и исправления систем расчёта зарплаты:

• Выявление аномалий — это когда алгоритмы машинного обучения сопоставляют данные о зарплате с историческими записями и указывают на резкие скачки выплат, дублирующиеся записи и необычные удержания.
• Проверка данных в режиме реального времени означает, что ИИ анализирует как текущие данные о сотрудниках (например, автоматически зарегистрированные сведения о посещаемости), так и данные из исходных систем (например, табели учёта рабочего времени), выявляя ошибки ручного копирования и вставки.
• Прогнозирование и предотвращение ошибок позволяет выявлять возможные ошибки до окончательного расчёта зарплаты.
• Соблюдение нормативных требований также можно в определённой степени автоматизировать с помощью ИИ-агентов. Они отслеживают работу персонала и расчёты зарплаты и сразу же сообщают об этом отделу кадров, даже до проведения ежеквартального аудита. Использование ИИ для контроля соблюдения требований в роли информатора означает необходимость чётко определить его возможности и обеспечить участие людей в принятии решений.
• Прогнозирование на основе ИИ позволяет предсказать, как организационные изменения или колебания рынка повлияют на расходы на зарплату и бюджеты.

Согласно отчёту OpenLadger, представляющему собой встроенный API бухгалтерского учёта на базе ИИ, компании на 19% быстрее завершали финансовое закрытие и на 34% лучше соблюдали бюджеты.

Когда система принимает ваши ошибки за норму

Большинство систем ИИ для расчёта зарплаты продвигают как решения с непрерывным обучением. Со временем система определяет, как выглядит нормальный расчёт зарплаты в вашей организации, и сравнивает с ним каждый новый расчёт. Это действительно полезно, но именно здесь и начинается незаметный сбой.

Система, которая учится определять «норму» на основе истории, перенимает и ошибки из этой истории. Допустим, удержание применяли неправильно в течение шести месяцев. Система перестаёт отмечать его как ошибку, потому что на фоне шести месяцев повторения одной и той же ошибки оно уже не кажется необычным.

При трансграничной работе проблема становится острее. Если вы платите подрядчикам во многих странах, в разных валютах и разными способами, то «необычное» зачастую вполне объяснимо: этап проекта, смена платёжной системы, разовый заказ или появление нового платёжного коридора. Модель, настроенная на сокращение числа ложных срабатываний, со временем начнёт подавлять и настоящие сигналы.

Когда выплату приостанавливают, отмечают или корректируют, кто-то должен объяснить причину: подрядчику, который ждет денег, аудитору — несколько месяцев спустя, а в конечном счете и регулирующему органу.

Три способа обеспечить проверяемость автоматизации расчета зарплаты

1. Разделите задачи. Одного помощника, который загружает данные, классифицирует работников, рассчитывает зарплату, проверяет соблюдение требований и отправляет расчетные листки, удобно приобрести, но трудно проверить: если результат окажется неверным, невозможно понять, на каком этапе возникла ошибка. Некоторые поставщики решений для расчета зарплаты уже переходят к многоагентным архитектурам, в которых отдельные компоненты отвечают за загрузку табелей, классификацию работников, расчет зарплаты, проверку соблюдения требований и коммуникацию, а каждый из них вносит записи в общий журнал аудита. Такая архитектура обходится дороже при разработке, но эти затраты окупаются уже при первом обращении регулирующего органа с вопросом о том, как было принято решение. Всю цепочку можно проверить шаг за шагом.
2. Распределяйте действия по степени обратимости. Распространенная сейчас в HR-технологиях модель с участием человека делит автоматизированные действия на три уровня: выполнять автоматически, передавать на рассмотрение и блокировать. Я бы распределял действия по уровням, исходя из одного критерия — цены ошибки. Действия с низким риском, которые можно отменить, например напоминания, запросы документов и проверка форматирования, можно выполнять автоматически. При действиях со средним риском, например приостановке выплаты до получения разъяснений или запросе уточнений по счету, ИИ должен подготовить материалы, а решение должен принять человек. Необратимые действия и любые действия, затрагивающие средства к существованию человека, должны оставаться недоступными для машины: прекращение сотрудничества, изменение статуса работника, удержание зарплаты по соображениям соблюдения требований. Я проверяю это одним вопросом: если окажется, что действие было ошибочным, сможем ли мы отменить его до того, как это заметит человек, которого оно затронуло? Если нет, окончательное одобрение должен дать человек.
3. Сначала выстройте систему управления, затем масштабируйте ее. Упомянутая мной ранее структура NIST по управлению рисками ИИ основана на четырех функциях: управление, определение контекста, измерение и управление рисками. В контексте расчета зарплаты они сводятся к четырем вопросам. Кто отвечает за результат: отдел расчета зарплаты, финансовый отдел, отдел по соблюдению требований или поставщик? Согласно Закону об ИИ, обязанности организации, внедряющей систему, возлагаются на организацию, которая ее использует, поэтому ответ «поставщик» не подходит, сколько бы продуктов ни получали отметку «готово к Закону ЕС об ИИ». Какие из ваших инструментов действительно используют ИИ, учитывая, как часто машинное обучение теперь встроено в программное обеспечение, которое приобретают как основанное на правилах? Как часто люди отменяют решения ИИ? Именно за этим показателем я бы следил особенно внимательно: почти нулевой уровень отмен редко означает, что модель безупречна, и часто говорит о том, что люди перестали проверять ее результаты. И каков запасной вариант, если модель недоступна во время закрытия расчетного периода или ее результатам больше нельзя доверять? Знает ли кто-нибудь в команде, как до сих пор рассчитывать зарплату вручную? Руководителям отделов кадров и расчета зарплаты, планирующим масштабное использование ИИ, стоит заранее выстроить такую систему.

Эпоха ИИ дает компаниям возможность заняться неприметной, но необходимой работой: составить перечень инструментов с ИИ, вести журналы, фиксирующие ход рассуждений, а не только результаты, назначить ответственных за каждое автоматизированное решение и регулярно проверять показатели отмены решений ИИ.

Когда начнут действовать требования для систем высокого риска, аудиторы будут спрашивать не «Используете ли вы ИИ?», а «Покажите, почему эта выплата была произведена, приостановлена или изменена». Компании, которые смогут ответить за несколько минут, успешно масштабируют автоматизацию.