En nómina, los errores de IA más peligrosos parecen correctos

La nómina es uno de los pocos procesos empresariales en los que cada error lleva un nombre, un importe y una fecha. Por eso, la IA aplicada a la nómina merece un análisis más detenido, ya que la mayor parte del debate se centra en lo que detecta. La pregunta más difícil es qué cambia la IA cuando nadie está mirando.

He trabajado diecisiete años en finanzas, primero como director financiero y después creando infraestructura de nómina transfronteriza. En ese tiempo, he aprendido a considerar la automatización un intercambio: se renuncia al trabajo manual visible y, a cambio, se asume el comportamiento invisible del sistema.

Qué exige realmente la regulación

Según el Reglamento de IA de la UE, la IA en el ámbito laboral es de alto riesgo cuando ayuda a tomar decisiones sobre una persona: quién es contratado, ascendido o despedido; cómo se asigna su trabajo; cómo se evalúa su desempeño; o cómo cambian las condiciones de su trabajo. Estas decisiones afectan el empleo y los ingresos de una persona, por lo que la empresa que utiliza la herramienta debe mantener el control humano y dejar constancia de cómo se tomó cada decisión. El cálculo de la nómina no figura por defecto en esa lista, porque aplicar las tarifas acordadas a las horas aprobadas es una operación aritmética. Pasa a ser de alto riesgo cuando los datos de nómina empiezan a alimentar decisiones sobre las personas o cuando una herramienta comercializada como «nómina» empieza a tomarlas discretamente.

En Estados Unidos, el Instituto Nacional de Estándares y Tecnología (NIST), una agencia federal conocida por establecer normas técnicas y de seguridad, publicó en 2023 un Marco de gestión de riesgos de IA específico que las organizaciones pueden adaptar fácilmente a sus propias circunstancias. Ofrece a las empresas un ciclo práctico de cuatro pasos, al que volveré más adelante.

Hasta dónde puede llegar hoy la IA en la nómina de forma segura

A primera vista, la IA aplicada a la nómina parece un par de manos más rápido. Sin embargo, el superpoder de la IA y, al mismo tiempo, su maldición es una automatización impecable, fluida y adictiva. Una vez que el sistema está en marcha, resulta difícil detectar y corregir todas las formas en que afecta a sus beneficiarios finales: las personas trabajadoras. Por eso se considera que la IA en recursos humanos es de alto riesgo: afecta directamente al sustento de las personas, a su éxito en el trabajo y a sus perspectivas profesionales futuras.

La mayoría de las herramientas de nómina siguen un recorrido breve. Primero revisan y preparan, comparan, señalan incidencias y redactan borradores. Después empiezan a recomendar: sugieren retener un pago o cuestionar una factura mientras una persona toma la decisión. El tercer paso, en el que la herramienta actúa sobre algo que afecta al empleo, la situación o los ingresos de una persona, es el punto en el que debería detenerse y devolver la decisión a una persona. La dificultad es que estos pasos se confunden entre sí. Señalar unas horas inusuales es una comprobación de conciliación inocua en el primer paso y una evaluación del desempeño en el tercero. El modelo no cambia entre ambos; lo que cambia es el uso que una persona hace de sus resultados.

Dónde ayuda realmente la IA

Uno de los resultados positivos de automatizar la nómina es una reducción drástica de los errores —de hasta un 78 %, según Blair McQuillen, de Ignite HCM, un servicio de consultoría de nóminas—. Una herramienta basada en IA para reducir los errores de nómina realiza, en esencia, las siguientes operaciones para analizar y corregir los sistemas de nómina:

• La detección de anomalías consiste en que los algoritmos de aprendizaje automático comparan la nómina con los registros históricos para señalar aumentos bruscos en los pagos, entradas duplicadas y deducciones inusuales.
• La validación de datos en tiempo real consiste en que la IA revisa tanto los datos actuales de los empleados (por ejemplo, el registro automático de asistencia) como los sistemas de origen (por ejemplo, las hojas de horas) y señala los errores manuales de copiar y pegar.
• La prevención predictiva de errores permite anticiparlos antes de que se cierre la nómina.
• La IA también puede automatizar en cierta medida el cumplimiento normativo mediante agentes de IA. Estos supervisan al personal y los cálculos de nómina, y avisan de inmediato a Recursos Humanos, incluso antes de que se realice una auditoría trimestral. Incorporar la IA al cumplimiento normativo como denunciante implica abordar claramente sus capacidades e involucrar a personas reales en la toma de decisiones.
• Las previsiones basadas en IA predicen cómo afectarán los cambios organizativos o las fluctuaciones del mercado a los costos de nómina y a los presupuestos.

Según el informe de OpenLadger, una API de contabilidad integrada basada en IA, las empresas lograron cerrar sus cuentas un 19 % más rápido y mejoraron un 34 % el cumplimiento de sus presupuestos.

Cuando la referencia aprende de tus errores

La mayoría de las soluciones de IA para nóminas se comercializan por su capacidad de aprendizaje continuo. Con el tiempo, el sistema determina cómo es una nómina normal en tu organización y compara cada ejecución con ese patrón. Esto resulta realmente útil, pero también es donde empieza el fallo silencioso.

Un sistema que aprende qué es «normal» a partir de los datos históricos también aprende los errores que contienen. Supongamos que se aplicó incorrectamente una deducción durante seis meses. El detector deja de señalarla porque, después de seis meses con el mismo error, ya no parece inusual.

El trabajo transfronterizo agudiza este problema. Cuando pagas a contratistas en muchos países, con distintas monedas y métodos de pago, lo «inusual» suele ser legítimo: un hito de un proyecto, un cambio de canal de pago, un encargo puntual o la apertura de un nuevo corredor de pagos. Con el tiempo, un modelo ajustado para reducir los falsos positivos empezará a suprimir también los verdaderos.

Cuando se retiene, se señala o se ajusta un pago, alguien tiene que explicar por qué: al contratista que espera recibir el dinero, a un auditor meses después y, con el tiempo, a un organismo regulador.

Tres formas de mantener la automatización de nóminas auditable

1. Separar las tareas. Es fácil comprar un único asistente que ingiere datos, clasifica a los trabajadores, calcula los pagos, verifica el cumplimiento y envía los recibos de nómina, pero resulta difícil auditarlo, porque, cuando el resultado es incorrecto, no se puede saber en qué paso se produjo el error. Algunos proveedores de servicios de nómina ya están adoptando diseños multiagente, en los que distintos componentes se ocupan de ingresar las hojas de asistencia, clasificar a los trabajadores, calcular los pagos, verificar el cumplimiento y comunicarse, y cada uno registra sus acciones en un registro de auditoría compartido. Este sistema cuesta más de implementar, pero se amortiza la primera vez que un organismo regulador pregunta cómo se tomó una decisión. Se puede revisar la cadena paso a paso.
2. Clasificar las acciones según su reversibilidad. Un modelo con intervención humana, ahora habitual en la tecnología para recursos humanos, clasifica las acciones automatizadas en tres niveles: ejecución automática, escalamiento y bloqueo. Yo asignaría los niveles según un único criterio: el costo de equivocarse. Las acciones de bajo riesgo y reversibles, como enviar recordatorios, solicitar documentos y revisar el formato, pueden ejecutarse automáticamente. En las acciones de riesgo medio, como retener un pago para pedir una aclaración o solicitar información sobre una factura, la IA debería preparar las pruebas y una persona tomar la decisión. Las acciones irreversibles, y todo lo que afecte los medios de vida de alguien, deben quedar fuera del alcance de las máquinas: poner fin a una relación laboral, cambiar la situación de un trabajador o retener un pago por motivos de cumplimiento. La prueba que aplico consiste en una pregunta: si resultara que la acción fue incorrecta, ¿podríamos revertirla antes de que la persona afectada se diera cuenta? Si la respuesta es no, una persona debe autorizarla.
3. Establecer la gobernanza antes de ampliar la escala. El Marco de gestión de riesgos de IA del NIST que mencioné antes se basa en cuatro funciones: gobernar, mapear, medir y gestionar. En el ámbito de las nóminas, se traducen en cuatro preguntas. ¿Quién es responsable del resultado: el área de nóminas, finanzas, cumplimiento o el proveedor? En virtud del Reglamento de IA, las obligaciones del responsable del despliegue recaen en la organización que opera el sistema, así que «el proveedor» no es una respuesta válida, por muchos productos que ahora lleven la etiqueta «preparado para el Reglamento de IA de la UE». ¿Cuáles de sus herramientas utilizan realmente IA, teniendo en cuenta cuánto aprendizaje automático se incluye ahora en los programas que se compraron como sistemas basados en reglas? ¿Con qué frecuencia las personas invalidan las decisiones de la IA? Es un dato que yo vigilaría con especial atención, porque una tasa de invalidación cercana a cero rara vez significa que el modelo sea infalible y a menudo significa que las personas han dejado de revisar sus resultados. ¿Y cuál es el plan alternativo si el modelo no está disponible durante el cierre o ya no se puede confiar en sus resultados? ¿Sigue habiendo alguien en el equipo que sepa gestionar las nóminas manualmente? Para los responsables de recursos humanos y nóminas que prevén utilizar la IA a gran escala, vale la pena establecer esta estructura desde el principio.

La era de la IA ofrece a las empresas una oportunidad para hacer el trabajo poco vistoso: elaborar un inventario de las herramientas con IA, mantener registros que documenten el razonamiento y no solo los resultados, designar responsables para cada decisión automatizada y revisar periódicamente las métricas de invalidación.

Cuando entren en vigor las obligaciones de alto riesgo, los auditores no preguntarán «¿Utilizan IA?», sino «Muéstreme por qué se efectuó, retuvo o modificó este pago». Las empresas capaces de responder en cuestión de minutos podrán ampliar con éxito su automatización.