Cuando el modelo no es el problema y el proceso es incorrecto

Imagina un escenario común en los servicios financieros. Un equipo despliega la inteligencia artificial para revisar contratos: cientos de páginas, cláusulas repetitivas y trabajo rutinario que normalmente lleva a los empleados días. El modelo identifica los riesgos y referencias a los párrafos correctos. Sin embargo, la salida no suma.

Resulta que el problema está en la carpeta de contratos, donde los archivos se sientan uno al lado del otro con nombres como contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx y contract_finalfinal_THIS_ONE.docx.

La inteligencia artificial seleccionó el archivo más recientemente guardado. Pero ese archivo era una versión anterior que alguien había abierto y guardado automáticamente la semana anterior.

El modelo hizo exactamente lo que se diseñó para hacer. El proceso, sin embargo, lo decepcionó.

Cuando el modelo no es el problema

En mi artículo anterior, argumenté que los fallos de la inteligencia artificial a menudo comienzan fuera del modelo – en la gobernanza, la propiedad y las estructuras de toma de decisiones que lo rodean. Pero la gobernanza es solo una parte del problema. Incluso un sistema de inteligencia artificial bien gobernado luchará si el proceso subyacente depende de documentos desactualizados, excepciones informales o rutas de aprobación diseñadas para un ritmo de trabajo mucho más lento.

Cuando un sistema de inteligencia artificial produce un resultado pobre, el modelo es usualmente el primer sospechoso. Tal vez se imaginó, malentendió la tarea o recibió una promoción débil. Pero a veces el modelo hizo exactamente lo que se suponía que debía hacer. El fallo ocurrió en el proceso que suministró su información o en la organización que no pudo actuar sobre su salida.

Desplegar la inteligencia artificial revela problemas de proceso que siempre existieron pero nunca fueron visibles – como una herramienta de diagnóstico. Expone debilidades que la gente compensó previamente sin pensarlo: contexto perdido, propiedad poco clara y soluciones informales que nunca se documentaron.

Velocidad sin capacidad

La inteligencia artificial no solo acelera la salida. También acelera las escaladas, las solicitudes de decisión y el descubrimiento de problemas. Un modelo señala una anomalía en tiempo real, no el viernes por la tarde cuando alguien finalmente encuentra el tiempo para revisar los registros.

Las organizaciones no están diseñadas para este ritmo. Los procesos de aprobación, las rutas de escalada, la autoridad de toma de decisiones – todo se calibró para la velocidad humana. Cuando la inteligencia artificial produce salidas más rápido de lo que la organización puede absorber, pueden ocurrir tres cosas:

• La inteligencia artificial espera una decisión, borrando la ganancia de eficiencia.
• Los empleados ignoran su salida y regresan a lo que creen que funciona – el antiguo proceso.
• Los empleados empujan las decisiones hacia adelante sin verificarlas adecuadamente porque se sienten presionados para mantener la velocidad.

Algunos empleados regresan a las verificaciones manuales porque se sienten más seguros. Otros aprueban resultados que no han tenido tiempo de verificar porque se sienten presionados para mantener la velocidad prometida por la tecnología. En ambos casos, la organización paga por una salida más rápida sin volverse más rápida para tomar decisiones responsables.

La propiedad también puede volverse borrosa. ¿Quién es responsable de revisar una anomalía señalada, decidir si el modelo está equivocado y escalar el problema cuando varios equipos están involucrados? Sin una respuesta clara, la inteligencia artificial continúa ejecutándose en segundo plano, produciendo salidas que nadie verdaderamente posee.

Esto refleja un problema organizacional más amplio. Como observó un análisis de Forbes de finales de 2025, cuando la tecnología cambia los flujos de trabajo más rápido de lo que una organización puede absorber, el resultado no es la eficiencia; es el exceso de trabajo. La inteligencia artificial puede acelerar una etapa de un proceso, pero su valor aún depende de si la organización que la rodea puede absorber y actuar sobre lo que produce.

El conocimiento silencioso que nadie escribió

Imagina que Martín sabe que el contrato de la empresa con un proveedor incluye una excepción para pagos por debajo de 2.000 euros. Fue acordado verbalmente hace tres años pero nunca se documentó. Cuando la empresa despliega la inteligencia artificial para automatizar las aprobaciones de pago, el sistema bloquea el pago – correctamente, según el contrato escrito.

Este es un conocimiento tácito: conocimiento organizacional que vive en las cabezas de las personas en lugar de en los sistemas. Cada empresa lo tiene. Y la mayoría de las empresas no tienen idea de cuánto tienen.

La inteligencia artificial solo puede utilizar el conocimiento que se ha hecho accesible para ella. La excepción de Martín no existe desde la perspectiva del sistema. Sin ese contexto, su decisión puede ser técnicamente correcta pero operativamente incorrecta.

McKinsey ha identificado el mismo desafío en las implementaciones de inteligencia artificial agente. Construir agentes de inteligencia artificial efectivos requiere que las empresas codifiquen prácticas expertas que pueden existir en procedimientos estándar – o solo como conocimiento tácito en las cabezas de los empleados. En otras palabras: la implementación de la inteligencia artificial puede ser la primera vez que una organización ve cuánto el proceso depende de lo que Martín sabe.

La fuente falsa de verdad

La salida de la inteligencia artificial más peligrosa no siempre es obviamente incorrecta. Puede ser una respuesta creíble, profesionalmente presentada, producida a partir de información desactualizada.

Durante años, muchos departamentos han operado con múltiples versiones del mismo documento porque Jane del departamento legal siempre sabe cuál es el autoritativo. La inteligencia artificial, desafortunadamente, no.

A menos que se le hayan dado reglas para distinguir entre versiones, el sistema no tiene razón para cuestionar el documento que recibe. Y así la revisión de la inteligencia artificial se ejecuta correctamente – en el documento equivocado. Eso puede ser peor que no tener revisión en absoluto porque la salida parece creíble.

Un empleado experimentado puede saber dónde está la verdad y puede navegar a través del caos. Un sistema, sin embargo, necesita una forma confiable de identificar qué información es actual, aprobada y relevante.

El conocimiento tácito, los documentos no fiables y los procesos de aprobación construidos para la velocidad de salida humana parecen ser problemas separados. Pero comparten la misma causa raíz. Ninguno de ellos fue creado por la inteligencia artificial, pero la inteligencia artificial los hace más difíciles de ignorar.

Preguntas para responder antes de construir un agente

Antes de desplegar un agente de inteligencia artificial, una organización debe poder responder tres preguntas.

¿Qué decisiones dependen del conocimiento que nunca se ha documentado?

Esto significa identificar las excepciones, los atajos y las llamadas de juicio que los empleados experimentados aplican sin describirlas conscientemente. Las entrevistas solas pueden no revelar todo este conocimiento. Las organizaciones pueden necesitar observar cómo se realiza el trabajo en la práctica y compararlo con el proceso oficial.

¿Cómo identificará el sistema la información que es actual, aprobada y relevante?

Darle al agente acceso a más documentos no soluciona el problema si no puede distinguir un contrato aprobado de un borrador o una política activa de una desactualizada. La versión, la propiedad, el estado de aprobación y las reglas de retención deben ser lo suficientemente claras para que el sistema identifique qué fuente debe gobernar su decisión.

¿Pueden los procesos de aprobación y escalada existentes absorber el volumen y la velocidad de su salida?

Los equipos deben estimar no solo cuánto trabajo puede completar el agente, sino también cuántas revisiones, excepciones y escaladas puede crear ese trabajo. El Marco de gestión de riesgos de inteligencia artificial de NIST recomienda definir claramente los roles y las responsabilidades para la supervisión humana de los sistemas de inteligencia artificial. Estos deben diseñarse para el volumen esperado antes de que se despliegue el sistema – no después de que los empleados se sientan abrumados por él.

Estas no son preguntas para responder una vez y olvidar. Los procesos cambian, los documentos envejecen y el conocimiento no documentado se acumula nuevamente. La preparación, por lo tanto, debe mantenerse, no establecerse solo antes del lanzamiento.

La preparación para la inteligencia artificial comienza con el proceso

La preparación para la inteligencia artificial no es solo una prueba de la tecnología. Es una prueba de si la organización ha hecho sus propios procesos lo suficientemente explícitos para que la tecnología pueda operar dentro de ellos.

Preparar a una organización para la inteligencia artificial, por lo tanto, implica más que seleccionar un modelo o construir un agente. Significa aclarar la propiedad, identificar la información autorizada, documentar las excepciones y rediseñar cómo se revisan, escalan y actúan sobre las salidas.

Este es un trabajo difícil, pero un despliegue fallido eventualmente obligará a la organización a hacerlo de todos modos. La única variable es el momento.