Por qué mejores datos no bastan para los agentes de IA

Durante años, uno de los consejos más habituales sobre la IA empresarial ha sido empezar por poner los datos en orden. La lógica es sencilla: para tomar decisiones útiles, un sistema necesita información precisa y accesible.

Esta afirmación sigue siendo cierta, pero empieza a quedarse corta ahora que los agentes de IA pasan de responder preguntas y generar contenido a actuar en nombre de empleados y organizaciones. Los datos pueden indicarle a un agente qué es cierto sobre un cliente, una transacción, una reclamación o una solicitud, pero no necesariamente le dicen qué debería ocurrir a continuación ni cuáles serían las consecuencias de actuar. Esta distinción importa cuando un agente deja de limitarse a dar una respuesta y pasa a aprobar una solicitud, actualizar un registro, ponerse en contacto con un cliente o hacer avanzar un caso.

Se espera que los empleados de las empresas aprendan a desenvolverse en una estructura que incluye cadenas de aprobación, reglas de negocio, dependencias, excepciones y vías de escalamiento; los agentes necesitan una forma de hacer lo mismo. Dado que Gartner prevé que el 40 % de las aplicaciones empresariales incluirá agentes de IA especializados en tareas para finales de 2026, frente a menos del 5 % en 2025, será cada vez más difícil pasar por alto las lagunas de conocimiento de los agentes. 

Gartner también prevé que, para 2028, el 80 % del rendimiento tangible de la inversión (ROI) de la IA agéntica provendrá de agentes especializados en dominios específicos. La especialización es importante, pero solo resuelve una parte del problema. Conocer un dominio en particular no le indica automáticamente a un agente dónde empieza y termina su responsabilidad, cómo encaja su tarea en un proceso más amplio ni quién debería hacerse cargo cuando algo queda fuera de su ámbito. Para participar de forma fiable en el trabajo empresarial, los agentes necesitan tanto contexto sobre los procesos del flujo de trabajo como datos de negocio.

Los buenos datos no le dicen a un agente qué hacer a continuación

Pensemos en una solicitud de préstamo para la que un agente podría tener acceso al historial financiero del solicitante, a su información laboral y a otros registros pertinentes. Esa información puede ayudarle a entender la solicitud, pero no le indica cómo la tramita la organización.

¿Qué comprobaciones deben hacerse primero? ¿Qué cambia si el solicitante cumple una condición, pero no otra? ¿Qué información es obligatoria antes de que el caso pueda avanzar? ¿Qué decisiones pueden tomarse automáticamente y cuáles deben remitirse a un analista de crédito?

La mayoría de los procesos empresariales están llenos de este tipo de rutas condicionales. Un proceso puede avanzar automáticamente cuando se cumplen ciertos criterios, detenerse mientras se recopila información adicional o seguir un camino completamente distinto si se produce una excepción. La acción adecuada que debe realizarse a continuación depende no solo de la información disponible, sino también de la etapa en la que se encuentra el trabajo y de lo que ya ha sucedido.

Esto cambia lo que significa que un agente empresarial sea fiable. No basta con dar una respuesta precisa si la acción siguiente es incorrecta. Un agente puede interpretar correctamente la información que tiene delante y, aun así, pasar un caso a la etapa equivocada, omitir la aprobación necesaria o actuar antes de que se haya completado una dependencia.

McKinsey compartió recientemente información sobre su trabajo con una empresa de tecnología médica que descubrió que la plataforma de IA que utilizaba no podía admitir varias de sus reglas de flujo de trabajo fundamentales. En lugar de retrasar la fecha de lanzamiento para resolver esas carencias, la empresa siguió adelante según lo previsto y, finalmente, dejó sin materializar un 30 % estimado del valor previsto de la IA. Este ejemplo pone de relieve la necesidad de que las empresas tengan en cuenta el proceso que rodea a la tarea, y no solo la información necesaria para completarla. 

Ajuste las salvaguardas a las decisiones que puede tomar un agente

A medida que los agentes adquieren la capacidad de actuar, la gobernanza también debe ser más específica. Un agente que consulta un documento normativo no conlleva el mismo nivel de riesgo que uno que modifica la cuenta de un cliente, aprueba un pago o inicia una transacción. Sin embargo, las organizaciones pueden caer fácilmente en uno de dos extremos: permitir que los agentes actúen con demasiada libertad o exigir la aprobación de una persona para casi todo.

Los controles aplicados a un agente deben reflejar las decisiones que puede tomar y sus posibles consecuencias. Puede ser apropiado que realice de forma autónoma una acción repetitiva y de bajo riesgo. Otra acción podría requerir aprobación si supera cierto valor. Un caso inusual quizá deba remitirse de inmediato a un empleado.

La supervisión humana resulta más útil cuando es deliberada. Si una persona debe aprobar cada paso rutinario, desaparece gran parte del beneficio de incorporar un agente. Pero eliminar los puntos de control en decisiones que realmente requieren criterio o rendición de cuentas genera otro problema.

IBM Research ha abogado por establecer reglas explícitas sobre las acciones que los agentes tienen permitido realizar y los momentos en que se requiere supervisión humana. Esos controles también deben tener en cuenta el proceso en el que participa el agente. La autoridad de un agente no necesariamente permanece estática desde el inicio de un caso hasta su finalización. Lo que puede hacer de forma segura puede depender de la etapa del proceso, de la información ya verificada, de las decisiones tomadas previamente y de las consecuencias de la siguiente acción.

Eso significa que las organizaciones deben integrar la gobernanza en el propio flujo de trabajo. En lugar de asignar a un agente un conjunto amplio de permisos y confiar en que los use en todas partes, pueden definir dónde se le permite actuar de forma independiente, dónde deben cumplirse condiciones adicionales y dónde debe transferirse la responsabilidad a una persona. La cuestión, entonces, deja de ser si un agente es autónomo y pasa a ser en qué puntos de un proceso tiene sentido esa autonomía.

Los agentes deben integrarse en la empresa tal como ya funciona

El contexto del proceso cobra aún más importancia cuando un agente debe interactuar con el resto de la empresa. Las organizaciones no parten de cero. Una solicitud de un cliente puede pasar ya por un sistema CRM, un repositorio de documentos, una plataforma de gestión de casos y un sistema ERP, además de involucrar a empleados de varios departamentos.

Incorporar un agente a una parte de ese entorno no hace que el proceso global sea automáticamente más eficiente. Puede que un agente complete a la perfección su tarea concreta, pero si después un empleado debe copiar el resultado en otra aplicación, determinar quién lo necesita a continuación o reiniciar manualmente el proceso en otro lugar, el cuello de botella simplemente se habrá trasladado.

Por eso, las empresas deben considerar a los agentes como participantes en un proceso más amplio, y no como herramientas aisladas. ¿Qué activa al agente? ¿Qué información recibe? ¿De qué es responsable? ¿Adónde se dirige el trabajo cuando termina? ¿Y qué ocurre si no puede completar su tarea?

Estas preguntas cobran aún más importancia a medida que las organizaciones incorporan varios agentes especializados. Deloitte ha señalado la orquestación como un requisito clave para las empresas que avanzan hacia sistemas multiagente, en los que distintos agentes pueden asumir funciones diferenciadas y coordinar el trabajo. La orquestación empresarial debe abarcar la forma en que los agentes se comunican y coordinan entre sí, y no solo cómo operan de manera individual. Sin esa supervisión, los agentes corren el riesgo de actuar con información contextual incompleta, desencadenar acciones contradictorias o eludir las reglas empresariales y los procesos de aprobación establecidos. Los agentes siguen operando dentro de organizaciones con aplicaciones, empleados, reglas empresariales y procesos existentes que pueden prolongarse durante días, semanas o meses.

Empiece por el proceso que debe completarse y determine qué lugar ocupan en él los agentes, las personas y los sistemas existentes. Un agente podría encargarse de un paso de manera independiente, otro agente realizar una comprobación especializada, un empleado tomar una decisión basada en su criterio y un sistema existente ejecutar la transacción final. Lo importante es que el trabajo pueda pasar de un participante a otro sin perder el contexto en el camino.

La autonomía requiere estructura

Dar más estructura a los agentes no significa que cada acción necesite otra capa de restricciones. De hecho, puede ocurrir lo contrario. Los procesos claros pueden dar a las organizaciones más confianza para determinar dónde pueden operar los agentes de forma independiente, porque ya se han definido los límites, las excepciones y los puntos de escalamiento. Un agente no necesita libertad ilimitada para aportar un valor significativo. Necesita suficiente responsabilidad para impulsar el trabajo, suficiente contexto para saber qué sigue y una comprensión clara de cuándo la responsabilidad corresponde a otra parte.

Los mejores datos seguirán aumentando la capacidad de los agentes. Pero la capacidad por sí sola no hace que un agente sea útil dentro de una empresa. La verdadera prueba es si puede tomar la medida adecuada, en el momento oportuno de un proceso y dentro de los límites establecidos por la empresa.