Jayant Swamy, Director de Arquitectura Empresarial en Genpact – Serie de Entrevistas

Jayant Swamy, Director de Arquitectura Empresarial en Genpact, es un líder en tecnología y datos con más de dos décadas de experiencia que abarca arquitectura empresarial, inteligencia artificial, ingeniería de datos, tecnologías en la nube y transformación digital a gran escala. Antes de unirse a Genpact en 2024, se desempeñó como CTO y Arquitecto Jefe en Xtrac8.Tech y como CTO y cofundador de una startup de IA centrada en tecnologías que incluyen IA generativa y grandes modelos de lenguaje. Swamy pasó anteriormente más de una década en Accenture, donde sus cargos de liderazgo incluyeron CTO, Líder Global y Director Gerente Global del Institute of Applied Intelligence, Director Gerente y Líder de Negocio Global para el negocio Data on Cloud, y Director de Datos y Líder Global de Ingeniería de Datos e Innovación de Datos. En una etapa anterior de su carrera, trabajó más de siete años en Fannie Mae supervisando iniciativas tecnológicas y de información empresarial relacionadas con el servicio y la gestión de pérdidas crediticias, después de varios años como Senior Principal en Oracle (ORCL ).

Genpact es una empresa global de tecnología y servicios empresariales centrada en ayudar a las organizaciones a transformar operaciones complejas mediante inteligencia artificial, datos, inteligencia de procesos y experiencia sectorial. La compañía remonta sus orígenes a una iniciativa de 1997 dentro de GE Capital, se volvió independiente en 2005 y salió a bolsa en la Bolsa de Nueva York en 2007. Hoy, Genpact colabora con organizaciones de diversos sectores, incluidos banca, seguros, finanzas, cadena de suministro, bienes de consumo, salud y tecnología, con un énfasis creciente en IA generativa, sistemas agenticos, automatización y operaciones empresariales habilitadas por IA.

Su carrera lo ha llevado desde roles de arquitectura empresarial y liderazgo de datos en Oracle, Fannie Mae y Accenture a entornos de startups y a su posición actual como Director de Arquitectura Empresarial en Genpact. ¿Cómo ha influido esa experiencia en su visión de dónde la autonomía de la IA genera valor empresarial genuino y dónde el juicio humano sigue siendo esencial? 

A lo largo de mi carrera, he aprendido que la escala, la gobernanza, la integración y el riesgo son tan importantes como la innovación. La experiencia empresarial muestra que una tecnología impresionante sigue fallando si no puede operar dentro de la organización; las startups refuerzan el valor de moverse rápido, experimentar y mantener una arquitectura simple y adaptable. La autonomía de la IA funciona mejor cuando se combinan ambas mentalidades — innovar a gran velocidad mientras se mantienen bases sólidas. De esa manera, la IA puede transformar realmente cómo fluye el trabajo en una organización. Los hallazgos de nuestra investigación reciente refuerzan claramente ese punto.

El modelo en sí es solo una parte de la ecuación. La arquitectura circundante — datos, sistemas, flujos de trabajo, controles e integraciones — determina si la IA genera valor a escala. Eso es lo que queremos decir con “no hay inteligencia artificial sin inteligencia de procesos”. También es la premisa detrás de nuestro trabajo de IA aplicada en Genpact Labs, donde tomamos capacidades emergentes de IA y las convertimos en soluciones de nivel de producción, listas para el cliente. Cada capacidad está vinculada a un resultado empresarial medible y conectada al flujo de trabajo, los datos y los controles necesarios para operar.

La IA debe contar con espacio para actuar cuando el objetivo es claro, los datos son fiables y los límites están bien comprendidos. El juicio humano sigue siendo esencial para decisiones de alto riesgo, ambiguas, subjetivas, reguladas o que requieren responsabilidad y empatía. La autonomía no consiste en eliminar a los humanos del sistema. Se trata de diseñar el sistema de modo que todos sepan dónde la IA puede actuar de forma independiente, dónde los humanos necesitan visibilidad y dónde el juicio humano debe intervenir.

Muchas empresas evalúan la IA orientada al cliente principalmente mediante la velocidad, las tasas de retención y el ahorro de costos. ¿Por qué estas métricas pueden crear una imagen engañosa sobre si la tecnología está realmente mejorando la experiencia del cliente?

El problema es que esas son principalmente medidas de eficiencia. Muestran cómo funcionó el sistema, pero no necesariamente cómo lo vivió el cliente. Tome la retención: una tasa alta puede parecer exitosa internamente, pero puede ocultar resultados deficientes si un cliente se rinde, se repite, recibe respuestas incompletas o no puede contactar a una persona cuando lo necesita. La retención indica que la IA mantuvo al cliente dentro del sistema, no que obtuvo lo que necesitaba. Lo mismo ocurre con el ahorro de costos, que puede producirse a costa de la confianza, la satisfacción o la calidad de la resolución.

Los sistemas de IA se optimizan en función de las señales que se les proporcionan, por lo que las empresas deben diseñar indicadores de medición en el sistema desde el principio — conectando métricas de front‑end como velocidad y retención con señales posteriores como la resolución de incidencias y si el resultado generó problemas en otro lugar. En última instancia, la IA orientada al cliente debe medirse según si resuelve el problema subyacente del usuario final de manera precisa, justa y con el nivel adecuado de apoyo humano.

¿Qué señales debería usar un agente de IA para reconocer incertidumbre, frustración, urgencia o una situación que se encuentre fuera de su flujo de trabajo establecido? 

No existe una señal mágica única — lo que importa es proporcionar al sistema suficiente contexto y observabilidad para reconocer cuándo su confianza, autoridad o información ya no son suficientes. Eso puede manifestarse como información conflictiva, intentos fallidos repetidos o el agente dando vueltas sin avanzar. También puede ser un cambio en el lenguaje del cliente — una señal clara de frustración o urgencia — o la propia tarea que requiere información, acceso o autoridad que el agente no posee.

El sistema también debe conocer sus propios límites. Si un problema queda fuera de su flujo de trabajo diseñado, requiere datos inaccesibles o supera un umbral de riesgo definido, debería activar una ruta diferente. El objetivo no es que el agente maneje cada escenario posible — sino que sepa cuándo detenerse, escalar o solicitar ayuda.

¿Cómo pueden las empresas distinguir entre una interacción que es simplemente compleja y una que realmente requiere juicio humano o empatía?

La línea divisoria no es la dificultad de la tarea. Es la cantidad de juicio, consecuencia y contexto humano que conlleva la decisión. Implementar operaciones agenticas donde las máquinas procesan y los humanos validan requiere comprender dónde el valor humano nunca puede ser reemplazado.

La IA puede manejar tareas muy complejas cuando el objetivo es claro, los datos son fiables, el proceso está definido y los resultados son medibles. La complejidad por sí sola no requiere a un humano si el sistema comprende los límites dentro de los cuales puede operar. Se necesita la intervención humana cuando la intención del cliente es ambigua, la situación requiere discreción, existen múltiples resultados válidos o la decisión conlleva consecuencias financieras, legales, médicas o reputacionales significativas. Algunas interacciones también exigen tranquilidad, explicación, negociación o empatía — no solo una respuesta. La participación humana allí es tan importante como la precisión técnica. La arquitectura debe reflejar esa distinción. Esos puntos de intervención deben diseñarse en el flujo de trabajo desde el principio, no decidirse después de que ocurra un problema.

¿Cómo debería ser un proceso de escalamiento eficaz para que los clientes no tengan que repetir sus palabras o reiniciar la interacción cuando un agente humano asume el control?

Un buen escalamiento no consiste solo en transferir al cliente — sino en transferir el contexto, de modo que la siguiente persona pueda avanzar directamente hacia la resolución. Cuando un humano asume, ya debe contar con el historial de la conversación, la identidad y el perfil del cliente, y lo que la IA ya ha intentado — suficiente para evitar pedir al cliente que vuelva a comenzar.

Esto es, en gran medida, un problema de arquitectura: si la IA solo está presente en la experiencia de chat frontal, desconectada del CRM, ERP, fuentes de conocimiento, flujos de trabajo y capa de orquestación, una transferencia fluida se vuelve imposible.

¿Deben los umbrales de escalamiento cambiar según factores como el riesgo financiero, la vulnerabilidad del cliente, requisitos regulatorios o las posibles consecuencias de una decisión incorrecta?

Las reglas de escalamiento deben depender del nivel de riesgo. Cuanto mayores sean las consecuencias de equivocarse, antes debe involucrarse a un humano.

Un restablecimiento de contraseña puede ejecutarse totalmente de forma automática, pero una transacción financiera disputada debe contar con controles más estrictos. En reclamaciones o cobros, eso podría significar autonomía total en actualizaciones rutinarias de estado, pero una verificación humana obligatoria cuando un caso supera un umbral monetario o aparece una señal de dificultad. Cuanto más regulada o con mayores consecuencias sea la decisión, mayor debe ser la supervisión. Un cliente vulnerable puede requerir una intervención humana más temprana, y las decisiones con consecuencias irreversibles deben tener umbrales de autonomía más bajos.

Esos umbrales tampoco deben dejarse a la interpretación de agentes individuales en tiempo real. Deben incorporarse a la arquitectura y a la capa de orquestación, con reglas claras sobre lo que el agente está autorizado a hacer, lo que requiere validación adicional y lo que debe escalarse.

La oportunidad consiste en permitir que la autonomía escale con el riesgo — máxima velocidad en trabajos de bajo riesgo, control más estricto donde importa. En Genpact, hemos incorporado esa estratificación directamente en el diseño de flujos de trabajo agenticos — permitiendo que los casos rutinarios se ejecuten de forma autónoma mientras se dirige a un humano cualquier asunto que supere un umbral de riesgo o monetario definido, de manera automática y sin que el agente tenga que decidir escalar. Las empresas que otorgan el mismo nivel de autonomía a cada interacción convierten rápidamente la conveniencia en errores costosos.

Más allá de la finalización de tareas, ¿qué métricas deberían usar las organizaciones para evaluar si un sistema de atención al cliente autónomo está generando resultados positivos para los clientes?

La finalización de la tarea es útil, pero está lejos de ser suficiente. La pregunta no debería ser “¿el agente completó la tarea?” sino “¿el cliente terminó en una mejor posición?”. Es la diferencia entre prometer un resultado y ser responsable de él.

Eso implica mirar más allá del tiempo de gestión hacia métricas como la precisión de la respuesta, la resolución en el primer contacto, los contactos repetidos, la calidad del escalamiento, la satisfacción del cliente y la equidad y consistencia de los resultados. También significa medir más allá de una interacción individual. Un agente puede parecer exitoso en una parte del recorrido del cliente mientras genera un problema posterior. Por ejemplo, un caso que se cierra rápidamente puede desencadenar otra llamada semanas después, afectando el sentimiento del cliente y eventualmente requiriendo una remediación humana, por lo que vale la pena rastrear si sigue resuelto 30 días después.

También es importante saber si el sistema realmente resuelve la necesidad subyacente del cliente, en lugar de simplemente cerrar la interacción y considerarla un éxito. Eso requiere observabilidad de extremo a extremo a lo largo del flujo de trabajo, no solo métricas de la interfaz de IA. Medir los resultados del cliente y del negocio, en lugar de la actividad, es lo que revela el ROI real de la IA.

¿Cómo pueden las empresas evitar que los agentes de IA optimicen los objetivos operativos, como reducir el volumen de llamadas o el tiempo de gestión, a costa de la equidad, la confianza o las necesidades subyacentes del cliente?

Los sistemas de IA son notablemente buenos para alcanzar cualquier objetivo que se les asigne. Esa es la ventaja y la trampa: si se le dice a un sistema agentico que la velocidad es el único objetivo, sacrificará todo lo demás para lograrlo.

Las empresas deben proporcionar a la IA un conjunto equilibrado de objetivos donde la eficiencia importe, pero que también conviva con los resultados del cliente, el riesgo, la equidad, la precisión y la confianza. Esto se logra estableciendo límites claros sobre el comportamiento aceptable, probando sesgos y resultados no deseados, manteniendo mecanismos de anulación humana, monitoreando continuamente las decisiones y haciendo que los resultados sean rastreables y auditables. La gobernanza no puede ser algo que se añada después de que el sistema ya esté en funcionamiento. Debe incorporarse a la arquitectura desde el principio.

El contexto del cliente puede estar distribuido en conversaciones previas, transacciones, canales y sistemas empresariales. ¿Cómo pueden las empresas proporcionar a los agentes de IA suficiente contexto para tomar mejores decisiones sin crear nuevos riesgos de privacidad, seguridad o gobernanza?

La solución al contexto fragmentado no consiste en dar al agente de IA acceso a todo. Consiste en otorgarle acceso gobernado a la información adecuada en el momento preciso. Las empresas necesitan una capa sólida de datos e integración que conecte a los agentes con los sistemas de registro autoritativos, controlando lo que cada agente puede ver y hacer. Eso incluye acceso basado en roles y propósitos, datos mínimos necesarios, seguimiento de linaje, registros de auditoría y protección de información sensible.

Más contexto mejora las decisiones de la IA, pero solo si está gobernado. De lo contrario, resolver un problema puede generar un problema de privacidad o seguridad mucho mayor. Si se maneja bien, el contexto se acumula a medida que el sistema aprende de excepciones previas, haciendo que las interacciones futuras sean más inteligentes sin crear nuevos riesgos.

Conforme la IA orientada al cliente se vuelve más autónoma, ¿cómo espera que evolucione la relación entre los agentes de IA y los empleados humanos, y qué capacidades deberán desarrollar las organizaciones ahora para que esa colaboración sea exitosa?

El rol humano pasará cada vez más de ejecutar cada paso de un proceso a dirigir, supervisar y mejorar el sistema de agentes que asume el volumen de trabajo. Las personas dedicarán más tiempo a establecer objetivos, gestionar excepciones, ejercer juicio, validar decisiones de alto riesgo, refinar flujos de trabajo, monitorear el comportamiento de los agentes y mejorar la arquitectura y gobernanza detrás de esos sistemas agenticos. Eso también cambia las habilidades que las empresas necesitan. La fluidez en IA será importante, pero también lo serán el pensamiento crítico, la experiencia sectorial, la orquestación de agentes, la observabilidad y la capacidad de cuestionar un sistema de IA cuando algo parece incorrecto.

Esto no es solo un desafío de la fuerza laboral. Las organizaciones necesitan la arquitectura que respalde esa colaboración, conectando a los agentes con los datos y sistemas adecuados, coordinando cómo trabajan juntos y brindando a las personas visibilidad de lo que están haciendo. La gobernanza, la anulación humana y el escalamiento deben diseñarse desde el principio.

En mi rol como director de arquitectura empresarial, considero que es mi deber asegurar que toda la organización sepa no solo cómo usar la IA, sino cuándo confiar en ella, cuestionarla y tomar el control. De esta forma, la arquitectura se convierte en la puerta de entrada a una IA responsable que genera confianza y un impacto real.

Gracias por la excelente entrevista; los lectores que deseen obtener más información deberían visitar Genpact.