Babak Hodjat, Director de IA en Cognizant: Una conversación de regreso

Babak Hodjat, Director de IA en Cognizant, dirige los Laboratorios de Investigación de IA de la empresa, donde su trabajo abarca IA agente, computación evolutiva, inteligencia distribuida y el desarrollo de sistemas de IA diseñados para el despliegue a gran escala en la empresa. Investigador de IA de larga trayectoria, inventor y emprendedor, Hodjat cofundó anteriormente Sentient Technologies, donde ayudó a construir uno de los sistemas de IA distribuidos más grandes del mundo, y antes cofundó Dejima, desarrollando tecnología de lenguaje natural orientada a agentes que contribuyó a los cimientos de Siri de Apple.

Cuando hablamos previamente con Babak Hodjat, nuestra discusión exploró su carrera en IA, enfoques evolutivos para la toma de decisiones complejas, el trabajo de Cognizant aplicando IA a los desafíos climáticos y de uso del suelo, y la creciente democratización de la IA en toda la empresa. En esta conversación de seguimiento, el enfoque se desplaza hacia la empresa agente emergente rápidamente. Basándose en los temas de su reciente libro, The Agentic Enterprise, Hodjat examina por qué la arquitectura puede importar más que la capacidad del modelo, cómo las organizaciones pueden coordinar redes cada vez más complejas de agentes de IA, dónde la confianza y la gobernanza centralizadas encajan en ecosistemas de agentes descentralizados, y qué aún necesita cambiar antes de que los sistemas autónomos puedan gestionar de manera fiable objetivos de larga duración con mínima intervención humana.

Su carrera abarca algunos de los primeros trabajos sobre agentes inteligentes, desde la tecnología de lenguaje natural de Dejima que ayudó a inspirar Siri hasta la construcción de enormes sistemas de IA distribuidos en Sentient y ahora desempeñándose como Director de IA en Cognizant. ¿Cómo ha evolucionado su definición de “agente de IA” a lo largo de ese trayecto, y qué pueden aprender hoy los desarrolladores de esas generaciones anteriores de sistemas basados en agentes?

La definición se ha mantenido igual, pero las capacidades de los agentes actuales hacen que muchas de las funciones básicas de un agente que teníamos que programar a principios de los años 90 estén disponibles de forma nativa con los LLM. Por eso los agentes basados en LLM son ahora el estándar, y cuando la gente habla de agentes, asume que hay un LLM impulsando su interfaz y razonamiento.

En su reciente libro, The Agentic Enterprise, sostiene que los sistemas de IA empresariales a menudo triunfan o fracasan debido a su arquitectura más que a la capacidad bruta del modelo subyacente. ¿Qué están haciendo mal las empresas cuando asumen que actualizar a un modelo más potente resolverá sus problemas de IA agente?

Así como los arneses (es decir, las partes de un agente que no son LLM) pueden hacer o deshacer un agente de codificación, la arquitectura de un sistema multiagente es crítica para su éxito. Esto se debe a que la arquitectura refleja el contexto en el que los agentes deben operar, como el andamiaje que mantiene unida a la empresa agente. Sin ella, los agentes quedan desconectados de la realidad de las operaciones empresariales, los datos, los flujos de trabajo y los procesos. Esto es algo análogo a la estructura organizativa de una empresa, que incluye las descripciones de puestos, definiciones de procesos y protocolos de comunicación para los empleados.

Usted ha enfatizado que el sistema circundante, incluidos los controles de acceso, la rendición de cuentas, la orquestación, la observabilidad y la supervisión, puede importar más que el propio modelo. ¿Qué necesita realmente una arquitectura agente lista para producción que la mayoría de los despliegues de prueba de concepto carecen?

Las pruebas de concepto (PoC) a menudo carecen de fundamento, por lo que, para comenzar, necesitamos que los agentes operen en un entorno donde tengan acceso a los datos y aplicaciones internos de la empresa. Es necesario plantear preguntas importantes, como qué datos y aplicaciones estamos dispuestos a permitir que los agentes accedan, y qué decisiones nos sentimos cómodos que los agentes tomen para que el sistema sea seguro y protegido, mientras se logran los aumentos de calidad y productividad que esperamos. Es difícil determinar la respuesta a estas preguntas en un entorno de PoC. Además, los límites de seguridad y la supervisión solo pueden ser significativos cuando un sistema agente opera en conjunto con otros procesos humanos o agentes dentro de la empresa. Por lo tanto, el aislamiento (sandboxing) es un paso importante en el proceso de pasar eficazmente de una PoC a un despliegue.

Cognizant ha descrito la aparición de un “Sistema Operativo de Agentes” para coordinar redes de agentes de IA. ¿Qué funciones debería desempeñar esa capa, y espera que la orquestación de agentes llegue eventualmente a ser tan fundamental para la computación empresarial como lo son hoy los sistemas operativos y las plataformas en la nube?

La coordinación de los agentes es importante: si la haces demasiado rígida, tu sistema se degrada y se vuelve frágil. Si es demasiado abierta, con la coordinación delegada completamente al agente, corres el riesgo de que la tarea del agente sea demasiado compleja o arriesgada. Un buen mecanismo de coordinación permite que los agentes formen equipos espontáneamente en respuesta a diversas situaciones, lo que resulta en una disciplina organizacional robusta y fluida. Soy partidario de la coordinación distribuida. Es análoga a empoderar a una organización humana con cierto nivel de autoridad sobre su ámbito de responsabilidad. Cuando surge un contexto, los miembros de la organización se comunican y coordinan a través de la estructura organizativa para determinar a las personas responsables de manejar la situación, y la respuesta se recopila, coordina y consolida entre los nodos organizacionales. La buena noticia es que se pueden aplicar controles y salvaguardas estrictas a los sistemas agentes para que esa flexibilidad no genere un comportamiento arriesgado.

Creo que, al igual que MCP se ha convertido rápidamente en un estándar de facto para el acceso a aplicaciones agentes, también surgirán protocolos de coordinación que se estandarizarán en las plataformas agentes para permitir procesos multi‑agente espontáneos a través de los límites de los sistemas agentes. Los sistemas operativos y las plataformas en la nube probablemente no sean la mejor analogía aquí; más bien, será necesario que emerjan estándares ampliamente aceptados para la definición multi‑agente y los protocolos de coordinación, a fin de permitir una mayor penetración y florecimiento de la agentificación en la empresa.

Como las empresas pasan de copilotos individuales a redes que contienen decenas o incluso cientos de agentes especializados, ¿cómo deberían las organizaciones decidir qué responsabilidades pertenecen a agentes individuales y cuáles deben permanecer centralizadas?

Al igual que el cortafuegos de internet y la maquinaria de seguridad, el establecimiento de la confianza mediante auditorías en tiempo real contra políticas y la aplicación de límites de seguridad en los sistemas agentes debería ser una función centralizada dentro de una empresa, definida y mantenida por una única entidad dentro de la compañía. Todos los demás sistemas agentes pueden provisionarse o implementarse de manera descentralizada, pero esos sistemas deberán registrarse en el sistema de confianza para poder operar.

Cognizant ha implementado internamente un sistema multi‑agente que conecta aproximadamente 200 agentes en una organización de alrededor de 350 000 empleados. ¿Qué reveló operar a esa escala sobre la IA agente que sería difícil descubrir mediante pilotos más pequeños?

Tuvimos que diseñar para escalabilidad, extensibilidad, eficiencia de costos y tiempos de respuesta razonables. En proyectos de tal escala, a menudo es necesario inventar cosas que simplemente no se requieren en sistemas agentes pequeños y contenidos con pocos usuarios. Por ejemplo, hay que hacer que la coordinación inter‑agente sea personalizada y eficiente, de modo que se eviten pasos adicionales y costos. Además, el sistema debe poder incorporar aplicaciones desarrolladas a medida así como sistemas y agentes de terceros, por lo que la interoperabilidad es importante y puede ahorrar tiempo y dinero.

Cuando los agentes autónomos pueden llamar a API, acceder a sistemas empresariales, comunicarse con otros agentes y tomar acciones a velocidad de máquina, la gobernanza tradicional de IA se vuelve mucho más difícil. ¿Dónde debe permanecer obligatoria la supervisión humana y dónde pueden las organizaciones permitir de forma segura que los agentes operen de manera independiente?

Creo que el factor determinante final de dónde se necesita y es obligatorio la supervisión humana es la confianza. A medida que estos sistemas se vuelvan más confiables, les concederemos mayor autonomía y, a menos que la ley lo exija (p. ej., por la falta de personalidad jurídica de la IA), nos sentiremos cómodos delegar en los agentes. Por lo tanto, medir la confianza y el riesgo es importante y puede ayudar a trazar la línea entre la autonomía y la supervisión humana, una línea que podría comenzar a desplazarse a medida que estos sistemas se vuelvan más confiables y menos arriesgados de operar de forma autónoma.

La mayor parte de tu investigación anterior se centró en la computación evolutiva y en sistemas que mejoran mediante selección y adaptación. ¿Cómo podrían los enfoques evolutivos complementar los grandes modelos de lenguaje y el aprendizaje por refuerzo mientras intentamos crear agentes que puedan mejorar continuamente en lugar de simplemente ejecutar flujos de trabajo predefinidos?

La corriente principal en IA hoy está dominada por enfoques de descenso de gradiente, que son una forma de búsqueda de ascenso de colina que no es muy creativa. La computación evolutiva es altamente eficiente para explorar espacios de búsqueda complejos y puede complementar los enfoques predominantes. Nuestro laboratorio, por ejemplo, ha tenido un avance reciente en este sentido: hemos demostrado que las Estrategias Evolutivas son superiores al Aprendizaje por Refuerzo para la mayoría del post‑entrenamiento de LLM, lo que resulta en modelos de calidad igual o superior a costos mucho menores. Los enfoques evolutivos también podrían ayudar con el Entrenamiento en Tiempo de Prueba, que busca permitir que los LLM aprendan después del despliegue.

La investigación de Cognizant ha explorado entornos donde los agentes interactuantes desarrollan cooperación, competencia, conocimiento compartido e incluso estrategias engañosas. A medida que los sistemas multi‑agente se vuelven más complejos, ¿podría el comportamiento emergente convertirse en uno de los mayores desafíos para mantener la IA empresarial predecible y alineada con los objetivos organizacionales?

Esto ya es así, como lo demuestra el muy publicitado incidente reciente de OpenAI/Hugging Face. Podríamos pensar que los agentes, limitados a sus indicaciones y contextos, y que utilizan LLMs que no aprenden en tiempo de ejecución, permanecerán más o menos consistentes en su comportamiento. Sin embargo, el hecho es que el entorno y las motivaciones de un agente pueden cambiar, a menudo como resultado de las propias acciones del agente en el entorno, lo que genera un comportamiento imprevisto. Esto es aún más probable que ocurra cuando varios agentes interactúan, por lo que es fundamental que observemos a los agentes autónomos en entornos seguros de pruebas para poder determinar el alcance y la escala de sus tendencias emergentes, y tener eso en cuenta en nuestros diseños y salvaguardas de agentes. Nuestro sistema disponible públicamente, TerraLingua, donde puedes introducir agentes, artefactos e incluso personificar agentes y observar su comportamiento individual y colectivo, es un paso en esta dirección.

Mirando más allá de la ola actual de IA agente, ¿qué avance tecnológico o cambio arquitectónico crees que aún falta antes de que podamos construir sistemas de IA capaces de gestionar de manera fiable objetivos prolongados y complejos con mínima intervención humana?

Muchas de las limitaciones de los agentes actuales provienen de las limitaciones del estado del arte en IA. Los LLMs están prácticamente fijos después del entrenamiento y no pueden ‘cambiar de opinión’ sobre las cosas a medida que encuentran nueva información. Los LLMs son todo y todos a la vez, por lo que necesitan ser preparados con contexto e indicaciones y son bastante sensibles a esta preparación. Los LLMs tienen ventanas de contexto limitadas y necesitan que se les vuelva a proporcionar todo de nuevo para cada palabra que producen o acción que realizan. A nivel de múltiples agentes, creo que necesitamos protocolos de coordinación distribuida ampliamente aceptados, salvaguardas de confianza y políticas, y sistemas árbitros de transacciones para que el futuro de los agentes alcance su máximo potencial.

Gracias por la gran entrevista, los lectores que deseen aprender más deberían visitar Cognizant o nuestro nuestro entrevista anterior.