Manuel Romero, Co-Fundador y Director Científico de Maisa – Serie de Entrevistas

Manuel Romero, Co-Fundador y Director Científico de Maisa, es un investigador y ingeniero de inteligencia artificial enfocado en el desarrollo de sistemas de inteligencia artificial confiables y de nivel empresarial. Co-fundó Maisa en 2024 para crear inteligencia artificial responsable capaz de ejecutar procesos comerciales complejos con transparencia y control. Antes de Maisa, Romero ocupó puestos senior de ingeniería de inteligencia artificial y aprendizaje automático en empresas como Clibrain y Narrativa, donde se especializó en procesamiento de lenguaje natural y sistemas de inteligencia artificial a gran escala. Al comienzo de su carrera, trabajó como ingeniero de software full-stack y especialista en DevOps antes de transitar a la investigación y desarrollo de inteligencia artificial avanzada, convirtiéndose en un contribuyente activo al ecosistema de inteligencia artificial de código abierto.

Maisa AI desarrolla “trabajadores digitales” autónomos, agentes de inteligencia artificial diseñados para automatizar flujos de trabajo empresariales complejos mientras mantienen la trazabilidad, la gobernanza y la confiabilidad. La plataforma permite a las organizaciones crear y desplegar agentes de inteligencia artificial utilizando lenguaje natural, lo que permite la automatización en sistemas y fuentes de datos internos sin codificación extensiva. Al centrarse en la razón verificable y la ejecución estructurada, Maisa busca superar las limitaciones comunes asociadas con los sistemas de inteligencia artificial generativa y ayudar a las empresas a implementar inteligencia artificial autónoma de manera segura a gran escala.

A menudo se ha centrado en comprender el “por qué” más profundo detrás de los sistemas de inteligencia artificial. Desde un punto de vista técnico, ¿qué lo llevó a co-fundar Maisa en 2024, y qué brecha en la arquitectura de inteligencia artificial empresarial creía que no se estaba abordando?

La motivación detrás de la fundación de Maisa provino de la realización de que la mayoría de las pilas de inteligencia artificial empresarial se construyeron alrededor de modelos, no sistemas.

Durante el auge de la inteligencia artificial generativa, muchas empresas se centraron en integrar grandes modelos de lenguaje en flujos de trabajo existentes. Sin embargo, estos sistemas a menudo eran frágiles, opacos y difíciles de operar a gran escala. Les faltaba:

• ejecución determinista donde importaba.
• fuerte observabilidad, trazabilidad
• reproducibilidad

La brecha que vimos fue la ausencia de verdadera infraestructura de inteligencia artificial para empresas. Las empresas estaban construyendo aplicaciones alrededor de API de LLM, pero les faltaba algo equivalente a una arquitectura de computadora para el trabajo del conocimiento.

Maisa se creó para abordar esa brecha diseñando una arquitectura centrada en la Unidad de Procesamiento de Conocimiento (KPU), un sistema que permite que la inteligencia artificial opere de manera confiable dentro de los flujos de trabajo empresariales reales.

Ha trabajado en procesamiento de lenguaje natural avanzado y sistemas generativos antes de fundar Maisa. ¿Cómo esas experiencias moldearon las decisiones arquitectónicas detrás de la plataforma?

Mi experiencia trabajando en NLP y NLG, particularmente en el entrenamiento y pre-entrenamiento de modelos de lenguaje y modelos de lenguaje grande (cientos de ellos), hizo algo muy claro al intentar construir sistemas reales sobre ellos. La arquitectura del transformador es extremadamente poderosa, pero viene con al menos tres limitaciones fundamentales que deben abordarse para utilizarla de manera confiable en producción.

La primera es las alucinaciones. Estos modelos generan texto de manera probabilística y pueden producir salidas que suenan correctas pero no están basadas en información verificada.

La segunda es las limitaciones de contexto. Incluso con ventanas de contexto más grandes, los modelos operan dentro de un espacio de token limitado, lo que hace difícil razonar sobre grandes o complejos cuerpos de conocimiento.

La tercera es la información actualizada. Los modelos pre-entrenados representan una instantánea del conocimiento en el momento del entrenamiento, mientras que los entornos empresariales requieren sistemas que puedan razonar sobre información constantemente cambiante.

Reconocer estas limitaciones dio forma a muchas de las decisiones arquitectónicas detrás de Maisa. En lugar de confiar solo en el modelo, nos centramos en construir un sistema que proporciona acceso estructurado al conocimiento, mecanismos de validación y ejecución controlada para que la inteligencia artificial pueda operar de manera confiable en flujos de trabajo empresariales reales.

Muchas empresas experimentan con inteligencia artificial generativa pero luchan por ir más allá de los pilotos. Desde una perspectiva de diseño de sistemas, ¿cuál es la razón principal por la que el escalado falla en muchas organizaciones?

Muchas empresas luchan por ir más allá de los pilotos de inteligencia artificial generativa porque la mayoría de las implementaciones se construyen como experimentos en lugar de como sistemas robustos. Los prototipos tempranos a menudo confían en la ingeniería de prompts, la orquestación ligera y las tuberías de recuperación simples, lo que puede demostrar valor pero no proporciona la confiabilidad, la observabilidad o el control requeridos para entornos de producción. Cuando las organizaciones intentan escalar estos sistemas, encuentran problemas como salidas inconsistentes, falta de trazabilidad, dificultad para integrarse con flujos de trabajo empresariales y una limitada gobernanza sobre cómo se comporta la inteligencia artificial. En su núcleo, el problema es que los grandes modelos de lenguaje son generadores probabilísticos, mientras que los procesos empresariales requieren comportamiento predecible y auditable. Sin una arquitectura que agregue estructura alrededor de la razón, la validación, la ejecución y el monitoreo, los sistemas de inteligencia artificial generativa siguen siendo difíciles de escalar más allá de casos de uso aislados.

Los Trabajadores Digitales de Maisa están diseñados para ser auditables y estructurados en lugar de puramente probabilísticos. ¿Qué significa eso en términos prácticos para las empresas que evalúan la inteligencia artificial para su uso en producción?

Cuando decimos que los Trabajadores Digitales de Maisa son auditables y estructurados en lugar de puramente probabilísticos, queremos decir que la inteligencia artificial opera dentro de un sistema controlado donde sus acciones y razonamiento pueden ser trazados y gobernados. En lugar de permitir que un modelo genere libremente salidas y decisiones, el sistema estructura cómo la inteligencia artificial interactúa con los datos, las herramientas y los flujos de trabajo. Cada paso en el proceso puede ser registrado, inspeccionado y validado, y las acciones se ejecutan a través de interfaces definidas en lugar de directamente desde la salida del modelo. Para las empresas, esto significa que los sistemas de inteligencia artificial pueden ser monitoreados, auditados e integrados en procesos críticos con mayor confianza. Cambia la inteligencia artificial de ser una caja negra asistente a un sistema cuyo comportamiento puede ser entendido, controlado y confiado en entornos de producción.

Como arquitecto de la Unidad de Procesamiento de Conocimiento, ¿cómo difiere de una capa de orquestación típica o un motor de flujo de trabajo construido alrededor de grandes modelos de lenguaje?

La Unidad de Procesamiento de Conocimiento difiere de las capas de orquestación típicas porque está diseñada para gestionar el ciclo de vida completo del razonamiento impulsado por la inteligencia artificial en lugar de simplemente coordinar llamadas a modelos y prompts. La mayoría de los marcos de orquestación actúan como administradores de flujo de trabajo que encadenan pasos como recuperación, prompting y ejecución de herramientas. La KPU opera a un nivel arquitectónico más profundo al estructurar cómo se accede al conocimiento, cómo se realiza el razonamiento y cómo se ejecutan las acciones dentro del sistema. Trata el procesamiento de conocimiento como una capa computacional central, integrando memoria, validación y ejecución controlada para que la inteligencia artificial pueda operar de manera confiable dentro de flujos de trabajo empresariales complejos en lugar de simplemente generar respuestas.

En industrias reguladas, la tolerancia al riesgo es baja. ¿Qué decisiones de diseño específicas tomó para asegurarse de que las salidas de la inteligencia artificial sigan siendo confiables y no propaguen errores a través de flujos de trabajo complejos?

En industrias reguladas, la confiabilidad y el control son esenciales, así que diseñamos el sistema con varias salvaguardias para asegurarnos de que las salidas de la inteligencia artificial sigan siendo confiables. Un principio clave es la ejecución estructurada, donde la inteligencia artificial no puede desencadenar acciones críticas directamente sin pasar por interfaces controladas. También incorporamos capas de validación que verifican las salidas del modelo contra esquemas, reglas o mecanismos secundarios antes de que sean aceptadas. Además, el sistema mantiene una observabilidad completa, registrando pasos de razonamiento, interacciones de herramientas y decisiones para que puedan ser trazados y auditados. Juntas, estas decisiones de diseño ayudan a prevenir que los errores se propaguen a través de los flujos de trabajo y permiten a las organizaciones operar sistemas de inteligencia artificial con el nivel de confiabilidad y gobernanza requerido en entornos regulados.

¿Cuáles son los casos de uso más convincentes al principio donde ha visto que los Trabajadores Digitales pasan de la asistencia guiada a la ejecución de inteligencia artificial impulsada completamente?

Algunos de los casos de uso más convincentes al principio aparecen en flujos de trabajo intensivos en conocimiento donde los procesos están bien definidos pero aún requieren un análisis y toma de decisiones significativos. En áreas como la revisión de cumplimiento, las operaciones de soporte técnico y la gestión del conocimiento interno, los Trabajadores Digitales pueden ir más allá de simplemente asistir a los humanos y comenzar a ejecutar tareas estructuradas de extremo a extremo. Pueden recuperar y analizar grandes volúmenes de información interna, aplicar procedimientos definidos, interactuar con sistemas empresariales a través de herramientas controladas y producir salidas que se alimentan directamente en flujos de trabajo operativos. El cambio clave ocurre cuando la inteligencia artificial no solo genera sugerencias sino que es capaz de llevar a cabo acciones definidas de manera confiable dentro de un sistema gobernado, lo que permite a las organizaciones automatizar partes del trabajo del conocimiento complejo en lugar de solo mejorarlos.

À medida que el escrutinio regulatorio alrededor de la inteligencia artificial se intensifica a nivel mundial, ¿cómo ve evolucionar la infraestructura de inteligencia artificial central para cumplir con los requisitos de cumplimiento sin limitar la innovación?

A medida que el escrutinio regulatorio alrededor de la inteligencia artificial aumenta, creo que veremos un cambio alejándose de arquitecturas que simplemente llaman a las API de los proveedores de modelos y confían en la salida ciegamente. Las empresas y los reguladores exigirán cada vez más sistemas donde el comportamiento de la inteligencia artificial sea observable, auditable y gobernado. Es ahí donde las arquitecturas como la Unidad de Procesamiento de Conocimiento se vuelven importantes. Este tipo de arquitectura permite a las organizaciones hacer cumplir controles, trazar decisiones y asegurarse de que las salidas de la inteligencia artificial sean confiables antes de que influyan en procesos reales. Con el tiempo, espero que este tipo de sistemas se conviertan en la base estándar para la infraestructura de inteligencia artificial confiable.

Habla sobre ética y responsabilidad junto con su trabajo técnico. ¿Cómo esas perspectivas influyen en su enfoque para construir sistemas de inteligencia artificial transparentes?

La ética y la responsabilidad, para mí, se traducen directamente en decisiones de diseño del sistema. Si los sistemas de inteligencia artificial van a participar en flujos de trabajo operativos reales, no pueden funcionar como cajas negras opacas cuyo comportamiento no puede ser inspeccionado o entendido. Esa perspectiva ha influido fuertemente en cómo abordo la construcción de sistemas de inteligencia artificial. La transparencia, la trazabilidad y la supervisión humana deben estar integradas en la arquitectura desde el principio. Esto significa asegurarse de que los pasos de razonamiento puedan ser observados, las decisiones pueden ser auditadas y las acciones se ejecutan a través de mecanismos controlados. Cuando estos principios se incorporan a nivel de infraestructura, los sistemas de inteligencia artificial se vuelven no solo más confiables sino también más fáciles de gobernar de manera responsable por parte de las organizaciones.

Mirando hacia adelante, ¿cree que la infraestructura de inteligencia artificial agente se convertirá en algo tan fundamental como la infraestructura en la nube lo fue en la década anterior — y qué necesita suceder técnicamente para que ese cambio se materialice?

Creo que la infraestructura de inteligencia artificial agente tiene el potencial de convertirse en algo tan fundamental como la infraestructura en la nube se ha vuelto en la última década. A medida que las organizaciones buscan automatizar cada vez más el trabajo del conocimiento complejo, necesitarán sistemas que puedan coordinar de manera confiable el razonamiento, la memoria y la ejecución a través de muchas tareas y fuentes de datos. Sin embargo, para que ese cambio se materialice, la arquitectura subyacente debe madurar más allá de simples integraciones de modelos. Necesitamos infraestructura que proporcione razonamiento estructurado, acceso confiable al conocimiento empresarial, fuerte observabilidad y ejecución controlada de acciones. Cuando esas capacidades se incorporen al sistema central, la inteligencia artificial agente puede evolucionar de herramientas experimentales a infraestructura confiable en la que las organizaciones confíen para operar procesos críticos.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Maisa AI.