Sohrab Hosseini, Co-Fundador de orq.ai – Serie de Entrevistas

Sohrab Hosseini, Co-Fundador de orq.ai, es un líder tecnológico y emprendedor con sede en el área de Ámsterdam con una profunda experiencia en SaaS, sistemas a gran escala y AI aplicada. Desde la fundación de orq.ai en 2022, se ha centrado en construir infraestructuras prácticas que ayuden a los equipos a mover modelos de lenguaje grande desde la experimentación hasta el uso de producción confiable. Su experiencia incluye puestos de liderazgo senior como COO y CTO en Neocles, CTO de Tecnología de Futuro en Transdev, donde trabajó en rutas autónomas y gestión de flotas, y COO en TradeYourTrip. En paralelo, es activo como asesor y inversor ángel, apoyando a empresas de AI en etapas tempranas con dirección de productos, juicio técnico y estrategia de ejecución.

orq.ai es una plataforma de colaboración y LLMOps de IA generativa construida para ayudar a las organizaciones a diseñar, operar y escalar productos y agentes de IA en entornos del mundo real. La plataforma aporta la gestión de prompts, experimentación, recopilación de comentarios y visibilidad en tiempo real del rendimiento y los costos en un solo espacio de trabajo, manteniendo la compatibilidad con todos los principales proveedores de modelos de lenguaje grande. Al permitir una estrecha colaboración entre equipos técnicos y no técnicos, orq.ai ayuda a las empresas a acortar los ciclos de lanzamiento, mejorar la gobernanza y la transparencia, y reducir la complejidad y el costo de ejecutar sistemas de IA en producción.

Ha ocupado puestos técnicos y operativos senior en sistemas autónomos, tecnología de gestión de flotas y plataformas SaaS antes de fundar Orq.ai — ¿cómo su carrera lo llevó a construir una capa de control empresarial para agentes de IA en 2022?

Nuestros antecedentes siempre han sido sobre liderar equipos de ingeniería y centrarse en plataformas de habilitación; cosas como la nube, DevOps y habilitación de datos, especialmente durante nuestro tiempo como consultores de tecnología. Cuando comenzó el auge de la IA generativa, mi co-fundador y yo nos preguntamos: ¿qué tipo de habilitación necesitarán las empresas no solo para construir IA, sino para gobernarla y controlarla adecuadamente?

Vimos que la verdadera necesidad era una capa de control empresarial para agentes de IA. Esto nos llevó a construir Orq.ai en primer lugar.

Al lanzar Orq.ai, ¿qué vio en el mercado que lo convenció de que el verdadero cuello de botella no era la calidad del modelo, sino la incapacidad de llevar sistemas de agentes desde demos hasta producción confiable?

Siempre creímos que, cuando se construye software innovador, hay que construir para el futuro. Desde el principio, asumimos que los modelos de lenguaje grande seguirían mejorando y volviéndose más inteligentes con el tiempo. Así que el verdadero desafío que vimos no fue la calidad del modelo en sí, sino todos los problemas de control, gobernanza y gestión del ciclo de vida que surgen cuando se intenta mover de una demo a un entorno de producción real.

En otras palabras, incluso a medida que los modelos mejoran, el verdadero valor para nuestros clientes (y para nosotros) es asegurarse de que estos sistemas realmente funcionen de manera confiable en producción. Y eso es realmente lo que nos propusimos resolver.

La mayoría de los equipos pueden construir prototipos impresionantes, pero luchan con la orquestación en tiempo de ejecución, la gobernanza y el monitoreo. En su opinión, ¿cuál es el punto de rotura más grande cuando los equipos de ingeniería intentan escalar desde un entorno de prueba de concepto a un agente de producción en vivo?

El punto de rotura más grande es que los equipos a menudo piensan que es solo una ruta lineal directa desde comenzar a construir un agente hasta tenerlo terminado. En realidad, es un proceso muy iterativo.

Estás ajustando constantemente tus suposiciones, probándolas, moviéndolas a producción y luego monitoreando lo que sucede en el mundo real. Encuentras casos de borde y luego comienzas ese ciclo nuevamente.

El desafío es que no es solo un esfuerzo de una vez; es un ciclo continuo de refinamiento. Y para construir sobre eso, no es solo que sea iterativo, sino que a menudo no hay suficiente herramientas o andamiaje para apoyar ese proceso de manera suave.

Necesitas una forma para que los expertos en dominio, gerentes de productos y ingenieros colaboren sin crear silos o entregas costosas que desperdicien mucho tiempo. Así que eso es otra gran pieza del rompecabezas: asegurarse de que todos estos partes interesadas puedan iterar juntos de manera eficiente. Y eso es algo que realmente hemos tratado de resolver.

Orq.ai se posiciona como una capa de control unificada que abarca la experimentación, la evaluación, la observabilidad y la ejecución en tiempo de ejecución. ¿Por qué creyó que una arquitectura de extremo a extremo era esencial, en lugar de ofrecer herramientas aisladas como muchas soluciones de punto?

Cuando comienzas, es natural elegir una herramienta que resuelva tu mayor dolor de cabeza en ese momento, a menudo puede ser la observabilidad. Pero a medida que tu equipo evoluciona, golpeas el siguiente cuello de botella y agregas otra herramienta, por ejemplo, una puerta de enlace de IA. Antes de que te des cuenta, tienes de cinco a siete herramientas diferentes en tu paisaje. Los datos se fragmentan, la gente pierde visibilidad y se desperdician recursos solo para mantener todas estas integraciones. Pierdes esa visión unificada a lo largo de tu ciclo de vida.

Creamos que, a medida que surgen las empresas impulsadas por agentes, realmente necesitas esa arquitectura de extremo a extremo. Necesitas una visión unificada de lo que todos tus agentes están haciendo en toda la organización, no solo soluciones de punto fragmentadas. Eso es por lo que no vimos otra forma que abarcar esas grandes partes del flujo de trabajo en una plataforma unificada.

Con el nuevo Agent Studio y el entorno de ejecución rediseñado, ¿qué puntos de dolor principales estaban tratando de resolver en base a la retroalimentación de clientes tempranos en Europa y EE. UU.?

Lo que vimos fue que los equipos estaban utilizando todo tipo de bibliotecas de código abierto para construir sus agentes, a pesar de que la arquitectura real de un agente puede ser bastante limpia y simple. Terminaron con bibliotecas infladas, mucha sobrecarga y una gran curva de aprendizaje solo para sacar incluso agentes simples allí. Con Orq, queríamos descargar esa carga.

En lugar de preocuparse por la arquitectura, el cómputo, el autoscaling, toda la infraestructura, los equipos pueden simplemente centrarse en configurar sus agentes y darles las herramientas y API adecuadas. Nosotros manejamos el trabajo pesado para que puedan concentrarse en construir sus casos de uso reales. Y encima de eso, porque apoyamos todo el ciclo de vida, hemos construido cabinas especializadas que te permiten probar realmente tus agentes a escala.

Eso significa que puedes encontrar casos de borde más rápido y endurecer tus agentes de manera más efectiva. Se trata de dar a los equipos las herramientas no solo para construir agentes fácilmente, sino para refinarlos y endurecerlos en escenarios del mundo real, sin todo el problema extra.

¿Cómo las regulaciones como el GDPR y el Acta de IA de la UE, que están endureciendo los requisitos, están influyendo en la forma en que las empresas diseñan, monitorean y despliegan agentes — y cómo se está adaptando Orq.ai?

No es que estos requisitos estén endureciendo de repente, son parte de la ley, y nuestros clientes deben adherirse a ellos. Lo que estamos haciendo es asegurarnos de que a lo largo de todo el ciclo de vida, les demos a los equipos las herramientas, evaluadores y guardias adecuados para que puedan construir la conformidad desde el primer día.

Nos aseguramos de que la residencia de datos, la privacidad de datos, todo eso esté integrado desde el principio. Y con las tensiones geopolíticas y el impulso hacia la soberanía tecnológica y de IA en Europa, hemos visto una gran demanda de eso. Dado que podemos ejecutarnos completamente en las instalaciones y ayudar a las empresas a reducir la dependencia, estamos en una buena posición para ayudarlos a mantener el control de su propio destino.

Las empresas están pidiendo cada vez más arquitecturas listas para la soberanía y despliegues híbridos/en las instalaciones. ¿Qué nos dice esto sobre hacia dónde se dirige la infraestructura de IA empresarial?

Cada empresa y cada caso de uso involucra compromisos. Es una cuestión de cuán listo y seguro es algo en comparación con estar en las instalaciones. Apoyamos todos los sabores a lo largo de ese espectro. Pero lo que estamos viendo es un fuerte enfoque en la soberanía y la residencia de datos en la capa del modelo.

Los clientes quieren claridad sobre dónde viven sus datos y la capacidad de reducir la dependencia de los grandes proveedores de la nube. Gracias a nuestra puerta de enlace de IA, que se ejecuta en todas las principales plataformas en la nube y en las instalaciones, los equipos pueden tomar fácilmente esas decisiones de compromiso en función del caso de uso. Obtienen la flexibilidad para mantener el control y moverse sin problemas entre entornos.

Vemos un gran aumento en la demanda de grandes empresas e instituciones del sector público.

¿Cómo ve la evolución de flujos de trabajo de multiagentes, guardias de seguridad y sistemas de razonamiento más avanzados a medida que las empresas se mueven de la experimentación a la verdadera industrialización de agentes en 2026?

A medida que el uso de agentes realmente se industrializa, estamos viendo nuevos tipos de problemas surgir, especialmente con configuraciones de multiagentes. Puedes tener docenas o incluso cientos de agentes ejecutándose alrededor de tu organización en cualquier momento, al igual que los empleados.

La pregunta es: ¿cómo gobiernas a todos ellos cuando tienes este conjunto multidimensional de problemas, como costos, calidad de datos, residencia de datos, corrección, métricas de alucinación, etc.? Necesitas una nueva capa de gobernanza para manejar eso, y necesitas guardias de seguridad que puedan desplegarse de arriba hacia abajo.

También necesitas visibilidad y nuevas capas de agregación de arriba hacia abajo para que tu CFO, COO, CISO puedan ver qué está sucediendo e intervenir con conocimientos acciónables. Realmente creemos que en 2026, este concepto de “departamento de agentes” y la tecnología para apoyarlo se convertirá en un tema mucho más candente.

El deslizamiento de agente, la regresión de calidad y los flujos de datos poco claros son problemas recurrentes en la IA de producción. ¿Cómo aborda la capa de control de Orq.ai estas brechas largas en versionado, evaluación y monitoreo continuo?

Cada agente realmente necesita su propia correa de evaluaciones. Estas evaluaciones básicamente definen qué es correcto y qué es incorrecto para ese escenario particular. Al pasar tiempo al principio configurando estos conjuntos de evaluación adecuadamente, los equipos pueden hacer una mejor experimentación fuera de línea para ver cómo se comportan antes de ir en vivo. Y luego, al monitorear estas mismas evaluaciones en línea, puedes detectar cuándo los modelos se deslizan o cuándo el comportamiento del agente comienza a cambiar con el tiempo. De esa manera, tienes un conjunto consistente de métricas de calidad durante las pruebas fuera de línea, el monitoreo en línea y la guardia.

Mirando hacia adelante, ¿qué definirá la próxima generación de agentes de IA empresarial — y cómo se está posicionando Orq.ai para convertirse en la plataforma operativa predeterminada para ese mundo?

Mirando hacia adelante, creo que lo que definirá la próxima generación de agentes de IA empresarial es que cada proveedor estará proporcionando sus propios agentes. En empresas más grandes, será este amplio paisaje de agentes de primera y tercera parte trabajando juntos y llamándose entre sí.

No será solo un tipo de agente o un proveedor; es todo un ecosistema que necesita gobernanza y cumplimiento. Y ahí es donde entra Orq. Nos estamos posicionando como la torre de control de agentes que da a las diferentes capas de la organización la vista agregada correcta y los conocimientos acciónables para intervenir en cualquier etapa.

Ya sea que se trate de construir, escalar, operar o incluso desmontar agentes, diferentes funciones necesitarán diferentes vistas de ese paisaje. Y vamos a ser el proveedor predeterminado para esa capacidad. Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar orq.ai.