Ali Sarrafi, CEO y Fundador de Kovant – Serie de Entrevistas

Ali Sarrafi, CEO y Fundador de Kovant, es un experimentado ejecutivo de tecnología y AI con sede en Estocolmo, con un historial de construir y escalar empresas de AI de alto crecimiento. Desde la fundación de Kovant a finales de 2024, ha aprovechado su experiencia en estrategia de AI empresarial, ejecución de lanzamiento al mercado y escalabilidad operativa. Anteriormente, se desempeñó como Vicepresidente de Estrategia en Silo AI después de su adquisición por AMD, donde fue responsable de dar forma a la estrategia de AI empresarial y impulsar la adopción a gran escala. Al comienzo de su carrera, cofundó Combient Mix, liderando la empresa a través de un crecimiento rápido y una adquisición exitosa por Silo AI, y desde entonces ha ocupado puestos asesores y de consejo en educación y startups de AI, reflejando un enfoque constante en traducir AI avanzada en impacto empresarial real.

Kovant es una empresa de AI empresarial que se centra en permitir que las organizaciones pasen de un uso experimental de AI a procesos empresariales completamente operativos y autónomos. La empresa desarrolla una plataforma basada en agentes diseñada para orquestar equipos de agentes de AI a través de dominios operativos complejos como la compra, las cadenas de suministro, el cumplimiento y las operaciones del cliente. Al enfatizar la implementación segura y de nivel empresarial, y el tiempo de valor rápido, Kovant se posiciona como un puente entre la ambición estratégica de AI y la ejecución diaria, ayudando a las grandes organizaciones a integrar AI directamente en los flujos de trabajo básicos en lugar de tratarla como una herramienta independiente o proyecto piloto.

Ha liderado importantes iniciativas de AI en Spotify, escalado y salido de Combient Mix, y luego dio forma a la estrategia de AI empresarial en Silo AI antes de fundar Kovant. ¿Qué brechas o frustraciones específicas encontró en esos roles que lo convencieron de que era el momento adecuado para construir una plataforma empresarial autónoma, y cómo esa historia dio forma a la filosofía de diseño central de Kovant?

A lo largo de mis roles anteriores, algunas brechas consistentes seguían apareciendo. En primer lugar, la mayoría de las herramientas de AI “verticales” están efectivamente atrapadas en una sola pila de software: hacen algo ligeramente mejor dentro de ese límite, pero luchan en el momento en que un flujo de trabajo necesita abarcar múltiples sistemas. Al mismo tiempo, los datos empresariales están dispersos en muchas herramientas, y muchas soluciones de automatización simplemente no pueden alcanzarlos. Agregue años de integraciones puntuales y obtendrá la clásica arquitectura de espaguetis: la complejidad aumenta, el cambio se vuelve más lento, y los equipos terminan automatizando pasos individuales en lugar de reimaginear el flujo de trabajo de principio a fin. El resultado es que el ROI a menudo llega más lentamente – y es más pequeño – de lo que las organizaciones esperan.

Kovant está diseñada como una respuesta a esa realidad. Nuestra filosofía central es que los agentes deben comportarse más como empleados: trabajan a través de múltiples herramientas, están “contratados” para hacer trabajos, no para automatizar una sola secuencia scriptada. Es por eso que las integraciones y la orquestación están integradas, y por qué asumimos que los datos empresariales a menudo son desordenados y no estructurados – necesitan un enfoque más humano para manejar excepciones y ambigüedad.

Usamos agentes de base para lograr velocidad y escala, manteniendo la soberanía de los datos en el centro: las empresas pueden acceder y utilizar sus propios datos horizontalmente sin que salgan de sus instalaciones.

Kovant se posiciona como una plataforma empresarial autónoma capaz de ejecutar operaciones y departamentos completos con agentes de AI. ¿Cómo define “autónomo” en un contexto empresarial, y cómo difiere esto de las herramientas y la automatización que las empresas están experimentando actualmente?

En un contexto empresarial, cuando decimos “autónomo” no significa “no supervisado”. Significa que los agentes de AI pueden tomar acciones reales de principio a fin en una operación con objetivos y guardias claros, y escalarán a los humanos cuando se necesite supervisión.

Lo que hace que Kovant sea diferente es nuestro agente de base. En lugar de automatizar un proceso fijo o seguir una secuencia preconstruida, los agentes de Kovant pueden trabajar como un equipo (o enjambre) en una operación utilizando solo instrucciones y una descripción general de operaciones que llamamos plano. No están diseñados para una tarea estrecha; colaboran para resolver flujos de trabajo complejos, se adaptan a medida que cambian las condiciones, y pasan a las personas cuando la situación requiere supervisión.

Por ejemplo, un equipo de agentes de gestión de inventario puede realizar todos los siguientes trabajos sin reconstruirlos desde cero, incluyendo: comunicarse con proveedores a través de correo electrónico, monitorear los niveles de inventario y señales de agotamiento, rastrear envíos y pedidos de compra, actualizar estatus en varios sistemas, crear tickets de discrepancia para que los planificadores de inventario los aprueben, redistribuir inventario entre almacenes y consolidar informes de inventario.

Así que el cambio es en lugar de “chat más herramientas” o automatizaciones frágiles que se rompen a escala, las empresas se mueven de construir agentes a ejecutarlos a escala.

A pesar del gran interés en AI agente, muchas organizaciones siguen atascadas en el modo de prueba. Desde lo que está viendo en despliegues reales, ¿cuáles son las razones principales por las que las empresas luchan para moverse de la experimentación a la producción a escala?

Lo que estamos viendo es que la mayoría de las organizaciones no se quedan atascadas en el modo de prueba porque la idea es incorrecta; se quedan atascadas porque el entorno es hostil para la escalabilidad.

El primer bloqueador es el paisaje tecnológico empresarial fragmentado. Los flujos de trabajo abarcan muchas herramientas, los datos viven en múltiples lugares, y coser todo de manera confiable es difícil. Y la AI agente a menudo se despliega como una extensión de las herramientas existentes, en lugar de como una forma de repensar cómo debe funcionar el flujo de trabajo de principio a fin.

Hay un problema de arquitectura y datos real. Muchos proveedores de SaaS todavía intentan bloquear los datos, lo que crea incompatibilidades y limita lo que los agentes pueden hacer realmente a través de los sistemas. Y muchos equipos subestiman el hecho de que la mayoría de los datos empresariales son no estructurados (correos electrónicos, documentos, tickets, PDF, registros de chat). Si su enfoque asume datos limpios y estructurados, el tiempo de valor se vuelve largo, doloroso y difícil de replicar más allá de la prueba.

En resumen: la fragmentación, el bloqueo y los datos no estructurados crean resistencia – y las pruebas nunca se convierten en producción hasta que esas realidades se diseñan.

La confiabilidad a menudo se cita como el mayor obstáculo para desplegar agentes de AI en el mundo real. ¿Por qué tantos sistemas de agentes fallan una vez que dejan los entornos controlados, y cómo reduce Kovant problemas como alucinaciones y comportamiento impredecible?

Algunos sistemas de agentes parecen geniales en demos, luego fallan en el mundo real porque el entorno es desordenado y impredecible. Los datos son incompletos o inconsistentes, los casos de borde aparecen constantemente (reembolsos, disputas, aprobaciones especiales). Los flujos de trabajo abarcan múltiples herramientas, plataformas e integraciones que cambian con el tiempo, y los permisos varían. Cuando se le pide a un agente de AI que maneje una tarea grande y se le da demasiado contexto de una vez, el riesgo de alucinaciones y comportamiento extraño aumenta.

Kovant reduce esto por diseño. Nuestra arquitectura única reduce el espacio de problemas, el espacio de decisión y el contexto con el que los modelos trabajan para reducir las alucinaciones. También desglosamos las operaciones en tareas estrechas y enfocadas para pasos y agentes individuales. Eso hace que el comportamiento sea más predecible, y agrega trazabilidad y controlabilidad en el sistema y puede manejar las alucinaciones mejor. Podemos ver qué hizo cada agente, dónde comenzó un fallo y podemos intervenir o escalar cuando sea necesario.

Las alucinaciones no desaparecen mágicamente, pero al limitar lo que cada agente es responsable y limitar el contexto en el que puede actuar, podemos reducir su frecuencia y limitar su impacto. Este enfoque de “tarea/contexto reducido” también ha sido respaldado en un trabajo reciente del equipo de investigación de Nvidia, que encontró beneficios similares al limitar la toma de decisiones de los agentes.

La rendición de cuentas es una preocupación importante a medida que los agentes de AI comienzan a tomar acciones reales en los sistemas empresariales. ¿Cómo cambian los registros de acciones detallados la conversación sobre confianza, cumplimiento y riesgo operativo?

Con registros de acciones detallados, podemos ver qué sucedió, por qué sucedió y qué sucede a continuación.

Los registros detallados convierten a un agente de un bot misterioso que trabaja en la máquina en un sistema que se puede inspeccionar.

En Kovant, con cualquier despliegue de agente de AI, habrá un mapa de riesgos que la organización puede actuar, hemos construido una puerta de enlace para humanos para acciones de alto riesgo que significa que los agentes solo pueden realizar esas tareas si un humano revisa y aprueba la decisión. Todo esto se registra de la misma manera que un sistema de registros se registra y es trazable.

Creamos que es importante combinar registros de acciones con supervisión humana y observabilidad para minimizar el riesgo. Significa que todavía obtenemos los beneficios de velocidad y escala de los agentes que ejecutan operaciones reales.

Hay un creciente debate sobre si los agentes de AI pueden ser asegurados debido a su toma de decisiones opaca. ¿Cómo hacer que los flujos de trabajo de los agentes sean auditables y reproducibles ayuda a abordar el problema de la “caja negra” y abre la puerta a la asegurabilidad?

El problema de la “caja negra” es lo que hace que la asegurabilidad sea difícil. Si no se puede mostrar claramente qué hizo un agente, por qué lo hizo y qué controles estaban en lugar, es difícil para cualquier persona, especialmente para los aseguradores, evaluar el riesgo.

Nuestro enfoque es esencialmente una extensión de la configuración de rendición de cuentas en la respuesta anterior. Desglosamos el alcance de la decisión y el impacto de las acciones en trozos más pequeños, para que el modelo no tome una sola decisión gigante y opaca que pueda influir en toda una operación. Cada paso es más estrecho, más predecible y más fácil de evaluar.

Luego agregamos registros detallados, observabilidad y supervisión humana. Para las decisiones más importantes y de mayor impacto, usamos un guardián humano para que el agente solo pueda proceder después de la revisión y aprobación. Eso crea mucha más visibilidad en cómo se comporta el flujo de trabajo en la práctica.

Hacer que los flujos de trabajo sean auditables y reproducibles es la pieza final. Si algo sale mal, se puede reproducir qué sucedió, investigarlo rápidamente, validar soluciones y demostrar cuán a menudo se requiere aprobación humana y dónde se encuentran las salvaguardas. En términos de suscripción, eso convierte el comportamiento misterioso de la AI en algo más cercano al riesgo operativo estándar.

Con iniciativas como la Fundación de AI Agente que apuntan a crear estándares compartidos para sistemas agente, ¿qué aspectos de estos esfuerzos ve como los más prometedores, y dónde todavía fallan para las operaciones empresariales reales?

La estandarización en general es algo bueno. La AAIF puede hacer el trabajo no glamoroso pero esencial de hacer que los sistemas de agentes hablen el mismo lenguaje, lo que debería hacer que las integraciones sean más fáciles y reduzca el bloqueo de los proveedores con el tiempo.

Donde soy cauteloso es cuya perspectiva da forma a los estándares. Si la mayoría del trabajo está liderado por creadores de modelos y empresas de tecnología a escala, hay un riesgo de que los “estándares” optimicen para lo que es más fácil de construir o demostrar, en lugar de lo que las grandes organizaciones realmente necesitan para ejecutar agentes de manera segura todos los días.

Para las operaciones empresariales reales, las brechas tienden a ser menos sobre conectores y más sobre control: qué puede acceder y cambiar un agente, flujos de trabajo de aprobación para acciones de alto impacto, registros auditables y observabilidad para que los equipos puedan monitorear el comportamiento, investigar incidentes y demostrar el cumplimiento. Las empresas también necesitan estándares prácticos para operar en la realidad desordenada: pruebas contra casos de borde, manejo de sistemas cambiantes y capacidad de pausar, contener o revertir acciones de manera segura en entornos de datos regulados y herramientas heredadas.

Así que es una dirección prometedora, pero el impacto será limitado a menos que los requisitos y controles de riesgo operativo de la empresa no se traten como un pensamiento posterior.

Kovant ha generado ya ingresos significativos de grandes empresas nórdicas mientras opera en gran medida en sigilo. ¿Qué tipos de funciones comerciales o flujos de trabajo están demostrando ser los más listos para agentes de AI autónomos hoy en día?

Desde lo que hemos visto en despliegues reales, los flujos de trabajo más “listos” hoy en día son los que están compuestos por trabajo de cuello blanco reactivo: monitoreo, persecución, verificación, actualización de sistemas, manejo de excepciones y mantenimiento de las operaciones en marcha a través de múltiples herramientas.

En la fabricación y las cadenas de suministro empresariales más amplias, eso se muestra en:

• Origen/Compra: disponibilidad de materias primas, origen sostenible, operaciones de cumplimiento, selección de proveedores (incluyendo doble/multi-fuente), gestión de contratos, gestión de riesgos de proveedores y gestión de ofertas.
• Producción: planificación de capacidad, programación de producción, gestión de mantenimiento, gestión de calidad, gestión de cuellos de botella y prevención de pérdidas.
• Almacenamiento: recepción e inspección, gestión de inventario, rotación de stock (FIFO/FEFO) y conteo/auditoría cíclica.
• Transporte / logística: selección de modo y portador, cumplimiento aduanero/documentación, seguimiento y visibilidad, monitoreo de emisiones y cumplimiento comercial.
• Ventas y servicio: disponibilidad de productos, prevención de agotamiento de stock, gestión de ventas/devoluciones, análisis de comportamiento del consumidor, además de áreas de posventa como reparaciones, seguimiento de fin de vida, operaciones de taller y contratos de servicio.

¿Cómo recomienda equilibrar la autonomía con la supervisión humana para asegurar el control sin frenar todo?

El equilibrio está gobernado por la autonomía. Debes dejar que los agentes se muevan rápidamente en el trabajo de bajo riesgo dentro de guardias claras, y escalar a los humanos cuando la acción cruza un umbral de riesgo definido.

Muchas fallas provienen de darle al modelo demasiado alcance y demasiado contexto de una vez. Recomiendo desglosar las operaciones en decisiones más pequeñas y estrechas, donde cada paso tiene objetivos claros y un radio de impacto limitado. Eso reduce el comportamiento impredecible y hace que el rendimiento sea más fácil de monitorear y mejorar.

Luego combina tres cosas: observabilidad, registros de acciones y puerta de enlace humana. Todo lo que el agente hace debe ser trazable, para que puedas inspeccionar qué sucedió e investigar rápidamente. Para acciones de alto impacto o riesgo, pones un paso de aprobación humana en el flujo de trabajo, para que el agente pueda proponer y preparar, pero solo ejecuta una vez que una persona lo aprueba.

Eso mantiene las cosas en movimiento. Si algo, solo se ralentiza ligeramente en el paso de supervisión humana, pero eso es una parte importante del proceso. Los humanos no están atascados supervisando cada clic, pero todavía están en control de los momentos que importan. El resultado es velocidad donde es seguro, y supervisión donde es necesaria.

Mirando hacia adelante, ¿cómo espera que el papel de los agentes de AI autónomos evolucione dentro de las grandes organizaciones en los próximos años, y qué separará a las empresas que tienen éxito con la AI agente de aquellas que luchan?

En los próximos años, los agentes de AI autónomos pasarán de experimentos interesantes a convertirse en una capa de operación real dentro de las grandes organizaciones. Se utilizarán para operaciones, servicio al cliente, finanzas y recursos humanos. A medida que la confiabilidad, la gobernanza y la supervisión mejoran, veremos que las empresas se mueven de pilotos aislados a la ejecución de equipos de agentes a través de flujos de trabajo de principio a fin.

El cambio más grande es que la velocidad, la agilidad, la escala, la eficiencia y los costos se convertirán en una palanca competitiva más directa. Creo que un “movimiento Uber” está viniendo para las empresas. Las que realmente dominen la AI agente podrán operar a un ritmo fundamentalmente más rápido que los rezagados, capturarán mercados más rápido y responderán al cambio sin el arrastre operativo habitual.

Lo que separa a los ganadores no es solo desplegar agentes, es desplegarlos bien. La autonomía gobernada, la observabilidad y los registros de acciones sólidos, y las arquitecturas que reducen el alcance de la decisión serán clave para eso. Las empresas que traten la AI agente como una capacidad operativa central, con los controles, la integración y la propiedad adecuados, la usarán para hacer más, no menos. Eso liberará a los equipos para centrarse en el crecimiento y la innovación en lugar de pasar sus días enterrados en la administración. En resumen, la velocidad y la eficiencia radicales se convierten en una verdadera ventaja competitiva a escala empresarial.

Gracias por la gran entrevista, los lectores que deseen aprender más deben visitar Kovant.