Sohrab Hosseini, Co-Fondateur d’orq.ai – Série d’entretiens

Sohrab Hosseini, Co-Fondateur d’orq.ai, est un leader technologique et entrepreneur basé dans la région d’Amsterdam avec une expérience approfondie dans les domaines du SaaS, des systèmes à grande échelle et de l’IA appliquée. Depuis la fondation d’orq.ai en 2022, il s’est concentré sur la création d’infrastructures pratiques qui aident les équipes à passer des modèles de langage à grande échelle de l’expérimentation à une utilisation de production fiable. Son parcours comprend des rôles de direction senior en tant que directeur des opérations et directeur technique chez Neocles, directeur technique de la technologie future chez Transdev où il a travaillé sur la routage autonome et la gestion de flotte, et directeur des opérations chez TradeYourTrip. Parallèlement, il est actif en tant que conseiller et investisseur providentiel, soutenant les entreprises de démarrage dans le domaine de l’IA avec une direction de produit, un jugement technique et une stratégie d’exécution.

orq.ai est une plateforme de collaboration et de LLMOps pour l’IA générative conçue pour aider les organisations à concevoir, exploiter et mettre à l’échelle des produits et des agents alimentés par l’IA dans des environnements du monde réel. La plateforme rassemble la gestion des invites, l’expérimentation, la collecte de commentaires et la visibilité en temps réel des performances et des coûts dans un seul espace de travail, tout en restant compatible avec tous les principaux fournisseurs de modèles de langage à grande échelle. En permettant une collaboration étroite entre les équipes techniques et non techniques, orq.ai aide les entreprises à raccourcir les cycles de publication, améliorer la gouvernance et la transparence, et réduire la complexité et le coût de l’exécution des systèmes d’IA en production.

Vous avez occupé des postes techniques et opérationnels senior dans les systèmes autonomes, la technologie de gestion de flotte et les plateformes SaaS avant de fonder Orq.ai — comment cette trajectoire de carrière a-t-elle influencé votre décision de construire une couche de contrôle d’entreprise pour les agents d’IA en 2022?

Nos antécédents ont toujours été liés à la direction d’équipes d’ingénieurs et à la mise en place de plateformes d’activation ; des choses comme le cloud, DevOps et l’activation des données, en particulier pendant notre temps en tant que consultants en technologie. Lorsque le boom de l’IA générative a commencé, mon co-fondateur et moi nous sommes demandés : quel type d’activation les entreprises auront-elles besoin non seulement pour construire l’IA, mais également pour la gérer et la contrôler correctement?

Nous avons vu que le véritable besoin était une couche de contrôle d’entreprise pour les agents d’IA. Cela nous a amenés à construire Orq.ai en premier lieu.

Quand vous avez lancé Orq.ai pour la première fois, qu’avez-vous vu sur le marché qui vous a convaincu que le véritable goulet d’étranglement n’était pas la qualité du modèle, mais l’incapacité de passer des systèmes d’agents de la démonstration à une production fiable?

Nous avons toujours cru que lorsque vous construisez un logiciel innovant, vous devez construire pour l’avenir. Dès le départ, nous avons supposé que les grands modèles de langage ne feraient que s’améliorer et devenir plus intelligents avec le temps. Le véritable défi que nous avons vu n’était pas la qualité du modèle elle-même, mais tous les problèmes de contrôle, de gouvernance et de gestion du cycle de vie qui surgissent lorsque vous essayez de passer d’une démonstration à un environnement de production réel.

En d’autres termes, même si les modèles s’améliorent, la véritable valeur pour nos clients (et pour nous) est de s’assurer que ces systèmes fonctionnent réellement de manière fiable en production. Et c’est vraiment ce que nous nous sommes efforcés de résoudre.

La plupart des équipes peuvent construire des prototypes impressionnants, mais elles ont du mal avec l’orchestration, la gouvernance et la surveillance en temps de fonctionnement. Quel est, à votre avis, le point de rupture le plus important lorsque les équipes d’ingénieurs tentent de passer d’un environnement de preuve de concept à un agent de production en direct?

Le point de rupture le plus important est que les équipes pensent souvent qu’il s’agit d’un chemin linéaire direct allant de la construction d’un agent à sa finalisation. En réalité, c’est un processus très itératif.

Vous ajustez constamment vos hypothèses, les testez, les déplacez en production, puis surveillez ce qui se passe dans le monde réel. Vous découvrez des cas limites, puis vous recommencez ce cycle encore et encore.

Le défi est qu’il ne s’agit pas d’un effort unique ; c’est une boucle continue de raffinement. Et pour ajouter à cela, ce n’est pas seulement qu’il s’agit d’un processus itératif, mais il n’y a souvent pas suffisamment d’outils ou de structures pour soutenir ce processus de manière fluide.

Vous avez besoin d’un moyen pour que les experts du domaine, les responsables de produit et les ingénieurs collaborent sans créer de silos ou de remises en main coûteuses qui gaspillent beaucoup de temps. Alors c’est un autre grand morceau du puzzle : s’assurer que tous ces parties prenantes peuvent itérer ensemble de manière efficace. Et c’est quelque chose que nous nous sommes vraiment efforcés de résoudre.

Orq.ai se positionne comme une couche de contrôle unifiée qui s’étend de l’expérimentation, de l’évaluation, de l’observabilité et de l’exécution en temps de fonctionnement. Pourquoi avez-vous cru qu’une architecture de bout en bout était essentielle, plutôt que d’offrir des outils isolés comme de nombreuses solutions ponctuelles?

Lorsque vous commencez, il est naturel de choisir un outil qui résout votre plus grand point de douleur à ce moment-là, souvent cela peut être l’observabilité. Mais à mesure que votre équipe évolue, vous rencontrez le prochain goulet d’étranglement et ajoutez un autre outil, par exemple une passerelle d’IA. Avant de vous en rendre compte, vous avez cinq à sept outils différents dans votre paysage. Les données sont fragmentées, les gens perdent la visibilité, et vous gaspillez des ressources juste pour maintenir toutes ces intégrations. Vous perdez cette vue unifiée de votre cycle de vie.

Nous avons cru que, à mesure que les entreprises à base d’agents émergent, vous avez vraiment besoin de cette architecture de bout en bout. Vous avez besoin d’une vue unifiée de ce que font tous vos agents au sein de l’organisation, et non de solutions ponctuelles fragmentées. C’est pourquoi nous n’avons pas vu d’autre moyen que d’englober ces grandes parties du flux de travail dans une plateforme unifiée.

Avec le nouvel Agent Studio et le runtime révisé, quels étaient les principaux points de douleur que vous essayiez de résoudre sur la base des commentaires des premiers clients en Europe et aux États-Unis?

Ce que nous avons vu, c’est que les équipes utilisaient toutes sortes de bibliothèques open source pour construire leurs agents, même si l’architecture réelle d’un agent peut être quite propre et simple. Ils se retrouvaient avec des bibliothèques gonflées, beaucoup de surcharge et une grande courbe d’apprentissage juste pour sortir des agents même simples. Avec Orq, nous voulions décharger ce fardeau.

Au lieu de s’inquiéter de l’architecture, du calcul, de l’auto-étalonnage, de toute l’infrastructure, les équipes peuvent simplement se concentrer sur la configuration de leurs agents et leur donner les bons outils et API. Nous gérons les tâches lourdes pour qu’ils puissent se concentrer sur la construction de leurs véritables cas d’utilisation. Et en plus, parce que nous soutenons l’ensemble du cycle de vie, nous avons construit des ateliers spécialisés qui vous permettent vraiment de tester vos agents à grande échelle.

Cela signifie que vous pouvez trouver des cas limites plus rapidement et durcir vos agents plus efficacement. Il s’agit de donner aux équipes les outils non seulement pour construire des agents facilement, mais également pour les affiner et les durcir dans des scénarios du monde réel, sans tout le dérangement supplémentaire.

À mesure que le RGPD et la Loi sur l’IA de l’UE resserrent les exigences, comment ces réglementations influencent-elles la façon dont les entreprises conçoivent, surveillent et déployent des agents — et comment orq.ai s’adapte?

Il ne s’agit pas tant de ces exigences qui se resserrent soudainement, elles font partie de la loi, et nos clients doivent y adhérer. Ce que nous faisons, c’est nous assurer que tout au long du cycle de vie, nous donnons aux équipes les bons outils, évaluateurs et garde-fous pour qu’elles puissent intégrer la conformité dès le premier jour.

Nous nous assurons que la résidence des données, la confidentialité des données, tout cela est intégré dès le départ. Et avec les tensions géopolitiques et la poussée pour la souveraineté technologique et l’IA en Europe, nous avons vu une forte demande pour cela. Puisque nous pouvons fonctionner entièrement sur site et aider les entreprises à réduire leur dépendance, nous sommes dans une bonne position pour les aider à rester maîtres de leur propre destin.

Les entreprises demandent de plus en plus des architectures prêtes à la souveraineté et des déploiements hybrides/on-premises. Que dit cela sur la direction que prend l’infrastructure d’IA d’entreprise?

Chaque entreprise et même chaque cas d’utilisation implique des compromis. Il s’agit de savoir à quel point quelque chose doit être prêt ou sécurisé et sur site. Nous soutenons tous les parfums le long de ce spectre. Mais ce que nous voyons, c’est un fort accent sur la souveraineté et la résidence des données au niveau du modèle.

Les clients veulent de la clarté sur où vit leurs données et la capacité de réduire leur dépendance à l’égard des grands fournisseurs de cloud. Grâce à notre passerelle d’IA, qui s’exécute sur toutes les principales plateformes de cloud et sur site, les équipes peuvent facilement faire ces compromis sur une base de cas d’utilisation. Ils obtiennent la flexibilité pour rester en contrôle et passer sans heurt entre les environnements.

Nous voyons une forte demande de la part des grandes entreprises et des institutions du secteur public.

Comment voyez-vous l’évolution des flux de travail multi-agents, des garde-fous de sécurité et des systèmes de raisonnement plus avancés à mesure que les entreprises passent de l’expérimentation à une véritable industrialisation des agents en 2026?

À mesure que l’utilisation des agents se réellement industrialise, nous voyons de nouveaux types de problèmes émerger, en particulier avec les installations multi-agents. Vous pourriez avoir des dizaines ou même des centaines d’agents qui fonctionnent autour de votre organisation à tout moment, comme des employés.

La question est : comment les gouvernez-vous tous lorsque vous avez ce problème multidimensionnel, tel que les coûts, la qualité des données, la résidence des données, l’exactitude, les métriques d’hallucination, etc. ? Vous avez besoin d’une nouvelle couche de gouvernance pour gérer cela, et vous avez besoin de garde-fous de sécurité qui peuvent être déployés de haut en bas.

Vous avez également besoin d’une visibilité et de nouvelles couches d’agrégation pour que votre CFO, COO, CISO puisse voir ce qui se passe et intervenir avec des insights actionnables. Nous pensons vraiment que, en 2026, ce concept de « département d’agents » et la technologie pour le soutenir deviendra un sujet beaucoup plus chaud.

La dérive des agents, la régression de la qualité et les flux de données peu clairs sont des problèmes récurrents dans la production d’IA. Comment la couche de contrôle d’Orq.ai traite-t-elle ces lacunes de longue date en matière de versionnage, d’évaluation et de surveillance continue?

Chaque agent a vraiment besoin de son propre harnais d’évaluations. Ces évaluations définissent essentiellement ce qui est juste et faux pour un scénario particulier. En passant du temps à configurer ces ensembles d’évaluation correctement, les équipes peuvent faire de meilleures expérimentations hors ligne pour voir comment les choses se comportent avant d’aller en direct. Et puis, en surveillant ces mêmes évaluations en ligne, vous pouvez repérer lorsque les modèles dérivent ou que le comportement de l’agent commence à changer avec le temps. De cette façon, vous avez un ensemble cohérent de métriques de qualité pendant les tests hors ligne, la surveillance en ligne et les garde-fous.

En regardant vers l’avenir, qu’est-ce que vous pensez qui définira la prochaine génération d’agents d’IA d’entreprise — et comment orq.ai se positionne-t-elle pour devenir la plateforme opérationnelle par défaut pour ce monde?

En regardant vers l’avenir, je pense que ce qui va définir la prochaine génération d’agents d’IA d’entreprise, c’est que chaque fournisseur aura ses propres agents. Dans les grandes entreprises, ce sera ce paysage large d’agents de première et de troisième partie qui travaillent tous ensemble et s’appellent les uns les autres.

Il ne s’agira pas seulement d’un type d’agent ou d’un fournisseur ; c’est un écosystème entier qui nécessite une gouvernance et une conformité. Et c’est là qu’Orq intervient. Nous nous positionnons comme la tour de contrôle des agents qui donne aux différentes couches de l’organisation la bonne vue agrégée et les insights actionnables pour intervenir à tout stade.

Que ce soit la construction, la mise à l’échelle, l’exploitation ou même la désactivation des agents, différentes fonctions auront besoin de différentes vues de ce paysage. Et nous allons être le fournisseur par défaut pour cette capacité. Thank you pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter orq.ai.