Sohrab Hosseini, Co-Fondateur d’orq.ai – Série d’entretiens

Sohrab Hosseini, Co-Fondateur d’orq.ai, est un leader technologique et entrepreneur basé dans la région d’Amsterdam avec une expérience approfondie dans les domaines du SaaS, des systèmes à grande échelle et de l’IA appliquée. Depuis la fondation d’orq.ai en 2022, il s’est concentré sur la création d’infrastructures pratiques qui aident les équipes à passer des modèles de langage à grande échelle de l’expérimentation à une utilisation de production fiable. Son parcours comprend des rôles de direction senior en tant que directeur des opérations et directeur technique chez Neocles, directeur technique de la technologie de l’avenir chez Transdev où il a travaillé sur la routage autonome et la gestion de flotte, et directeur des opérations chez TradeYourTrip. Parallèlement, il est actif en tant que conseiller et investisseur providentiel, soutenant les entreprises de démarrage dans le domaine de l’IA avec une direction de produit, un jugement technique et une stratégie d’exécution.

orq.ai est une plateforme de collaboration et de LLMOps pour l’IA générative conçue pour aider les organisations à concevoir, exploiter et mettre à l’échelle des produits et des agents alimentés par l’IA dans des environnements réels. La plateforme intègre la gestion des invites, l’expérimentation, la collecte de commentaires et la visibilité en temps réel des performances et des coûts dans un seul espace de travail, tout en restant compatible avec tous les principaux fournisseurs de modèles de langage à grande échelle. En permettant une collaboration étroite entre les équipes techniques et non techniques, orq.ai aide les entreprises à raccourcir les cycles de publication, améliorer la gouvernance et la transparence, et réduire la complexité et le coût de l’exécution de systèmes d’IA en production.

Vous avez occupé des postes techniques et opérationnels de direction dans les domaines des systèmes autonomes, de la technologie de gestion de flotte et des plateformes SaaS avant de fonder Orq.ai — comment ce parcours professionnel a-t-il influencé votre décision de créer une couche de contrôle d’entreprise pour les agents d’IA en 2022 ?

Nos antécédents ont toujours porté sur la direction d’équipes d’ingénieurs et la mise en place de plateformes d’activation ; des choses comme le cloud, DevOps et l’activation des données, en particulier pendant notre temps en tant que consultants en technologie. Lorsque le boom de l’IA générative a commencé, mon co-fondateur et moi nous sommes demandé : quel type d’activation les entreprises auront-elles besoin non seulement pour construire l’IA, mais également pour la gouverner et la contrôler correctement ?

Nous avons vu que le véritable besoin était une couche de contrôle d’entreprise pour les agents d’IA. Cela nous a amenés à créer Orq.ai en premier lieu.

Lorsque vous avez lancé Orq.ai pour la première fois, qu’avez-vous vu sur le marché qui vous a convaincu que le véritable goulet d’étranglement n’était pas la qualité du modèle, mais l’incapacité de passer des systèmes d’agents de la démonstration à une production fiable ?

Nous avons toujours cru que lorsque vous construisez un logiciel innovant, vous devez construire pour l’avenir. Dès le départ, nous avons supposé que les modèles de langage à grande échelle continueraient à s’améliorer et à devenir plus intelligents avec le temps. Le véritable défi que nous avons vu n’était pas la qualité du modèle en soi, mais tous les problèmes de contrôle, de gouvernance et de gestion du cycle de vie qui surgissent lorsque vous essayez de passer d’une démonstration à un environnement de production réel.

En d’autres termes, même si les modèles s’améliorent, la véritable valeur pour nos clients (et pour nous) est de nous assurer que ces systèmes fonctionnent réellement de manière fiable en production. Et c’est vraiment ce que nous nous sommes efforcés de résoudre.

La plupart des équipes peuvent créer des prototypes impressionnants, mais elles ont du mal avec l’orchestration, la gouvernance et la surveillance en temps de fonctionnement. Selon vous, quel est le point de rupture le plus important lorsque les équipes d’ingénierie tentent de passer d’un environnement de preuve de concept à un agent de production en direct ?

Le point de rupture le plus important est que les équipes pensent souvent qu’il s’agit d’un chemin linéaire direct allant de la construction d’un agent à sa finalisation. En réalité, c’est un processus très itératif.

Vous ajustez constamment vos hypothèses, les testez, les déplacez en production, puis surveillez ce qui se passe dans le monde réel. Vous découvrez des cas limites, puis vous recommencez ce cycle encore et encore.

Le défi est qu’il ne s’agit pas d’un effort unique ; c’est un cycle continu de raffinement. Et pour ajouter à cela, ce n’est pas seulement qu’il s’agit d’un processus itératif, mais il n’y a souvent pas suffisamment d’outils ou de structures pour soutenir ce processus de manière fluide.

Vous avez besoin d’un moyen pour que les experts du domaine, les responsables de produit et les ingénieurs collaborent sans créer de silos ou de remises en main coûteuses qui gaspillent beaucoup de temps. Donc, c’est un autre grand morceau du puzzle : nous nous sommes efforcés de résoudre cela également.

Orq.ai se positionne comme une couche de contrôle unifiée qui s’étend de l’expérimentation à l’évaluation, à l’observabilité et au fonctionnement en temps réel. Pourquoi croyiez-vous qu’une architecture de bout en bout était essentielle, plutôt que d’offrir des outils isolés comme de nombreuses solutions ponctuelles ?

Lorsque vous commencez, il est naturel de choisir un outil qui résout votre plus grand point de douleur à ce moment-là, souvent cela peut être l’observabilité. Mais à mesure que votre équipe évolue, vous rencontrez le prochain goulet d’étranglement et vous ajoutez un autre outil, par exemple une passerelle d’IA. Avant de vous en rendre compte, vous avez cinq à sept outils différents dans votre paysage. Les données sont fragmentées, les personnes perdent la visibilité et vous gaspillez des ressources simplement pour maintenir toutes ces intégrations. Vous perdez cette vue unifiée de votre cycle de vie.

Nous avons cru que lorsque les entreprises à base d’agents émergent, vous avez vraiment besoin de cette architecture de bout en bout. Vous avez besoin d’une vue unifiée de ce que font tous vos agents au sein de l’organisation, et non de solutions ponctuelles fragmentées. C’est pourquoi nous n’avons pas vu d’autre moyen que d’englober ces grandes parties du flux de travail dans une plateforme unifiée.

Avec le nouvel Agent Studio et le runtime redessiné, quels points de douleur majeurs essayiez-vous de résoudre sur la base des commentaires des clients précoces en Europe et aux États-Unis ?

Ce que nous avons vu, c’est que les équipes utilisaient toutes sortes de bibliothèques open source pour construire leurs agents, même si l’architecture réelle d’un agent peut être assez propre et simple. Ils se retrouvaient avec des bibliothèques gonflées, beaucoup de surcharge et une grande courbe d’apprentissage juste pour sortir des agents même simples. Avec Orq, nous voulions décharger ce fardeau.

Au lieu de s’inquiéter de l’architecture, du calcul, de l’auto-escalade, de toute l’infrastructure, les équipes peuvent simplement se concentrer sur la configuration de leurs agents et leur fournir les bons outils et API. Nous gérons les tâches lourdes afin qu’ils puissent se concentrer sur la construction de leurs cas d’utilisation réels. Et en plus de cela, parce que nous prenons en charge l’ensemble du cycle de vie, nous avons construit des ateliers spécialisés qui vous permettent vraiment de tester vos agents à grande échelle.

Cela signifie que vous pouvez trouver des cas limites plus rapidement et durcir vos agents de manière plus efficace. Il s’agit de donner aux équipes les outils non seulement pour construire des agents facilement, mais également pour les affiner et les renforcer dans des scénarios réels, sans tout le dérangement supplémentaire.

Alors que le RGPD et la Loi sur l’IA de l’UE resserrent les exigences, comment ces réglementations influencent-elles la façon dont les entreprises conçoivent, surveillent et déployent des agents — et comment orq.ai s’adapte ?

Ce n’est pas tant que ces exigences se resserrent soudainement, elles font simplement partie de la loi, et nos clients doivent s’y conformer. Ce que nous faisons, c’est nous assurer que tout au long du cycle de vie, nous donnons aux équipes les bons outils, les évaluateurs et les garde-fous pour qu’elles puissent intégrer la conformité dès le premier jour.

Nous nous assurons que la résidence des données, la confidentialité des données, tout cela est intégré dès le départ. Et avec les tensions géopolitiques et la poussée pour la souveraineté technologique et l’IA en Europe, nous avons vu une forte demande pour cela. Puisque nous pouvons fonctionner entièrement sur site et aider les entreprises à réduire leur dépendance, nous sommes dans une bonne position pour les aider à rester maîtres de leur propre destin.

Les entreprises demandent de plus en plus des architectures prêtes à la souveraineté et des déploiements hybrides/sur site. Que dit ce changement sur la direction de l’infrastructure d’IA d’entreprise ?

Chaque entreprise et même chaque cas d’utilisation implique des compromis. Il s’agit de savoir à quel point quelque chose doit être prêt ou sécurisé et sur site. Nous prenons en charge tous les parfums le long de ce spectre. Mais ce que nous voyons, c’est un fort accent sur la souveraineté et la résidence des données au niveau du modèle.

Les clients veulent de la clarté sur l’endroit où vivent leurs données et la capacité de réduire leur dépendance à l’égard des grands fournisseurs de cloud. Grâce à notre passerelle d’IA, qui fonctionne sur toutes les principales plateformes de cloud et sur site, les équipes peuvent facilement faire ces compromis sur une base par cas d’utilisation. Ils obtiennent la flexibilité pour rester en contrôle et passer en douceur entre les environnements.

Nous voyons une forte demande de la part des grandes entreprises et des institutions du secteur public.

Comment voyez-vous l’évolution des flux de travail multi-agents, des garde-fous de sécurité et des systèmes de raisonnement plus avancés à mesure que les entreprises passent de l’expérimentation à la véritable industrialisation des agents en 2026 ?

Lorsque l’utilisation des agents se réellement industrialise, nous voyons de nouveaux types de problèmes émerger, en particulier avec les configurations multi-agents. Vous pourriez avoir des dizaines ou même des centaines d’agents qui tournent autour de votre organisation à tout moment, exactement comme les employés.

La question est : comment les gouvernez-vous tous lorsque vous avez ce problème multidimensionnel, comme les coûts, la qualité des données, la résidence des données, la correction, les métriques d’hallucination, etc. ? Vous avez besoin d’une nouvelle couche de gouvernance pour gérer cela, et vous avez besoin de garde-fous de sécurité qui peuvent être déployés de haut en bas.

Vous avez également besoin d’une visibilité et de nouvelles couches d’agrégation de manière à ce que votre directeur financier, votre directeur des opérations, votre directeur de la sécurité de l’information puissent voir ce qui se passe et intervenir avec des insights actionnables. Nous pensons vraiment que, en 2026, ce concept de « département d’agents » et la technologie pour le soutenir deviendra un sujet beaucoup plus chaud.

La dérive des agents, la régression de la qualité et les flux de données peu clairs sont des problèmes récurrents dans la production d’IA. Comment la couche de contrôle d’Orq.ai traite-t-elle ces lacunes de longue date dans la versionning, l’évaluation et la surveillance continue ?

Chaque agent a vraiment besoin de son propre harnais d’évaluations. Ces évaluations définissent essentiellement ce qui est correct ou incorrect pour un scénario particulier. En passant du temps à configurer ces ensembles d’évaluation correctement dès le départ, les équipes peuvent faire de meilleures expérimentations hors ligne pour voir comment les choses se comportent avant de passer en ligne. Et en surveillant ces mêmes évaluations en ligne, vous pouvez repérer lorsque les modèles dérivent ou que le comportement de l’agent commence à changer avec le temps. De cette façon, vous avez un ensemble cohérent de métriques de qualité pendant les tests hors ligne, la surveillance en ligne et les garde-fous.

En regardant vers l’avenir, qu’est-ce que vous pensez définira la prochaine génération d’agents d’IA d’entreprise — et comment orq.ai se positionne-t-elle pour devenir la plateforme opérationnelle par défaut pour ce monde ?

En regardant vers l’avenir, je pense que ce qui définira la prochaine génération d’agents d’IA d’entreprise, c’est que chaque fournisseur fournira ses propres agents. Dans les grandes entreprises, il s’agira de ce paysage étendu d’agents de première et de troisième partie qui travaillent tous ensemble et s’appellent les uns les autres.

Ce ne sera pas juste un type d’agent ou un fournisseur ; c’est un écosystème entier qui nécessite une gouvernance et une conformité. Et c’est là que Orq intervient. Nous nous positionnons comme la tour de contrôle des agents qui donne aux différentes couches de l’organisation la bonne vue agrégée et les insights actionnables pour intervenir à tout stade.

Que ce soit la construction, la mise à l’échelle, l’exploitation ou même la désactivation des agents, les différentes fonctions auront besoin de différentes vues de ce paysage. Et nous serons le fournisseur de référence pour cette capacité.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter orq.ai.