Ali Sarrafi, PDG et fondateur de Kovant – Série d’entretiens

Ali Sarrafi, PDG et fondateur de Kovant, est un dirigeant chevronné dans le domaine de la technologie et de l’intelligence artificielle basé à Stockholm, avec une expérience éprouvée dans la construction et le développement de sociétés de pointe dans le domaine de l’intelligence artificielle. Depuis la création de Kovant à la fin de 2024, il a puisé dans son expérience approfondie en stratégie d’intelligence artificielle d’entreprise, en exécution de lancement sur le marché et en mise à l’échelle opérationnelle. Auparavant, il a occupé le poste de vice-président de la stratégie chez Silo AI après son acquisition par AMD, où il était responsable de l’élaboration de la stratégie d’intelligence artificielle d’entreprise et de la promotion de l’adoption à grande échelle. Plus tôt dans sa carrière, il a co-fondé Combient Mix, menant l’entreprise à une croissance rapide et à une acquisition réussie par Silo AI, et a depuis occupé des postes consultatifs et de conseil d’administration dans le domaine de l’éducation et des startups d’intelligence artificielle, reflétant une focalisation constante sur la traduction de l’intelligence artificielle avancée en un impact commercial réel.

Kovant est une société d’intelligence artificielle d’entreprise qui se concentre sur la capacité des organisations à passer d’une utilisation expérimentale de l’intelligence artificielle à des processus métier autonomes et pleinement opérationnels. La société développe une plate-forme basée sur des agents conçue pour orchestrer des équipes d’agents d’intelligence artificielle à travers des domaines opérationnels complexes tels que les achats, les chaînes d’approvisionnement, la conformité et les opérations client. En mettant l’accent sur le déploiement sécurisé et de niveau d’entreprise ainsi que sur la rapidité de mise en œuvre, Kovant se positionne comme un pont entre l’ambition stratégique en matière d’intelligence artificielle et l’exécution quotidienne, aidant les grandes organisations à intégrer l’intelligence artificielle directement dans leurs flux de travail de base plutôt que de la traiter comme un outil ou un projet pilote distinct.

Vous avez dirigé des initiatives majeures en matière d’intelligence artificielle chez Spotify, développé et cédé Combient Mix, et élaboré par la suite la stratégie d’intelligence artificielle d’entreprise chez Silo AI avant de fonder Kovant. Quels sont les écarts ou les frustrations spécifiques que vous avez rencontrés dans ces rôles qui vous ont convaincu que le moment était venu de construire une plate-forme d’entreprise autonome, et comment cette histoire a façonné la philosophie de conception fondamentale de Kovant ?

À travers mes précédents rôles, plusieurs écarts constants sont apparus. Premièrement, la plupart des outils d’intelligence artificielle « verticaux » sont effectivement prisonniers d’une seule pile logicielle : ils font une chose légèrement mieux à l’intérieur de cette limite, mais luttent dès qu’un flux de travail doit s’étendre à plusieurs systèmes. Dans le même temps, les données d’entreprise sont dispersées à travers de nombreux outils, et de nombreuses solutions d’automatisation ne peuvent simplement pas y accéder. Ajoutez-y des années d’intégrations ponctuelles et vous obtenez une architecture classique de type « spaghettis » : la complexité augmente, les changements deviennent plus lents, et les équipes finissent par automatiser des étapes individuelles plutôt que de réimaginer le flux de travail de bout en bout. Le résultat est que le retour sur investissement arrive souvent plus lentement – et plus petit – que les organisations ne l’attendent.

Kovant est conçu comme une réponse à cette réalité. Notre philosophie fondamentale est que les agents devraient se comporter plus comme des employés : ils travaillent à travers plusieurs outils, ils sont « embauchés » pour faire des tâches, et non pour automatiser une seule séquence scriptée. C’est pourquoi les intégrations et l’orchestration sont intégrées, et pourquoi nous supposons que les données d’entreprise sont souvent désorganisées et non structurées – elles nécessitent une approche plus humaine pour gérer les exceptions et l’ambiguïté.

Nous utilisons des agents de base pour atteindre la vitesse et la mise à l’échelle, tout en gardant la souveraineté des données au premier plan : les entreprises peuvent accéder et utiliser leurs propres données de manière horizontale sans quitter leurs locaux.

Kovant se positionne comme une plate-forme d’entreprise autonome capable de faire fonctionner l’ensemble des opérations et des départements avec des agents d’intelligence artificielle. Comment définissez-vous « autonome » dans un contexte d’entreprise, et comment cela diffère-t-il de l’automatisation et des outils d’agents que les sociétés expérimentent déjà aujourd’hui ?

Dans un contexte d’entreprise, lorsque nous disons « autonome », nous n’entendons pas « non supervisé ». Nous voulons dire que les agents d’intelligence artificielle peuvent prendre de véritables actions de bout en bout sur une opération avec des objectifs clairs et des garde-fous, et qu’ils escaladeront vers les humains lorsque la supervision est nécessaire.

Ce qui rend Kovant différent, ce sont nos agents de base. Plutôt que d’automatiser un processus fixe ou de suivre une séquence préétablie, les agents de Kovant peuvent travailler en équipe (ou en essaim) sur une opération en utilisant uniquement des instructions et une vue d’ensemble que nous appelons une feuille de route. Ils ne sont pas conçus pour une seule tâche étroite ; ils collaborent pour résoudre des flux de travail complexes, s’adaptent aux changements de conditions, et passent à l’humain lorsque la situation nécessite une surveillance.

Par exemple, une équipe d’agents de gestion des stocks peut effectuer toutes les tâches suivantes sans les reconstruire à partir de zéro, y compris : communiquer avec les fournisseurs par e-mail, surveiller les niveaux de stock et les signaux de rupture de stock, suivre les expéditions et les commandes d’achat, mettre à jour les statuts à travers les systèmes, créer des tickets de discordance pour que les planificateurs d’inventaire les approuvent, redistribuer l’inventaire entre les entrepôts, et consolider les rapports d’inventaire.

Ainsi, le changement est que plutôt que « chat plus outils » ou des automatisations fragiles qui se brisent à l’échelle, les entreprises passent de la construction d’agents à leur exécution à grande échelle.

Malgré un intérêt massif pour l’intelligence artificielle agente, de nombreuses organisations restent bloquées en mode pilote. D’après ce que vous observez dans les déploiements réels, quels sont les principaux motifs pour lesquels les sociétés peinent à passer de l’expérimentation à la production à grande échelle ?

Ce que nous voyons, c’est que la plupart des organisations ne restent pas bloquées en mode pilote parce que l’idée est mauvaise ; elles restent bloquées parce que l’environnement est hostile à la mise à l’échelle.

Le premier obstacle est le paysage technologique d’entreprise fragmenté. Les flux de travail s’étendent sur de nombreux systèmes, les données vivent dans plusieurs endroits, et les intégrer de manière fiable est difficile. Et l’intelligence artificielle agente est souvent déployée comme un ajout aux outils existants, plutôt que comme un moyen de repenser la façon dont le flux de travail devrait fonctionner de bout en bout.

Il y a également un véritable problème d’architecture et de données. De nombreux fournisseurs de logiciels SaaS tentent toujours de verrouiller les données, ce qui crée des incompatibilités et limite ce que les agents peuvent réellement faire à travers les systèmes. Et de nombreuses équipes sous-estiment le fait que la plupart des données d’entreprise sont non structurées (e-mails, documents, tickets, PDF, journaux de chat). Si votre approche suppose des données propres et structurées, le temps de mise en œuvre devient long, douloureux et difficile à reproduire au-delà du pilote.

En résumé : la fragmentation, le verrouillage et les données non structurées créent un frein – et les pilotes ne se transforment jamais en production jusqu’à ce que ces réalités soient prises en compte.

La fiabilité est souvent citée comme le plus grand obstacle au déploiement d’agents d’intelligence artificielle dans le monde réel. Pourquoi de nombreux systèmes d’agents échouent-ils une fois qu’ils quittent les environnements contrôlés, et comment l’approche de Kovant réduit-elle les problèmes tels que les hallucinations et les comportements imprévisibles ?

Certains systèmes d’agents semblent parfaits dans les démonstrations, puis échouent dans le monde réel parce que l’environnement est désordonné et imprévisible. Les données sont incomplètes ou incohérentes, les cas de bordure apparaissent constamment (remboursements, litiges, approbations spéciales). Les flux de travail s’étendent sur plusieurs outils, plateformes et intégrations qui changent avec le temps, et les autorisations varient. Lorsqu’un agent d’intelligence artificielle est chargé de gérer une tâche importante et reçoit trop de contexte à la fois, le risque d’hallucinations et de comportement étrange augmente.

Kovant réduit cela par conception. Notre architecture unique réduit l’espace de problème, l’espace de décision et le contexte avec lesquels les modèles travaillent pour réduire les hallucinations. Nous cassons également les opérations en tâches étroites et ciblées pour les agents et les étapes individuelles. Cela rend le comportement plus prévisible et ajoute de la traçabilité et de la contrôlabilité dans le système, ce qui peut gérer les hallucinations de manière plus efficace. Nous pouvons voir ce que chaque agent a fait, où une défaillance a commencé, et intervenir ou escalader lorsque nécessaire.

Les hallucinations ne disparaissent pas magiquement, mais en limitant ce pour quoi chaque agent est responsable et en limitant le contexte sur lequel il peut agir, nous pouvons réduire leur fréquence et limiter leur impact. Cette approche « tâche/contexte réduit » a également été soutenue par des travaux récents de l’équipe de recherche de Nvidia, qui a constaté des avantages similaires en limitant la prise de décision des agents.

La responsabilité est une préoccupation majeure à mesure que les agents d’intelligence artificielle commencent à prendre de véritables actions dans les systèmes d’entreprise. Comment les journaux d’action détaillés modifient-ils la conversation autour de la confiance, de la conformité et du risque opérationnel ?

Avec les journaux d’action détaillés, nous pouvons voir ce qui s’est passé, pourquoi cela s’est passé et ce qui se passe ensuite.

Les journaux détaillés transforment un agent d’un bot mystérieux travaillant dans la machine en un système que l’on peut inspecter.

Chez Kovant, avec tout déploiement d’agent d’intelligence artificielle, il y aura une carte de risques que l’organisation peut agir, nous avons une gestion des gardes pour les humains pour les actions à risque, ce qui signifie que les agents ne peuvent effectuer ces tâches que si un humain examine et approuve la décision. Tout cela est consigné de la même manière qu’un système d’enregistrement est consigné et est traçable.

Nous croyons qu’il est important de combiner les journaux d’action avec une surveillance humaine et une observabilité pour minimiser le risque. Cela signifie que vous obtenez toujours les avantages de vitesse et d’échelle des agents qui exécutent de véritables opérations.

Il y a un débat croissant sur la question de savoir si les agents d’intelligence artificielle peuvent même être assurés en raison de leur prise de décision opaque. Comment le fait de rendre les flux de travail des agents auditable et reproductible aide-t-il à résoudre le problème de la « boîte noire » et à ouvrir la voie à l’assurabilité ?

Le problème de la « boîte noire » est ce qui rend l’assurabilité difficile. Si vous ne pouvez pas clairement montrer ce qu’un agent a fait, pourquoi il l’a fait et quels contrôles étaient en place, il est difficile pour quiconque, en particulier les assureurs, de tarifer le risque.

<p Notre approche est essentiellement une extension de la configuration de responsabilité dans la réponse précédente. Nous cassons la portée de la décision et l'impact des actions en morceaux plus petits, de sorte que le modèle ne prend pas une décision géante et opaque qui peut faire basculer toute une opération. Chaque étape est plus étroite, plus prévisible et plus facile à évaluer.

Nous ajoutons ensuite des journaux détaillés, une observabilité et une surveillance humaine. Pour les décisions les plus importantes et les plus impactantes, nous utilisons un gardien humain afin que l’agent ne puisse procéder qu’après examen et approbation. Cela crée une visibilité bien plus grande sur la façon dont le flux de travail se comporte dans la pratique.

Le fait de rendre les flux de travail auditable et reproductible est la pièce finale. Si quelque chose se passe mal, vous pouvez reproduire ce qui s’est passé, enquêter rapidement, valider les correctifs et démontrer combien d’approbations humaines sont nécessaires et où les sauvegardes sont situées. En termes d’underwriting, cela transforme le comportement mystérieux de l’intelligence artificielle en quelque chose qui ressemble plus au risque opérationnel standard.

Avec des initiatives comme la Fondation Agentic AI visant à créer des normes communes pour les systèmes agents, quels sont les aspects les plus prometteurs de ces efforts, et où manquent-ils encore pour les opérations d’entreprise réelles ?

La normalisation est généralement une bonne chose. La Fondation Agentic AI peut effectuer le travail peu glamour mais essentiel pour faire en sorte que les systèmes d’agents parlent le même langage, ce qui devrait faciliter les intégrations et réduire le verrouillage des fournisseurs avec le temps.

Je suis prudent là où la perspective de la normalisation est façonnée. Si la plupart des travaux sont menés par les créateurs de modèles et les startups technologiques, il y a un risque que les « normes » optimisent pour ce qui est le plus facile à construire ou à démontrer, plutôt que pour ce dont les grandes organisations ont réellement besoin pour exécuter des agents en toute sécurité au quotidien.

Pour les opérations d’entreprise réelles, les lacunes tendent à être moins liées aux connecteurs et plus au contrôle : ce à quoi un agent peut accéder et modifier, les flux de travail d’approbation pour les actions à impact élevé, les journaux auditable et l’observabilité pour que les équipes puissent surveiller le comportement, enquêter sur les incidents et prouver la conformité. Les entreprises ont également besoin de normes pratiques pour opérer dans la réalité désordonnée : tester les cas de bordure, gérer les changements de systèmes et être en mesure de suspendre, de contenir ou de rétablir les actions en toute sécurité à travers les outils hérités et les environnements de données réglementés.

Il s’agit donc d’une direction prometteuse, mais l’impact sera limité à moins que les exigences et les contrôles de risque opérationnel d’entreprise ne soient traités comme une afterthought.

Kovant a déjà généré des revenus importants auprès de grandes entreprises nordiques tout en opérant principalement en mode furtif. Quels types de fonctions métier ou de flux de travail sont les plus prêts pour les agents d’intelligence artificielle autonomes aujourd’hui ?

À partir de ce que nous avons vu dans les déploiements réels, les flux de travail les plus « prêts » aujourd’hui sont ceux composés de travail de col blanc réactif : surveillance, poursuite, vérification, mise à jour des systèmes, gestion des exceptions et maintien des opérations à travers plusieurs outils.

Dans la fabrication et les chaînes d’approvisionnement plus larges, cela se manifeste à travers :

• Achats/approvisionnement : disponibilité des matières premières, approvisionnement durable, opérations de conformité, sélection de fournisseurs (y compris la dualité/multi-sourcing), gestion des contrats, gestion des risques des fournisseurs et gestion des appels d’offres.
• Production : planification de la capacité, planification de la production, gestion de la maintenance, gestion de la qualité, gestion des goulets d’étranglement et prévention des pertes.
• Entrepôt : réception et inspection, gestion des stocks, rotation des stocks (FIFO/FEFO) et comptage/dénombrement des cycles.
• Transport / logistique : sélection du mode et du transporteur, dédouanement/documentation, suivi et visibilité, surveillance des émissions et conformité commerciale.
• Ventes et service : disponibilité des produits, prévention des ruptures de stock, gestion des ventes et des retours, analyse du comportement des consommateurs, ainsi que les domaines de l’après-vente tels que les réparations, le suivi de la fin de vie, les opérations d’atelier et les contrats de service.

Lorsque les entreprises déploient des agents d’intelligence artificielle à travers des opérations critiques, comment recommandez-vous d’équilibrer l’autonomie avec la surveillance humaine pour assurer le contrôle sans ralentir tout ?

L’équilibre est régi par l’autonomie. Vous devez laisser les agents bouger rapidement sur les travaux à faible risque dans des garde-fous clairs, et escalader vers les humains lorsque l’action dépasse un seuil de risque défini.

De nombreuses défaillances proviennent du fait de donner au modèle une portée et un contexte trop importants à la fois. Je recommande de diviser les opérations en décisions étroites et ciblées, où chaque étape a des autorisations claires et un rayon d’impact limité. Cela réduit le comportement imprévisible et rend les performances plus faciles à surveiller et à améliorer.

Ensuite, vous combinez trois choses : l’observabilité, les journaux d’action et la surveillance humaine. Tout ce que l’agent fait devrait être traçable, afin que vous puissiez inspecter ce qui s’est passé et enquêter rapidement. Pour les actions à impact élevé ou à risque, vous placez une étape d’approbation humaine dans le flux de travail, afin que l’agent puisse proposer et préparer, mais n’exécuter qu’une fois qu’une personne a approuvé.

Cela maintient les choses en mouvement rapidement. Si cela ralentit légèrement à l’étape de surveillance humaine, ce n’est qu’une partie importante du processus. Les humains ne sont pas coincés dans la surveillance de chaque clic, mais ils sont toujours en contrôle des moments qui comptent. Le résultat est une vitesse là où c’est sûr, et une surveillance là où c’est nécessaire.

En regardant vers l’avenir, comment vous attendez-vous que le rôle des agents d’intelligence artificielle autonomes évolue au sein des grandes organisations au cours des prochaines années, et qu’est-ce qui séparera les entreprises qui réussissent avec l’intelligence artificielle agente de celles qui peineront ?

Au cours des prochaines années, les agents d’intelligence artificielle autonomes passeront d’expériences intéressantes à une véritable couche opérationnelle au sein des grandes organisations. Ils seront utilisés pour les opérations, le service client, la finance et les ressources humaines. À mesure que la fiabilité, la gouvernance et la surveillance s’améliorent, nous verrons les entreprises passer des pilotes isolés à l’exécution d’équipes d’agents à travers les flux de travail de bout en bout.

Le plus grand changement est que la vitesse, l’agilité, la mise à l’échelle, l’efficacité et les coûts deviendront un levier de compétitivité plus direct. Je pense qu’un « mouvement Uber » est en train d’arriver pour les entreprises. Ceux qui maîtriseront vraiment l’intelligence artificielle agente seront capables d’opérer à un rythme fondamentalement plus élevé que les retardataires, de capturer les marchés plus rapidement et de répondre aux changements sans le frein opérationnel habituel.

Ce qui sépare les gagnants, ce n’est pas seulement le déploiement d’agents, mais leur déploiement efficace. L’autonomie réglementée, l’observabilité solide et les journaux d’action, ainsi que les architectures qui réduisent la portée de la décision, seront clés pour cela. Les entreprises qui traitent l’intelligence artificielle agente comme une capacité opérationnelle de base, avec les contrôles, les intégrations et la propriété appropriés, l’utiliseront pour faire plus, et non moins. Cela libérera les équipes pour se concentrer sur la croissance et l’innovation plutôt que de passer leurs journées à être enterrées dans l’administration. En résumé, une vitesse et une efficacité radicales deviendront un véritable avantage concurrentiel à l’échelle de l’entreprise.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Kovant.