Raj Shukla, CTO de SymphonyAI – Série d’entretiens

Raj Shukla dirige la feuille de route technologique et l’exécution de SymphonyAI, en tête de l’équipe d’ingénieurs qui construit la plateforme Eureka Gen AI. Avec près de 20 ans d’expérience dans l’ingénierie et la recherche en IA/ML, Shukla a également une expérience approfondie de l’IA SaaS d’entreprise grâce à ses rôles de direction en ingénierie chez Microsoft (MSFT ), où sa carrière de 14 ans a inclus la direction d’organisations mondiales d’IA et d’ingénierie dans Azure, Dynamics 365, MSR et les divisions de recherche et de publicité. Raj a une expérience approfondie en IA/ML dans la recherche, la publicité et l’IA d’entreprise et a construit plusieurs produits d’IA SaaS réussis à la fois dans les domaines de la consommation et des entreprises.

SymphonyAI est une entreprise d’IA d’entreprise qui se concentre sur la construction d’applications d’IA spécifiques à l’industrie qui livrent une valeur commerciale immédiate. Au lieu de modèles génériques, elle fournit des solutions verticales pour la vente au détail, les biens de consommation, les services financiers, la fabrication, les médias et les TI, en abordant des défis tels que la prévision, la prévention de la fraude, l’optimisation des opérations et l’analyse. Ses produits sont alimentés par la plateforme d’IA Eureka, qui combine les capacités prédictives, génératives et agissantes dans des flux de travail adaptés à chaque secteur. Fondée en 2017, l’entreprise est devenue un leader mondial de l’IA verticale, servant des milliers de clients d’entreprise avec des solutions axées sur le domaine et évolutives.

Vous avez travaillé à la pointe de l’innovation en IA chez Microsoft, Oracle (ORCL ) et maintenant SymphonyAI – qu’est-ce qui vous a initialement attiré dans le monde de l’IA d’entreprise, et comment votre perspective a-t-elle évolué au fil des ans ?

Mon parcours dans l’IA d’entreprise a commencé avec une conviction de base selon laquelle les entreprises devraient mettre en œuvre une IA qui résout de véritables problèmes commerciaux, et non créer de l’IA pour le simple plaisir de l’IA. J’ai vu que les solutions d’IA génériques et à large spectre livrent rarement une valeur transformante. Chez SymphonyAI, nous avons construit notre stratégie d’entreprise et notre culture sur le développement d’une IA qui comprend les défis spécifiques à l’industrie, de la détection des crimes financiers à la merchandising de détail axée sur les acheteurs, en passant par l’autonomisation des travailleurs industriels connectés. L’entreprise prête ajoute une autre dimension – l’IA d’entreprise réussie nécessite plus que de la grande technologie, elle exige une gouvernance et une architecture de données exemplaires, une collaboration et des flux de travail interfonctionnels sophistiqués, ainsi que une transparence et une traçabilité totales.

Quels sont les points faibles spécifiques que les entreprises rencontrent avec les modèles pré-entraînés génériques, en particulier dans des secteurs réglementés comme la finance ou les soins de santé ? 

Les modèles pré-entraînés génériques ne sont pas conçus pour les environnements à haute tension et réglementés de la finance, des soins de santé et de l’épicerie. Les modèles pré-entraînés génériques rencontrent des barrières critiques, notamment la nécessité d’une expertise de domaine essentielle pour aborder les nuances spécifiques à l’industrie et répondre aux exigences réglementaires et de conformité strictes qui diffèrent selon les géographies. Plus important encore, ils ne peuvent pas livrer la précision et la traçabilité que les entreprises requièrent, où les erreurs pourraient nuire aux consommateurs ou déclencher des violations réglementaires. Que ce soit pour se conformer aux réglementations de lutte contre le blanchiment d’argent ou permettre à un détaillant d’éliminer rapidement les articles rappelés des centres de distribution et des étagères, la technologie d’IA verticale de SymphonyAI est spécifiquement conçue pour les industries dans lesquelles nous opérons et formée sur les ontologies de ces industries, ce qui leur permet de prendre ou d’automatiser des décisions qui créent directement un impact commercial.

La combinaison de modèles pré-entraînés avec une logique de domaine profonde est de plus en plus considérée comme clé pour débloquer le retour sur investissement de l’entreprise – quels sont les composants essentiels, tels que les connaissances de l’industrie, l’alignement des KPI et les garde-fous réglementaires, qui rendent cette approche efficace ? 

La combinaison de modèles pré-entraînés avec une logique de domaine profonde débloque la valeur en créant des systèmes d’IA qui comprennent le contexte commercial et les exigences opérationnelles. Cette approche réussit lorsque les modèles sont améliorés avec des ontologies spécifiques à l’industrie, alignés sur les KPI de l’entreprise pour garantir que les sorties servent directement des objectifs commerciaux mesurables et sont équipés de garde-fous réglementaires qui fournissent les cadres de conformité et les traces d’audit nécessaires. Lorsque ces éléments travaillent ensemble, l’IA générique se transforme en solutions critiques pour l’entreprise qui stimulent des résultats mesurables tout en maintenant la fiabilité et la conformité que les entreprises exigent.

IBM a récemment acquis Seek AI et a lancé Watsonx Labs à New York, signalant un potentiel changement stratégique dans le paysage de l’IA – qu’est-ce que cela indique sur l’avenir des tendances de fusions et acquisitions et d’investissement dans l’IA d’entreprise ? 

L’acquisition de Seek AI par IBM et le lancement de Watsonx Labs est une validation du changement fondamental que nous avons anticipé : le paysage de l’IA d’entreprise a changé, signalant que la prochaine vague de fusions et acquisitions donnera la priorité aux entreprises dotées de modèles d’IA verticaux pré-entraînés qui arrivent avec une expertise de domaine profonde, une gouvernance et des garde-fous réglementaires, ainsi que des KPI axés sur les résultats. Les acquéreurs stratégiques comme IBM reconnaissent que les agents d’IA axés sur les données d’entreprise livrent un ROI immédiat lorsqu’ils comprennent les flux de travail spécifiques à l’industrie. Le marché se consolide autour de la reconnaissance que l’intelligence générale nécessite une spécialisation verticale pour stimuler la transformation de l’entreprise.

À quel moment un modèle de base évolue-t-il en un agent spécifique à un domaine – quels sont les jalons architecturaux qui signalent cette transition ? 

Un modèle de base ne se transforme pas naturellement en un agent de domaine ; il doit être conçu pour le devenir. Il n’y a pas de chemin direct où un modèle général devient simplement « plus intelligent » et se transforme en un enquêteur bancaire. La transition ne se produit que lorsque les équipes d’ingénieurs arrêtent de compter sur l’intelligence brute du modèle et commencent à construire l’architecture gérée autour de celui-ci – en injectant spécifiquement une couche de contexte (comme un graphique de connaissances) et une couche d’orchestration pour forcer le modèle à suivre un processus commercial plutôt que ses propres tendances probabilistes.

Quels sont les défis clés pour construire des flux de travail agissants qui sont à la fois résilients et spécifiques à un domaine, et comment SymphonyAI les aborde-t-ils ? 

Les défis clés pour construire des flux de travail agissants résilients et spécifiques à un domaine sont de maintenir la fiabilité à travers des processus complexes à plusieurs étapes. SymphonyAI aborde ces défis grâce à son architecture à plusieurs couches, qui intègre l’expertise de domaine directement dans l’agent, met en œuvre la gestion des erreurs avec la récupération en cas de défaillance, et maintient une gestion du contexte persistant à travers les processus d’entreprise multi-sessions. Cela permet à nos agents de fonctionner de manière fiable dans des environnements réglementés à haute tension où la résilience signifie maintenir la précision, la conformité et l’intégrité opérationnelle.

SymphonyAI met l’accent sur des fondations de données solides, des graphiques de connaissances et des couches de métadonnées – pourquoi ces capacités sont-elles critiques pour les agents d’IA verticaux, et pourquoi de nombreuses entreprises ont-elles du mal à les mettre en œuvre ? 

Des fondations de données solides et des graphiques de connaissances sont cruciaux pour que les agents d’IA verticaux aient des sources significatives, fournissent des recommandations contextualisées et restent à jour avec les changements du marché, des clients et des processus à tous les niveaux de l’entreprise. La plupart des entreprises ont du mal à mettre en œuvre ces capacités car elles nécessitent un investissement initial important dans l’architecture des données, une expertise en ontologie spécialisée et des changements fondamentaux dans les pratiques de données existantes que de nombreuses organisations trouvent organisationnellement et techniquement intimidants. C’est là qu’un partenaire technologique d’IA avec une expérience et des connaissances approfondies dans ce domaine verticale est inestimable, y compris sa capacité à pré-entraîner l’IA sur de vastes quantités de données de domaine et de sources à travers de nombreux clients du monde réel dans cette industrie.

Dans des scénarios du monde réel – tels que la détection des crimes financiers ou la prévision de détail – comment SymphonyAI combine-t-elle l’IA prédictive, générative et agissante en « compétences » cohérentes ?

SymphonyAI combine l’IA prédictive, générative et agissante en « compétences » cohérentes en créant des flux de travail intégrés où chaque produit d’IA répond à un problème commercial spécifique. Dans la détection des crimes financiers, nos modèles prédictifs identifient des modèles de transactions suspects, et l’IA générative crée des rapports d’enquête et des évaluations de risque détaillés. En même temps, l’IA agissante orchestre l’ensemble du flux de travail, en élevant automatiquement les cas, en coordonnant avec les équipes de conformité et en adaptant les stratégies d’enquête en fonction des résultats en temps réel.

La clé est que ces outils d’IA ne sont pas séparés, mais des capacités intégrées au sein d’agents spécifiques à un domaine qui comprennent le contexte commercial, maintiennent l’état du flux de travail et peuvent transitionner sans heurt entre l’analyse prédictive, la génération de contenu et l’action autonome pour livrer des résultats commerciaux complets plutôt que des sorties d’IA fragmentées.

Vous avez averti que de nombreux agents d’IA d’entreprise pourraient trébucher sans robustesse – quels sont les caractéristiques clés d’un agent d’IA d’entreprise bien conçu et tolérant aux fautes ? 

Un agent d’IA d’entreprise bien conçu et tolérant aux fautes nécessite plusieurs caractéristiques critiques. Bien que de nombreuses entreprises investissent rapidement dans et déployant des agents d’IA pour améliorer l’efficacité, la productivité et l’innovation, elles sous-estiment souvent les travaux préparatoires nécessaires au succès. Certaines caractéristiques essentielles dont les agents bien conçus ont besoin pour réussir sont :

• Les agents d’IA d’entreprise fonctionnent sur des données d’entreprise, qui sont souvent cloisonnées et manquent d’un accès programmatique, de permissions et de contrôles d’accès appropriés. Les agents ont besoin d’être dotés des mêmes dispositions d’authentification et d’autorisation que les employés.
• Les agents ont également besoin de se remettre de toutes les formes de défaillances du système d’entreprise, de défaillances du réseau et de points de terminaison instables. La couche d’orchestration doit permettre des flux de travail durables, tolérants aux fautes et à long terme, ce que la plupart des orchestrateurs LLM populaires ne font pas.
• Les LLM seront non déterministes et échoueront dans les tâches. La récupération en cas de défaillance, les réessais et la découverte du chemin optimal doivent être des fonctionnalités clés des systèmes agissants.

Pour les DSI qui envisagent de construire des plateformes d’IA verticales en interne par rapport à un partenariat avec des fournisseurs de niche, quels conseils seriez-vous en mesure de leur offrir ? 

Construire des solutions d’IA d’entreprise à travers plusieurs industries, y compris la vente au détail/CPG, l’industrie, les services financiers et plus encore, nécessite de maîtriser à la fois la technologie d’IA de pointe et l’expertise de domaine approfondie simultanément pour obtenir une véritable valeur des solutions d’IA d’entreprise. Notre plateforme d’IA Eureka démontre comment les sources de données spécifiques à l’industrie, les graphiques de connaissances, les modèles prédictifs et les agents doivent être adaptés à chaque industrie, mais cela représente des années d’investissement en recherche et d’itération client que la plupart des équipes internes ne possèdent pas. Pour les entreprises et les DSI qui souhaitent investir dans l’IA, je leur conseille de choisir des solutions qui livrent des résultats réels dès le premier jour. Les solutions d’IA verticale livrent ces résultats, en fournissant aux utilisateurs des données qu’ils peuvent ensuite utiliser pour créer de la valeur commerciale.

En regardant vers l’avenir, comment imaginez-vous les architectures d’IA d’entreprise – les agents verticaux fédérés construits sur des modèles de base partagés deviendront-ils la norme ?

Nous ne verrons pas seulement des « agents fédérés » ; nous verrons des architectures agissantes gérées. Alors que les modèles de base partagés fournissent le moteur de raisonnement, ils sont essentiellement des commodités. La « norme » pour les entreprises réussies sera le déploiement d’agents spécialisés et verticaux qui ne communiquent pas seulement, mais sont rigoureusement orchestrés à travers une couche de contexte partagée. Si vous n’avez que des « agents fédérés » construits sur des modèles de base, vous obtenez un système bruyant et sujet à des hallucinations – ce que nous appelons la « fuite de l’IA d’entreprise ». Pour faire évoluer cette architecture à l’échelle de la production, vous avez besoin de trois couches spécifiques qui vont au-delà d’une simple fédération :

• Contexte (Le Graphique de Connaissances de Domaine) : Les agents ont besoin de partager une source unique de vérité, et non simplement échanger des probabilités.
• Orchestration : Vous avez besoin d’un « architecte maître » qui décide quand utiliser un agent spécialisé et quand garder un humain dans la boucle.
• Gouvernance : La sortie doit être légalement et opérationnellement sûre avant de quitter le système.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter SymphonyAI.