Raj Shukla, CTO de SymphonyAI – Série d’entretiens

Raj Shukla pilote la feuille de route technologique et l’exécution de SymphonyAI, en dirigeant l’équipe d’ingénierie qui construit la plate-forme d’IA Gen AI Eureka. Avec près de 20 ans d’expérience dans l’ingénierie et la recherche en IA/ML, Shukla possède également une vaste expérience de l’IA SaaS d’entreprise issue de ses rôles de direction en ingénierie chez Microsoft, où sa carrière de 14 ans a inclus la direction d’organisations mondiales de science et d’ingénierie en IA sur Azure, Dynamics 365, MSR et les divisions de recherche et de publicité. Raj possède une expérience approfondie en IA/ML dans la recherche, la publicité et l’IA d’entreprise et a construit plusieurs produits SaaS d’IA réussis dans les domaines à la fois consommateurs et professionnels.

SymphonyAI est une entreprise d’IA d’entreprise axée sur la construction d’applications d’IA spécifiques à l’industrie qui livrent une valeur commerciale immédiate. Au lieu de modèles génériques, elle fournit des solutions verticales pour la vente au détail, les biens de consommation, les services financiers, la fabrication, les médias et les TI, en résolvant des défis tels que la prévision, la prévention de la fraude, l’optimisation opérationnelle et l’analyse. Ses produits sont alimentés par la plate-forme d’IA Eureka, qui combine les capacités prédictives, génératives et agissantes dans des flux de travail adaptés à chaque secteur. Fondée en 2017, l’entreprise est devenue un leader mondial de l’IA verticale, servant des milliers de clients d’entreprise avec des solutions axées sur le domaine et évolutives.

Vous avez travaillé à la pointe de l’innovation en IA chez Microsoft, Oracle et maintenant SymphonyAI – qu’est-ce qui vous a initialement attiré dans le monde de l’IA d’entreprise, et comment votre perspective a-t-elle évolué au fil des ans ?

Mon parcours dans l’IA d’entreprise a commencé avec une conviction fondamentale selon laquelle les entreprises devraient mettre en œuvre une IA qui résout de véritables problèmes commerciaux, et non créer de l’IA pour le simple plaisir de l’IA. J’ai constaté que les solutions d’IA génériques et à large spectre livrent rarement une valeur transformatrice. Chez SymphonyAI, nous avons construit notre stratégie d’entreprise et notre culture sur le développement d’une IA qui comprend des défis spécifiques à l’industrie, allant de la détection de la criminalité financière à la merchandising de détail axée sur les acheteurs jusqu’à l’autonomisation des travailleurs connectés industriels. L’adaptabilité à l’entreprise ajoute une toute nouvelle dimension – une IA d’entreprise réussie nécessite plus que de grandes technologies, elle exige une gouvernance et une architecture de données exemplaires, une collaboration et des flux de travail interfonctionnels sophistiqués, ainsi que une transparence et une traçabilité totales.

Quels sont les points faibles spécifiques que les entreprises rencontrent avec les modèles préentraînés génériques, en particulier dans des secteurs réglementés comme la finance ou les soins de santé ? 

Les modèles préentraînés génériques ne sont pas conçus pour les environnements à haute tension et fortement réglementés de la finance, des soins de santé et de l’épicerie. Les modèles préentraînés génériques rencontrent des obstacles critiques, notamment la nécessité d’une expertise de domaine essentielle pour répondre aux nuances spécifiques à l’industrie et satisfaire aux exigences réglementaires et de conformité strictes qui diffèrent selon les géographies. Plus important encore, ils ne peuvent pas livrer l’exactitude et la traçabilité que les entreprises requièrent, où les erreurs pourraient nuire aux consommateurs ou déclencher des violations réglementaires. Que ce soit pour se conformer aux réglementations sur la lutte contre le blanchiment d’argent ou permettre à un détaillant d’éliminer rapidement les articles rappelés des centres de distribution et des étagères, la technologie d’IA verticale de SymphonyAI est spécifiquement conçue pour les industries dans lesquelles nous opérons et formée sur les ontologies de ces industries, permettant ainsi de prendre ou d’automatiser des décisions qui ont un impact commercial direct.

Combinez les modèles préentraînés avec une logique de domaine profonde est de plus en plus considéré comme clé pour débloquer le ROI de l’entreprise – quels sont les composants essentiels, tels que les connaissances de l’industrie, l’alignement des KPI et les garde-fous réglementaires, qui rendent cette approche efficace ? 

Combinez les modèles préentraînés avec une logique de domaine profonde débloque la valeur en créant des systèmes d’IA qui comprennent le contexte commercial et les exigences opérationnelles. Cette approche réussit lorsque les modèles sont améliorés avec des ontologies spécifiques à l’industrie, alignés avec les KPI de l’entreprise pour garantir que les sorties servent directement des objectifs commerciaux mesurables et sont équipés de garde-fous réglementaires qui fournissent les cadres de conformité et les traces d’audit nécessaires. Lorsque ces éléments fonctionnent ensemble, l’IA générique se transforme en solutions métier critiques qui stimulent des résultats mesurables tout en maintenant la fiabilité et la conformité que les entreprises exigent.

IBM a récemment acquis Seek AI et a lancé Watsonx Labs à New York, signalant un changement stratégique potentiel dans le paysage de l’IA – qu’est-ce que cela indique sur l’avenir des tendances de fusion et d’acquisition et d’investissement dans l’IA d’entreprise ? 

L’acquisition de Seek AI par IBM et le lancement de Watsonx Labs est une validation du changement fondamental que nous avons anticipé : le paysage de l’IA d’entreprise a changé, signalant que la prochaine vague de fusions et acquisitions donnera la priorité aux entreprises dotées de modèles d’IA verticale préentraînés qui arrivent avec une expertise approfondie dans le domaine, une gouvernance et des garde-fous réglementaires, ainsi que des KPI axés sur les résultats. Les acquéreurs stratégiques comme IBM reconnaissent que les agents d’IA axés sur les données d’entreprise livrent un ROI immédiat lorsqu’ils comprennent des flux de travail spécifiques à l’industrie. Le marché se consolide autour de la reconnaissance que l’intelligence générale nécessite une spécialisation verticale pour stimuler la transformation de l’entreprise.

À quel moment un modèle de base évolue-t-il en un agent spécifique au domaine – quels jalons architecturaux signalent cette transition ? 

Un modèle de base ne se transforme pas naturellement en un agent de domaine ; il doit être conçu pour le devenir. Il n’y a pas de chemin direct où un modèle général « devient plus intelligent » et devient un enquêteur bancaire. La transition n’a lieu que lorsque les équipes d’ingénierie cessent de compter sur l’intelligence brute du modèle et commencent à construire l’architecture gérée autour de celui-ci – en injectant spécifiquement une couche de contexte (comme un graphique de connaissances) et une couche d’orchestration pour forcer le modèle à suivre un processus métier plutôt que ses propres tendances probabilistes.

Quels sont les défis fondamentaux pour construire des flux de travail agissants qui sont à la fois résilients et spécifiques au domaine, et comment SymphonyAI les aborde-t-elle ? 

Les défis fondamentaux pour construire des flux de travail agissants résilients et spécifiques au domaine sont de maintenir la fiabilité à travers des processus complexes à plusieurs étapes. SymphonyAI aborde ces défis grâce à son architecture à plusieurs couches, qui intègre l’expertise de domaine directement dans l’agent, met en œuvre la gestion des erreurs avec la récupération en cas de défaillance et maintient une gestion du contexte persistant à travers les processus d’entreprise à plusieurs sessions. Cela permet à nos agents de fonctionner de manière fiable dans des environnements réglementés à haute tension où la résilience signifie maintenir l’exactitude, la conformité et l’intégrité opérationnelle.

SymphonyAI met l’accent sur les fondations de données robustes, les graphiques de connaissances et les couches de métadonnées – pourquoi ces capacités sont-elles critiques pour les agents d’IA verticale, et pourquoi de nombreuses entreprises ont-elles du mal à les mettre en œuvre ? 

Les fondations de données robustes et les graphiques de connaissances sont cruciaux pour les agents d’IA verticale afin d’avoir des sources significatives, de fournir des recommandations contextualisées et de rester à jour avec les changements de marché, de client et de processus à tous les niveaux de l’entreprise. La plupart des entreprises ont du mal à mettre en œuvre ces capacités car elles nécessitent un investissement initial important dans l’architecture des données, une expertise spécialisée en ontologie et des changements fondamentaux dans les pratiques de données existantes que de nombreuses organisations trouvent organisationnellement et techniquement intimidants. C’est là qu’un partenaire de technologie d’IA doté d’une expérience et de connaissances approfondies dans ce domaine verticale est inestimable, y compris sa capacité à pré-entraîner l’IA sur d’immenses quantités de données et de sources de domaine à travers de nombreux clients réels dans cette industrie.

Dans des scénarios du monde réel – tels que la détection de la criminalité financière ou la prévision de détail – comment SymphonyAI combine-t-elle l’IA prédictive, générative et agissante en « compétences » cohérentes ?

SymphonyAI combine l’IA prédictive, générative et agissante en « compétences » cohérentes en créant des flux de travail intégrés où chaque produit d’IA répond à un problème commercial spécifique. Dans la détection de la criminalité financière, nos modèles prédictifs identifient des modèles de transactions suspects, et l’IA générative crée des rapports d’enquête et des évaluations de risque détaillés. En même temps, l’IA agissante orchestre l’ensemble du flux de travail, en escaladant automatiquement les cas, en coordonnant avec les équipes de conformité et en adaptant les stratégies d’enquête en fonction des résultats en temps réel.

La clé est que ces outils d’IA ne sont pas séparés, mais des capacités intégrées dans des agents spécifiques au domaine qui comprennent le contexte commercial, maintiennent l’état du flux de travail et peuvent passer sans heurt d’une analyse prédictive à la génération de contenu et à l’action autonome pour livrer des résultats commerciaux complets plutôt que des sorties d’IA fragmentées.

Vous avez averti que de nombreux agents d’IA d’entreprise pourraient trébucher sans robustesse – quels sont les caractéristiques clés d’un agent d’IA d’entreprise bien conçu et tolérant aux fautes ? 

Les agents d’IA d’entreprise bien conçus et construits pour être examinés nécessitent plusieurs caractéristiques critiques. Bien que de nombreuses entreprises investissent rapidement dans et déployant des agents d’IA pour améliorer l’efficacité, la productivité et l’innovation, elles sous-estiment souvent les travaux préparatoires nécessaires au succès. Certains aspects essentiels que les agents bien conçus doivent avoir pour réussir sont :

• Les agents d’IA d’entreprise fonctionnent sur les données d’entreprise, qui sont souvent cloisonnées et manquent d’un accès programmatique, d’autorisations et de contrôles d’accès appropriés. Les agents doivent être dotés des mêmes dispositions d’authentification et d’autorisation que les employés.
• Les agents ont également besoin de se remettre de toutes les formes de défaillances du système d’entreprise, de pannes de réseau et de points de terminaison instables. La couche d’orchestration doit permettre des flux de travail à long terme, durables et tolérants aux fautes, ce que la plupart des orchestrateurs LLM populaires ne font pas.
• Les LLM seront non déterministes et échoueront dans les tâches. La récupération en cas de défaillance, les réessais et la découverte du chemin optimal doivent être des fonctionnalités clés des systèmes agissants.

Pour les DSI qui envisagent de construire des plateformes d’IA verticale en interne par rapport à un partenariat avec des fournisseurs de niche, quels conseils offririez-vous ? 

Construire des solutions d’IA d’entreprise à travers plusieurs industries, y compris la vente au détail/CPG, l’industrie et les services financiers, nécessite de maîtriser à la fois la technologie d’IA de pointe et une expertise approfondie dans le domaine pour atteindre une véritable valeur des solutions d’IA d’entreprise. Notre plate-forme d’IA Eureka démontre comment les sources de données verticales spécifiques, les graphiques de connaissances, les modèles prédictifs et les agents doivent être adaptés à chaque industrie, mais cela représente des années d’investissement dans la recherche et d’itération avec les clients que la plupart des équipes internes ne possèdent pas. Pour les entreprises et les DSI qui souhaitent investir dans l’IA, je les conseille de choisir des solutions qui livrent des résultats réels dès le premier jour. Les solutions d’IA verticale livrent ces résultats, fournissant aux utilisateurs des données qu’ils peuvent ensuite utiliser pour créer de la valeur commerciale.

En regardant vers l’avenir, comment imaginez-vous les architectures d’IA d’entreprise – les agents verticaux fédérés construits sur des modèles de base partagés deviendront-ils la norme ?

Nous ne verrons pas seulement des agents « fédérés » ; nous verrons des architectures agissantes gérées. Alors que les modèles de base partagés fournissent le moteur de raisonnement, ils sont essentiellement des commodités. La « norme » pour les entreprises réussies sera le déploiement d’agents spécialisés et verticaux qui ne communiquent pas seulement, mais sont rigoureusement orchestrés à travers une couche de contexte partagée. Si vous n’avez que des agents « fédérés » construits sur des modèles de base, vous obtenez un système bruyant et sujet aux hallucinations – ce que nous appelons le « tuyau percé » de l’IA d’entreprise. Pour que cette architecture soit mise à l’échelle en production, vous avez besoin de trois couches spécifiques qui vont au-delà d’une simple fédération :

• Contexte (Le graphique de connaissances de domaine) : Les agents doivent partager une seule source de vérité, et non échanger des probabilités.
• Orchestration : Vous avez besoin d’un « architecte maître » qui décide quand utiliser un agent spécialisé et quand garder un humain dans la boucle.
• Gouvernance : La sortie doit être juridiquement et opérationnellement sûre avant de quitter le système.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus doivent visiter SymphonyAI.