Daniel Ciolek, Directeur de la Recherche et du Développement chez InvGate – Série d’entretiens

Daniel est un professionnel passionné de l’informatique avec plus de 15 ans d’expérience dans l’industrie. Il est titulaire d’un doctorat en informatique et a une longue carrière dans la recherche technologique. Ses intérêts s’étendent à plusieurs domaines, tels que l’intelligence artificielle, l’ingénierie logicielle et l’informatique haute performance.

Daniel est le Directeur de la Recherche et du Développement chez InvGate, où il dirige les initiatives de R&D. Il travaille avec les équipes de développement de produits et d’affaires pour concevoir, mettre en œuvre et surveiller la stratégie de R&D de l’entreprise. Lorsqu’il ne recherche pas, il enseigne.

InvGate permet aux organisations de fournir des services sans faille à travers les départements, de l’informatique aux services généraux.

Quand et comment êtes-vous devenu intéressé par l’informatique pour la première fois ?

Mon intérêt pour l’informatique remonte à mon enfance. J’ai toujours été fasciné par les appareils électroniques, souvent en train d’explorer et d’essayer de comprendre comment ils fonctionnaient. À mesure que j’ai grandi, cette curiosité m’a conduit à la programmation. Je me souviens encore du plaisir que j’ai eu en écrivant mes premiers programmes. À partir de ce moment-là, il n’y avait pas de doute dans mon esprit que je voulais poursuivre une carrière dans l’informatique.

Vous dirigez actuellement les initiatives de R&D et mettez en œuvre de nouvelles applications d’intelligence artificielle générative. Pouvez-vous discuter de certains de vos travaux ?

Absolument. Dans notre département de R&D, nous abordons des problèmes complexes qui peuvent être difficiles à représenter et à résoudre efficacement. Nos travaux ne se limitent pas aux applications d’intelligence artificielle générative, mais les progrès récents dans ce domaine ont créé une multitude d’opportunités que nous sommes impatients d’exploiter.

L’un de nos principaux objectifs chez InvGate a toujours été d’optimiser l’utilisabilité de notre logiciel. Nous le faisons en surveillant son utilisation, en identifiant les goulets d’étranglement et en travaillant diligemment pour les supprimer. L’un de ces goulets d’étranglement que nous rencontrons souvent est lié à la compréhension et à l’utilisation du langage naturel. C’était un problème particulièrement difficile à résoudre sans l’utilisation de modèles de langage à grande échelle (LLM).

Cependant, avec l’émergence récente de LLM abordables, nous avons pu rationaliser ces cas d’utilisation. Nos capacités incluent désormais la fourniture de recommandations d’écriture, la rédaction automatique d’articles de base de connaissances et la synthèse de textes étendus, entre autres fonctionnalités basées sur le langage.

Chez InvGate, votre équipe applique une stratégie appelée « intelligence artificielle agnostique ». Pouvez-vous définir ce que cela signifie et pourquoi cela est important ?

L’intelligence artificielle agnostique est fondamentalement axée sur la flexibilité et l’adaptabilité. En essence, il s’agit de ne pas s’engager dans un seul modèle ou fournisseur d’intelligence artificielle. Au lieu de cela, nous visons à garder nos options ouvertes, en exploitant le meilleur de ce que chaque fournisseur d’intelligence artificielle offre, tout en évitant le risque d’être verrouillé dans un système.

Vous pouvez le considérer ainsi : devrions-nous utiliser GPT d’OpenAI, Gemini de Google ou Llama-2 de Meta pour nos fonctionnalités d’intelligence artificielle générative ? Devrions-nous opter pour un déploiement cloud pay-as-you-go, une instance gérée ou un déploiement auto-hébergé ? Ce ne sont pas des décisions triviales et elles peuvent même changer avec le temps à mesure que de nouveaux modèles sont publiés et que de nouveaux fournisseurs entrent sur le marché.

L’approche d’intelligence artificielle agnostique garantit que notre système est toujours prêt à s’adapter. Notre mise en œuvre comporte trois composants clés : une interface, un routeur et les modèles d’intelligence artificielle eux-mêmes. L’interface abstrait les détails d’implémentation du système d’intelligence artificielle, le rendant plus facile pour d’autres parties de notre logiciel d’interagir avec lui. Le routeur décide où envoyer chaque demande en fonction de divers facteurs tels que le type de demande et les capacités des modèles d’intelligence artificielle disponibles. Enfin, les modèles effectuent les tâches d’intelligence artificielle réelles, qui peuvent nécessiter des processus de prétraitement de données personnalisés et de mise en forme de résultats.

Pouvez-vous décrire les aspects méthodologiques qui guident votre processus de prise de décision lors de la sélection des modèles et des fournisseurs d’intelligence artificielle les plus appropriés pour des tâches spécifiques ?

Pour chaque nouvelle fonctionnalité que nous développons, nous commençons par créer un référentiel d’évaluation. Ce référentiel est conçu pour évaluer l’efficacité de différents modèles d’intelligence artificielle dans la résolution de la tâche en question. Mais nous ne nous concentrons pas seulement sur les performances, nous considérons également la vitesse et le coût de chaque modèle. Cela nous donne une vision globale de la valeur de chaque modèle, nous permettant de choisir l’option la plus rentable pour acheminer les demandes.

Cependant, notre processus ne s’arrête pas là. Dans le domaine en constante évolution de l’intelligence artificielle, de nouveaux modèles sont constamment publiés et les modèles existants sont régulièrement mis à jour. Ainsi, chaque fois qu’un nouveau ou mis à jour modèle devient disponible, nous réexécutons notre référentiel d’évaluation. Cela nous permet de comparer les performances du nouveau ou mis à jour modèle avec celles de notre sélection actuelle. Si un nouveau modèle surpasse le modèle actuel, nous mettons alors à jour notre module de routage pour refléter ce changement.

Quels sont les défis de la commutation transparente entre différents modèles et fournisseurs d’intelligence artificielle ?

La commutation transparente entre différents modèles et fournisseurs d’intelligence artificielle présente effectivement un ensemble de défis uniques.

Tout d’abord, chaque fournisseur d’intelligence artificielle nécessite des entrées formatées de manière spécifique, et les modèles d’intelligence artificielle peuvent réagir différemment aux mêmes demandes. Cela signifie que nous devons optimiser individuellement pour chaque modèle, ce qui peut être assez complexe étant donné la variété d’options.

Deuxièmement, les modèles d’intelligence artificielle ont des capacités différentes. Par exemple, certains modèles peuvent générer des sorties au format JSON, une fonctionnalité qui s’avère utile dans de nombreuses de nos mises en œuvre. D’autres peuvent traiter de grandes quantités de texte, nous permettant d’utiliser un contexte plus complet pour certaines tâches. Gérer ces capacités pour maximiser le potentiel de chaque modèle est une partie essentielle de notre travail.

Enfin, nous devons nous assurer que les réponses générées par l’intelligence artificielle sont sûres à utiliser. Les modèles d’intelligence artificielle générative peuvent parfois produire des « hallucinations », ou générer des réponses qui sont fausses, hors contexte ou même potentiellement nuisibles. Pour atténuer cela, nous mettons en œuvre des filtres de post-traitement rigoureux pour détecter et filtrer les réponses inappropriées.

Comment l’interface est-elle conçue dans votre système d’intelligence artificielle agnostique pour abstraire efficacement les complexités des technologies d’intelligence artificielle sous-jacentes pour des interactions utilisateur conviviales ?

La conception de notre interface est un effort collaboratif entre les équipes de R&D et d’ingénierie. Nous travaillons sur une base de fonctionnalité par fonctionnalité, en définissant les exigences et les données disponibles pour chaque fonctionnalité. Ensuite, nous concevons une API qui s’intègre sans heurt dans le produit, en la mettant en œuvre dans notre service d’intelligence artificielle interne. Cela permet aux équipes d’ingénierie de se concentrer sur la logique métier, tandis que notre service d’intelligence artificielle gère les complexités de l’interaction avec différents fournisseurs d’intelligence artificielle.

Ce processus ne repose pas sur la recherche de pointe, mais plutôt sur l’application de pratiques d’ingénierie logicielle éprouvées.

Compte tenu des opérations mondiales, comment InvGate gère-t-il le défi de la disponibilité régionale et de la conformité avec les réglementations de données locales ?

Assurer la disponibilité régionale et la conformité avec les réglementations de données locales est une partie cruciale de nos opérations chez InvGate. Nous sélectionnons soigneusement les fournisseurs d’intelligence artificielle qui peuvent non seulement fonctionner à grande échelle, mais également respecter les normes de sécurité les plus élevées et se conformer aux réglementations régionales.

Par exemple, nous ne considérons que les fournisseurs qui adhèrent à des réglementations telles que le Règlement Général sur la Protection des Données (RGPD) dans l’UE. Cela nous permet de déployer nos services dans différentes régions avec confiance, sachant que nous opérons dans le cadre juridique local.

Les principaux fournisseurs de cloud tels qu’AWS, Azure et Google Cloud satisfont à ces exigences et offrent une large gamme de fonctionnalités d’intelligence artificielle, les rendant des partenaires appropriés pour nos opérations mondiales. De plus, nous surveillons en permanence les changements dans les réglementations de données locales pour nous assurer de la conformité continue, en ajustant nos pratiques au besoin.

Comment l’approche d’InvGate en matière de développement de solutions IT a-t-elle évolué au cours de la dernière décennie, en particulier avec l’intégration de l’intelligence artificielle générative ?

Au cours de la dernière décennie, l’approche d’InvGate en matière de développement de solutions IT a considérablement évolué. Nous avons élargi notre base de fonctionnalités avec des capacités avancées telles que les flux de travail automatisés, la découverte de périphériques et la base de données de configuration (CMDB). Ces fonctionnalités ont grandement simplifié les opérations IT pour nos utilisateurs.

Récemment, nous avons commencé à intégrer l’intelligence artificielle générative dans nos produits. Cela a été rendu possible grâce aux progrès récents des fournisseurs de LLM, qui ont commencé à offrir des solutions abordables. L’intégration de l’intelligence artificielle générative a permis d’améliorer nos produits avec un support alimenté par l’intelligence artificielle, rendant nos solutions plus efficaces et plus conviviales.

Même si c’est encore tôt, nous prévoyons que l’intelligence artificielle deviendra un outil omniprésent dans les opérations IT. Par conséquent, nous prévoyons de continuer à faire évoluer nos produits en intégrant davantage les technologies d’intelligence artificielle.

Pouvez-vous expliquer comment l’intelligence artificielle générative au sein du Hub d’intelligence artificielle améliore la rapidité et la qualité des réponses aux incidents IT courants ?

L’intelligence artificielle générative au sein de notre Hub d’intelligence artificielle améliore considérablement la rapidité et la qualité des réponses aux incidents IT courants. Elle le fait à travers un processus mult étape :

Premier Contact : Lorsqu’un utilisateur rencontre un problème, il peut ouvrir un chat avec notre agent virtuel alimenté par l’intelligence artificielle (VA) et décrire le problème. Le VA recherche de manière autonome dans la base de connaissances de l’entreprise et une base de données publique de guides de dépannage IT, fournissant des conseils de manière conversationnelle. Cela résout souvent le problème rapidement et efficacement.

Création de Ticket : Si le problème est plus complexe, le VA peut créer un ticket, en extrayant automatiquement les informations pertinentes de la conversation.

Assignation de Ticket : Le système attribue le ticket à un agent de support en fonction de la catégorie du ticket, de sa priorité et de l’expérience de l’agent avec des problèmes similaires.

Interaction avec l’Agent : L’agent peut contacter l’utilisateur pour obtenir des informations supplémentaires ou pour le notifier que le problème a été résolu. L’interaction est améliorée avec l’intelligence artificielle, fournissant des recommandations d’écriture pour améliorer la communication.

Escalade : Si le problème nécessite une escalade, les fonctionnalités de résumé automatique aident les gestionnaires à comprendre rapidement le problème.

Analyse post-mortem : Une fois le ticket fermé, l’intelligence artificielle effectue une analyse de la cause profonde, aidant à l’analyse post-mortem et aux rapports. L’agent peut également utiliser l’intelligence artificielle pour rédiger un article de base de connaissances, facilitant la résolution de problèmes similaires à l’avenir.

Même si nous avons déjà mis en œuvre la plupart de ces fonctionnalités, nous travaillons continuellement à des améliorations et à des extensions.

Avec les fonctionnalités à venir comme l’agent virtuel MS Teams plus intelligent, quels sont les améliorations attendues dans les expériences de support conversationnel ?

L’une des voies prometteuses à l’avenir est d’étendre l’expérience conversationnelle à un « copilote », capable non seulement de répondre à des questions et d’effectuer des actions simples, mais également de prendre des mesures plus complexes au nom des utilisateurs. Cela pourrait être utile pour améliorer les capacités d’auto-service des utilisateurs, ainsi que pour fournir des outils plus puissants aux agents. Finalement, ces interfaces conversationnelles puissantes rendront l’intelligence artificielle un compagnon omniprésent.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter InvGate.