Quatre facteurs clés pour réussir avec les modèles de ML

Par Jason Revelle, CTO, Datatron

Les experts, les analystes et ceux qui ont une expérience pratique de la mise en œuvre de la technologie de machine learning (ML) vantent les mérites de cette technologie, ce qui conduit à un nombre croissant d’entreprises à adopter la ML pour divers usages. Sa renommée repose sur l’idée qu’elle permettrait de computeriser la cognition humaine et de faciliter la transformation numérique. Cependant, même si la ML offre de grands avantages, il y a un revers : pour les équipes qui doivent gérer la ML en production, le travail peut devenir difficile.

Les entreprises mettent en œuvre la ML pour de nombreuses tâches, telles que la classification des risques pour la santé, le traitement des documents, la prédiction des prix, la détection de la fraude, la maintenance préventive et bien d’autres choses. Les équipes forment et évaluent des modèles sur des données historiques jusqu’à ce qu’ils semblent répondre aux cibles de performance et de précision. Les entreprises sont impatientes de bénéficier des avantages à haute valeur que la ML promet en prédissant, en classifiant ou en prescrivant des résultats futurs – et en agissant sur ces prédictions.

Tout cette valeur commerciale, cependant, est accompagnée d’un coût opérationnel élevé. Une fois qu’un modèle est “prêt”, son automatisation à travers des mécanismes de livraison fiables crée des complexités opérationnelles et des risques qui nécessitent une vigilance constante. Pour rendre ces projets efficaces et efficaces, les équipes de livraison et d’exploitation doivent gérer de manière holistique le cycle de vie de la ML. Les données doivent être disponibles et de la qualité attendue par rapport à celles utilisées pour la formation.

Il devient bientôt évident que cela n’est pas tout à fait comme d’autres efforts d’ingénierie, et vous devez commencer à réfléchir aux défis de manière nouvelle pour vraiment devenir une entreprise alimentée par l’IA. Voici quatre choses à considérer pour réussir avec la ML, et plus précisément avec les modèles de ML.

1. Comment déployer rapidement plusieurs versions en arrière-plan

Les modèles de ML nécessitent un processus itératif basé sur des données de production réelles. Faites des investissements ciblés pour avoir des cibles de déploiement qui peuvent exécuter et enregistrer les résultats sans que les systèmes de production ou les clients ne voient ces résultats. Vous devez avoir la capacité de déployer de cette manière facilement et en flux jusqu’à ce que vous ayez le modèle que vous aimez. À long terme, il est beaucoup plus efficace et économique de supposer qu’il y aura beaucoup de réglages de vos modèles, ainsi que le besoin de comparer les versions actuelles à de nouveaux candidats promettant de meilleurs résultats.

2. Comprenez que ce que votre équipe promet ne correspond généralement pas aux politiques logicielles traditionnelles “approuvées” axées sur les applications.

La ML grandit et se diversifie rapidement, avec une liste toujours plus longue de fournisseurs de technologie, grands et petits. Il est acquis que le service IT doit maintenir un soutien approprié, des analyses de sécurité et des contrôles pour vos environnements d’exploitation. Mais soyez averti : appliquer les mêmes contrôles et processus pour gouverner la technologie d’hébergement de produits ou d’exploitation à votre pratique de ML diminuera probablement considérablement vos rendements potentiels avant même d’avoir franchi la ligne de départ.

Il est également important de noter que les data scientists sont très demandés. Il n’est pas difficile pour eux de trouver un autre emploi s’ils estiment qu’ils sont poussés à fournir de meilleurs résultats sans changer la technologie qu’ils utilisent ou la façon dont ils peuvent l’utiliser.

3. Comprenez que le cycle de vie du développement de modèle de ML n’est pas le même que le cycle de vie du développement logiciel

Le développement de logiciels et la création de modèles de ML sont des processus très différents ; essayer de traiter le second comme le premier est une recette pour le désastre. Les entreprises qui traitent la livraison de modèles comme une autre version de logiciel se retrouvent avec des lacunes dans les capacités transversales comme la surveillance et l’analyse, et des coûts élevés pour le transfert de connaissances entre les créateurs et les opérateurs, avec des délais séquentiels et prolongés. Les spécialistes qui déployeront et supporteront vos modèles doivent comprendre comment fonctionne le modèle et les données, et non seulement résoudre les problèmes de fiabilité du service et les codes d’erreur. Les bons talents, les équipes hybrides composées de spécialistes des données et d’exploitation, ainsi que les bons outils vous permettront de tester et d’interpréter non seulement si le logiciel est exécuté, mais également comment les réponses sont précises et explicables.

Il est également important d’adopter une approche basée sur le succès pour l’audit des modèles de ML, car ils sont sujets à l’erreur. Si vous voulez que les data scientists de votre entreprise fassent confiance aux prédictions de leurs modèles de ML même lorsque les choses tournent mal (en réalisant que cela arrivera), alors le processus d’audit de la ML doit être conçu de manière à permettre aux modèles de ML d’être itérés et améliorés.

4. Planifiez pour l’échelle.

Vous devrez déployer des outils d’intelligence machine qui ont un système de déploiement automatisé tel que Kubernetes ou Docker Swarm. Cela vous aidera à atteindre plusieurs objectifs. Vous pourrez lancer des charges de travail de ML de manière dynamique et surveiller les tâches automatiquement sur des grappes pour les échecs en utilisant des algorithmes d’IA – en alertant les opérateurs de tout problème potentiel avant qu’il ne se produise. Vous pourrez également consolider les rapports d’analyse de plusieurs sources en un tableau de bord centralisé pour vous assurer que les modèles de ML fonctionnent comme prévu.

Maîtrisez la courbe d’apprentissage

Avant de commencer un projet de ML, il est crucial de comprendre que même si les modèles de ML peuvent offrir d’immenses avantages et efficacités à votre organisation, ils peuvent prendre une vie propre si ils ne sont pas gérés correctement. Connaître les risques et les complexités opérationnelles dès le départ, en gardant à l’esprit les quatre conseils ci-dessus. Avec une base solide en place, vous pourrez créer et modifier facilement vos modèles de ML pour qu’ils servent vos objectifs commerciaux.