Cinq raisons pour lesquelles les algorithmes d’IA peuvent être difficiles à mettre en œuvre dans la gestion opérationnelle

Par: Evgeniya Malina, Responsable de la stratégie et des opérations chez Food Rocket.

Selon une étude récente du McKinsey Global Institute, l’IA devrait augmenter la production économique mondiale de 13 000 milliards de dollars d’ici 2030.

Cependant, cela comporte ses propres défis et conséquences involontaires. Certains des risques et défis les plus couramment identifiés de la mise en œuvre de l’IA incluent les préoccupations en matière de confidentialité, l’incapacité à généraliser et un manque de confiance général.

Ci-dessous, trois défis de l’IA qui affectent spécifiquement la gestion opérationnelle des entreprises.

1. Mauvaise qualité des données

La première chose dont a besoin un algorithme d’IA robuste, c’est des données. Pour former correctement un algorithme, vous devez lui fournir de grandes quantités de données précises et de haute qualité. Malheureusement, il n’est pas toujours facile d’obtenir ces données, et un rapport de Gartner de 2020 note que la mauvaise qualité des données peut coûter à votre entreprise environ 13 millions de dollars par an.

Par exemple, certains processus n’ont peut-être pas d’empreinte numérique du tout lorsque vous démarrez. Il n’y a pas de données à fournir à un algorithme dans ces cas. Tout ce que vous fournissez, ce sont des hypothèses et des suppositions éclairées, ce qui pose deux problèmes.

Tout d’abord, cela introduit un biais humain important dans votre processus dès le départ. Deuxièmement, cela signifie que les résultats de l’algorithme ne sont que l’extension de vos meilleures suppositions. En fin de compte, cela vous laisse avec un paysage de données incertain et un processus de prise de décision peu fiable et instable.

2. Navigation dans les “débuts froids” et engagement des employés

L’automatisation est excellente pour rationaliser les processus existants, mais le compromis est le “début froid”. C’est lorsque vous devez commencer un processus sans données historiques sur lesquelles l’IA peut baser sa routine. Dans chaque cas, l’IA aura du mal à surmonter cet obstacle.

Selon la Harvard Business Review, 80 pour cent ou plus du temps d’une équipe IT est souvent consacré à améliorer et à affiner des données incohérentes pour les algorithmes d’IA

Il faut souvent un investissement important d’efforts humains pour aider l’IA à surmonter ce “début froid” et à reprendre des opérations fluides.

D’après mon expérience, cela peut causer de graves perturbations dans la gestion de la chaîne d’approvisionnement et peut coûter aux entreprises des revenus importants. Nous savons tous que l’IA n’est pas encore suffisamment évoluée pour gérer tous les aspects d’un système de gestion opérationnelle. Cela signifie que toute solution d’IA que votre entreprise utilise chevauchera les processus de prise de décision humaine.

Même si cela peut être une bonne chose, cela peut également entraîner un désengagement du sens de la responsabilité personnelle des employés. Dans certains cas, les employés peuvent se sentir comme s’ils pouvaient se séparer d’une décision parce que “l’IA l’a fait”.

De plus, il est courant que l’introduction d’un nouvel algorithme coïncide avec une baisse significative des indicateurs de qualité. D’après mon expérience, ce paradoxe est le résultat d’une personne qui était précédemment responsable de l’indicateur et qui se sent maintenant comme un simple maillon sans importance dans une chaîne de prise de décision automatisée.

Il est essentiel de gérer cet aspect de l’automatisation en raison de la facilité avec laquelle il peut mener votre équipe sur un chemin de désintérêt et de baisse d’engagement. Cela peut également causer des préjudices à votre marque. Si l’IA est laissée seule pour prendre des décisions, elle peut involontairement commencer à discriminer les clients dans certaines catégories d’âge, de sexe ou géographiques.

3. Défis de transparence et de mise en œuvre efficace

Comme chaque propriétaire d’entreprise le sait, les choses peuvent changer en un instant. Les entreprises n’ont pas toujours le temps de construire une solution d’IA complexe pour une nouvelle opération.

En fait, il est beaucoup plus courant pour les entreprises d’être sous pression et d’être forcées de résoudre un problème sans l’aide de l’automatisation, car la mise en place d’un nouveau processus prend simplement trop de temps. Puisqu’il n’y a généralement pas le temps d’écrire des modèles complexes, l’une des deux choses se produit.

Tout d’abord, l’entreprise peut choisir de mettre en œuvre un processus presque complet, mais insérer une étape intermédiaire manuelle jusqu’à ce que le processus puisse être affiné. Dans ce cas, les entreprises perdent jusqu’à 80 pour cent de l’efficacité calculée du processus.

Alternativement, l’entreprise peut déployer des logiciels SaaS pour accélérer le processus de mise en œuvre. Même si les coûts en temps et en argent seront plus faibles, le problème de perte d’efficacité persiste. Dans ce cas, la mise en œuvre d’algorithmes SaaS qui ne sont pas spécifiquement adaptés aux besoins de l’entreprise peut rendre le processus moins efficace que s’il était effectué manuellement.

En plus de ces problèmes, il est important de comprendre que la transparence dans le processus d’IA est incroyablement difficile à communiquer à la direction, même par les experts. Cela est dû à la complexité des algorithmes, mais cela peut faire que votre équipe se sente réticente à passer à des opérations automatisées.

Où allons-nous à partir d’ici ?

Certains chercheurs suggèrent que les défis que nous rencontrons actuellement conduiront à de nouveaux rôles humains dans une entreprise : formateurs, explicationnistes et mainteneurs.

Les formateurs aideront à optimiser les performances de l’IA ; les explicationnistes seront chargés de décomposer les décisions de l’IA pour les non-professionnels, et les mainteneurs travailleront à rendre les processus d’IA durables à long terme.

Cependant, jusqu’à ce moment-là, les entreprises et les fondateurs doivent considérer plus que le avantage concurrentiel important que l’IA peut apporter. L’avantage doit être pesé contre l’ambiguïté, les coûts en temps et les obstacles de croissance qui accompagnent l’IA opérationnelle.

L’intelligence artificielle a encore un long chemin à parcourir en termes de croissance, de développement et de mise en œuvre. Elle peut sans aucun doute faire une grande différence dans la gestion opérationnelle, mais nous ne pouvons pas encore nous fier entièrement à elle pour qu’elle soit toujours la meilleure option.