Leaders d’opinion

Le fossé des connaissances que l’IA crée est la nouvelle faille de sécurité. Voici comment le combler.

mm
Ajouter Unite.AI à vos sources préférées sur Google

Les entreprises technologiques font un pari bien connu : l’IA peut travailler plus vite et pour moins cher que les humains. C’est peut-être vrai dans de nombreux cas, mais l’argument sert aussi de raccourci commode pour licencier.

Dans un rapport de PwC publié plus tôt cette année, 56 % des PDG déclaraient n’avoir encore constaté aucun bénéfice financier notable de leurs investissements dans l’IA. Seuls 12 % rapportaient à la fois des économies et une croissance du chiffre d’affaires. Une étude de février du National Bureau of Economic Research a également révélé que près de 90 % des entreprises estimaient que l’IA n’avait eu aucun effet sur l’emploi ou la productivité au cours des trois dernières années. Beaucoup n’ont donc pas encore obtenu les gains de revenus et de productivité initialement promis et continuent de supprimer des milliers de postes pour couvrir leurs pertes.

Mais voici ce que les conférences de résultats ne disent pas : supprimer le responsable de compte qui garde en tête dix ans de relations clients, ou l’ingénieur qualité dont la connaissance de l’organisation est seule à intercepter les défauts avant qu’ils n’atteignent les clients, ne revient pas à éliminer du superflu. C’est abattre des murs porteurs. Les coûts de reprise, les départs de clients et les défauts de qualité qui suivent apparaissent rarement dans la présentation qui célébrait les réductions d’effectifs. Ils sont discrètement absorbés dans les trimestres suivants, attribués au marché puis oubliés. L’écart entre les promesses des restructurations fondées sur l’IA et leurs résultats est réel et grandissant. Beaucoup d’organisations ne le reconnaissent pourtant pas du tout.

Les coûts réels se répartissent entre toutes les équipes restantes. Les développeurs reprennent la charge des ingénieurs partis tout en recevant des outils d’IA encore trop immatures pour compenser les effectifs perdus. Les équipes produit perdent le contexte qui reliait leurs plans à la réalité des clients. Le support est débordé et les réponses se dégradent : les clients repèrent immédiatement les réponses d’IA bâclées à leurs demandes. Cette charge diffuse se laisse facilement ignorer dans un rapport trimestriel. Les équipes informatiques en subissent une version particulière et cumulative. Elles doivent non seulement faire plus avec moins, mais gérer une infrastructure construite rapidement sans les connaissances qui lui donnaient sa cohérence. En parallèle, elles organisent la sortie des collègues partis et l’intégration de leurs remplaçants, tandis que les entreprises reviennent discrètement sur les réductions publiquement célébrées.

Au fil de l’année, les organisations cherchent à concrétiser les promesses de l’IA. Il est temps de comprendre qu’en supprimant l’expertise humaine au nom de l’efficacité, on perd bien plus que du chiffre d’affaires. On peut heureusement profiter du meilleur des deux mondes, à condition d’adopter une approche plus pratique et pragmatique qui garde les humains au centre de la stratégie.

Ce que l’on perd quand les détenteurs du savoir quittent l’entreprise

Le savoir opérationnel essentiel réside dans les personnes et s’applique par leur jugement, pas par les systèmes. Quand elles partent, ce savoir part avec elles. Aussi sophistiqué soit-il, le modèle ne permet pas à l’IA de combler ce manque aujourd’hui.

Même avec des capacités croissantes, l’automatisation sans contexte nuancé crée des angles morts dangereux dans des domaines essentiels :

  • Jugement et stratégie : L’intuition, le savoir institutionnel et la connaissance du marché ne se rangent pas proprement dans des jeux de données, même non structurés.
  • Contexte et compréhension de la situation : les humains perçoivent les nuances et les intentions, et savent évoluer dans les zones grises où les règles rigides peuvent échouer.
  • Empathie et confiance : les moments lourds de conséquences ou chargés d’émotion, notamment pour les clients et les salariés, exigent une réponse centrée sur l’humain.
  • Supervision et responsabilité : quelqu’un doit repérer les défaillances et les biais, et prévenir la désinformation. Après une réponse entièrement fausse, dire « Vous avez raison, je vais réessayer » ne suffit pas.
  • Mémoire institutionnelle et contexte des systèmes : comprendre pourquoi une infrastructure a été construite d’une certaine façon, ou pas, ce qui a déjà été essayé et quels cas limites n’ont jamais été documentés.
  • Leadership et gouvernance : définir les politiques et la tolérance au risque, et respecter les limites éthiques reste une responsabilité fondamentalement humaine.

L’IA peut faire émerger des idées, recommander des actions et accélérer l’exécution. Mais elle ne remplace ni la mémoire institutionnelle qui prévient les catastrophes ni la responsabilité qui permet de détecter les problèmes avant leur aggravation.

Ce que les organisations avisées font différemment

Les organisations qui réussissent avec l’IA ne retirent pas les humains de l’équation. Elles simplifient les routines répétitives qui freinent le quotidien, libérant du temps et des ressources pour chercher de nouvelles voies créatives de création de valeur. L’IA devient un partenaire qui amplifie les capacités humaines. Dans l’exploitation informatique, les équipes gèrent déjà une infrastructure étendue avec peu de moyens. L’IA, ou plus précisément l’apprentissage automatique, peut y apporter une réelle valeur en automatisant les tâches longues et routinières qui absorbent les spécialistes : tests et recherches sur les correctifs, classement des tickets, génération de processus, découverte des éléments de l’environnement et cartographie des risques.

Ces tâches fondent les opérations informatiques, mais demandent énormément de temps, surtout quand le parc numérique s’étend, que les vulnérabilités évoluent et que les salariés attendent une bonne expérience avec leurs appareils de travail. Lorsque des équipes débordées gèrent ou surveillent mal ces bases, les conséquences sont lourdes : interruptions, correctifs manqués, fuites de données et incidents de sécurité.

Bien utilisée pour simplifier ces tâches, l’IA laisse au personnel informatique le temps de faire ce qu’elle ne peut pas : réduire la dette technique, améliorer les systèmes et processus, repenser l’architecture pour la résilience et préserver le savoir qui maintient les systèmes essentiels en service. C’est plus que de l’efficacité : une réduction des risques et une assise plus solide pour la croissance à long terme.

Réussir l’adoption de l’IA

Les organisations qui appliquent et adoptent l’IA avec discernement, tout en assurant les conditions d’un usage sûr et efficace, obtiennent et continueront d’obtenir davantage de résultats. L’optimisation ne vient pas de la suppression de postes. Elle vient de l’investissement dans les personnes, de la refonte des processus et de la formation des équipes à un usage optimal de l’IA.

Ce n’est pas nouveau. La technologie progresse par générations depuis des centaines d’années, et nous répétons les mêmes erreurs : nous allons trop loin et voulons faire d’un progrès particulier une panacée. Les charlatans ne manquent pas pour exploiter ce désespoir, promettre trop et disparaître avant que les résultats soient mesurés. L’IA et l’apprentissage automatique peuvent faire ce que les ordinateurs ont toujours fait : exécuter certaines tâches plus vite et plus précisément qu’un humain. Ceux qui trouvent ces occasions et emploient l’IA de façon pragmatique, aux côtés des humains, verront très vite un retour sur investissement. Concrètement, il faut :

  • Utiliser l’IA pour supprimer les tâches de faible valeur, pas le jugement de grande valeur
  • Concevoir des processus avec intervention humaine pour réduire les risques des décisions lourdes de conséquences
  • Définir des voies d’escalade claires en cas d’échec ou de résultat incertain
  • Désigner explicitement les responsables des décisions pilotées par l’IA
  • Former les équipes à examiner les résultats de l’IA plutôt qu’à les accepter aveuglément

Le véritable coût d’une mauvaise approche

Le cycle actuel des entreprises technologiques, avec des licenciements massifs suivis de réembauches discrètes, ne représente pas un simple mouvement de talents, mais un transfert de risques. Les organisations échangent des décennies de mémoire contre quelques mois de vitesse automatisée, et les responsables informatiques doivent en gérer les conséquences.

L’IA procure des gains réels, surtout lorsqu’elle préserve et amplifie l’expertise au lieu de la remplacer. Les entreprises qui prospéreront ne sont pas celles qui réduisent le plus leurs effectifs ou déploient le plus d’outils, mais celles qui automatisent judicieusement la monotonie et renforcent la créativité, la collaboration et l’expertise humaines.

Lors de la prochaine panne ou du prochain incident de cybersécurité, on ne veut pas d’un robot à la tête de la remise en état des systèmes ou de la communication client. On veut et on a besoin que la personne dotée d’un savoir et d’un contexte historique profonds soit encore dans l’entreprise.

Pour libérer tout le potentiel de l’IA, il faut la consacrer aux tâches fastidieuses et cesser de s’en servir comme excuse pour de mauvaises performances commerciales.

Egon Rinderer apporte plus de 35 ans d'expérience couvrant le DoD, la communauté du renseignement et le secteur privé à son rôle chez NinjaOne. Ancien CTO chez Shift5 et VP mondial chez Tanium, il se spécialise dans la résolution de défis techniques et de sécurité nationale complexes. Au-delà de son leadership d'entreprise, Egon conseille activement le gouvernement américain, soutient les startups de technologie de défense et guide la prochaine génération d'innovateurs en STEM.