Le fossé des connaissances que l’IA crée est la nouvelle faille de sécurité. Voici comment le combler.

Les entreprises de technologie font un pari familier : que l’IA peut effectuer le travail plus rapidement et à moindre coût que les humains. Même si cela peut être vrai dans de nombreux cas, l’IA est également utilisée comme un bouton facile pour les licenciements.

Dans un rapport de PwC partagé plus tôt cette année, 56% des PDG ont déclaré n’avoir vu aucun avantage financier significatif de leurs investissements dans l’IA jusqu’à présent, et seulement 12% ont signalé des économies de coûts et une croissance des revenus grâce à l’IA. De plus, une étude de février menée par le Bureau national de la recherche économique a constaté que près de 90% des entreprises ont déclaré que l’IA n’a eu aucun impact sur l’emploi ou la productivité au cours des trois dernières années. Tout cela souligne une vérité révélatrice : de nombreuses organisations n’ont pas encore vu les rendements de revenus et de productivité promis par l’IA, et pour couvrir leurs pertes, elles continuent de licencier des milliers de personnes.

Mais voici ce que les appels de bénéfices ne disent pas : lorsque vous éliminez le responsable du compte qui possède dix ans de contexte relationnel dans sa tête, ou l’ingénieur de contrôle qualité dont les connaissances institutionnelles sont les seules à détecter les défauts avant qu’ils n’atteignent les clients, vous ne coupez pas la graisse. Vous coupez les murs porteurs. Les coûts de révision, la perte de clients, les défaillances de qualité qui suivent ne figurent pas dans le même deck de diapositives qui a célébré la réduction des effectifs. Ils sont absorbés discrètement dans les trimestres futurs, attribués aux conditions du marché et oubliés. L’écart entre ce que la restructuration basée sur l’IA promet et ce qu’elle livre réellement est réel, il grandit et, pour de nombreuses organisations, il reste entièrement inconnu.

Les coûts réels de ce cycle ne se situent pas en un seul endroit. Ils se répartissent sur toutes les équipes restantes après les licenciements. Les développeurs absorbent la charge de travail des ingénieurs qui sont partis, tout en étant dotés d’outils d’IA qui sont encore trop immatures pour compenser la perte de personnel. Les équipes de produits perdent le contexte qui a maintenu les feuilles de route ancrées dans la réalité des clients. Les organisations de support sont étirées et la qualité de la réponse se dégrade à mesure que les clients reconnaissent immédiatement les réponses “slopes” à leurs tickets. La charge n’est pas concentrée, elle est répartie, et cette diffusion fait partie de ce qui la rend si facile à ignorer dans un rapport trimestriel. Mais dans cette répartition plus large, les équipes IT font face à une version distincte et cumulative du problème. Ils ne font pas seulement plus avec moins. On leur demande de gérer des infrastructures qui ont été construites rapidement, sans les connaissances institutionnelles qui leur ont donné une cohérence, tout en exécutant simultanément le départ de collègues partis et l’intégration de leurs remplaçants, car les entreprises inversent discrètement le cours des licenciements qu’elles ont célébrés publiquement.

Alors que nous poursuivons tout au long de l’année et que les organisations cherchent à tenir les promesses de l’IA, il est temps de réaliser qu’il y a beaucoup plus que les revenus qui se perdent lorsque vous coupez l’expertise humaine au nom de l’efficacité basée sur l’IA. La bonne nouvelle ? Vous pouvez avoir le meilleur des deux mondes. Mais cela nécessite d’adopter une approche plus pratique et plus pragmatique de l’IA. Une approche qui maintient les humains au centre de votre stratégie.

Que se perd lorsque les connaissances quittent la porte

Les connaissances opérationnelles critiques vivent dans les personnes et sont appliquées par le jugement humain, et non par les systèmes. Lorsque ces personnes partent, ces connaissances partent avec elles. Quelle que soit la sophistication du modèle, l’IA ne peut pas combler ce fossé aujourd’hui.

Même si les capacités de l’IA s’étendent, l’automatisation sans contexte nuancé crée des angles morts dangereux dans des domaines critiques :

• Jugement et stratégie : L’intuition, les connaissances institutionnelles et la conscience du marché ne vivent pas dans des ensembles de données, même non structurés.
• Contexte et conscience situationnelle : Les humains reconnaissent la nuance, l’intention et peuvent naviguer dans les zones grises où les règles rigides peuvent se briser.
• Empathie et confiance : Les moments à forte incidence ou chargés d’émotion (en particulier ceux impliquant des clients ou des employés) exigent une réponse centrée sur l’humain.
• Supervision et responsabilité : Quelqu’un doit être chargé d’identifier les défaillances, les préjugés ou de faire face à la désinformation. Dire simplement : “Vous avez raison, laissez-moi essayer à nouveau”, après avoir fourni des informations entièrement incorrectes, ne suffit pas.
• Mémoire institutionnelle et contexte système : Comprendre pourquoi les équipes ont construit les infrastructures d’une certaine manière (ou ne l’ont pas fait), ce qu’elles ont essayé auparavant et quels cas de bordure existent que personne n’a documentés.
• Leadership et gouvernance : Définir les politiques, la tolérance aux risques et respecter les limites éthiques reste une responsabilité humaine fondamentale.

L’IA peut faire surface des idées, recommander des actions et accélérer l’exécution, mais elle ne peut pas remplacer la mémoire institutionnelle qui prévient les catastrophes ou offrir la responsabilité qui les attrape avant qu’elles ne s’aggravent.

Que font différemment les organisations intelligentes

Les organisations qui réussissent avec l’IA n’enlèvent pas les humains de l’équation. Elles utilisent l’IA pour rationaliser les processus répétitifs qui ajoutent de la friction aux opérations quotidiennes. En libérant les humains pour consacrer du temps et d’autres ressources critiques ailleurs pour trouver de nouvelles façons créatives de stimuler de plus grands avantages commerciaux. Elles utilisent l’IA comme un outil “course avec” pour amplifier. Considérons le monde des opérations IT. Ces équipes sont déjà étirées, gérant des infrastructures étendues avec des moyens limités. L’IA, ou plus précisément, l’apprentissage automatique (ML), peut apporter une valeur réelle ici. L’IA/ML peut automatiser les tâches autrefois chronophages et répétitives qui enterrent les experts en matière de contenu dans le travail opérationnel : tests de correctifs et recherches, classification des tickets, génération de flux de travail, découverte et cartographie des risques.

Ces tâches forment la base des opérations IT, mais elles consomment d’énormes quantités de temps (en particulier à mesure que les biens numériques des organisations s’élargissent, le paysage des vulnérabilités change et que les employés s’attendent de plus en plus à avoir des expériences numériques positives avec les appareils qu’ils utilisent pour travailler). Lorsque les équipes ne font pas bien les bases (en gérant ou en surveillant ces capacités et processus) parce qu’elles sont submergées, les conséquences sont sévères : temps d’arrêt, correctifs manqués, fuites de données, failles de sécurité.

D’un autre côté, lorsque vous utilisez bien l’IA pour rationaliser le travail dans ces domaines, vous donnez au personnel IT le temps de faire ce que l’IA ne peut pas : éliminer la dette technique, améliorer les systèmes et processus existants, réarchitecturer pour la résilience et préserver les connaissances institutionnelles qui maintiennent les systèmes critiques en fonctionnement. C’est plus que de l’efficacité. C’est une mitigation des risques. Et cela pose une base plus solide pour la croissance à long terme.

Obtenir l’adoption de l’IA correcte

Les organisations qui commencent par une application et une adoption réfléchies de l’IA, tout en donnant la priorité à une mise en œuvre sécurisée et efficace, voient (et continueront de voir) de plus grands succès dans leurs stratégies d’IA. L’optimisation ne vient pas de la réduction du personnel.Elle découle de l’investissement dans les personnes, de la révision des flux de travail et de l’éducation des équipes sur la manière d’utiliser l’IA de la meilleure façon.

Ceci n’est vraiment pas nouveau. La technologie progresse à travers des cycles générationnels depuis des centaines d’années. Chaque fois, nous tendons à répéter les mêmes erreurs. Nous surenchérissons et essayons de faire d’un progrès spécifique un remède miracle pour tout ce qui nous afflige. Il n’y a pas pénurie de vendeurs de snake oil qui profiteront de cette désespérance, en promettant trop et en disparaissant avant que les résultats puissent être mesurés. La réalité est que l’IA/ML peut faire ce que les ordinateurs ont toujours fait ; effectuer certaines tâches à une vitesse et une précision supérieures à celles d’un humain. Ceux qui trouvent ces opportunités et appliquent l’IA de manière pragmatique et “course avec” verront des rendements rapides sur leur investissement. Pratiquement, cela signifie :

• Utiliser l’IA pour éliminer les tâches à faible valeur, et non le jugement à haute valeur
• Concevoir des flux de travail avec un humain dans la boucle pour dérisquer les décisions à forte incidence
• Définir des chemins d’escalade clairs lorsque les systèmes d’IA échouent ou produisent des résultats incertains
• Attribuer une propriété explicite aux décisions pilotées par l’IA
• Former les équipes à examiner les sorties d’IA, et non à les accepter aveuglément

Le coût réel de se tromper

Le cycle actuel de l’industrie technologique, caractérisé par des licenciements massifs suivis de réembauches discrètes, n’est pas un changement de talents. C’est un transfert de risque. Les organisations échangent des décennies de mémoire institutionnelle pour quelques mois de vitesse automatisée, et les dirigeants IT sont ceux qui sont laissés avec la responsabilité de gérer les conséquences.

L’IA offre des gains réels, mais ceux-ci signifient le plus lorsqu’on utilise l’IA pour préserver et amplifier l’expertise, et non la remplacer. Les entreprises qui continueront à prospérer à l’ère de l’IA ne sont pas celles qui licencient le plus profondément ou qui déployeront le plus d’outils d’IA. Ce sont celles qui utilisent de manière réfléchie l’IA pour automatiser la monotonie et augmenter la créativité, la collaboration et l’expertise humaines.

Parce que lorsque le prochain système échoue, ou que la prochaine panne ou incident de cybersécurité se produit, vous ne voulez pas d’un robot ou d’une machine à la pointe de la remédiation du système ou de la communication avec le client. C’est là que vous voudrez (et aurez besoin) de la personne ayant un contexte historique profond et des connaissances encore présente dans l’entreprise.

Si nous voulons débloquer tout le potentiel de l’IA, il est crucial de se concentrer sur l’utilisation de l’IA pour les tâches enlisées dans la monotonie, et de cesser de l’utiliser comme excuse pour de mauvaises performances commerciales.