Pourquoi une confiance aveugle en l’IA pourrait être votre pire décision

En 1979, un manuel de formation IBM a émis un avertissement simple mais frappant : « Un ordinateur ne peut jamais être tenu responsable ; par conséquent, un ordinateur ne doit jamais prendre une décision de gestion. » Et plus de 45 ans plus tard, cette déclaration ressemble à une prophétie ignorée.

En 2025, l’IA ne se contente pas d’assister ; elle prend des décisions autonomes, et dans de nombreux cas, elle ne décide pas seulement, mais elle dirige. En fait, autour de 74% des dirigeants ont plus confiance en l’IA pour les conseils commerciaux que dans leurs collègues ou amis, 38% font confiance à l’IA pour prendre des décisions commerciales pour eux, et 44% se conforment à la logique de la technologie plutôt qu’à leurs propres insights. Le changement est clair ; l’IA est la nouvelle intuition.

Mais il y a un problème. La confiance en l’IA n’est possible que si l’algorithme est digne de confiance. Et lorsque la confiance est accordée aveuglément, en particulier dans les boîtes noires que nous ne pouvons pas comprendre ou auditer, c’est un risque déguisé en progrès. Comme pour le leadership humain, la confiance sans responsabilité est dangereuse, et lorsque l’IA se trompe, qui assume la responsabilité ?

Lorsque l’outil devient le patron

Ce qui a commencé comme un outil pour rationaliser les opérations de back-office est maintenant utilisé dans les processus commerciaux de base. Mais les entreprises n’utilisent pas seulement l’IA pour soutenir les décisions humaines ; elles font maintenant confiance à l’IA, en particulier à l’IA générative (GenAI), pour prendre des décisions commerciales, allant de la stratégie commerciale au service client, à la modélisation financière et plus encore.

Ce changement est compréhensible. L’IA ne se distrait pas, n’oublie pas les instructions ou ne laisse pas les émotions obscurcir son jugement. Pour de nombreuses entreprises, cela offre un remède attrayant aux risques d’erreur humaine. Cependant, une question clé demeure : pouvons-nous faire confiance à l’IA pour être le patron et prendre des décisions de manière indépendante ?

Ce n’est pas une réponse simple, mais une façon de regarder les choses est de juger la fiabilité des personnes : par leur compétence, leur fiabilité et leur intention claire. Les mêmes principes s’appliquent à l’IA.

Pour être digne de confiance, un système d’IA doit fournir des résultats qui sont exacts, opportuns et appropriés. Mais le niveau de confiance et la marge d’erreur varient en fonction du contexte. Par exemple, lors du diagnostic d’un cancer à partir d’images médicales, la barre de l’échec est extrêmement basse. À l’inverse, lors de la génération d’idées pour une campagne de marketing, il y a plus de place pour l’expérimentation.

Nous avons vu l’IA utilisée pour prendre des décisions autonomes dans des domaines tels que les approbations de crédit, avec des banques qui utilisent des algorithmes pour déterminer l’éligibilité au crédit en quelques secondes. Les détaillants utilisent l’IA pour gérer les stocks et les prix sans intervention humaine. Mais nous avons également vu des échecs – comme les voitures autonomes qui maljugent les conditions routières.

Un récit de caution montre les risques de placer trop de confiance en l’IA sans surveillance adéquate. Derek Mobley – un homme noir de plus de 40 ans – a postulé à plus de 100 postes via le système de recrutement basé sur l’IA de Workday depuis 2017 et a été rejeté à chaque fois. Il a allégué une discrimination fondée sur l’âge et la race. En mai 2025, le tribunal a accordé une action collective nationale. La classe comprend tous les candidats âgés de 40 ans et plus qui ont postulé via Workday depuis septembre 2020 et qui ont été rejetés sur la base de recommandations basées sur l’IA.

Cet exemple souligne un point important : l’IA manque d’intelligence émotionnelle, de raisonnement moral ou de sens naturel de l’équité. Et puisque l’IA passe d’un assistant humain à un décideur indépendant, il y a maintenant un vide de responsabilité. Lorsque les algorithmes sont autorisés à fonctionner sans contrôles ni équilibres humains, ils peuvent et font de mauvaises décisions et renforcent les préjugés existants.

La question autour des boîtes noires

Les boîtes noires – lorsque le système et la logique d’une IA ne sont pas entièrement visibles – sont de plus en plus courantes. Bien qu’elles puissent avoir des couches visibles, les développeurs et les utilisateurs ne peuvent toujours pas voir ce qui se passe à chaque couche, les rendant opaques.

Par exemple, ChatGPT est une boîte noire, car même ses créateurs sont incertains de la façon dont il fonctionne, car il a été formé sur de très grands ensembles de données. Mais en raison du manque de transparence, est-il jamais acceptable de « faire confiance » à un modèle d’IA sans comprendre pleinement comment il fonctionne ?

En bref, non : les hallucinations de l’IA s’aggravent. Cela signifie que dans les scénarios à haut risque, comme les décisions financières, les conseils juridiques et les connaissances médicales, l’IA exige une validation rigoureuse, une cross-référence et une surveillance humaine.

Le procès intenté par Disney et Universal en juin 2025 renforce ce point. Les studios allèguent que les outils GenAI ont été formés sur des matériaux protégés par le droit d’auteur pour créer du contenu nouveau sans consentement. Ce cas met en évidence une nouvelle réalité : lorsque les entreprises déployent des modèles d’IA qu’elles ne comprennent pas pleinement, elles peuvent être tenues responsables des décisions prises. Et l’ignorance n’est pas une défense ; c’est une responsabilité.

Cependant, nous faisons souvent confiance à des systèmes complexes que nous ne comprenons pas. Par exemple, la plupart des passagers aériens ne peuvent pas expliquer la physique du vol, mais les gens montent dans les avions avec confiance parce que nous avons construit la confiance à travers une exposition répétée, une expérience collective et un bilan de sécurité solide.

La même logique peut s’appliquer à nouveau à l’IA. Il est irrationnel de s’attendre à ce que tout le monde comprenne comment fonctionnent les LLM. Mais la confiance n’est pas construite sur la compréhension ; elle nécessite de la familiarité, de la transparence sur les limites et un modèle éprouvé de performances fiables. Les ingénieurs aérospatiaux savent quels tests mettre en place et à quoi ressemblent les erreurs, et nous devons exiger la même chose des fournisseurs de GenAI. Le principe fondamental de l’IA devrait être la confiance, mais vérifier.

En outre, les dirigeants d’entreprise croient souvent que l’IA sera la solution miracle qui résoudra tous leurs problèmes commerciaux. Cependant, ce mythe hante de nombreuses entreprises lors de l’intégration de l’IA. Les dirigeants préfèrent peut-être des modèles complexes et sophistiqués, mais une solution plus simple pourrait être mieux adaptée s’ils effectuaient une analyse coûts-avantages. L’IA est un instrument puissant, mais elle n’est pas appropriée pour chaque tâche. Les entreprises doivent reconnaître le problème avant de sélectionner un outil.

Rétablir la confiance en l’IA

Alors que cela est clair que faire confiance à l’IA aveuglément est un problème, les systèmes et les algorithmes d’IA peuvent être l’outil le plus puissant qu’une entreprise possède – lorsqu’ils sont utilisés en toute sécurité.

Pour les entreprises qui souhaitent exploiter les outils d’IA, la première chose à rechercher est la diligence raisonnable des fournisseurs. Lorsqu’une entreprise a identifié un domaine qui pourrait bénéficier de l’efficacité de l’IA, les dirigeants d’entreprise devraient évaluer les fournisseurs non seulement sur les performances revendiquées, mais également sur les contrôles de gouvernance. Cela inclut l’examen de la façon dont les modèles sont développés, si des outils d’explication sont en place, comment les préjugés sont surveillés et si des traces d’audit sont disponibles. Choisir un fournisseur avec des processus transparents est essentiel pour atténuer les risques dès le départ.

Peut-être le point le plus important lors de la construction de la confiance en l’IA est de garantir la gouvernance des données avec des ensembles de données propres, représentatifs et bien documentés. Comme le dit le proverbe : « les données de mauvaise qualité entraînent des résultats de mauvaise qualité ». Par conséquent, si les données sont incomplètes, biaisées ou inexactes, même le modèle le plus avancé produira des résultats peu fiables.

Pour garantir que les données soient prêtes pour l’IA, les entreprises devraient :

• Auditer les ensembles de données existants pour les lacunes et les doublons, et vérifier les sources de préjugés

• Standardiser les formats de données

• Mettre en œuvre des politiques de gouvernance des données qui définissent la propriété et les contrôles d’accès

Une autre étape clé pour les dirigeants d’entreprise est de procéder à des tests de résistance dans différentes conditions. Bien qu’un modèle puisse fonctionner bien dans des tests contrôlés, il est essentiel de comprendre les limites du modèle lorsqu’il est confronté à de nouvelles données ou à des entrées qu’il n’a pas prévues. C’est pourquoi il est important de tester l’IA dans une variété de situations, avec différents types d’utilisateurs, divers cas d’utilisation et des données provenant de différentes périodes.

La validation de l’IA est également une tâche continue. À mesure que les données changent au fil du temps, même les modèles d’IA fiables peuvent perdre leur précision. C’est pourquoi la surveillance régulière est importante. Les entreprises doivent surveiller la façon dont le modèle fonctionne au jour le jour : est-il toujours précis ? Ou les faux positifs augmentent-ils ? Et tout comme tout système qui nécessite une maintenance, les modèles doivent être réentraînés régulièrement avec des données fraîches pour rester pertinents.

L’IA n’est pas digne de confiance ou indigne de confiance ; elle est façonnée par les données qu’elle apprend, les personnes qui la créent et les règles qui la régissent. Alors que l’IA évolue d’un outil utile à un conseiller commercial, les dirigeants ont la possibilité non seulement de l’utiliser, mais de le faire de manière réfléchie et éthique. Si nous faisons cela correctement, l’IA ne sera pas seulement puissante dans le futur, mais elle sera également responsable, avec la responsabilité clairement située chez son développeur et ses superviseurs.