Si votre employé agissait comme une IA, vous l’auriez déjà renvoyé.

Imaginez que vous venez d’embaucher quelqu’un de nouveau, et que la plupart des jours il est efficace, compétent, éloquent et confiant. Il est tout ce que vous espériez, démontrant de nombreuses qualités d’un excellent employé.

Imaginez maintenant que, de temps à autre, lorsqu’ils sont confrontés à une question à laquelle ils ne connaissent pas la réponse, ils improvisent. C’est fluide, convaincant, et vous le prenez d’abord pour argent comptant. Mais lorsque cela a des conséquences pour l’entreprise, vous revenez vers cet employé, le mettez en cause – et il ne peut pas expliquer son raisonnement ni partager son processus. Vous pouvez même lui dire qu’il a tort, pour recevoir en réponse une insistance à l’inverse et davantage de fabrications pour tenter de les justifier. Après la deuxième ou la troisième fois que cela se produit, auriez‑vous probablement licencié cette personne, ou au moins lui adresser un avertissement ? La réponse de la plupart des employeurs est presque certainement oui.

Je trouve déroutant que les entreprises confient aujourd’hui des flux de travail critiques et la prise de décision à un « employé » dont le comportement est exactement celui‑ci. La seule raison pour laquelle cela passe inaperçu, c’est que cet « employé » est un logiciel et non une personne.

Pourquoi l’IA ne faillit pas de la même manière que les humains

Il existe une supposition courante et erronée parmi les entreprises qui déploient l’IA : si la technologie a un taux d’erreur, c’est à peu près le même problème que l’erreur humaine et cela peut être géré de la même façon. Mais les contrôles, revues et escalades ne fonctionnent pas toujours avec les grands modèles de langage (LLM). Ils sont conçus pour ressembler à des humains, mais si l’on regarde sous le capot, on voit qu’ils ne fonctionnent pas du tout comme nous.

Si un employé star commet une erreur, nous supposerions que l’erreur est sincère – il a fait de son mieux et a glissé. Cela arrive. S’il invente délibérément une réponse pour masquer son ignorance, et qu’il le fait de façon récurrente, nous le considérerions comme une faute grave. Les managers savent où concentrer leur surveillance, car la difficulté et les marges d’erreur coïncident. Ils peuvent demander à l’employé d’expliquer son raisonnement et l’interroger à ce sujet. L’employé sait généralement quand il dépasse ses compétences et le dit. Et après une erreur, il apprend, de sorte que la même faute ne se répète pas dans un cycle constant.

Les systèmes d’IA inversent chacune de ces hypothèses. Leur réponse par défaut à un échec est une invention fluide et confiante. Ils produisent une réponse plausible qui est simplement fausse, ce qui correspond exactement au comportement qui mettrait fin à la carrière d’un humain. Les LLM sont conçus pour générer la continuation la plus statistiquement probable d’un texte, et lorsqu’ils ne connaissent pas la réponse, ils produisent fréquemment quelque chose qui semble tout de même correct. Les chercheurs d’OpenAI ont reconnu qu’un certain niveau d’erreur factuelle est une inévitabilité statistique du fonctionnement de ces modèles, et que l’entraînement récompense une supposition confiante plutôt qu’une admission honnête d’incertitude.

Où les approches neuro‑symboliques interviennent

C’est précisément ce que les approches neuro‑symboliques sont conçues à corriger. Elles associent des réseaux neuronaux, excellents pour comprendre le langage et les données du monde réel, à un raisonnement déterministe basé sur des règles. Cela signifie que les conclusions d’un système découlent d’une logique explicite qui peut être inspectée, plutôt que d’un processus invisible à l’intérieur.

Sans cette couche supplémentaire de logique offerte par la technologie neuro‑symbolique, les erreurs de l’IA ne sont pas corrélées à la difficulté du travail comme le sont celles d’une personne – elles sont imprévisibles. Elles peuvent apparaître sur des tâches triviales tandis que des tâches complexes passent sans problème, rendant difficile de déterminer où concentrer la surveillance humaine. Leurs explications, lorsqu’elles sont proposées, sont générées a posteriori plutôt que de fournir un véritable compte rendu de la façon dont elles sont arrivées à une conclusion. Cette même erreur peut se répéter indéfiniment, car il n’y a personne à l’intérieur du système pour en tirer des leçons ou en être tenu responsable.

Confiance sans compréhension

Des chercheurs ont constaté que lorsqu’une personne découvre un système, elle a tendance à l’abandonner après une seule erreur visible ; mais lorsqu’il s’agit d’un système familier, elle bascule à l’extrême opposée – acceptant ses résultats simplement parce qu’elle s’y est habituée, et non parce que ces résultats sont devenus plus fiables. Ce que l’on voit rarement, c’est le niveau de confiance adéquat, car cela dépend de la capacité des gens à comprendre quand un système d’IA est susceptible de se tromper et à le reconnaître.

Cela ne signifie pas que l’IA ne doit pas être fiable pour un travail important. Cela signifie que nous avons été prêts à lui accorder un type de confiance que nous n’accorderions pas à une personne, en partie parce qu’il n’y a aucun individu évident à tenir responsable en cas d’échec.

Si l’IA doit assumer des tâches basées sur le jugement comme le ferait un collègue apprécié, elle doit respecter les mêmes normes de base. Les réponses doivent être vérifiables, avec un raisonnement visible, et accepter le fait que parfois, la meilleure chose qu’elle puisse faire est de dire « Je ne sais pas ».