Je construis des systèmes d’IA pour gagner ma vie. Voici ce que la plupart des gens se trompent

Je construis des systèmes d’IA pour les centres de contact d’entreprise.

Pas de démos, de benchmarks ou de projets de recherche. Des systèmes de production qui interagissent avec les clients, naviguent dans les politiques, récupèrent des informations à partir de plateformes d’entreprise disjointes et opèrent dans des environnements façonnés par des données désordonnées, des enregistrements contradictoires, des bruits de fond et des comportements humains imprévisibles.

Cela m’a donné un siège au premier rang pour l’une des plus grandes déconnexions dans l’industrie de l’IA. La conversation publique sur l’IA est souvent dominée par ce que la technologie pourrait devenir un jour, tandis que les organisations essaient de déterminer comment la déployer avec succès aujourd’hui. Ce sont deux conversations très différentes.

Les questions auxquelles je passe mon temps à répondre ne concernent rarement l’intelligence artificielle générale ou si les machines remplaceront finalement les humains. Ils ont tendance à être beaucoup plus pratiques. Le système peut-il interpréter de manière cohérente les demandes des clients ? Peut-il récupérer des informations précises sur plusieurs plateformes d’entreprise ? Peut-il se rétablir lorsqu’il manque des données ? Peut-il escalader correctement lorsqu’il a peu de confiance ? Les équipes peuvent-elles lui faire suffisamment confiance pour le déployer à grande échelle ?

Ces questions peuvent être moins passionnantes que les manchettes, mais ce sont celles qui déterminent si l’IA d’entreprise réussit. Au fil du temps, je suis arrivé à la conclusion que la plupart des organisations surestiment l’importance du modèle lui-même et sous-estiment tout ce qui est nécessaire pour rendre ce modèle utile à l’intérieur d’une entreprise réelle.

La démo n’est pas le déploiement

Quiconque travaille étroitement avec l’IA d’entreprise comprend l’écart entre une démonstration contrôlée et un déploiement de production.

Nous rencontrons constamment des exemples de cela. Un système d’IA avec lequel nous travaillons a des difficultés environ la moitié du temps pour interpréter correctement un numéro de commande de 16 chiffres converti en mots. Ces types de défaillances sont similaires au célèbre problème “combien de r dans strawberry ?”, où les modèles de langage avancés ont eu des difficultés avec une tâche qui semblait triviale pour les humains. Les mêmes modèles peuvent obtenir des scores exceptionnels aux examens comme le MCAT. Ce contraste révèle quelque chose d’important : les performances de référence et la fiabilité opérationnelle ne sont pas la même chose.

Une fois que l’IA entre en production, elle hérite de toute la complexité de l’environnement qui l’entoure. Les systèmes d’entreprise contiennent des enregistrements incomplets, des informations contradictoires, des processus obsolètes, des applications disjointes et des cas de bord qui se sont accumulés au fil des décennies. Les clients posent des questions vagues. Les politiques changent. La qualité des données varie. Le comportement humain reste merveilleusement imprévisible.

Ces réalités façonnent les résultats beaucoup plus que les scores de référence, car l’IA n’opère pas dans une référence. Elle opère à l’intérieur de processus métier, de systèmes et de flux de travail qui introduisent une complexité que le modèle ne peut pas résoudre seul.

L’IA d’entreprise a une couche opérationnelle

Une leçon qui surprend constamment les gens est à quel point rapidement les performances du modèle cessent d’être le facteur limitant. Une fois qu’un système atteint la production, les défis opérationnels deviennent souvent plus importants que le modèle lui-même. Les initiatives d’IA réussies dépendent de la conception de processus, de l’alignement organisationnel, de la qualité des données, de l’intégration des systèmes, de l’observabilité, des chemins d’escalade, de la gouvernance et de la confiance.

Les équipes ont besoin de procédures claires pour gérer les défaillances. Ils ont besoin de visibilité sur la façon dont les systèmes prennent des décisions. Ils ont besoin de confiance que les problèmes peuvent être identifiés et résolus avant qu’ils n’aient un impact sur les clients. Les organisations découvrent souvent que le travail entourant le système d’IA nécessite autant d’attention que le système d’IA lui-même.

Cette couche opérationnelle est là où de nombreux déploiements finissent par réussir ou échouer.

Le service client reste l’un des problèmes les plus difficiles

L’expérience client offre l’un des exemples les plus clairs de cette complexité.

Les interactions simples sont devenues de plus en plus gérables pour les systèmes d’IA. Vérifier le solde d’un compte. Réinitialiser un mot de passe. Rechercher le statut d’un vol. Ce sont des tâches très structurées avec des résultats prévisibles.

Les conversations réelles avec les clients ne restent pas si simples.

Un client qui tente de résoudre un problème avec une compagnie aérienne impliquant des points de fidélité, des transporteurs partenaires, des litiges de remboursement, des exceptions de politique et des interactions précédentes multiples présente un défi très différent. Le contexte est fragmenté. Les objectifs peuvent être flous. Les politiques peuvent être contradictoires. Les émotions entrent souvent dans la conversation.

Ces interactions continuent de représenter une partie importante du travail de service client et nécessitent une réflexion à travers les systèmes, les processus et les règles métier de manière qui reste difficile pour l’IA. Les progrès ont été remarquables. La complexité reste réelle.

Les données d’entreprise sont enfin devenues utilisables

Un domaine où je vois une transformation significative se produire aujourd’hui implique les données d’entreprise.

La plupart des organisations ont passé des années à accumuler des informations à travers des dizaines ou des centaines de systèmes disjointes. Des connaissances précieuses existent, mais les localiser et les utiliser efficacement a souvent été difficile. L’IA rend ces informations plus accessibles.

Les organisations commencent à synthétiser des données à travers les systèmes, à afficher le contexte pertinent de manière plus efficace et à aider les employés à naviguer dans les informations qui étaient précédemment dispersées à travers plusieurs applications et référentiels. Cette capacité à exploiter les connaissances d’entreprise peut se révéler plus transformatrice que de nombreuses démonstrations d’IA qui dominent les discussions publiques.

Le prochain défi : l’IA travaillant avec l’IA

La prochaine vague d’innovation impliquera probablement plusieurs systèmes d’IA travaillant ensemble.

Les organisations expérimentent déjà des flux de travail où les agents partagent des informations, coordonnent des tâches et contribuent à des processus métier plus larges. Cela crée de nouveaux défis autour de la responsabilité, de la confiance, de l’escalade, de la communication et de la gouvernance.

Les humains ont développé des compétences de collaboration implicites au fil des siècles. Nous savons comment demander de l’aide, communiquer l’incertitude, escalader les risques et nous rétablir des erreurs. Intégrer ces comportements dans les systèmes d’IA est une discipline beaucoup plus récente.

Une grande partie du prochain chapitre de l’IA d’entreprise consistera à enseigner aux systèmes comment opérer efficacement les uns à côté des autres tout en restant alignés sur les objectifs de l’organisation.

Ce dont l’IA d’entreprise a réellement besoin

Après des années de construction et de déploiement de systèmes d’IA, je suis devenu convaincu que les organisations passent trop de temps à évaluer l’intelligence du modèle et pas assez de temps à préparer l’environnement qui l’entoure.

L’intelligence que ces modèles démontrent peut être remarquable. Chaque année, ils deviennent plus capables, plus utiles et plus sophistiqués. Pourtant, les déploiements réussis dépendent toujours des fondamentaux : des données fiables, des processus bien conçus, d’une gouvernance réfléchie, d’une responsabilité claire et de personnes qui comprennent comment intégrer de nouvelles technologies dans les opérations existantes.

Les organisations qui tirent le plus de valeur de l’IA prêtent attention à ces fondamentaux. Car l’intelligence seule ne crée pas de transformation.

La transformation se produit lorsque la technologie, les données, les processus et les personnes travaillent ensemble pour produire de meilleurs résultats.