Alon Eirew, CTO (IA) de MCE Systems – Série d’entretiens

Alon Eirew, CTO (IA) de MCE Systems, dirige la stratégie d’IA de l’entreprise et la pile technologique de bout en bout, couvrant l’architecture, le développement de modèles, les infrastructures, l’intégration de produits et l’adoption plus large de l’IA au sein des opérations internes. Auparavant, il a passé plus de neuf ans chez Intel (INTC ), progressant de senior software engineer et architecte logiciel à Lead Natural Language Processing (NLP) Research Scientist, où il a dirigé des recherches d’extraction de connaissances, obtenu des financements pour des projets pluriannuels, publié des articles dans des conférences NLP majeures et encadré des startups via Intel Ignite. Plus tôt dans sa carrière, Eirew a aidé à développer la technologie d’assistant personnel chez Telmap qui est devenue plus tard une partie d’Intel, et il a depuis conseillé des entreprises de démarrage en IA tout en enseignant l’informatique, la programmation orientée objet, l’extraction de données et la recherche d’information dans plusieurs universités israéliennes.

MCE Systems développe une couche d’expérience native IA pour les fournisseurs de télécommunications, reliant les systèmes hérités, les données en temps réel et les flux de travail intelligents pour supporter les interactions client sur plusieurs points de contact. Fondée en 2005, l’entreprise a construit son activité autour de la gestion du cycle de vie des appareils numériques, avec des technologies couvrant le diagnostic et les soins des appareils, les programmes de reprise, la notation à distance des appareils et les retours. MCE applique de plus en plus l’IA générative et agente à ces flux de travail, aidant les opérateurs à détecter les problèmes d’appareil, à guider les clients à travers des résolutions potentielles et à coordonner des parcours de service plus complexes à travers les canaux numériques et assistés.

Vous avez passé près d’une décennie chez Intel en travaillant sur le NLP, l’extraction de connaissances, la recherche d’information et même les technologies d’assistant personnel précoces qui ont origine chez Telmap avant de devenir une partie d’Intel. En regardant en arrière, quels idées de ces systèmes d’IA précoces se sont avérées être en avance sur leur temps, et quels hypothèses l’industrie a-t-elle complètement fausses ?

Une idée clairement en avance sur son temps était l’assistant personnel sur lequel nous avons travaillé avant l’ère des modèles de langage. Ces systèmes comprenaient l’intention, connectaient le contexte à travers les tâches et aidaient les utilisateurs à atteindre leurs objectifs de manière naturelle. Ces systèmes avaient les mêmes ambitions que les agents d’aujourd’hui. La différence était l’approche sous-jacente : au lieu de modèles de langage, nous nous sommes appuyés sur une combinaison d’apprentissage automatique et d’algorithmes pour inférer l’intention de l’utilisateur. Cette méthode, cependant, s’est avérée difficile lorsqu’elle a été appliquée à grande échelle, compte tenu des différentes manières dont les utilisateurs expriment la même demande.

Imaginez employer un représentant du service pour gérer des milliers de demandes de clients, mais qu’il ne peut gérer que les demandes formulées avec une structure de phrase spécifique. Comme vous pouvez l’imaginer, cela ne couvrirait qu’une petite partie des cas d’utilisation et il serait difficile de gérer de nombreux problèmes de clients. Les modèles de langage ont complètement changé les choses. Aujourd’hui, la compréhension de l’intention de l’utilisateur est en grande partie résolue. Dans notre analogie, le représentant est maintenant flexible et peut parler à des millions de clients.

Alors que je ne dirais pas que l’industrie a complètement tort, je crois que beaucoup ont sous-estimé à quel point les modèles de langage seraient centraux. Le grand saut est venu lorsque les premiers modèles de langage comme ELMo, BERT et RoBERTa ont été introduits. À l’époque, peu ont vraiment compris l’ampleur de la transformation qui était en route. Ceux-ci étaient les modèles de base des modèles de langage modernes que nous utilisons tous les jours et que nous pouvons à peine imaginer ne pas avoir.

La plupart des entreprises ont vu ces modèles initiaux comme des composants utiles dans des applications étroites, et non comme la fondation d’un nouveau paradigme informatique. En rétrospective, beaucoup d’entre elles ont manqué l’occasion de se positionner comme des acteurs majeurs de l’IA.

Pendant votre carrière de recherche, vous vous êtes concentré sur l’extraction de connaissances multi-documents et la compréhension d’événements. Alors que les entreprises s’appuient de plus en plus sur les grands modèles de langage, pourquoi croyez-vous que l’extraction de connaissances structurées reste un défi critique ?

Les modèles de langage sont des outils puissants pour aborder une gamme de sujets, mais les applications d’entreprise et les utilisateurs finaux ont besoin d’expertise pour résoudre un problème spécifique, ce qui nécessite l’accès à des connaissances. Ces connaissances contextuelles et propriétaires ne font généralement pas partie des données d’entraînement du modèle, donc le déploiement d’un modèle de langage dans une entreprise signifie rassembler une compréhension à travers des millions de points de données internes. Les modèles de langage actuels ont du mal avec cela, manquant de contexte important en raison de contraintes techniques et d’accès, et cette lacune limite leur impact.

Chez MCE, par exemple, nous fournissons une solution d’agent d’IA pour les soins client. L’un de ses objectifs est de permettre aux opérateurs de télécommunications d’aider leurs clients à résoudre des problèmes techniques de dispositifs mobiles sans intervention humaine. Sans fournir à l’agent d’IA des informations techniques contextuelles sur le dispositif, tout ce que l’agent d’IA ferait serait de fournir des résultats génériques qui ne résolvent pas le problème ou sont sans rapport, puis forcer le client à demander de l’aide humaine. C’est le type de problème d’extraction de connaissances que nous avons dû surmonter pour déployer l’IA avec nos clients, et c’est là que les organisations échouent souvent à obtenir les résultats qu’elles veulent.

Mes propres recherches ont plongé dans l’extraction de connaissances et la recherche d’information à partir de grandes collections de documents, en explorant la relation entre les « événements », un terme dans le domaine de l’IA utilisé pour définir la causalité sous-jacente et la chronologie de toute représentation d’information. Nous appliquons cela chez MCE dans nos solutions d’IA pour l’interaction humaine en construisant une compréhension structurelle qui peut aider les modèles de langage à mieux résumer, représenter et rechercher des connaissances pour résoudre un problème de client.

Vous avez publié des recherches dans des conférences NLP de premier plan, notamment ACL, EMNLP et NAACL. Quels sont les progrès qui ont eu le plus d’impact dans le monde réel au cours des cinq dernières années, et quels progrès très médiatisés pensez-vous être actuellement surestimés ?

Il y a quelques progrès qui se démarquent pour moi et qui se produisent dans une progression à mesure que les modèles de langage se développent.

Le premier était autour de l’ajustement d’instruction et de l’ingénierie de prompt. Cela devait être résolu en premier lieu avant d’atteindre une adoption plus large. Nous avons tous été là où vous demandez à un modèle de langage quelque chose de spécifique et qu’il tourne en rond, en arrivant près mais sans obtenir la réponse dont vous avez besoin. Donc, déterminer comment les modèles pouvaient comprendre la prompt et fournir des résultats précis était un premier grand pas.

Par extension, le prochain progrès a été pour les agents, qui avaient besoin que les modèles de langage aillent au-delà des tâches ponctuelles et puissent vraiment faire quelques choses : créer des plans, interagir avec un utilisateur final, utiliser des outils, utiliser la mémoire et accéder à des connaissances. Cela était essentiel pour arriver où nous sommes aujourd’hui.

Mais le prochain progrès, qui est partiellement résolu mais en cours, est de résoudre complètement le problème de l’hallucination. Jusqu’à présent, il y a eu suffisamment de progrès pour que nous puissions nous appuyer davantage sur les modèles de langage qu’auparavant. Mais il y a encore du travail à faire, et c’est une autre raison pour laquelle la supervision humaine et les garde-fous restent essentiels.

Ce qui est surestimé, c’est le degré d’autonomie que les gens prétendent que les agents devraient avoir. Les systèmes autonomes opérant dans des environnements d’affaires complexes sans surveillance humaine ne sont pas encore fiables à mon avis. Ce que je trouve plus productif, c’est de concevoir l’IA pour effectuer des tâches à haute valeur, d’escalader l’incertitude et d’expliquer sa logique, sans céder le contrôle humain du flux global. C’est là que l’IA agente créera la plus grande valeur dans le monde réel à court terme.

Vous avez travaillé en tant que chercheur, architecte logiciel, leader d’ingénierie, conseiller de startup, enseignant et maintenant directeur de l’IA. Comment votre définition de l’IA réussie a-t-elle changé tout au long de ces différentes étapes de votre carrière ?

Tout au long de ma carrière, j’ai appris que la définition de l’IA réussie continue d’évoluer et que les valeurs fondamentales sont à travers les disciplines. La recherche appliquée et l’architecture m’ont enseigné que l’IA doit fonctionner sous des contraintes du monde réel. La recherche universitaire m’a enseigné l’importance de la rigueur et de l’évaluation. Le leadership d’ingénierie m’a montré que l’exécution et la discipline opérationnelle comptent autant que le modèle lui-même. Le conseil aux startups m’a enseigné que l’IA crée le plus d’impact lorsqu’elle résout un véritable problème et a un chemin clair vers l’adoption.

Aujourd’hui, en tant que directeur de l’IA chez MCE, je définis le succès comme l’IA qui crée une valeur mesurable tout en gagnant la confiance de l’utilisateur final. Elle doit améliorer les résultats pour les clients, les employés et l’entreprise, être fiable pour la production, transparente pour être gérée et utile pour que les gens l’adoptent vraiment. Dans ce sens, ma définition a évolué de « Le technologie fonctionne-t-elle ? » à « Crée-t-elle de la valeur de manière responsable, à répétition et à grande échelle ? »

Ceci est également la transition que nous avons effectuée chez MCE, une transition qui a commencé il y a deux ans et nous a menés à où nous sommes maintenant. La dernière valeur est comment nous pensons à l’IA maintenant pour les cas d’utilisation internes et pour nos clients dans les télécommunications.

MCE Systems applique l’IA pour l’expérience client, les soins client et le marketing dans les télécommunications. Quels sont les cas d’utilisation d’IA les plus convaincants qui émergent actuellement dans l’industrie des télécommunications ?

Les fournisseurs de services de communication (FSC), ou « opérateurs » comme on les appelle généralement, sont dans une situation difficile, où ils font face à un problème de commodisation. Le prix est vraiment la force d’attraction pour attirer de nouveaux clients ou les conserver, mais ce n’est pas durable. Si vous regardez les autres géants qui vendent des produits ou des services de consommation, comme Apple (AAPL ), Amazon (AMZN ) ou Netflix (NFLX ), ils ont construit un excellent produit et une expérience autour de celui-ci. Cela s’est produit clairement dans la finance, par exemple, où les banques ont été forcées par de nouveaux joueurs agiles de passer de la détention des économies des gens et de l’offre de produits d’investissement à l’offre d’une expérience numérique complète autour de celle-ci. Même chose pour les télécommunications.

Notre vision est donc d’aider à apporter une valeur supplémentaire aux clients des FSC avec une meilleure expérience en plus du produit de connectivité de haute qualité qu’ils fournissent déjà. Cela signifie être plus proactif et communicatif avec les clients sur leur expérience globale de réseau et de dispositif. Et pour nous, l’IA est ce qui permet enfin de le faire bien.

Dans l’industrie, cependant, il est devenu principalement un outil de défense pour réduire les coûts de main-d’œuvre des centres d’appel ou rendre les employés plus productifs. Mais pour nous, l’IA est également un outil offensif pour être proactif avec les soins client et personnaliser le service, et ce, sur le dispositif mobile du client.

Par exemple, détecter un problème de dispositif ou de connectivité ou un problème de dégradation de la batterie avant que le client ne le remarque et l’aider à le résoudre. Ce type d’expériences crée une véritable loyauté. Connaître suffisamment la situation d’un client pour lui offrir le bon forfait de bande passante, l’ajout de données ou le produit de style de vie au bon moment stimule une conversion plus élevée. Et rassembler des signaux à travers les actifs de réseau, la CRM et les données de dispositif pour prédire avec précision la rotation et agir tôt est peut-être le cas d’utilisation le plus puissant de tous. Les FSC qui réussissent cela auront un avantage significatif.

Il y a beaucoup d’hypothèses autour de la notion de devenir « natif IA » ou « prêt pour l’IA ». Comment MCE aborde-t-elle ce paradigme et quels sont les points les plus importants que les organisations manquent dans cette transformation ?

Ce que beaucoup manquent, c’est que la transformation de l’IA n’est pas seulement un déploiement technologique, mais également un changement de modus operandi. Les meilleures opportunités sont là où l’adoption se sent naturelle : le flux de travail existe déjà, la douleur est mesurable et l’IA peut clairement améliorer la vitesse, la qualité ou la prise de décision. MCE aborde ce paradigme avec quelques idées.

Nous avons commencé par nous demander sur la maturité des outils d’IA et sur l’adoption de l’IA de manière à multiplier la productivité des employés. Nous nous sommes demandé comment nous pourrions éduquer nos équipes, définir des lignes directrices d’utilisation claires et connecter les systèmes internes à l’IA là où cela pourrait vraiment faire une différence au quotidien.

Une fois que nous avons évalué notre base d’outils, nous avons regardé l’automatisation des flux de travail et identifié où les agents pouvaient réduire le travail manuel. Naturellement, nous avons constaté que nous pouvions réduire considérablement le temps de développement. Dans un exemple, une application hautement fonctionnelle, un prototype, a pris quelques jours à créer alors qu’il aurait pris deux ou trois semaines.

Ce qui est souvent sous-estimé pour la productivité interne, c’est la démocratisation des données. Nous avons travaillé et continuons à travailler pour faire un meilleur usage de nos données internes afin que les humains et les systèmes d’IA puissent prendre de meilleures décisions. Cela inclut la compréhension des besoins des clients, l’amélioration des opérations et la construction de produits qui apprennent de l’expérience passée. C’est encore un processus en cours, car c’est un processus itératif et analytique pour évaluer ce qui fonctionne et ce qui ne fonctionne pas.

De nombreuses organisations se précipitent pour déployer des agents d’IA. Quelles leçons pratiques avez-vous apprises sur où les systèmes d’IA autonomes peuvent vraiment créer de la valeur par rapport à où la surveillance humaine reste essentielle ?

Il est facile de se laisser emporter par l’hypothèse d’automatisation. Mais je crois en l’approche méthodique des agents. Je conseillerais de ne jamais commencer par un niveau cible d’automatisation ; au lieu de cela, commencez par identifier les flux de travail où les agents peuvent créer de la valeur, divisez-les en morceaux plus petits et demandez lesquels de ces morceaux peuvent être entièrement automatisés, lesquels semi-automatisés et où le jugement humain est nécessaire.

Dans la pratique, nous constatons que les agents créent le plus de valeur lorsqu’ils sont utilisés dans des tâches hautement définies, allant de la collecte d’informations à l’analyse des entrées, à la génération de recommandations et à la préparation de sorties pour l’étape suivante. L’automatisation fine où la tâche est suffisamment simple fonctionne beaucoup mieux que d’essayer d’automatiser un processus complexe entier.

Là où les humains restent essentiels, c’est dans la surveillance, la gestion des exceptions, les décisions sensibles aux clients et, en général, les situations où la responsabilité compte. L’objectif n’est jamais de remplacer la prise de décision humaine, mais de laisser les agents gérer les parties où ils peuvent créer de la valeur de manière fiable tout en laissant les humains gérer les décisions qui nécessitent de la responsabilité.

MCE a parlé de l’utilisation de l’IA pour offrir des expériences de dispositif plus personnalisées et améliorer l’efficacité opérationnelle pour les opérateurs mobiles. Comment équilibrez-vous la personnalisation avec les préoccupations croissantes autour de la vie privée, de la transparence et de la confiance des utilisateurs ?

Parce que l’IA semble si humaine, les utilisateurs interagissent naturellement avec elle de manière qui expose plus qu’ils ne le réalisent parfois. Cela met une véritable responsabilité sur les organisations pour être vigilantes et transparentes sur les données collectées. Un exemple simple : lorsque un client soumet une capture d’écran dans le cadre d’un processus de dépannage, cette image peut involontairement capturer des informations personnelles sur son écran. Il est impératif que les organisations appliquent des mesures de protection pour rogner l’image et supprimer le contenu excessif visible, en se concentrant sur exactement ce dont l’interaction a besoin et en réduisant l’exposition de données non nécessaire.

Pour moi, toutes les données que nous collectons devraient clairement servir les intérêts et les besoins du client. Elles devraient être collectées uniquement lorsqu’elles soutiennent un objectif spécifique, tel que résoudre la demande du client ou fournir un degré approprié de personnalisation. En même temps, les données devraient être traitées de manière à préserver la vie privée, en évitant tout lien non nécessaire avec l’identité réelle du client.

En d’autres termes, comprenez le profil spécifique des besoins du client en ce qui concerne votre entreprise. Dans notre cas, en tant qu’organisation respectueuse de la vie privée, il s’agit de connaître l’état du dispositif mobile et le comportement de l’utilisateur dans la mesure où cela se rapporte très spécifiquement au fournisseur, et non à l’identité du client et à d’autres types de comportement.

Ce qui compte également, c’est dans l’interaction avec le client lui-même. Les garde-fous sont critiques ici pour rester dans le but, la voix de la marque et vraiment éviter de dériver au-delà de ce que les organisations sont prêtes à gérer. Dans la pratique, les garde-fous aident à éviter les violations juridiques ou réglementaires et les expériences négatives des clients. Parfois, ces processus peuvent être fastidieux, mais ils sont essentiels.

Vous avez enseigné des sujets allant des fondamentaux de l’informatique à la recherche d’information et à l’extraction de données. Si vous deviez concevoir un programme d’IA pour les étudiants qui entrent sur le marché du travail aujourd’hui, quels sujets donneriez-vous la priorité et quels concepts obsolètes supprimeriez-vous ?

Le programme doit changer de deux manières. Les sujets qui étaient autrefois limités aux programmes de troisième cycle, comme les réseaux de neurones, les transformateurs, les grands modèles de langage, la génération augmentée de recherche, l’évaluation, l’alignement et l’IA responsable, doivent devenir des sujets de premier cycle. Les étudiants qui entrent sur le marché du travail ont besoin de comprendre comment ces systèmes fonctionnent et comment les évaluer de manière critique.

Les étudiants ont également besoin d’apprendre à utiliser l’IA de manière responsable comme un outil d’apprentissage et de recherche. Cela signifie remettre en question les sorties, vérifier les sources, comprendre les limites et traiter l’IA comme un partenaire de réflexion plutôt que comme un raccourci pour faire ses devoirs.

Ce que je ne réduirais pas, ce sont les mathématiques et les fondamentaux algorithmiques. Je ferais valoir qu’ils sont aussi importants que jamais. Ce que je réduirais, ce sont les devoirs qui récompensent la mise en œuvre mécanique sans démontrer la pensée critique. L’accent devrait basculer vers la formulation de problèmes, l’évaluation, la conception de systèmes et l’utilisation responsable.

Ayant conseillé de nombreuses startups sur la stratégie d’IA, quels sont les erreurs les plus courantes que les fondateurs font lors de la construction de produits d’IA, et qu’est-ce qui sépare les entreprises qui réussissent à passer du prototype à la production ?

L’erreur la plus courante que je vois, c’est de tomber amoureux de la technologie avant de vraiment comprendre le problème, le client ou le chemin d’adoption. Un deuxième erreur courant est de ne pas bien connaître les limites de l’IA, ce qui les amène à la forcer dans des cas d’utilisation où elle n’est simplement pas encore mature.

Ce qui sépare les fondateurs qui réussissent à atteindre une production réussie, c’est une expertise de domaine profonde et une attitude de recherche. Les meilleurs produits d’IA proviennent de fondateurs qui comprennent un secteur verticaux suffisamment bien pour identifier un véritable écart technologique. Ils ne commencent pas par « qu’est-ce que nous pouvons faire avec l’IA ? » mais par « voici un problème spécifique, voici pourquoi les solutions existantes sur le marché sont insuffisantes et voici pourquoi l’IA peut désormais le résoudre de manière durable ».

De plus, les fondateurs réussis apprennent constamment des clients, des concurrents, des conseillers et des tentatives infructueuses. Ils étudient la manière dont les décisions sont prises, la manière dont les budgets sont alloués et ce qui crée la confiance pour leur public cible. À la fin de la journée, ils ne construisent pas seulement un produit, ils construisent quelque chose qui doit survivre dans un environnement réel et pas seulement pour son propre sake.

En regardant cinq ans en avant, croyez-vous que l’impact le plus important de l’IA viendra de modèles de base plus puissants, de systèmes agents, d’IA multimodale, d’intelligence sur appareil ou d’une tendance complètement différente que l’industrie sous-estime actuellement ?

L’impact le plus important ne viendra pas uniquement de l’amélioration des modèles de base, mais de la manière dont les modèles sont intégrés dans des systèmes qui peuvent observer et agir dans des flux de travail réels tout en s’améliorant. Ce passage d’un modèle puissant à un système capable est là où j’attends les progrès les plus significatifs à court terme.

Cela deviendra particulièrement fort lorsque les systèmes deviendront pleinement multimodaux, capables de raisonner sur le texte, la voix, les images, la vidéo et d’autres signaux contextuels du monde réel de manière à étroitement émuler la façon dont les humains comprennent le monde. Cela ouvrira de nouvelles possibilités dans le soutien client, les soins de santé, la fabrication, etc.

Une autre technologie émergente que je crois devenir perturbatrice est les agents qui interagissent avec le monde physique. Des entreprises comme Boston Dynamics montrent déjà l’art du possible et le potentiel de quand la perception, la raison, la planification et l’action physique convergent. Que ce soit sous forme humanoïde ou sous forme de systèmes robotiques spécialisés, les agents avec des corps pourraient prouver être l’une des expressions les plus tangibles et révolutionnaires de l’IA que nous verrons dans les cinq prochaines années. Pour MCE, cela crée des opportunités dans la logistique et les flux de travail opérationnels, où de nombreuses tâches répétitives et de faible complexité nécessitent encore une interaction humaine physique. Des exemples incluent la prise d’un dispositif, l’appui sur des boutons, la connexion de câbles ou le déplacement de dispositifs entre les stations. Ce sont des candidats idéaux pour l’automatisation par la robotique et l’IA, permettant aux systèmes d’être plus efficaces, plus cohérents et de gérer beaucoup plus de volume.

Pour les télécommunications, être capable de prédire la rotation des clients et d’agir dessus avec des modèles d’IA est là où l’argent sera dans les prochaines années. Si vous pouvez construire un modèle fiable qui intègre des données de tous les différents points de client, peut évaluer avec précision la probabilité de rotation et agir dessus, vous aurez résolu un problème de stagnation pour les fournisseurs.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter MCE Systems.