Aron England, Chief Product & Technology Officer chez Accruent – Série d’entretiens

Aron England, Chief Product and Technology Officer chez Accruent, est un leader expérimenté dans le domaine de la technologie et des produits, connu pour avoir construit et fait évoluer des équipes mondiales qui livrent des solutions SaaS et agence de recherche, depuis les premières recherches jusqu’à des produits grand public à forte croissance. Il combine une expertise approfondie dans les marchés de consommation, les SaaS B2B, le commerce électronique et la technologie commerciale avec un leadership solide, en associant l’innovation à une compréhension aiguë des problèmes des clients pour stimuler une adéquation durable entre le produit et le marché et des résultats commerciaux mesurables, y compris la croissance grâce aux acquisitions et à la stratégie impulsée par le PI.

Accruent fournit des logiciels qui aident les organisations à gérer l’aspect physique de leur entreprise de manière plus efficace, en rassemblant des outils pour les installations, les actifs, les espaces et les opérations de lieu de travail dans un système connecté. Sa plateforme est conçue pour réduire la fragmentation, améliorer la visibilité et la prise de décision, et aider les équipes à planifier, maintenir et optimiser les bâtiments et les équipements dans une large gamme d’industries.

Vous avez construit et dirigé des équipes mondiales de haute performance pendant plus de 25 ans. En regardant vos expériences passées, qu’est-ce qui vous a le plus marqué dans la construction de technologies fiables à grande échelle ?

En passant du temps dans des entreprises du Fortune 50 et en travaillant dans des postes de leadership technologique dans des startups en démarrage, des entreprises de taille moyenne et de grandes entreprises publiques et privées, j’ai acquis une large gamme d’expériences en matière de promotion de l’adoption de la transformation numérique dans différents secteurs. Plus notablement, j’étais le 9e employé de DocuSign et nous visions un marché qui avait besoin d’un véritable changement de cap. Pousser l’industrie des contrats analogiques vers une transformation numérique totale, non seulement nécessitait de construire la confiance du marché, mais également une législation pour rendre le changement sécuritaire. Il y a beaucoup de leçons liées à mon expérience là-bas qui peuvent être appliquées au marché actuel des LLM et des outils d’IA.

À un niveau élevé, le modèle à travers mon expérience est resté constant : les systèmes fiables ne surgissent pas par hasard. Ils proviennent d’une architecture intentionnelle, d’une cohérence des données, de la transparence et d’une compréhension approfondie de la façon dont les gens utilisent réellement la technologie.

Vous avez averti que d’ici 2026, les techniciens n’accepteront plus les systèmes d’IA qui disent simplement « faites-moi confiance ». Qu’est-ce qui, selon vous, pousse ce changement d’attentes parmi les professionnels de la ligne de front et des services de terrain ?

Dans les environnements où les gestionnaires d’installations et les techniciens utilisent l’IA pour diagnostiquer les défaillances d’équipement et guider les réparations complexes, une erreur provenant d’une recommandation fausse ou inexacte peut causer des risques commerciaux et de sécurité majeurs.

Souvent, les LLM créent des réponses mélangées à partir de plusieurs pages, sans référence aux preuves sous-jacentes. Par conséquent, si un technicien suit une étape générée par l’IA qui n’a jamais existé directement dans le manuel du fabricant, une organisation pourrait faire face à un retour de conformité important, car elle n’aura pas de chaîne de preuves défendable pour les audits ou les examens de sécurité. À mesure que l’IA devient un élément de base et plus « invisible » dans les logiciels, l’importance de la traçabilité va grandir.

Les hallucinations d’IA peuvent être plus qu’un inconveniant dans les industries réglementées — elles peuvent créer des risques réels de sécurité, de conformité et d’exploitation. Quels scénarios d’hallucination vous inquiètent le plus en ce qui concerne la maintenance, la gestion des installations ou les opérations d’actifs ?

Dans la fabrication, si une suggestion générée par l’IA indique à un ouvrier d’usine de prendre la mauvaise action sur un équipement critique, cela pourrait entraîner un temps d’arrêt non planifié, des matériaux gaspillés, des produits finis défectueux ou des machines endommagées. Ces erreurs peuvent coûter des millions de dollars, car les lignes de fabrication s’arrêtent ou même des dommages à la réputation si cela conduit plus tard à des rappels.

Ces hallucinations des outils d’IA sont également particulièrement néfastes pour des industries comme les soins de santé, car les responsabilités et les moyens de subsistance des patients sont en jeu lorsque survient une défaillance de machine qui n’a pas été correctement entretenue ou réparée à temps. Lorsque vous avez affaire à des industries qui interagissent avec le monde réel, corriger les erreurs n’est pas aussi simple que d’appuyer sur la touche « supprimer » et de recommencer.

Vous avez souligné que chaque sortie d’IA doit renvoyer aux sources originales — manuels, tableaux de données, diagrammes, journaux historiques. Comment Accruent conçoit-elle des systèmes qui assurent la traçabilité et éliminent les réponses « boîte noire » ?

Nous nous assurons que les recommandations d’IA peuvent être traçées jusqu’à des points de sortie significatifs dans leur matériau source, tels que la page spécifique du manuel, le diagramme, le tableau de données ou l’entrée du journal qui a informé la suggestion. Par exemple, si les recommandations d’IA indiquent à un gestionnaire d’installations dans le domaine des soins de santé comment servir un compresseur, ils devraient être en mesure de retracer jusqu’à l’exacte phrase qui soutient cette étape en un seul clic, pour garantir l’exactitude. Pour combler le fossé croissant de confiance dans l’IA d’entreprise d’aujourd’hui, il est important que ces systèmes soient également en mesure de révéler quels points ou pages ont été réellement évalués, afin que les utilisateurs sachent si l’IA a examiné tous les documents pertinents ou seulement un sous-ensemble.

De nombreux outils d’IA d’entreprise privilégient la vitesse, mais les environnements réglementés nécessitent des traces d’audit, une exactitude de la documentation et une argumentation vérifiable. Comment équilibrez-vous l’innovation avec le besoin de transparence et de conformité ?

Intégrer l’IA dans les flux de travail existants est la clé. Cela simplifie le processus de superposition des approbations, de la documentation, des routines de maintenance et des vérifications de conformité pour augmenter les pratiques connues, plutôt que de mettre en œuvre un nouvel outil isolé. Cela signifie éviter une refonte complète des opérations et permettre aux employés de continuer à travailler de la même manière, mais avec des processus manuels et chronophages qui deviennent automatisés.

Les techniciens sur le terrain comptent sur des instructions précises. Comment Accruent aborde-t-elle le défi de faire reposer les sorties d’IA sur des matériaux sources autorisés pour réduire les risques et améliorer la confiance des techniciens ?

Notre approche commence par la capture et l’organisation des manuels, des diagrammes, des dessins, des baux et des ordres de travail historiques pour nous assurer que l’IA fournit des réponses à partir du contenu spécifique d’une entreprise, et non à partir de données d’entraînement génériques. Lors de la génération de procédures, de recommandations ou de listes de contrôle, nos systèmes sont conçus pour que chaque étape soit traçable jusqu’à la documentation d’origine.

Sans cette fonctionnalité, les techniciens qui sont déjà à court de ressources devraient passer encore plus de temps à fouiller manuellement dans les documents pour vérifier l’exactitude, retardant ainsi davantage les processus et les ordres de travail.

La livraison d’IA transparente et prête à l’audit nécessite de grands volumes de données structurées. Quels défis de données — allant de documents hérités non structurés à des historiques d’actifs incohérents — doivent être résolus pour rendre cette vision réalité ?

La livraison d’IA prête à l’audit commence par des données fiables et bien organisées. Cependant, la plupart de l’environnement bâti vit encore dans des processus analogiques, avec des saisies de données manuelles, des PDF scannés et des feuilles de calcul isolées. Lorsqu’il y a des lacunes dans les données et des historiques d’actifs qui sont incomplets ou incohérents, les risques d’hallucination de l’IA augmentent. Pour rendre les sorties d’IA fiables dans les environnements réglementés, les entreprises doivent d’abord résoudre les obstacles de données hérités, des formats non structurés aux historiques incohérents, en passant par le manque de gouvernance, en migrando vers des systèmes de documents et de données d’actifs centralisés et contrôlés par version.

Notre système de gestion de documents d’ingénierie (EDMS) peut le faire pour plusieurs industries, y compris l’extraction minière, les services publics, la fabrication, etc. Ces industries s’appuient souvent sur des dessins d’ingénierie physiques et une documentation qui peut créer des cauchemars de contrôle de version. En utilisant notre solution EDMS pour numériser ces documents, c’est la première étape. À partir de là, le logiciel aide à gérer le contrôle de version, la gouvernance des flux de travail et les traces d’audit pour garantir que les incohérences soient éliminées.

À mesure que l’IA s’intègre dans la maintenance, la gestion des installations et la gestion du cycle de vie des actifs, où voyez-vous les plus grandes opportunités d’améliorer la productivité sans compromettre la sécurité ou les exigences réglementaires ?

L’une des plus grandes opportunités est l’automatisation des tâches monotones et sans valeur ajoutée pour les employés, comme la saisie manuelle de données et la planification des ordres de travail pour les techniciens. De l’extérieur, cela semble être une tâche relativement simple, mais chronophage. Cependant, l’IA peut aborder la tâche de manière plus stratégique.

Tout d’abord, si l’équipement en question est surveillé par des capteurs, un ordre de travail peut être déclenché en fonction de la détection d’anomalies, avant toute défaillance réelle. Deuxièmement, l’IA peut aider à prioriser automatiquement les ordres de travail en fonction de l’urgence et à planifier les réparations à des moments qui causent le moins de perturbations pour une entreprise — elle peut également peser plusieurs problèmes simultanés, coûts, sécurité et revenus à la fois pour la meilleure voie possible.

L’IA a le potentiel de ne pas simplement « aider » les équipes de maintenance et d’installations — elle agira de plus en plus comme un opérateur numérique.

La confiance devient le nouvel enjeu pour l’IA d’entreprise. Qu’est-ce que vous croyez que les fournisseurs devront faire différemment au cours des deux prochaines années pour gagner — et conserver — cette confiance ?

Les fournisseurs doivent cesser de supposer que les clients « feront confiance au modèle » lorsqu’il s’agit d’IA d’entreprise. Les recommandations de l’IA doivent montrer la preuve de la façon dont elles ont été générées. Une façon d’aborder cela est sous la forme de citations et de descriptions claires des documents que l’IA a examinés ou non. Par exemple, si un employé demande à l’IA d’analyser 1 000 baux, il devrait savoir explicitement si elle a évalué les 1 000 baux ou seulement 700, et pourquoi ou pourquoi pas.

Dans ce cadre, le facteur le plus important que les fournisseurs devraient privilégier est la transparence dans l’utilisation des données. Cela inclut la clarté sur qui voit les données, comment elles sont utilisées (y compris les implications de formation), et comment elles sont séparées ou isolées des environnements des autres clients.

Au cours des deux prochaines années, gagner la confiance sera primordial, et les fournisseurs pourront prendre l’avantage en étant explicites sur les limites des outils d’IA, en gardant les humains dans la boucle pour les décisions à haut risque, et en commençant par des cas d’utilisation étroits et bien définis qui livrent une valeur tangible sans mettre les clients dans une situation « boîte noire ».

En regardant vers l’avenir, comment voyez-vous l’IA évoluer dans les opérations critiques, et quel rôle Accruent devrait jouer pour établir les normes industrielles pour l’IA transparente et fiable ?

L’IA dans les opérations critiques évolue rapidement d’automatisations de tâches isolées vers des systèmes d’agents intelligents multiples qui peuvent coordonner et optimiser l’ensemble des flux de travail. Au lieu de simplement assister les utilisateurs, l’IA fournira un soutien décisionnel autonome, surveillera en permanence les conditions opérationnelles, prédira les risques et recommandera des actions avec une transparence et une traçabilité totales. À mesure que l’IA apprend à combiner des documents non structurés, des données opérationnelles structurées et des signaux en temps réel, elle sera intégrée directement dans les processus quotidiens, conduisant à des résultats plus rapides, plus sûrs et plus fiables.

Au fil du temps, cela permettra un passage vers des opérations autonomes, où les systèmes pourront s’auto-optimiser et s’auto-corriger, tandis que les humains se concentreront sur la supervision et la prise de décision stratégique. En tant que leader du marché, Accruent aidera à établir les normes industrielles pour l’IA fiable et transparente en intégrant l’auditabilité, l’explicabilité et une solide gouvernance dans sa plateforme, et en collaborant avec les clients, les partenaires et les organismes réglementaires pour définir les meilleures pratiques pour un déploiement sécurisé dans les environnements critiques.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Accruent.