Aron England, Chief Product & Technology Officer chez Accruent – Série d’entretiens

Aron England, Chief Product et Technology Officer chez Accruent, est un leader expérimenté dans le domaine de la technologie et des produits, connu pour avoir construit et dirigé des équipes mondiales qui livrent des solutions SaaS et agence de recherche, depuis les premières recherches jusqu’à des produits grand public à forte croissance. Il combine une expertise approfondie dans les marchés de consommation, les solutions SaaS B2B, le commerce électronique et la technologie commerciale avec un leadership fort, en associant l’innovation à une compréhension aiguë des problèmes des clients pour stimuler une adéquation durable entre produit et marché et des résultats commerciaux mesurables, y compris la croissance grâce à des acquisitions et une stratégie impulsée par la propriété intellectuelle.

Accruent fournit des logiciels qui aident les organisations à gérer l’aspect physique de leur entreprise de manière plus efficace, en rassemblant des outils pour les installations, les actifs, l’espace et les opérations de travail dans un système connecté. Sa plateforme est conçue pour réduire la fragmentation, améliorer la visibilité et la prise de décision, et aider les équipes à planifier, maintenir et optimiser les bâtiments et les équipements dans une large gamme d’industries.

Vous avez construit et dirigé des équipes de haute performance à l’échelle mondiale pendant plus de 25 ans. En regardant en arrière, à travers les startups, les grandes entreprises et maintenant Accruent, quelle expérience charnière a le plus façonné votre façon de penser la construction de technologies fiables à grande échelle ?

En passant du temps dans des entreprises du Fortune 50 et en travaillant dans le leadership technologique dans des startups en début de parcours, des entreprises de taille moyenne et de grandes entreprises publiques et privées, j’ai acquis une large gamme d’expériences en matière de promotion de l’adoption de la transformation numérique à travers différents secteurs. Le plus notable, j’étais l’employé numéro neuf chez DocuSign (DOCU ) et nous visions un marché qui avait besoin d’un véritable changement de cap. Pousser l’industrie des contrats analogiques vers une transformation numérique totale, non seulement nécessitait de construire la confiance du marché, mais également une législation pour rendre le changement sécuritaire. Il y a beaucoup de leçons liées à mon expérience là-bas qui peuvent être appliquées au marché actuel des outils LLM et AI.

À un niveau élevé, le modèle à travers mon expérience est resté cohérent : les systèmes fiables ne surgissent pas par accident. Ils proviennent d’une architecture intentionnelle, de la cohérence des données, de la transparence et d’une compréhension approfondie de la façon dont les personnes réelles utilisent la technologie.

Vous avez averti que d’ici 2026, les techniciens n’accepteront plus les systèmes AI qui disent simplement « faites-moi confiance ». De votre point de vue chez Accruent, qu’est-ce qui pousse ce changement d’attentes parmi les professionnels de première ligne et les professionnels de service sur le terrain ?

Dans les environnements où les gestionnaires d’installations et les techniciens utilisent l’IA pour diagnostiquer les défaillances d’équipement et guider les réparations complexes, une erreur provenant d’une recommandation fausse ou inexacte peut causer des risques commerciaux et de sécurité majeurs.

Souvent, les LLM créent des réponses mélangées à partir de plusieurs pages, sans citer les preuves sous-jacentes. Par conséquent, si un technicien suit une étape générée par l’IA qui n’a jamais existé directement dans le manuel du fabricant, une organisation pourrait faire face à un retour de conformité majeur, car ils n’auront pas de chaîne de preuves défendable pour les audits ou les examens de sécurité. À mesure que l’IA devient plus « invisible » dans les logiciels, l’importance de la traçabilité va grandir.

Les hallucinations de l’IA peuvent être plus qu’un inconvénient dans les industries réglementées — elles peuvent créer des risques réels de sécurité, de conformité et d’exploitation. Quels scénarios d’hallucination vous préoccupent le plus en ce qui concerne la maintenance, la gestion des installations ou les opérations d’actifs ?

Dans la fabrication, si une suggestion générée par l’IA indique à un ouvrier d’usine de prendre la mauvaise action sur une pièce d’équipement critique, cela pourrait entraîner un temps d’arrêt non planifié, des matériaux gaspillés, des produits finis défectueux ou des machines endommagées. Ces erreurs peuvent coûter des millions de dollars, car les lignes de fabrication s’arrêtent ou même des dommages à la réputation si cela conduit plus tard à des rappels.

Ces hallucinations des outils AI sont également particulièrement préjudiciables aux industries telles que les soins de santé, où les responsabilités et les moyens de subsistance des patients sont en jeu lorsque survient une défaillance de machine qui n’a pas été correctement entretenue ou réparée à temps. Lorsque vous traitez d’industries qui interagissent avec le monde réel, corriger les erreurs n’est pas aussi simple que d’appuyer sur la touche « supprimer » et de recommencer.

Vous avez souligné que chaque sortie d’IA doit renvoyer aux sources originales — manuels, tableaux de données, diagrammes, journaux historiques. Comment Accruent conçoit-elle des systèmes qui assurent la traçabilité et éliminent les réponses « boîte noire » ?

Nous nous assurons que les recommandations de l’IA peuvent être traçées jusqu’aux points de sortie significatifs dans leur matériau source, tels que la page spécifique du manuel, le diagramme, le tableau de données ou l’entrée de journal qui a informé la suggestion. Par exemple, si les recommandations de l’IA indiquent à un gestionnaire d’installations dans le domaine de la santé comment servir un compresseur, ils devraient être en mesure de remonter à l’exact paragraphe qui soutient cette étape en un seul clic, pour assurer l’exactitude. Pour fermer l’écart de confiance croissant dans les systèmes d’IA d’entreprise d’aujourd’hui, il est important que ces systèmes soient également capables de révéler quels points ou pages ont été réellement évalués, afin que les utilisateurs sachent si l’IA a examiné tous les documents pertinents ou seulement un sous-ensemble.

De nombreux outils d’IA d’entreprise privilégient la vitesse, mais les environnements réglementés nécessitent des traces d’audit, une exactitude de la documentation et une argumentation vérifiable. Comment équilibrez-vous l’innovation avec le besoin de transparence et de conformité ?

Intégrer l’IA dans les flux de travail existants est la clé. Cela simplifie le processus d’ajout de niveaux d’approbation, de documentation, de routines de maintenance et de vérifications de conformité pour renforcer les pratiques connues, plutôt que de mettre en œuvre un nouvel outil isolé. Cela signifie éviter une refonte complète des opérations et permettre aux employés de continuer à travailler comme ils l’ont toujours fait, mais avec des processus manuels et chronophages devenant automatisés.

Les techniciens sur le terrain comptent sur des instructions précises. Comment Accruent aborde-t-elle le défi de fonder les sorties d’IA sur des documents sources autorisés pour réduire les risques et améliorer la confiance des techniciens ?

<p Notre approche commence par la capture et l'organisation des manuels, des diagrammes, des dessins, des baux et des ordres de travail historiques pour nous assurer que l'IA fournit des réponses à partir du contenu spécifique d'une entreprise, et non à partir de données d'entraînement génériques. Lors de la génération de procédures, de recommandations ou de listes de contrôle, nos systèmes sont conçus pour que chaque étape soit traçable jusqu'à la documentation d'origine.

Sans cette fonctionnalité, les techniciens qui sont déjà sous pression en termes de ressources devraient passer encore plus de temps à fouiller manuellement dans les documents pour vérifier l’exactitude, retardant ainsi davantage les processus et les ordres de travail.

La livraison d’une IA prête à l’audit nécessite de grands volumes de données structurées. Quels défis de données — des documents hérités non structurés aux historiques d’actifs incohérents — doivent être résolus pour rendre cette vision réalité ?

La livraison d’une IA prête à l’audit commence par des données fiables et bien organisées. Cependant, la plupart de l’environnement bâti vit encore dans des processus analogiques, avec des saisies de données manuelles, des PDF scannés et des tableurs isolés. Lorsqu’il y a des lacunes dans les données et des historiques d’actifs qui sont incomplets ou incohérents, les risques d’hallucination de l’IA augmentent. Pour rendre les sorties d’IA fiables dans les environnements réglementés, les entreprises doivent d’abord résoudre les obstacles de données héritées, des formats non structurés aux historiques incohérents, en les migrant vers des systèmes de documents et de données d’actifs structurés, contrôlés par version et centralisés.

Notre système de gestion des documents d’ingénierie (EDMS) peut le faire pour de multiples industries, y compris l’extraction minière, les services publics, la fabrication et plus encore. Ces industries s’appuient souvent sur des dessins et des documents d’ingénierie physiques, ce qui peut créer des cauchemars de contrôle de version. L’utilisation de notre solution EDMS pour numériser ces documents constitue la première étape. À partir de là, le logiciel aide à gérer le contrôle de version, la gouvernance des flux de travail et les traces d’audit pour éliminer les incohérences.

À mesure que l’IA s’intègre dans la maintenance, les installations et la gestion du cycle de vie des actifs, où voyez-vous les plus grandes opportunités d’améliorer la productivité sans compromettre la sécurité ou les exigences réglementaires ?

L’une des plus grandes opportunités réside dans l’automatisation des tâches fastidieuses et non valorisantes pour les employés, telles que la saisie manuelle de données et la planification des ordres de travail pour les techniciens. De l’extérieur, cela semble être une tâche relativement simple, mais chronophage. Cependant, l’IA peut aborder cette tâche de manière plus stratégique.

Tout d’abord, si l’équipement en question est surveillé par des capteurs, un ordre de travail peut être déclenché en fonction de la détection d’anomalies, avant toute véritable panne. Deuxièmement, l’IA peut aider à prioriser automatiquement les ordres de travail en fonction de l’urgence et à planifier les réparations à des moments qui causent le moins de perturbation pour une entreprise — elle peut également peser plusieurs problèmes simultanés, les coûts, la sécurité et les revenus pour la meilleure voie à suivre.

L’IA a le potentiel de ne pas simplement « aider » les équipes de maintenance et d’installations — elle agira de plus en plus comme un opérateur numérique.

La confiance devient le nouveau standard pour l’IA d’entreprise. Qu’est-ce que vous pensez que les fournisseurs devront faire différemment au cours des deux prochaines années pour gagner — et conserver — cette confiance ?

Les fournisseurs doivent cesser de supposer que les clients « feront confiance au modèle » lorsqu’il s’agit de l’IA d’entreprise. Les recommandations de l’IA doivent montrer la preuve de la façon dont elles ont été générées. Une façon d’aborder cela est sous la forme de citations et de descriptions claires des documents que l’IA a examinés ou non. Par exemple, si un employé demande à l’IA d’analyser 1 000 baux, il devrait savoir explicitement si elle a évalué les 1 000 ou seulement 700, et pourquoi ou pourquoi pas.

Dans le cadre de cela, le facteur le plus important que les fournisseurs devraient prioriser est la transparence dans l’utilisation des données. Cela inclut la clarté sur qui voit les données, comment elles sont utilisées (y compris les implications de formation), et comment elles sont séparées ou isolées des environnements des autres clients.

Au cours des deux prochaines années, gagner la confiance sera primordial, et les fournisseurs peuvent prendre l’avantage en étant explicites sur les limites des outils d’IA, en gardant les humains dans la boucle pour les décisions à haut risque, et en commençant par des cas d’utilisation étroits et bien définis qui livrent une valeur tangible sans mettre les clients dans une situation de « boîte noire ».

En regardant vers l’avenir, comment voyez-vous l’IA évoluer dans les opérations critiques, et quel rôle attendez-vous qu’Accruent joue dans l’établissement de normes industrielles pour une IA fiable et transparente ?

L’IA dans les opérations critiques évolue rapidement d’automatisations de tâches isolées vers des systèmes d’agents intelligents capables de coordonner et d’optimiser l’ensemble des flux de travail. Au lieu de simplement aider les utilisateurs, l’IA fournira un soutien décisionnel autonome, surveillera en continu les conditions opérationnelles, prédira les risques et recommandera des actions avec une transparence et une traçabilité totales. À mesure que l’IA apprend à combiner des documents non structurés, des données opérationnelles structurées et des signaux en temps réel, elle sera intégrée directement dans les processus quotidiens, conduisant à des résultats plus rapides, plus sûrs et plus fiables.

Au fil du temps, cela permettra un passage vers des opérations autonomes, où les systèmes pourront s’auto-optimiser et s’auto-corriger, tandis que les humains se concentreront sur la supervision et la prise de décision stratégique. En tant que leader du marché, Accruent contribuera à établir des normes industrielles pour une IA fiable et transparente en intégrant l’auditabilité, l’explicabilité et une gouvernance solide dans sa plateforme et en collaborant avec les clients, les partenaires et les organismes réglementaires pour définir les meilleures pratiques pour un déploiement sécurisé dans des environnements critiques.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Accruent.