Арон Енгленд, Головний продукт та технологічний офіцер у Accruent – Серія інтерв’ю

Арон Енгленд, Головний продукт та технологічний офіцер у Accruent, – досвідчений технологічний та продукт-лідер, відомий тим, що створює та розширює глобальні команди, які розробляють та впроваджують рішення SaaS та агентських рішень від ранньої стадії дослідження до високорозвинених, орієнтованих на клієнта продуктів. Він поєднує глибокі знання у сфері споживчих ринків, B2B SaaS, електронної комерції та комерційної технології з сильним лідерством серед людей, поєднуючи інновації з глибоким розумінням проблем клієнтів для забезпечення довгострокової продуктивності та вимірюваних бізнес-результатів, включаючи зростання завдяки поглинанням та стратегією, керованою інтелектуальною власністю.

Accruent пропонує програмне забезпечення, яке допомагає організаціям керувати фізичною стороною свого бізнесу більш ефективно, об’єднуючи інструменти для управління об’єктами, активами, простором та робочими місцями в одну пов’язану систему. Її платформа розроблена для зменшення фрагментації, покращення видимості та прийняття рішень, а також для допомоги командам у плануванні, підтримці та оптимізації будівель та обладнання у широкому спектрі галузей.

Ви створили та очолили високопродуктивні глобальні команди понад 25 років. Оглянувшись на стартапи, великі підприємства та зараз Accruent, який досвід найбільш вплинув на ваше розуміння побудови довірчих технологій у великому масштабі?

Від часу, проведеного в компаніях Fortune 50, та роботи на посаді технологічного лідера на ранній стадії стартапів, середніх та великих публічних та приватних компаній, я здобув широкий досвід у сфері просування прийняття цифрової трансформації у різних галузях. Найбільш помітно, я був дев’ятим співробітником у DocuSign (DOCU ), і ми націлювалися на ринок, який потребував справжньої зміни. Просування аналогової галузі контрактів через повну цифрову трансформацію не тільки потребувало створення довіри на ринку, але й законодавчих змін для забезпечення безпеки цього переходу. Є багато уроків, пов’язаних з моїм досвідом там, які можна застосувати до сучасного ринку LLM та інструментів штучного інтелекту.

На високому рівні мій досвід залишається послідовним: довірчі системи не виникають випадково. Вони виникають з наміреної архітектури, узгодженості даних, прозорості та глибокого розуміння того, як реальні люди використовують технології.

Ви попередили, що до 2026 року техніки вже не будуть приймати системи штучного інтелекту, які просто кажуть: “довіртеся мені”. З вашої точки зору у Accruent, що спричиняє цю зміну очікувань серед фахівців першої лінії та фахівців з обслуговування?

У середовищах, де менеджери об’єктів та техніки використовують штучний інтелект для діагностики відмов обладнання та керівництва складними ремонами, помилка з боку хибної або неточної рекомендації може спричинити великі ризики для бізнесу та безпеки.

Часто LLM створюють змішані відповіді з кількох сторінок, не посилаючись на первинні джерела. Як наслідок, якщо технік слідує рекомендації, сгенерованій штучним інтелектом, яка ніколи не існувала безпосередньо в руководстві виробника, організація може зазнати великої негативної реакції з боку органів контролю, оскільки у них не буде обґрунтованої ланцюжка доказів для аудиту чи перевірки безпеки. Коли штучний інтелект стає невидимим у програмному забезпеченні, важливість відстежуваності зростатиме.

Галюцинації штучного інтелекту можуть бути більш ніж незручністю у регульованих галузях – вони можуть створити реальні ризики безпеки, дотримання вимог та експлуатації. Які сценарії галюцинацій найбільше турбують вас, коли мова йде про технічне обслуговування, управління об’єктами чи експлуатацію активів?

У виробництві, якщо рекомендація, сгенерована штучним інтелектом, каже робітникові на фабриці виконати неправильну дію щодо критичного обладнання, це може призвести до незапланованої зупинки виробництва, марнування матеріалів, дефектної продукції або пошкодження обладнання. Це можуть бути мільйонні помилки, коли виробничі лінії зупиняються або навіть репутаційні втрати, якщо пізніше це призведе до відкликання продукції.

Ці галюцинації інструментів штучного інтелекту особливо шкідливі для галузей, таких як охорона здоров’я, оскільки відповідальність та життя пацієнтів під загрозою, коли відбувається збій обладнання, який не був належним чином обслужений або виправлений вчасно. Коли ви працюєте з галузями, які взаємодіють з реальним світом, виправлення помилок не так просте, як натиснення клавіші “видалити” та повторне виконання.

Ви підкреслили, що кожен вивід штучного інтелекту повинен вказувати на первинні джерела – керівництва, таблиці даних, схеми, історичні журнали. Як Accruent проектує системи, які забезпечують відстежуваність та ліквідують “чорні скриньки”?

Ми забезпечуємо, щоб рекомендації штучного інтелекту могли бути відстежені до значущих точок виводу у джерельному матеріалі, таких як конкретна сторінка керівництва, схема, таблиця даних або запис журналу, який інформував рекомендацію. Наприклад, якщо рекомендації штучного інтелекту кажуть менеджеру об’єкта у сфері охорони здоров’я, як обслуговувати компресор, вони повинні бути能够 відстежити рекомендацію до конкретного абзацу, який підтримує цей крок за один клік, щоб забезпечити точність. Для закриття зростаючого розриву довіри в сучасному підприємстві штучний інтелект ці системи також повинні бути здатні розкрити, які пункти або сторінки були фактично оцінені, щоб користувачі знали, чи оглядав штучний інтелект всі відповідні документи чи тільки їх підмножину.

Багато підприємств штучного інтелекту пріоритезують швидкість, але регульовані середовища вимагають слідів аудиту, точності документації та верифікованої логіки. Як ви балансуєте інновації з потребою у прозорості та дотриманні вимог?

Вбудовування штучного інтелекту у існуючі робочі процеси – це ключ. Це спрощує процес накладення затверджень, документації, технічного обслуговування та перевірок дотримання вимог для доповнення відомих практик, а не впровадження нового ізольованого інструменту. Це означає уникнення повної перебудови операцій та дозволення працівникам продовжувати працювати тим же способом, яким вони працювали раніше, але з автоматизованими ручними, трудомісткими процесами.

Техніки у полі залежать від точних інструкцій. Як Accruent підходить до завдання ґрунтування виводів штучного інтелекту на авторитетному джерельному матеріалі для зменшення ризику та покращення довіри техніків?

Наш підхід починається з захоплення та організації керівництв, схем, малюнків, оренд та історичних замовлень на роботу, щоб забезпечити те, що штучний інтелект надає відповіді з конкретного контенту компанії, а не з загального навчального даних. Коли генеруються процедури, рекомендації чи переліки перевірок, наші системи розроблені так, щоб кожен крок був відстежуваний до первинної документації.

Без цієї функції технікам, які вже обмежені ресурсами, доведеться витратити ще більше часу на ручне дослідження документів для верифікації точності, що ще більше сповільнить процеси та замовлення на роботу.

Доставка прозорого, готового до аудиту штучного інтелекту вимагає великих обсягів структурованих даних. Які дані-вызови – від неструктурованих спадкових документів до невідповідних історій активів – потрібно вирішити, щоб зробити цю бачення реальністю?

Доставка готового до аудиту штучного інтелекту починається з надійних та добре організованих даних. Однак більшість побудованого середовища все ще живе в аналогічних процесах, з ручним введенням даних, сканованими PDF та ізольованими таблицями. Коли є пробіли у даних та історії активів, які є неповними або невідповідними, ризики галюцинації штучного інтелекту зростають. Для того, щоб виводи штучного інтелекту були довірчими у регульованих середовищах, компанії повинні спочатку вирішити проблеми спадкових даних, від неструктурованих форматів до відсутності керування, міграцією у структуровані, керовані версіями, централізовані системи документів та даних активів.

Наша система управління інженерними документами (EDMS) може зробити це для кількох галузей, включаючи гірничу промисловість, комунальні послуги, виробництво та іншу. Ці галузі часто залежать від фізичних інженерних креслень та документації, які можуть створити нічмар з керуванням версіями. Використання нашої системи EDMS для цифровізації цих документів – це перший крок. Відтоді програмне забезпечення допомагає керувати керуванням версіями, робочим керуванням та слідами аудиту для забезпечення ліквідації невідповідностей.

Як штучний інтелект стає частиною технічного обслуговування, управління об’єктами та експлуатації активів, де ви бачите найбільші можливості для покращення продуктивності без компрометації безпеки чи вимог?

Однією з найбільших можливостей є автоматизація монотонних, не вартісних завдань для працівників, таких як ручне введення даних та планування замовлень на роботу для техніків. З зовні це здається досить простим, але трудомістким завданням. Однак штучний інтелект може підходити до цього завдання більш стратегічно.

По-перше, якщо обладнання, яке розглядається, моніториться за допомогою датчиків, замовлення на роботу може бути спровоковано на основі виявлення аномалій, до того, як виникне справжня зупинка. По-друге, штучний інтелект може допомогти автоматично пріоритезувати замовлення на роботу на основі терміновості та планувати ремонти в часи, які спричиняють мінімальну кількість переривань для бізнесу – він також може зважувати кілька одночасних питань, витрати, безпеку та доходи для найкращого шляху вперед.

Штучний інтелект має потенціал не просто “допомагати” командам з технічного обслуговування та управління об’єктами – він все частіше буде діяти як цифровий оператор.

Довіра стає новими вимогами для підприємства штучного інтелекту. Що, на вашу думку, постачальники повинні робити інакше протягом наступних двох років, щоб здобути – та зберегти – цю довіру?

Постачальники повинні停止 припускати, що клієнти просто “довірятимуть моделі” у сфері підприємства штучного інтелекту. Рекомендації штучного інтелекту повинні показувати докази того, як вони були сгенеровані. Одним зі способів вирішення цього питання є цитування та чітке описання документів, які штучний інтелект переглянув чи ні. Наприклад, якщо працівник просить штучний інтелект проаналізувати 1 000 оренд, вони повинні знати явно, чи оглядав він усі 1 000 чи тільки 700, і чому чи чому ні.

Як частина цього, найвищим пріоритетом для постачальників повинна бути прозорість у використанні даних. Це включає ясність щодо того, хто бачить дані, як вони використовуються (включаючи будь-які наслідки навчання), та як вони ізольовані від середовищ інших клієнтів.

У найближчі два роки здобуття довіри буде найважливішим, і постачальники можуть здобути верх, будучи явними щодо обмежень інструментів штучного інтелекту, зберігаючи людей у циклі для високоризикових рішень та починаючи з вузьких, добре визначених випадків використання, які доставляють відчутну цінність без розміщення клієнтів у ситуації “чорної скриньки”.

Оглянувшись вперед, як ви бачите розвиток штучного інтелекту у критично важливих операціях, та яку роль очікуєте, що Accruent зіграє у встановленні галузевих стандартів для довірчого, прозорого штучного інтелекту?

Штучний інтелект у критично важливих операціях швидко розвивається від ізольованих автоматизацій окремих завдань до інтелектуальних, багатокомпонентних систем, які можуть координувати та оптимізувати цілі робочі процеси. Замість того, щоб просто допомагати користувачам, штучний інтелект буде забезпечувати автономну підтримку рішень, безперервно моніторити операційні умови, передбачати ризики та рекомендувати дії з повною прозорістю та відстежуваністю. Коли штучний інтелект навчиться поєднувати неструктуровані документи, структуровані операційні дані та реальні сигнали, він буде безпосередньо вбудований у щоденні процеси, забезпечуючи швидші, безпечніші та більш надійні результати.

З часом це призведе до зсуву до автономних операцій, де системи зможуть самозмінюватися та самокоректуватися, тоді як люди будуть зосереджені на нагляді та стратегічному прийнятті рішень. Як лідер ринку, Accruent допоможе встановити галузеві стандарти для довірчого та прозорого штучного інтелекту шляхом вбудовування аудитності, пояснюваності та сильного керування у свою платформу та співпраці з клієнтами, партнерами та регулюючими органами для визначення найкращих практик для безпечного розгортання у критично важливих середовищах. by embedding auditability, explainability, and strong governance into its platform and by collaborating with customers, partners, and regulatory bodies to define best practices for safe deployment in mission-critical environments. Thank you for the great interview, readers who wish to learn more should visit Accruent.