Інтерв’ю
Арон Енгленд, Головний спеціаліст з продукції та технологій у Accruent – Серія інтерв’ю
Арон Енгленд, Головний спеціаліст з продукції та технологій у Accruent, є досвідченим лідером у сфері технологій та продукції, відомим тим, що створює та розширює глобальні команди, які розробляють та впроваджують рішення SaaS та агентські рішення від ранньої стадії досліджень до високорозвинених, орієнтованих на клієнта продуктів. Він поєднує глибокі знання у сфері споживчих ринків, B2B SaaS, електронної комерції та комерційних технологій з сильним лідерством серед людей, поєднуючи інновації з глибоким розумінням проблем клієнтів для забезпечення довгострокової придатності продукції та вимірюваних бізнес-результатів, включаючи зростання завдяки придбанням та стратегії, заснованій на інтелектуальній власності.
Accruent пропонує програмне забезпечення, яке допомагає організаціям більш ефективно керувати фізичною стороною свого бізнесу, об’єднуючи інструменти для управління об’єктами, активами, простором та робочими місцями в одну пов’язану систему. Її платформа розроблена для зменшення фрагментації, покращення видимості та прийняття рішень, а також для допомоги командам у плануванні, обслуговуванні та оптимізації будівель та обладнання в широкому спектрі галузей.
Ви створили та очолили високоефективні глобальні команди понад 25 років. Оглянувшись на свою діяльність у стартапах, великих підприємствах та зараз у Accruent, який досвід найбільш вплинув на ваше бачення створення довірчих технологій у великих масштабах?
Від часу, проведеного у компаніях Fortune 50, та роботи на посаді лідера у сфері технологій у стартапах на ранній стадії, середніх та великих публічних та приватних компаніях, я здобув широкий досвід у сфері просування прийняття цифрових трансформацій у різних галузях. Найбільш помітним був мій досвід у DocuSign, де ми націлювалися на ринок, який потребував справжньої зміни. Перехід від аналогових контрактів до повної цифрової трансформації не лише вимагав створення довіри на ринку, але й законодавчих змін для забезпечення безпеки цього переходу. Є багато уроків, пов’язаних з моїм досвідом там, які можна застосувати до сучасного ринку LLM та інструментів штучного інтелекту.
На високому рівні, узгодженість моїх досвідів залишилася постійною: довірчі системи не виникають випадково. Вони виникають з наміреної архітектури, узгодженості даних, прозорості та глибокого розуміння того, як реальні люди використовують технології.
Ви попередили, що до 2026 року техніки вже не прийматимуть системи штучного інтелекту, які просто кажуть: “довірся мені”. З вашої позиції у Accruent, що спричиняє цю зміну очікувань серед фахівців першої лінії та фахівців з обслуговування?
У середовищах, де менеджери об’єктів та техніки використовують штучний інтелект для діагностики несправностей обладнання та керівництва складними ремонтами, помилка з боку хибної або неточної рекомендації може спричинити великі ризики для бізнесу та безпеки.
Часто LLM створюють змішані відповіді з кількох сторінок, не посилаючись на основні докази. Як результат, якщо технік слідує рекомендації, згенерованій штучним інтелектом, яка ніколи не існувала безпосередньо в керівництві виробника, організація може зазнати великої негативної реакції з боку органів контролю, оскільки у них не буде обґрунтованої ланцюжка доказів для аудиту чи перевірки безпеки. Коли штучний інтелект стає звичайним і більш “невидимим” у програмному забезпеченні, важливість відстежуваності зростатиме.
Халюцинації штучного інтелекту можуть бути більш ніж незручністю у регульованих галузях — вони можуть створювати реальні ризики безпеки, відповідності та операційних ризиків. Які сценарії халюцинацій вас найбільш турбують, коли справа стосується технічного обслуговування, управління об’єктами чи операцій з активами?
У виробництві, якщо рекомендація, згенерована штучним інтелектом, каже робітникові на фабриці виконати неправильну дію щодо критичного обладнання, це може призвести до невідкладної зупинки виробництва, марнування матеріалів, дефектних кінцевих продуктів або пошкодження машин. Ці помилки можуть коштувати мільйонів доларів, оскільки виробничі лінії зупиняються або навіть репутаційні втрати, якщо пізніше це призведе до відкликання продукції.
Ці халюцинації від інструментів штучного інтелекту особливо шкідливі для галузей, таких як охорона здоров’я, оскільки відповідальність та життя пацієнтів під загрозою, коли відбувається несправність машини, яка не була належним чином обслугована або виправлена вчасно. Коли ви справляєтеся з галузями, які взаємодіють з реальним світом, виправлення помилок не так просте, як натиснення клавіші “видалити” та початок спочатку.
Ви підкреслили, що кожен вивід штучного інтелекту повинен вказувати на оригінальні джерела — керівництва, таблиці даних, схеми, історичні журнали. Як Accruent проектує системи, які забезпечують відстежуваність та ліквідують “чорні скриньки” відповідей?
Ми забезпечуємо, щоб рекомендації штучного інтелекту могли бути відстежені до значимих точок виводу в джерельному матеріалі, таких як конкретна сторінка керівництва, схема, таблиця даних або запис у журналі, який інформував цю рекомендацію. Наприклад, якщо рекомендації штучного інтелекту кажуть менеджеру об’єкта у сфері охорони здоров’я, як обслуговувати компресор, вони повинні бути能够 відстежити до точного абзацу, який підтримує цей крок за один клік, щоб забезпечити точність. Для закриття зростаючого розриву довіри до сучасного корпоративного штучного інтелекту важливо, щоб ці системи також могли розкрити, які пункти чи сторінки були фактично оцінені, щоб користувачі знали, чи оглядав штучний інтелект всі відповідні документи чи лише їх підмножину.
Багато корпоративних інструментів штучного інтелекту віддають пріоритет швидкості, але регульовані середовища вимагають слідів аудиту, точності документів та верифікованої логіки. Як ви балансуйте інновації з необхідністю прозорості та відповідності?
Вбудовування штучного інтелекту у існуючі робочі процеси є ключем. Це спрощує процес накладення затверджень, документів, процедур технічного обслуговування та перевірок відповідності для посилення відомих практик, а не впровадження нового ізольованого інструменту. Це означає уникнення повної перебудови операцій та дозволяє працівникам продовжувати працювати так, як вони робили раніше, але з автоматизацією ручних, трудомістких процесів.
Техніки у полі залежать від точних інструкцій. Як Accruent підходить до завдання засновування виводів штучного інтелекту на авторитетних джерелах для зменшення ризику та підвищення довіри техніків?
Наш підхід починається з захоплення та організації керівництв, схем, малюнків, договорів оренди та історичних замовлень на роботу, щоб забезпечити, щоб штучний інтелект надавав відповіді з конкретного контенту компанії, а не з загального навчального даних. Коли генеруються процедури, рекомендації чи чек-листи, наші системи розроблені так, щоб кожний крок був відстежуваним до оригінальної документації.
Без цієї функції технікам, які вже обмежені ресурсами, доведеться витрачати ще більше часу на ручне пошукування документів для верифікації точності, що ще більше затримує процеси та замовлення на роботу.
Доставка прозорого, готового до аудиту штучного інтелекту вимагає великих обсягів структурованих даних. Які дані виклики — від неструктурованих документів спадщини до несумісних історій активів — потрібно розв’язати, щоб зробити цю бачення реальністю?
Доставка готового до аудиту штучного інтелекту починається з надійних та добре організованих даних. Однак більшість побудованого середовища все ще існує в аналогових процесах, з ручним введенням даних, сканованими PDF-файлами та ізольованими електронними таблицями. Коли є пробіли у даних та історії активів, які є неповними або несумісними, ризики халюцинації штучного інтелекту зростають. Для того, щоб виводи штучного інтелекту були довірчими у регульованих середовищах, компанії повинні спочатку розв’язати проблеми спадщини даних, від неструктурованих форматів до несумісних історій, відсутності управління, перейшовши до структурованих, версіонованих, централізованих систем документів та даних активів.
Наша система управління інженерними документами (EDMS) може зробити це для кількох галузей, включаючи гірничу промисловість, комунальні послуги, виробництво та інші. Ці галузі часто залежать від фізичних інженерних креслень та документів, які можуть створити нічмар із керуванням версіями. Використання нашої системи EDMS для оцифрування цих документів є першим кроком. Відтоді програмне забезпечення допомагає керувати версіями, управлінням робочого процесу та слідами аудиту, щоб забезпечити ліквідацію несумісностей.
Як штучний інтелект стає частиною технічного обслуговування, управління об’єктами та життєвого циклу активів, де ви бачите найбільші можливості для покращення продуктивності без компрометації безпеки чи нормативних вимог?
Однією з найбільших можливостей є автоматизація монотонних, нецінних завдань для працівників, таких як ручне введення даних та планування замовлень на роботу для техніків. З зовні це здається досить простим, але тимчасовим завданням. Однак штучний інтелект може підходити до цього завдання більш стратегічно.
По-перше, якщо обладнання, яке розглядається, моніториться за допомогою датчиків, замовлення на роботу може бути спровоковано на основі виявлення аномалій, до того, як виникне справжня несправність. По-друге, штучний інтелект може допомогти автоматично пріоритезувати замовлення на роботу за терміновістю та планувати ремонти в часи, які спричиняють мінімальну кількість порушень для бізнесу — він також може зважувати кілька одночасних питань, витрати, безпеки та доходів одночасно для найкращого можливого шляху вперед.
Штучний інтелект має потенціал не просто “допомагати” командам з технічного обслуговування та управління об’єктами — він буде все частіше діяти як цифровий оператор.
Довіра стає новими основними вимогами для корпоративного штучного інтелекту. Що, на вашу думку, постачальники повинні робити інакше протягом наступних двох років, щоб здобути — і зберегти — цю довіру?
Постачальники повинні припинити припускати, що клієнти просто “довірять моделі”, коли справа стосується корпоративного штучного інтелекту. Рекомендації від штучного інтелекту повинні показувати докази того, як вони були сгенеровані. Одним із способів звернення до цього є посилання та чіткі описи тих документів, які штучний інтелект переглядав чи ні. Наприклад, якщо працівник просить штучний інтелект проаналізувати 1000 договорів оренди, вони повинні знати явно, чи оглядав він усі 1000 чи лише 700, і чому або чому ні.
Як частина цього, найважливішим фактором, який постачальники повинні пріоритезувати, є прозорість у використанні даних. Це включає ясність щодо того, хто бачить дані, як вони використовуються (включаючи будь-які наслідки навчання), та як вони ізолюються чи відокремлюються від середовищ інших клієнтів.
У найближчі два роки здобуття довіри буде найважливішим, і постачальники можуть здобути верхню руку, будучи явними щодо обмежень інструментів штучного інтелекту, залишаючи людей у циклі для високоризикових рішень та починаючи з вузьких, добре визначених випадків використання, які доставляють відчутну цінність без розміщення клієнтів у ситуації “чорної скриньки”.
Оглянувшись вперед, як ви бачите еволюцію штучного інтелекту у критичних операціях, і яку роль, на вашу думку, Accruent зіграє у встановленні галузевих стандартів для довірчих, прозорих систем штучного інтелекту?
Штучний інтелект у критичних операціях швидко еволюціонує від ізольованих автоматизацій окремих завдань до інтелектуальних, багатокомпонентних систем, які можуть координувати та оптимізувати цілі робочі процеси. Замість того, щоб просто допомагати користувачам, штучний інтелект буде забезпечувати автономну підтримку рішень, безперервно моніторити операційні умови, передбачати ризики та рекомендувати дії з повною прозорістю та відстежуваністю. Коли штучний інтелект навчиться поєднувати неструктуровані документи, структуровані операційні дані та реальні сигнали, він стане вбудованим безпосередньо у щоденні процеси, забезпечуючи швидші, безпечніші та більш надійні результати.
З часом це дозволить здійснити перехід до автономних операцій, де системи зможуть самозмінюватися та самокорегуватися, тоді як люди будуть зосереджені на нагляді та стратегічному прийнятті рішень. Як лідер ринку, Accruent допоможе встановити галузеві стандарти для довірчих та прозорих систем штучного інтелекту, вбудовуючи аудитність, пояснюваність та сильне управління у свою платформу, а також співпрацюючи з клієнтами, партнерами та регулюючими органами для визначення найкращих практик для безпечного розгортання у критичних середовищах.
Дякуємо за чудове інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Accruent.
