Aron England, Chief Product & Technology Officer at Accruent – Wywiad z serii

Aron England, Chief Product and Technology Officer at Accruent, to doświadczony lider technologii i produktów, znany z budowania i skalowania globalnych zespołów, które dostarczają rozwiązania SaaS i agencje od wczesnych badań po produkty o wysokim wzroście, skierowane do klientów. Łączy głęboką wiedzę na temat rynków konsumenckich, B2B SaaS, e-commerce i technologii komercyjnych z silnym przywództwem ludzi, łącząc innowacje z głębokim zrozumieniem problemów klientów, aby napędzać trwałe dopasowanie produktu do rynku i wymierne wyniki biznesowe, w tym wzrost poprzez przejęcia i strategię opartą na IP.

Accruent dostarcza oprogramowanie, które pomaga organizacjom zarządzać fizyczną stroną swojego biznesu w sposób bardziej efektywny, łącząc narzędzia dla obiektów, aktywów, przestrzeni i operacji w miejscu pracy w jednym połączonym systemie. Jego platforma jest zaprojektowana w celu redukcji fragmentacji, poprawy widoczności i podejmowania decyzji, oraz pomocy zespołom w planowaniu, utrzymaniu i optymalizacji budynków i sprzętu w różnych branżach.

Zbudowałeś i prowadziłeś wysoko wydajne zespoły globalne przez ponad 25 lat. Spoglądając wstecz na startupy, duże przedsiębiorstwa i teraz Accruent, jaki kluczowy doświadczenie najbardziej ukształtowało Twoje myślenie o budowaniu godnych zaufania technologii na dużą skalę?

Przez spędzanie czasu w firmach z listy Fortune 50 i pracę w kierownictwie technologicznym na wczesnym etapie startupów, średnich i większych publicznych i prywatnych firm, zdobyłem szeroki zakres doświadczenia w promowaniu adopcji transformacji cyfrowej w różnych branżach. Najbardziej godne uwagi było to, że byłem dziewiątym pracownikiem w DocuSign i celowaliśmy w rynek, który potrzebował prawdziwej zmiany. Przenoszenie gałęzi przemysłu kontraktów z analogowych na całkowicie cyfrowe nie wymagało tylko budowania zaufania na rynku, ale także ustawodawstwa, aby uczynić ten przełom bezpiecznym. Istnieje wiele lekcji związanych z moim czasem tam, które mogą być zastosowane do obecnego rynku dla LLM i narzędzi AI.

Na wysokim poziomie, wzorzec w moim doświadczeniu pozostał spójny: godne zaufania systemy nie pojawiają się przypadkowo. Pochodzą one z intencjonalnej architektury, spójności danych, przejrzystości i głębokiego zrozumienia, jak ludzie używają technologii.

Ostrzegałeś, że do 2026 roku technicy nie będą już akceptować systemów AI, które mówią tylko „zaufaj mi”. Z Twojego punktu widzenia w Accruent, co powoduje tę zmianę oczekiwań wśród profesjonalistów z pierwszej linii i serwisu?

W środowiskach, w których menedżerowie obiektów i technicy wykorzystują AI do diagnozowania awarii sprzętu i prowadzenia skomplikowanych napraw, nieprawidłowy krok z fałszywej lub nieprecyzyjnej rekomendacji może spowodować duże ryzyko biznesowe i bezpieczeństwa.

Często LLM tworzą odpowiedzi mieszane z wielu stron, bez odniesienia do podstawowych dowodów. W rezultacie, jeśli technik postępuje zgodnie z wygenerowanym przez AI krokiem, który nie istniał bezpośrednio w instrukcji producenta, organizacja może spotkać się z poważnymi konsekwencjami związanymi z zgodnością, ponieważ nie będą mieli defensywnego łańcucha dowodów na audyty lub przeglądy bezpieczeństwa. Im bardziej AI staje się standardem i bardziej „niewidoczne” w oprogramowaniu, tym bardziej będzie rosła ważność śladów.

Hallucynacje AI mogą być więcej niż niedogodnością w branżach regulowanych — mogą tworzyć prawdziwe ryzyka bezpieczeństwa, zgodności i operacyjne. Jakie scenariusze hallucynacji najbardziej Cię niepokoją, gdy chodzi o konserwację, zarządzanie obiektami lub operacje aktywów?

W produkcji, jeśli sugestia wygenerowana przez AI powie pracownikowi fabryki, aby podjął niewłaściwe działanie na krytycznym sprzęcie, może to skutkować nieplanowanym przestojem, zmarnowanym materiałem, wadliwymi produktami końcowymi lub uszkodzonym sprzętem. Te hallucynacje z narzędzi AI są szczególnie szkodliwe dla branż takich jak opieka zdrowotna, gdzie odpowiedzialność i życie pacjentów są zagrożone, gdy dochodzi do awarii maszyny, które nie zostały odpowiednio utrzymane lub naprawione na czas.

Gdy zajmujesz się branżami, które oddziałują na świat rzeczywisty, naprawa błędów nie jest tak prosta, jak kliknięcie „usuń” i rozpoczęcie od nowa.

Podkreślałeś, że każde wyjście AI musi wskazywać na oryginalne źródła — instrukcje, tabele danych, diagramy, historyczne logi. Jak Accruent projektuje systemy, które zapewniają ślad i eliminują „czarne skrzynki” odpowiedzi?

Zapewniamy, że rekomendacje AI mogą być śledzone do punktów wyjściowych w ich materiałach źródłowych, takich jak konkretna strona instrukcji, diagram, tabela danych lub log, który poinformował o sugestii. Na przykład, jeśli rekomendacje AI powiedzą menedżerowi obiektu w opiece zdrowotnej, jak obsłużyć sprężarkę, powinni oni móc śledzić do konkretnego akapitu, który wspiera ten krok w jednym kliknięciu, aby zapewnić dokładność. Aby zamknąć rosnącą lukę zaufania w dzisiejszym przedsiębiorstwie AI, ważne jest, aby te systemy były w stanie ujawnić, które punkty lub strony zostały rzeczywiście ocenione, aby użytkownicy wiedzieli, czy AI przejrzał wszystkie istotne dokumenty, czy tylko podzbiór.

Wiele narzędzi AI dla przedsiębiorstw priorytetem jest szybkość, ale środowiska regulowane wymagają śladów audytowych, dokładności dokumentacji i weryfikowalnych powodów. Jak balansujesz innowacje z potrzebą przejrzystości i zgodności?

Wbudowywanie AI w istniejące procesy robocze jest kluczem. To upraszcza proces nakładania zatwierdzeń, dokumentacji, rutyn konserwacyjnych i kontroli zgodności, aby uzupełnić znane praktyki, zamiast wdrażać nowe, izolowane narzędzie. Oznacza to unikanie całkowitej przebudowy operacji i pozwalanie pracownikom na kontynuowanie pracy w taki sam sposób, jak dotąd, ale z ręcznymi, czasochłonnymi procesami stającymi się zautomatyzowanymi.

Technicy w terenie polegają na precyzyjnych instrukcjach. Jak Accruent podejmuje wyzwanie ugruntowania wyjść AI w autorytatywnym materiale źródłowym, aby zmniejszyć ryzyko i poprawić zaufanie technika?

Nasze podejście rozpoczyna się od przechwytywania i organizowania instrukcji, diagramów, rysunków, umów najmu i historycznych zamówień roboczych, aby upewnić się, że AI dostarcza odpowiedzi z konkretnego contenu klienta, a nie z ogólnych danych szkoleniowych. Podczas generowania procedur, rekomendacji lub list kontrolnych, nasze systemy są zaprojektowane tak, aby każdy krok mógł być śledzony do oryginalnej dokumentacji.

Bez tej funkcji technicy, którzy są już ograniczeni zasobami, musieliby poświęcić jeszcze więcej czasu na ręczne przeszukiwanie dokumentów, aby zweryfikować dokładność, co jeszcze bardziej opóźniłoby procesy i zamówienia robocze.

Dostarczanie przejrzystego, gotowego do audytu AI wymaga dużych ilości zorganizowanych danych. Jakie wyzwania związane z danymi — od niesformatowanych dokumentów legacy do niekonsekwentnych historii aktywów — muszą być rozwiązane, aby uczynić tę wizję rzeczywistością?

Dostarczanie gotowego do audytu AI zaczyna się od niezawodnych i dobrze zorganizowanych danych. Jednak większość środowiska budowlanego nadal opiera się na procesach analogowych, z ręcznymi wpisami danych, zeskanowanymi plikami PDF i rozproszonymi arkuszami kalkulacyjnymi. Gdy są luki w danych i historie aktywów, które są niekompletne lub niekonsekwentne, ryzyko hallucynacji AI rośnie. Aby uczynić wyjścia AI godnymi zaufania w środowiskach regulowanych, firmy muszą najpierw rozwiązać problemy z danymi legacy, od niesformatowanych formatów po niekonsekwentne historie, brak zarządzania, migrując do sformatowanych, kontrolowanych wersji, scentralizowanych systemów dokumentów i danych aktywów.

Nasze EDMS (System Zarządzania Dokumentami Inżynierskimi) może to zrobić dla wielu branż, w tym górnictwa, użyteczności, produkcji i więcej. Te branże często polegają na fizycznych rysunkach inżynierskich i dokumentacji, co może tworzyć koszmary z kontrolą wersji. Używanie naszego rozwiązania EDMS do cyfryzacji tych dokumentów jest pierwszym krokiem. Następnie oprogramowanie pomaga zarządzać kontrolą wersji, zarządzaniem przepływem pracy i śladami audytowymi, aby upewnić się, że niekonsekwencje są wyeliminowane.

Podczas gdy AI staje się wbudowane w konserwację, zarządzanie obiektami i zarządzanie cyklem życia aktywów, gdzie widzisz największe możliwości poprawy produktywności bez kompromisowania bezpieczeństwa lub wymagań regulacyjnych?

Jedną z największych możliwości jest zautomatyzowanie monotonnych, niewartościowych zadań dla pracowników, takich jak ręczne wprowadzanie danych i planowanie zamówień roboczych dla techników. Z zewnątrz wydaje się to relativnie łatwe, ale czasochłonne zadanie. Jednak AI może podejść do tego zadania w sposób bardziej strategiczny.

Po pierwsze, jeśli sprzęt w question jest monitorowany za pomocą czujników, zamówienie robocze może być wyzwane na podstawie wykrycia anomalii, zanim wystąpi jakikolwiek prawdziwy awaria. Po drugie, AI może pomóc w automatycznym priorytetowaniu zamówień roboczych na podstawie pilności i planowaniu napraw w czasie, który powoduje najmniejsze zakłócenia dla biznesu — może również ważyć wiele jednoczesnych problemów, kosztów, bezpieczeństwa i przychodu na raz, aby znaleźć najlepszą drogę do przodu.

AI ma potencjał, aby nie tylko „pomagać” zespołom konserwacyjnym i obiektowym — będzie coraz częściej działać jako cyfrowy operator.

Zaufanie staje się nowym standardem dla przedsiębiorstw AI. Co, według Ciebie, dostawcy będą musieli zrobić inaczej w ciągu najbliższych dwóch lat, aby zdobyć — i utrzymać — to zaufanie?

Dostawcy muszą przestać zakładać, że klienci po prostu „zaufają modelowi” w przypadku przedsiębiorstw AI. Rekomendacje z AI muszą pokazać dowód, w jaki sposób zostały wygenerowane. Jednym ze sposobów rozwiązania tego problemu jest w postaci cytatów i jasnych opisów, które dokumenty AI sprawdził i które nie. Na przykład, jeśli pracownik poprosi AI o analizę 1000 umów, powinien wiedzieć wyraźnie, czy AI ocenił wszystkie 1000, czy tylko 700, i dlaczego lub dlaczego nie.

Jako część tego, najważniejszym czynnikiem, którym dostawcy powinni nadać priorytet, jest przejrzystość w użyciu danych. Obejmuje to jasność co do tego, kto widzi dane, w jaki sposób są one używane (w tym wszelkie implikacje szkoleniowe), oraz jak są one oddzielone lub izolowane od środowisk innych klientów.

W ciągu najbliższych dwóch lat, zdobycie zaufania będzie miało najwyższą wagę, a dostawcy mogą uzyskać przewagę, będąc wyraźnymi w odniesieniu do ograniczeń narzędzi AI, utrzymując ludzi w pętli decyzyjnej dla wysokiego ryzyka decyzji i rozpoczynając od wąskich, dobrze określonych przypadków użycia, które dostarczają namacalną wartość bez umieszczania klientów w sytuacji „czarnej skrzynki”.

Spoglądając w przyszłość, jak widzisz ewolucję AI w operacjach o kluczowym znaczeniu, i jaką rolę oczekujesz, że Accruent odegra w ustanowieniu standardów branżowych dla godnych zaufania, przejrzystych AI?

AI w operacjach o kluczowym znaczeniu ewoluuje szybko z izolowanych, pojedynczych zadań automatyzacji w inteligentne, wieloagentowe systemy, które mogą koordynować i optymalizować całe procesy robocze. Zamiast po prostu asystować użytkownikom, AI będzie dostarczać autonomiczne wsparcie decyzyjne, ciągle monitorować warunki operacyjne, przewidywać ryzyka i rekomendować działania z pełną przejrzystością i śladami. Gdy AI uczy się łączyć niesformatowane dokumenty, sformatowane dane operacyjne i sygnały w czasie rzeczywistym, stanie się wbudowane bezpośrednio w codzienne procesy, napędzając szybsze, bezpieczniejsze i bardziej niezawodne wyniki.

Z czasem to umożliwi przejście w kierunku autonomicznych operacji, gdzie systemy mogą samodzielnie optymalizować i samokorygować, podczas gdy ludzie koncentrują się na nadzorze i strategicznym podejmowaniu decyzji. Jako lider rynkowy, Accruent pomoże ustanowić standardy branżowe dla godnych zaufania i przejrzystych AI, wbudowując audytowalność, wyjaśnialność i silne zarządzanie do swojej platformy oraz współpracując z klientami, partnerami i organami regulacyjnymi, aby zdefiniować najlepsze praktyki dla bezpiecznego wdrożenia w środowiskach o kluczowym znaczeniu.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Accruent.