Арон Ингленд, главный директор по продукту и технологиям в Accruent – Интервью

Арон Ингленд, главный директор по продукту и технологиям в Accruent, является опытным технологическим и продуктовым лидером, известным созданием и масштабированием глобальных команд, которые поставляют решения SaaS и агентские решения от ранних исследований до высокорослых, ориентированных на клиентов продуктов. Он сочетает глубокую экспертизу на потребительских рынках, B2B SaaS, электронной коммерции и коммерческой технологии с сильным лидерством среди людей, сочетая инновации с острым пониманием проблем клиентов, чтобы обеспечить прочную продукционную рыночную привлекательность и измеримые бизнес-результаты, включая рост за счет приобретений и стратегии, основанной на интеллектуальной собственности.

Accruent предоставляет программное обеспечение, которое помогает организациям более эффективно управлять физической стороной своего бизнеса, объединяя инструменты для объектов, активов, пространства и операций на рабочем месте в одну связанную систему. Ее платформа предназначена для снижения фрагментации, улучшения видимости и принятия решений, а также для помощи командам в планировании, обслуживании и оптимизации зданий и оборудования в широком спектре отраслей.

Вы построили и возглавили высокоэффективные глобальные команды более 25 лет. Оглядываясь назад на стартапы, крупные корпорации и теперь Accruent, какой поворотный опыт наиболее сформировал ваше мышление о построении заслуживающей доверия технологии в масштабе?

Из опыта работы в компаниях Fortune 50 и технологического лидерства на ранних стадиях стартапов, средних и более крупных публичных и частных компаний, я получил широкий спектр опыта в продвижении принятия цифровой трансформации в различных отраслях. Наиболее заметно, я был сотрудником номером девять в DocuSign, и мы нацеливались на рынок, который нуждался в真正ем изменении. Пробивание аналоговой отрасли контрактов через полную цифровую трансформацию не только требовало построения доверия на рынке, но и законодательства, чтобы сделать сдвиг безопасным. Есть много уроков, связанных с моим временем там, которые могут быть применены к текущему рынку для инструментов LLM и ИИ.

На высоком уровне, закономерность на протяжении моего опыта оставалась последовательной: заслуживающие доверия системы не возникают случайно. Они возникают из намеренной архитектуры, согласованности данных, прозрачности и глубокого понимания того, как реальные люди используют технологию.

Вы предупредили, что к 2026 году техники больше не будут принимать системы ИИ, которые просто говорят: «доверьтесь мне». С вашей точки зрения в Accruent, что движет этим сдвигом в ожиданиях среди профессионалов первой линии и полевых сервисных специалистов?

В средах, где менеджеры объектов и техники используют ИИ для диагностики неисправностей оборудования и руководства сложными ремонтами, промах от ложного или неточного рекомендации может вызвать значительные бизнес- и безопасные риски.

Часто ИИ создает смешанные ответы из нескольких страниц, не ссылаясь на основные доказательства. В результате, если техник следует ИИ-генерированному шагу, который никогда напрямую не существовал в руководстве OEM, организация может столкнуться с значительной реакцией на соблюдение нормативных требований, поскольку у них не будет обоснованной цепочки доказательств для аудитов или проверок безопасности. Когда ИИ становится само собой разумеющимся и более «невидимым» в программном обеспечении, важность отслеживаемости будет расти.

Галлюцинации ИИ могут быть более чем неудобством в регулируемых отраслях — они могут создавать реальные риски безопасности, соблюдения и эксплуатации. Какие сценарии галлюцинаций беспокоят вас больше всего, когда речь идет об обслуживании, управлении объектами или эксплуатации активов?

В производстве, если ИИ-генерированное предложение говорит рабочему на заводе выполнить неправильное действие на критическом оборудовании, это может привести к незапланированному простою, потере материалов, дефектным конечным продуктам или поврежденному оборудованию. Эти могут быть ошибки стоимостью миллионы долларов, когда производственные линии стоят на месте или даже ущерб репутации, если позже это приведет к отзывам.

Эти галлюцинации от инструментов ИИ также особенно вредны для отраслей, таких как здравоохранение, где ответственность и жизнь пациентов находятся под угрозой, когда происходит сбой машины, который не был должным образом обслужен или исправлен вовремя. Когда вы имеете дело с отраслями, которые взаимодействуют с реальным миром, исправление ошибок не так просто, как нажатие кнопки «удалить» и начало заново.

Вы подчеркнули, что каждый выход ИИ должен указывать на исходные источники — руководства, таблицы данных, схемы, исторические журналы. Как Accruent проектирует системы, обеспечивающие отслеживаемость и исключающие «черные ящики» ответов?

Мы гарантируем, что рекомендации ИИ можно отслеживать до значимых точек вывода в исходном материале, таком как конкретная страница руководства, схема, таблица данных или запись журнала, которая проинформировала предложение. Например, если рекомендации ИИ говорят менеджеру объекта в здравоохранении, как обслужить компрессор, они должны быть в состоянии отслеживать обратно к точному абзацу, который поддерживает этот шаг в один клик, чтобы обеспечить точность. Чтобы закрыть растущий разрыв доверия в современном корпоративном ИИ, важно, чтобы эти системы также были способны раскрыть, какие точки или страницы были фактически оценены, чтобы пользователи знали, рассмотрел ли ИИ все соответствующие документы или только подмножество.

Многие корпоративные инструменты ИИ отдают приоритет скорости, но регулируемые среды требуют аудиторских отчетов, точности документации и проверяемой аргументации. Как вы балансируете инновации с необходимостью прозрачности и соблюдения?

Встраивание ИИ в существующие рабочие процессы — это ключ. Это упрощает процесс добавления одобрений, документации, рутинного обслуживания и проверок соблюдения для дополнения известных практик, а не реализации нового изолированного инструмента. Это означает избежание полного пересмотра операций и разрешение сотрудникам продолжать работать так, как они работали, но с ручными, трудоемкими процессами, которые становятся автоматизированными.

Техники в поле полагаются на точные инструкции. Как Accruent подходит к задаче обоснования выходов ИИ в авторитетном исходном материале для снижения риска и повышения уверенности техников?

Наш подход начинается с захвата и организации руководств, схем, чертежей, договоров аренды и исторических рабочих заказов, чтобы обеспечить, что ИИ предоставляет ответы из конкретного контента компании, а не из общих данных обучения. Когда генерируются процедуры, рекомендации или контрольные списки, наши системы спроектированы так, чтобы каждый шаг был отслеживаемым обратно к исходной документации.

Без этой функции техники, которые уже испытывают нехватку ресурсов, должны были бы тратить еще больше времени на ручной поиск документов, чтобы проверить точность, что еще больше задержит процессы и рабочие заказы.

Доставка прозрачных, готовых к аудиту ИИ требует больших объемов структурированных данных. Какие проблемы с данными — от неструктурированных наследственных документов до несоответствующих историй активов — необходимо решить, чтобы сделать это видение реальным?

Доставка готового к аудиту ИИ начинается с надежных и хорошо организованных данных. Однако большинство построенной среды все еще живет в аналоговых процессах, с ручными вводами данных, сканированными PDF и изолированными электронными таблицами. Когда есть пробелы в данных и истории активов, которые являются неполными или несоответствующими, риски галлюцинации ИИ увеличиваются. Чтобы сделать выходы ИИ заслуживающими доверия в регулируемых средах, компании должны сначала решить проблемы наследственных данных, от неструктурированных форматов до несоответствующих историй, до отсутствия управления, мигрируя в структурированные, контролируемые версии, централизованные системы документов и данных активов.

Наша система управления документами (EDMS) может сделать это для нескольких отраслей, включая горнодобывающую, коммунальную, производственную и другие. Эти отрасли часто полагаются на физические инженерные чертежи и документацию, которые могут создавать кошмары контроля версий. Использование нашего решения EDMS для оцифровки этих документов — это первый шаг. Оттуда программное обеспечение помогает управлять контролем версий, управлением рабочим процессом и аудиторскими отчетами, чтобы обеспечить, что несоответствия исключены.

Когда ИИ становится встроенным в техническое обслуживание, объекты и управление жизненным циклом активов, где вы видите самые большие возможности для повышения производительности без компрометации безопасности или нормативных требований?

Одной из самых больших возможностей является автоматизация скучных, не добавляющих ценности задач для сотрудников, таких как ручной ввод данных и планирование рабочих заказов для техников. Снаружи кажется, что это относительно простая, но трудоемкая задача. Однако ИИ может подойти к этой задаче более стратегически.

Сначала, если оборудование, о котором идет речь, контролируется датчиками, рабочий заказ может быть запущен на основе обнаружения аномалий, прежде чем произойдет реальный сбой. Во-вторых, ИИ может помочь автоматически расставлять приоритеты рабочих заказов на основе срочности и планировать ремонты в моменты, которые вызывают наименьшее количество сбоев для бизнеса — он также может взвешивать несколько одновременных проблем, затраты, безопасность и доход для лучшего пути вперед.

ИИ имеет потенциал не просто «помогать» командам технического обслуживания и объектов — он будет все больше действовать как цифровой оператор.

Доверие становится новыми ставками для корпоративного ИИ. Что, по вашему мнению, поставщикам необходимо сделать по-другому в течение следующих двух лет, чтобы заслужить — и сохранить — это доверие?

Поставщикам необходимо перестать предполагать, что клиенты просто «доверяют модели», когда речь идет о корпоративном ИИ. Рекомендации ИИ должны показать доказательства того, как они были сгенерированы. Одним из способов решить эту проблему является предоставление цитат и ясных описаний документов, которые ИИ оценил. Например, если сотрудник просит ИИ проанализировать 1000 договоров аренды, он должен знать явно, оценил ли ИИ все 1000 или только 700, и почему или почему нет.

В рамках этого верхний фактор, который поставщики должны отдавать приоритет, — это прозрачность в использовании данных. Это включает ясность о том, кто видит данные, как они используются (включая любые последствия для обучения), и как они изолированы или разделены от сред других клиентов.

В течение следующих двух лет заработать доверие будет иметь первостепенное значение, и поставщики могут получить верхнюю руку, будучи явными о ограничениях инструментов ИИ, сохраняя людей в цикле для высокорисковых решений и начиная с узких, хорошо определенных случаев использования, которые доставляют осязаемую ценность без помещения клиентов в ситуацию «черного ящика».

Оглядываясь вперед, как вы видите эволюцию ИИ в миссионно-критических операциях, и какую роль, по вашему мнению, Accruent будет играть в установлении отраслевых стандартов для заслуживающего доверия, прозрачного ИИ?

ИИ в миссионно-критических операциях быстро эволюционирует от изолированных автоматизаций отдельных задач в интеллектуальные, многоагентные системы, которые могут координировать и оптимизировать целые рабочие процессы. Вместо того, чтобы просто помогать пользователям, ИИ будет предоставлять автономную поддержку принятия решений, непрерывно контролировать операционные условия, прогнозировать риски и рекомендовать действия с полной прозрачностью и отслеживаемостью. Когда ИИ учится сочетать неструктурированные документы, структурированные операционные данные и реальные сигналы, он станет встроенным непосредственно в повседневные процессы, стимулируя более быстрые, безопасные и надежные результаты.

Со временем это позволит перейти к автономным операциям, где системы могут самооптимизироваться и самоисправляться, а люди будут сосредоточены на надзоре и стратегическом принятии решений. Как лидер рынка, Accruent поможет установить отраслевые стандарты для заслуживающего доверия и прозрачного ИИ, встраивая аудиторские возможности, объяснимость и сильное управление в свою платформу, а также сотрудничая с клиентами, партнерами и регулирующими органами, чтобы определить лучшие практики для безопасного развертывания в миссионно-критических средах.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Accruent.