Андрей Кулик, сооснователь XENOM — серия интервью

Андрей Кулик — сооснователь и генеральный директор XENOM. Он применяет в промышленности свой опыт в области ИИ непосредственно на устройствах, распределённых систем и машинного обучения. Ранее он стал сооснователем AIMatter, которую приобрела Google, а также работал в Google над системами ИИ для потребительских устройств. В своей карьере он стремился обеспечить надёжную работу сложных систем ИИ с учётом практических ограничений реального оборудования и условий его эксплуатации.

XENOM разрабатывает промышленную платформу на основе ИИ, которая объединяет программное обеспечение и умные средства защиты, предоставляя операторам актуальную информацию о происходящем на рабочих площадках. Система объединяет данные о местоположении, средства связи сотрудников, информацию с датчиков окружающей среды и данные о безопасности. В этом интервью Кулик рассказывает о периферийном ИИ, умных касках, контроле со стороны человека, конфиденциальности данных работников и переходе от промышленного мониторинга к поддержке прогнозных решений.

Ранее вы стали сооснователем AIMatter, которую приобрела Google, и много лет разрабатывали системы ИИ, предназначенные для работы непосредственно на потребительских устройствах. Что вдохновило вас на создание XENOM и как опыт работы в Google повлиял на ваше видение применения ИИ в промышленной среде?

После приобретения компании я много лет занимался одной конкретной задачей: как обеспечить надёжную работу сложного ИИ на устройстве, которое помещается в кармане, при ограниченном заряде батареи, непредсказуемом подключении к сети и в реальных условиях, которые невозможно полностью смоделировать в лаборатории. Мы внедрили эти решения в телефоны, очки и наушники — миллиарды устройств. В какой-то момент я задумался, где ещё такая архитектура могла бы принести пользу. Потребительские устройства удобны, но именно на промышленных объектах цена неверного решения — или его отсутствия — измеряется человеческими жизнями и миллионами в виде потерь производительности. На большинстве промышленных объектов до сих пор нет актуальной картины происходящего. Этот пробел показался мне именно той задачей, для решения которой и создавалась технология, над которой мы работали много лет.

XENOM объединяет программное обеспечение на основе ИИ и умные средства защиты, обеспечивая актуальное представление о происходящем на промышленных объектах. Какие основные пробелы есть в традиционных системах промышленной безопасности и как ваша платформа решает задачи, с которыми обычные технологии мониторинга справляются с трудом?

Главная проблема в том, что большинство систем предназначено для регистрации уже произошедших событий, а не для их предотвращения. Данные о местоположении работника обновляются раз в несколько минут. Табели заполняют в конце смены. Нарушения требований безопасности фиксируют после подачи отчёта об инциденте. К тому времени, когда руководитель видит эти данные, смена уже заканчивается или несчастный случай уже произошёл. Второй пробел — разрозненность систем: у компании может быть система контроля загазованности, отдельная система контроля доступа, бумажный чек-лист средств индивидуальной защиты и ручной учёт рабочего времени — и ни одна из этих систем не взаимодействует с другими. XENOM заменяет всё это единым непрерывным потоком данных с объекта, который обрабатывается в реальном времени и даёт руководителю целостное представление о происходящем вместо пяти разрозненных картин.

Большая часть вашей карьеры связана с оптимизацией машинного обучения и инференса больших языковых моделей для устройств с ограниченными ресурсами. Как вы применяете эти принципы в промышленной среде и в чём технические преимущества обработки задач ИИ на периферии по сравнению с использованием облачной инфраструктуры?

Работа с устройствами, располагающими ограниченными ресурсами, приучает к строгой дисциплине: каждый миллисекундный интервал, каждый милливатт и каждый байт должны быть оправданы. Именно такой подход необходим при разработке промышленной каски: её носят целую смену, и она должна работать одинаково стабильно как на одиннадцатом часу, так и на первом. Мы намеренно разделяем задачи: требующие быстрого реагирования и интенсивной обработки данных — например, обработка голосового потока и сигналов датчиков, обнаружение падений и ударов — выполняются на нейропроцессоре (NPU) в каске с помощью моделей, сжатых и настроенных для этого оборудования. Общая картина происходящего на объекте и более глубокая аналитика формируются на стороне платформы.

Периферийная обработка даёт нам четыре практических преимущества. Первое — скорость: устройство немедленно реагирует на событие, не обращаясь к серверу и не дожидаясь ответа. Второе — надёжность: компактная модель на устройстве работает предсказуемо, а каждое дополнительное звено в цепочке — ещё одна точка отказа. Третье — снижение нагрузки на сеть: сотни касок не могут непрерывно передавать необработанные аудиоданные и сигналы датчиков, поэтому каждая отправляет результат анализа. Четвёртое — увеличение времени работы от батареи: передача данных относится к самым энергозатратным операциям устройства, поэтому локальная обработка и отправка меньшего объёма данных продлевают время работы.

XENOM разработала умные каски, объединяющие средства определения местоположения и связи, датчики окружающей среды и возможности ИИ. Какие инженерные задачи было сложнее всего решить при объединении этих технологий, особенно в условиях, когда связь, время работы от батареи и надёжность непредсказуемы?

Самой сложной задачей была не какая-то отдельная технология, а необходимость обеспечить их надёжную совместную работу в одном устройстве в условиях, которые вывели бы из строя большинство потребительской электроники. На промышленных объектах грязно, тяжело физически и бывают экстремальные температуры. Шлем роняют, он попадает под дождь, его носят по двенадцать часов подряд. Время автономной работы становится серьёзным ограничением, когда одновременно используются позиционирование, датчики, связь и ИИ-инференс. Кроме того, есть архитектура связи: нам требовалось бесшовное переключение между спутниковым позиционированием RTK на открытом воздухе и нашей собственной внутренней ячеистой сетью UWB — без потери точности, когда работник переходит из одной зоны в другую. Обеспечить автоматический, надёжный переход в реальном времени было одной из наиболее сложных с технической точки зрения задач, которые мы решали.

Ваша команда разработала модель голосового ИИ, способную выявлять по речи признаки алкогольного опьянения; по сообщаемым вами показателям она превосходит результаты предыдущих академических исследований. Какие технические прорывы сделали это возможным и как вы проверяете надёжность системы при работе с разными языками, акцентами, уровнями фонового шума и в реальных рабочих условиях?

Ключевая идея заключалась в том, что опьянение оставляет заметный след в микропаттернах речи — не в словах, а в акустических характеристиках: темпе, изменчивости высоты голоса, чёткости артикуляции. Мы создали модель, которая анализирует эти паттерны в фоновом режиме во время обычного голосового общения, не требуя от работника проходить отдельную проверку или предпринимать какие-либо действия. Показатель точности 86,7% был получен в ходе строгого тестирования на соответствие опубликованным академическим наборам данных. Для проверки в реальных условиях мы тестируем модель на разных языках и акцентах, а также при фоновом шуме, характерном для действующих промышленных объектов: шуме тяжёлой техники, ветре и одновременной речи нескольких человек. Модель должна была быть достаточно надёжной, чтобы работать в условиях, совершенно не похожих на контролируемое исследование. Для этого потребовались разнообразные обучающие данные и многократные итерации.

Системы ИИ, предназначенные для выявления признаков опьянения или усталости у работников, вызывают серьёзные вопросы о ложноположительных результатах и ответственности. Как XENOM сочетает раннее выявление рисков с необходимостью проверки человеком и какие меры защиты не позволяют ошибочной оценке ИИ несправедливо повлиять на работника?

Мы очень тщательно обдумывали этот вопрос с самого начала. Система должна сообщать руководителю о возможной проблеме, а не предпринимать самостоятельные действия. Оценка ИИ, указывающая на возможное опьянение, запускает проверку человеком: руководитель может непосредственно понаблюдать за работником, задать ему вопросы или при необходимости попросить пройти физический тест. ИИ не отстраняет человека от работы на объекте. Он предоставляет руководителю информацию, необходимую для более оперативного решения, чем тот принял бы без неё. Мы также отслеживаем частоту ложноположительных результатов при внедрении и постоянно совершенствуем модель. Наша цель — сократить число происшествий, которые случаются потому, что никто ничего не заметил, а не создать систему, которая наказывает работников, опираясь исключительно на алгоритм.

До основания XENOM вы занимали должность технического директора OneSoil, где применяли компьютерное зрение и машинное обучение для мониторинга сельского хозяйства и анализа производительности. Какие уроки, полученные при внедрении ИИ в сельском хозяйстве, оказались наиболее ценными при создании интеллектуальных систем для строительных площадок, шахт, портов и энергетических объектов?

Внедрение ИИ в физическом мире — задача принципиально иная, чем внедрение программного обеспечения. Приходится иметь дело с изменчивостью условий, оборудованием, которое каждый раз ведёт себя по-разному, и операторами, которые десятилетиями выполняют свою работу и с большим недоверием относятся ко всему, что предлагает им действовать иначе. На промышленных объектах ситуация та же. Технология должна заслужить доверие, стабильно оправдывая ожидания чаще, чем люди предполагают, и быть достаточно простой, чтобы руководитель команды из пятидесяти человек мог пользоваться ею без обучения. Ещё один урок: качество данных, собираемых на местах, почти всегда хуже, чем вы рассчитывали. Нужно создавать системы, устойчивые к шуму, пробелам и нестандартным ситуациям, которые никогда не встречаются в чистом наборе данных.

Промышленные платформы ИИ могут собирать подробные сведения о местонахождении работников, их деятельности, коммуникациях и производительности. Как вы подходите к вопросам конфиденциальности данных, согласия сотрудников и возможного надзора на рабочем месте, обеспечивая при этом реальное повышение безопасности и операционной эффективности благодаря этим технологиям?

Мы рассматриваем этот вопрос с точки зрения ограничения целей использования данных. XENOM собирает данные для обеспечения безопасности и контроля производственных процессов, а не для слежки за производительностью; использовать их для этой цели не следует. Перед внедрением мы вместе с операторами определяем чёткие правила управления данными: что собирается, как долго хранится, кто имеет к ним доступ и при каких обстоятельствах они могут использоваться при принятии кадровых решений. Данные о местонахождении работников агрегируются и обезличиваются для анализа производительности; индивидуальное отслеживание доступно специалистам по безопасности для реагирования на чрезвычайные ситуации, но не линейным руководителям для оценки эффективности работы. По мере распространения действия Закона ЕС об искусственном интеллекте на промышленные системы ИИ мы ожидаем, что нормативные требования закрепят многие из этих правил. Мы предпочитаем подготовиться заранее, а не в спешке приводить всё в соответствие требованиям.

Перенос ИИ из контролируемых лабораторных условий в промышленные процессы, критически важные для безопасности, сопряжён с трудностями, с которыми компании, разрабатывающие только программные решения на основе ИИ, сталкиваются редко. Какие сюрпризы оказались для вас самыми значительными при внедрении XENOM в реальных условиях и как вы оцениваете, обеспечивает ли технология существенные улучшения в предотвращении несчастных случаев, эффективности производственных процессов и производительности персонала?

Самым большим сюрпризом стало то, насколько полезно просто иметь точное представление о том, где находятся люди и как используется рабочее время. Мы ожидали, что в разговорах с операторами на первом месте будет безопасность. Однако выяснилось, что прозрачность в вопросах производительности — понимание того, на что уходят смены, почему одни бригады работают эффективнее других и где возникают узкие места, — часто позволяет быстрее окупить инвестиции и гораздо быстрее заручиться поддержкой платформы внутри компании. Вторым сюрпризом стало то, насколько сильно различаются отрасли и даже отдельные объекты в одной отрасли. Строительство в Германии устроено совсем не так, как строительство в ОАЭ. Нельзя создать один продукт и предположить, что он подойдёт везде: для этого потребуется значительная доработка.

В перспективе XENOM планирует создать промышленного ИИ-помощника, который сможет не только вести мониторинг, но и прогнозировать риски и рекомендовать решения для управления производством. Как, по вашему мнению, будет развиваться физический ИИ в ближайшие пять лет и какие технологические прорывы ещё необходимы, чтобы промышленные системы ИИ могли работать более автономно, сохраняя контроль со стороны человека?

Сегодня промышленный ИИ в основном обеспечивает наблюдение — позволяет понимать, что происходит. Следующий этап — прогнозирование: выявление закономерностей, предшествующих инциденту или снижению производительности, прежде чем это произойдёт. Для этого необходимо со временем накопить значительный объём структурированных размеченных данных — именно этим XENOM занимается с самого начала. Следующий этап — рекомендации: система не только сообщает, что, вероятно, произойдёт, но и предлагает, что с этим делать: как перераспределить людей, когда приостановить работу, какая конфигурация бригады обеспечит наилучший результат при выполнении конкретной задачи. Именно к этому третьему этапу мы стремимся в разработке промышленного ИИ-помощника. Необходимый технологический прорыв связан не столько с усовершенствованием моделей, сколько с данными. Чтобы обучить модель, которая будет надёжно работать в разных условиях, нужно достаточно много качественных производственных данных с большого числа разнообразных объектов. У компаний, которые начнут собирать такие данные уже сейчас, появится преимущество, которое впоследствии будет крайне сложно воспроизвести.

Благодарим за интересное интервью! Читателям, которые хотят узнать больше о периферийном ИИ, интеллектуальных средствах индивидуальной защиты и мониторинге промышленной безопасности в реальном времени, стоит посетить XENOM.