ASTM и Singapore Standards Council выявили пять пробелов, сдерживающих развитие воплощенного ИИ

Робот может впечатляюще справиться с демонстрационным заданием, но у потенциального заказчика все равно останутся непростые вопросы. Как он поведет себя, если люди прервут выполнение задачи? Кто контролирует данные, собираемые его камерами? Сможет ли он работать вместе с оборудованием другого поставщика?

Эти вопросы, связанные с внедрением, находятся в центре внимания аналитического доклада, о котором 3 ноября объявили ASTM International и Enterprise Singapore через Singapore Standards Council (SSC). В документе «Путь к разработке будущих стандартов для воплощенного ИИ» определены пять приоритетных направлений стандартизации, необходимых для более широкого внедрения интеллектуальных физических систем.

Подготовленный совместно с Агентством Сингапура по науке, технологиям и исследованиям (A*STAR) и Национальной программой по робототехнике доклад стал продолжением семинара, состоявшегося в июле 2025 года и собравшего более 140 представителей промышленности, государственных органов, научных учреждений и академического сообщества. В повестку входят управление данными, надежность ИИ, охрана труда, совместимость и закупки. Это отправная точка для разработки стандартов, а не новая сертификация, о прохождении которой поставщики роботов уже могут заявлять.

Почему воплощенный ИИ меняет подход к внедрению

Воплощенный ИИ связывает машинный интеллект с физическими системами, включая роботов, автономные транспортные средства и другие интеллектуальные машины. В этом случае восприятие и принятие решений происходят в среде, где ошибка может повлиять на людей, оборудование и окружающую среду.

Как отмечалось в материалах Unite.AI о том, как языковые модели меняют воплощенный ИИ, все более совершенный ИИ открывает новые возможности для поведения роботов. Коммерческая задача — сделать эти возможности достаточно надежными для повседневной работы.

Представим робота-доставщика, работающего в больнице. Пройти заданный маршрут — лишь одна из его задач. Он также должен учитывать особенности доступа в здании, понятно показывать персоналу, что собирается делать, и соблюдать соответствующие правила обращения с данными. Успешная демонстрация навигации дает ответ лишь на часть вопросов, важных при принятии решения о покупке.

Пять пробелов, на устранение которых направлена программа стандартизации

В объявлении выделены пять приоритетных направлений. Их значение становится яснее, если рассмотреть решения, которые заказчику необходимо принять до внедрения.

1. Управление данными и конфиденциальность

Первый приоритет — установить общие требования к управлению данными и соблюдению норм о защите конфиденциальности. Заказчику важно понимать, какую информацию собирает система и как распределена ответственность между участвующими организациями.

Для закупочных команд это означает, что условия работы с данными следует включать в первоначальную спецификацию. При гипотетическом внедрении оборудования нескольких поставщиков оператор должен иметь возможность определить, кто из них отвечает за каждый поток данных, не выясняя это заново уже после инцидента.

2. Безопасность и надежность ИИ

Второе направление охватывает общие подходы к тестированию, сравнительной оценке и мониторингу систем ИИ. Сопоставимые данные дали бы покупателям более надежную основу для оценки конкурирующих заявлений.

Отсюда возникает важный вопрос при покупке: что именно описывает заявленный результат? Результаты теста легче интерпретировать, если четко указаны задача, условия эксплуатации, версия программного обеспечения и критерии отказа. В противном случае два поставщика могут сообщить об успехе, фактически оценивая совершенно разные вещи.

3. Безопасность на рабочем месте и управление рисками

Третье направление касается физической безопасности и таких рисков, как чрезмерная зависимость от автоматизации или неудачно спроектированные интерфейсы. Поэтому для безопасного внедрения важно учитывать людей, которые контролируют работу машины и взаимодействуют с ней.

Показательный пример — предупреждение, требующее вмешательства оператора. Его ценность зависит от того, понимает ли человек сообщение и может ли он действенно на него отреагировать. При планировании установки необходимо связать поведение машины, обязанности персонала и процедуры вмешательства в единый рабочий процесс.

4. Совместимость и промежуточное программное обеспечение

Четвертое направление касается координации физических устройств, программных сервисов и инфраструктуры. Для предприятия, формирующего парк машин, оценивать нужно уже всю работающую систему в целом.

Представим, что вы покупаете двух роботов, каждый из которых способен самостоятельно перемещаться по коридору. Вопрос интеграции заключается в том, как они будут делить ограниченное пространство и согласовывать проход через один и тот же дверной проем. Если покупать каждую машину отдельно, этот вопрос может остаться нерешенным вплоть до внедрения. Четкие требования к интеграции дают поставщикам конкретные параметры, которые они могут продемонстрировать до приемки.

5. Сертификация качества и закупки

Пятый приоритет — укрепить уверенность в том, что система подходит для своей предполагаемой цели. Общие подходы к сертификации и закупкам могли бы помочь заказчикам превратить общие обещания в требования, поддающиеся оценке.

Наиболее убедительные закупочные спецификации связывают заявленные возможности с конкретными сценариями использования. Перемещение определенного груза по согласованному маршруту в заданных условиях — более полезный критерий приемки, чем общее утверждение о том, что робот обладает интеллектом. Такая точность также упрощает разрешение разногласий по поводу производительности.

От аналитического доклада к применимым стандартам

ASTM International и Enterprise Singapore заявляют, что представят выявленные пробелы своим соответствующим техническим комитетам и глобальным сетям, чтобы помочь определить приоритеты дальнейшей работы. Организации с соответствующим опытом внедрения приглашаются к участию.

Разработчики роботов могут внести конкретные данные о том, на каких этапах возникают сложности с интеграцией или оценкой. Покупателям важно объяснить, какие вопросы без ответа мешают превратить пилотный проект в регулярно повторяемую закупку. Эти точки зрения помогут направить работу над стандартами на решение вопросов, которые действительно определяют внедрение.

Значимость документа заключается в том, что он объединяет эти вопросы внедрения в единую повестку. Даже способной машине необходимо убедительно обосновать, как она будет работать в условиях заказчика. Общие стандарты могли бы упростить подготовку, сравнение и актуализацию такого обоснования по мере того, как воплощенный ИИ внедряется на все большем числе рабочих мест.