Гуманоїдні роботи приходять на заводи. Хто відповідатиме, якщо вони вийдуть з ладу?

Робот може успішно пройти випробування продуктивності й водночас стати загрозою безпеці, якщо зіткнеться з неочікуваною перешкодою, зміною поведінки внаслідок оновлення програмного забезпечення або справжнім працівником. Питання вже не в тому, чи здатні гуманоїдні роботи виконувати певне завдання, а в тому, як саме вони можуть це робити. Чи можуть вони працювати безпечно — і хто відповідатиме, якщо щось піде не так?

Agility Robotics і FORT Robotics оголосили про партнерство в жовтні, щоб удосконалити архітектуру безпеки гуманоїдного робота Digit 5 від Agility. Вони запланували втілити свій підхід, інтегрувавши бортові системи безпеки, зовнішні інтерфейси, засоби зв’язку та ручне перемикання керування. Ця розробка знаменує важливу зміну: роботи мають бути безпечними на робочих місцях, де працюють люди, а це вимагає більшого, ніж просто безпечної конструкції самого робота.

Однак самих технологій недостатньо, щоб відповісти на питання про відповідальність. Якщо робот припуститься помилки через несправний компонент, який система штучного інтелекту неправильно ідентифікувала, відповідальність можуть покласти на виробника, розробника програмного забезпечення, системного інтегратора та роботодавця, який використовує систему.

Коли рішення ШІ стають фізичною загрозою

Традиційні промислові роботи зазвичай працюють в ізольованих робочих зонах, відокремлених від працівників бар’єрами та пристроями безпеки. Гуманоїдні роботи створюють інші труднощі: вони мають пересуватися середовищами, облаштованими для людей, виконувати різні завдання й адаптуватися до різних умов.

Така гнучкість створює нові ризики. Хибне виявлення може спричинити непотрібний рух. Оновлення програмного забезпечення може змінити поведінку робота. Зміни в плануванні заводу можуть створити небезпеки, яких не було під час попередніх випробувань.

Дана Р. Вулф, віцепрезидентка й керівниця галузевого напряму GFT Americas, розповіла Unite AI, що для запобігання небезпечним втручанням потрібні кілька рівнів захисту: детерміновані програмні обмеження безпеки, порогові значення впевненості, адаптовані до конкретного заводу, об’єднання даних із сенсорів і поетапна перевірка перед розгортанням.

Повністю уникнути хибнопозитивних результатів неможливо, сказала Вулф. Виробники натомість мають гарантувати, що помилки не призводитимуть до небезпечних фізичних рухів.

Порогові значення впевненості та повноваження людини мають бути частиною архітектури безпеки системи, як і апаратні блокування, сказала Вулф.

Стандарти безпеки мають встигати за розвитком технологій

Чинні стандарти промислової робототехніки є важливою основою, але не обов’язково розв’язують усі проблеми, пов’язані з мобільними гуманоїдними роботами.

Міжнародна організація зі стандартизації (ISO) опублікувала вимоги безпеки для промислових роботів, а стандарт ISO 10218-2 охоплює інтеграцію роботів у комплексні системи.

Однак ці стандарти не охоплюють усіх сфер застосування та небезпек, пов’язаних із роботою мобільних роботів поруч із людьми.

Незалежні випробування, перевірка на основі сценаріїв і поетапні пілотні проєкти на робочих місцях особливо важливі в міру розвитку галузевих практик, сказала Вулф.

Оцінювання безпеки також потрібно проводити повторно, якщо зміни в моделі ШІ, програмному забезпеченні, обмеженнях руху, завданнях або умовах на заводі можуть зробити попередні оцінки безпеки недійсними.

Після суттєвої зміни робот, який був безпечним за одних умов, може виявитися небезпечним за нових.

Нагляд людини має бути чимось більшим, ніж просте схвалення

Непрактично відстежувати кожне рішення системи ШІ, але якщо люди не беруть участі в ухваленні критично важливих рішень, виникає інша проблема: довести, хто відповідає за наслідки, стає складніше.

Адріан Фігероа Рамос, співзасновник і генеральний директор Flexio та Routina, сказав, що нагляд має зосереджуватися на рішеннях із найбільшим рівнем невизначеності або ризику.

«У сучасному світі ШІ обсяг результатів перевищує те, що людина здатна опрацювати. Перевірка всього робить людину вузьким місцем, але людське судження все одно необхідне для рішень із високим ризиком або низьким рівнем упевненості», — сказав він Unite AI.

Це особливо актуально для фізичного ШІ. Нагляд людини має передбачати призначення конкретних осіб, уповноважених зупинити роботу системи, а також гарантувати, що рішення документують і перевіряють, а не просто підтверджують натисканням кнопки.

Хто відповідає, коли робот виходить з ладу?

Відповідальність слід розподіляти відповідно до того, наскільки кожна сторона контролює систему.

Наприклад, виробники відповідають за розроблення та документування заходів безпеки. Розробники програмного забезпечення мають перевіряти зміни, які можуть вплинути на сприйняття або рух.

Інтегратор має перевірити всю систему в середовищі, для якого її призначено. Роботодавці відповідають за навчання працівників, забезпечення наявності захисних засобів і встановлення процедур зупинення небезпечних операцій.

Кібербезпека також має значення. Операційні технології можуть бути вразливими до проблем із датчиками, програмним забезпеченням і зовнішніми системами, пов’язаними з роботами. Порушення безпеки, що впливає на фізичну поведінку, є проблемою безпеки на робочому місці, а також проблемою ІТ.

Очікується, що в майбутньому гуманоїдні роботи стануть на фабриках гнучкішими й продуктивнішими. Однак їх упровадження залежатиме не лише від показників продуктивності. Потрібні чіткий розподіл відповідальності, незалежна перевірка та заходи безпеки, які діятимуть упродовж усього строку експлуатації робота.

Питання в тому, чи може робот помилятися. Так, якщо люди, які ним користуються, створили систему, що притягуватиме їх до відповідальності за ці помилки.