ヒューマノイドロボットが工場にやってくる。故障したとき、誰が責任を負うのか？

ロボットは性能テストを問題なくクリアしても、予期しない障害物や、ソフトウェアのアップデートによる動作の変化、あるいは実際に働く人に直面すれば、安全上の危険をもたらすおそれがある。もはや問われているのは、ヒューマノイドロボットが作業を実行できるかどうかではなく、どのように実行するかだ。安全に実行できるのか。そして、問題が起きた場合、誰が責任を負うのか。

Agility RoboticsとFORT Roboticsは10月、Agilityのヒューマノイドロボット「Digit 5」の安全アーキテクチャを強化するため、提携を発表した。両社は、ロボットに搭載する安全システムに加え、外部インターフェース、通信機能、手動オーバーライドを取り入れる方針を立てている。この開発は大きな転換を示すものだ。ロボットは人が働く職場で安全でなければならず、そのために必要なのはロボット自体の安全性だけではない。

しかし、説明責任の問題に答えるには、技術だけでは不十分だ。AIシステムが欠陥のある部品を誤って特定し、それに基づいてロボットが誤作動した場合、メーカー、ソフトウェア開発者、システムインテグレーター、そしてそのシステムを使用する雇用主が責任を問われる可能性がある。

AIの判断が物理的な危険につながるとき

従来の産業用ロボットは通常、囲いで区切られた作業セル内に設置され、バリアや安全装置によって作業員から隔離されている。ヒューマノイドロボットには別の課題がある。人間向けに作られた環境を移動し、さまざまな作業をこなし、異なる環境に適応することが求められるのだ。

その柔軟性は、新たなリスクを生む。誤検知が起きれば、不要な動作につながる可能性がある。ソフトウェアのアップデートによって、ロボットの挙動が変わることもある。工場のレイアウトが変われば、以前のテストでは存在しなかった危険が生じるおそれもある。

GFT Americasのインダストリー部門責任者兼バイスプレジデント、Dana R. Wolfe氏はUnite AIに対し、危険な介入を防ぐには、決定論的なソフトウェアのガードレール、工場ごとに設定する信頼度のしきい値、センサーフュージョン、導入前の段階的な検証など、複数の保護層が必要だと語った。

誤検知を完全になくす方法はないとWolfe氏は述べた。重要なのは、誤りが危険な物理動作に結びつかないよう、メーカーが対策を講じることだ。

信頼度のしきい値と人間が持つ権限は、安全アーキテクチャの一部であるべきだ。ハードウェアのインターロックも同様だとWolfe氏は述べた。

安全基準も進化に追いつく必要がある

現在の産業用ロボットの安全基準は貴重な基盤となるが、移動型ヒューマノイドがもたらすあらゆる問題を必ずしも解決できるわけではない。

国際標準化機構（ISO）は産業用ロボットの安全要件を公表しており、ISO 10218-2ではロボットを統合して完全なシステムを構築する際の要件を定めている。

しかし、これらの基準は、人間とともに働く移動型ロボットのすべての用途や危険を対象としているわけではない。

業界の慣行が進化するなか、独立した試験、シナリオに基づく検証、職場での段階的な試験導入が特に重要だとWolfe氏は述べた。

AIモデル、ソフトウェア、動作制限、作業内容、工場環境に変更が加わり、以前の安全評価が無効になる可能性がある場合は、安全評価を繰り返さなければならない。

大きな変更を加えた後は、ある条件下で安全だったロボットが、新たな条件下でも安全とは限らない。

人間による監督は、承認するだけでは不十分

AIシステムが下す判断をすべて監視するのは現実的ではない。しかし、重要な判断に人間が関与しなければ、別の課題が生じる。説明責任を証明することが、より難しくなるのだ。

FlexioとRoutinaの共同創業者兼CEO、Adrian Figueroa Ramos氏は、監督では不確実性やリスクが最も大きい判断に焦点を当てるべきだと述べた。

「今日のAIの世界では、出力の量が人間の処理能力を超えています。すべてを確認すれば、人間がボトルネックになります。しかし、リスクが高い判断や信頼度の低い判断には、依然として人間の判断が必要です」と同氏はUnite AIに語った。

これは特にフィジカルAIに当てはまる。人間による監督には、システムをオーバーライドする権限を持つ担当者を明確に定めること、そして判断を記録して確認することが含まれるべきだ。承認ボタンをクリックするだけでは不十分である。

ロボットが故障したとき、誰が責任を負うのか？

説明責任は、各当事者がシステムをどの程度管理しているかに応じて分担すべきだ。

たとえば、メーカーは安全対策を策定し、文書化する責任を負う。知覚や動作に影響する可能性のある変更は、ソフトウェア開発者がテストすべきだ。

インテグレーターは、想定される環境でシステム全体を検証する必要がある。雇用主は、作業員を訓練し、安全対策が講じられていることを確認するとともに、危険な運用を停止するための手順を定める責任を負う。

サイバーセキュリティも重要だ。ロボットに関連するセンサー、ソフトウェア、外部システムの問題によって、運用技術が脆弱になるおそれがある。セキュリティ上の不備が物理的な動作に影響を及ぼせば、それはIT上の問題であると同時に、職場の安全に関わる問題でもある。

今後、工場でヒューマノイドロボットはより柔軟かつ生産的になると期待されている。しかし、導入の判断は性能指標だけに基づくものではない。明確な責任の所在、独立した検証、そしてロボットの稼働期間を通じて維持される安全対策が必要だ。

問題は、ロボットがミスをすることがあるのか、ということだ。ロボットを使う人々が、そうした誤りについて自らが責任を問われる仕組みを整えているなら、答えはイエスである。