ロボットと人間の信頼関係に関する新しい研究の発表

アメリカ陸軍研究研究所とフロリダ中央大学のシミュレーションとトレーニング研究所が主導する新しい研究により、人間がロボットに対して持つ信頼のレベルが明らかになった。この新しいプロジェクトは、人間とロボットの関係と、人間がロボットの推論よりもそのミスを重視するかどうかを調査した。

新しい研究では、人間とエージェントのチームワーク（HAT）と、ロボット、無人車両、ソフトウェアエージェントなどのエージェントの透明性が人間の信頼、ワークロード、エージェントに対する認識にどのように影響するかを調査した。エージェントの透明性とは、人間がエージェントの意図、推論プロセス、将来の計画を識別できることである。

新しい研究によると、ロボットがミスを犯すと、人間のロボットに対する信頼が低下する。これは、ロボットが推論プロセスを透明にしているかどうかに関係なく、常に起こる現象である。

新しい研究は、8月号のIEEE-Transactions on Human-Machine Systemsに掲載された。論文のタイトルは「人間とロボットの相互作用におけるエージェントの透明性と信頼性：ユーザーの信頼と信頼性への影響」であった。

従来の人間とエージェントのチームワークに関する研究では、完全に信頼できるエージェントが使用され、ミスは発生しない。しかし、この新しい研究では、エージェントの透明性と信頼性の関係を調査した。研究では、ロボットがミスを犯す様子を人間が観察し、ロボットの信頼性を評価するよう依頼された。ロボットの推論プロセスに関する情報も人間に提供された。

このプロジェクトの主任研究者はジュリア・ライト博士である。彼女はアメリカ陸軍戦闘能力開発コマンドの陸軍研究研究所（ARL）の研究者である。

「ロボットの行動が人間のチームメイトに与える影響を理解することは、効果的な人間とロボットのチームの開発と、インターフェースとチームメンバー間のコミュニケーション方法の設計に不可欠である」と彼女は述べた。「この研究は、アメリカ陸軍の多ドメイン作戦の取り組みに貢献し、人工知能を活用した能力での優位性を確保する。さらに、心理学者、ロボット工学者、エンジニア、システム設計者などの分野の研究者にも情報を提供することで、人間と自律エージェントの間の理解を深めることができる」。

この新しいプロジェクトは、国防長官事務所の自律性研究パイロットイニシアティブが後援するAutonomous Squad Member（ASM）プロジェクトの一部であった。ASMは、歩兵小隊内で使用される実際の小型地上ロボットであり、チームと通信および相互作用することができる。

研究では、参加者が人間とエージェントのチームをシミュレートされた環境で観察し、ロボットの評価を行った。ロボットはチームの一員であり、トレーニングコースを移動した。参加者はチームを監視し、ロボットを評価するよう依頼された。トレーニングコース中、チームはさまざまなイベントと障害に直面した。兵士たちはそれらをすべて正しく乗り越えたが、ロボットは時々障害を理解できずにミスを犯した。ロボットは時々、特定の行動の理由と予想される結果を共有した。

研究では、参加者はロボットのミスよりも、その背後にある論理と推論に重点を置いていた。ロボットの信頼性は参加者の信頼と認識に大きな役割を果たした。ロボットがミスを犯すと、参加者はロボットの信頼性を低く評価した。

エージェントの透明性が高まると、またはロボットが決定の理由と論理を共有すると、信頼性と信頼が高まった。しかし、ミスを犯さないロボットよりも信頼性と信頼は低かった。これは、ロボットの背後にある論理と推論を共有することで、ロボットに関する信頼と信頼性の問題をある程度解決できる可能性があることを示唆した。

「以前の研究では、コンテキストが透明性情報の有用性を決定する上で重要であることを示唆している」とライトは述べた。「どのタスクがエージェントの推論のより深い理解を必要とするかをよりよく理解する必要があり、またその深さをどのように判断するかを知る必要がある。将来的には、タスクの要件に基づいて透明性情報を提供する方法を探求するべきである」。

この新しい研究は、人間とロボットの間で増加している相互作用の分野で重要な役割を果たすことになる。特に軍事分野では、ロボットと兵士が側によって行動することが予想される。兵士が他の兵士に対して信頼を抱くように、ロボットに対しても信頼を抱く必要がある。ロボットが歩兵小隊で一般的になることができ、ロボットがミスを犯さないようにすることができれば、人工知能が防衛産業に浸透する別の例となるだろう。ロボットと兵士は、最終的には並んで行動することになる。兵士が他の兵士に対して信頼を抱くように、ロボットに対しても信頼を抱く必要がある。そうすれば、ロボットが歩兵小隊で一般的になることができ、人工知能が防衛産業にさらに浸透することになる。