Neue Forschung wirft Licht auf das Vertrauen zwischen Mensch und Roboter

Eine neue Forschung, geleitet von der U.S. Army Research Laboratory und dem University of Central Florida Institute for Simulations and Training, wirft Licht auf das Vertrauen, das Menschen in Roboter haben. Das neue Projekt konzentrierte sich auf die Beziehung zwischen Menschen und Robotern und darauf, ob Menschen einem Roboters mehr Wert beimessen, wenn er seine Argumentation oder seine Fehler erklärt.

Die neue Forschung untersuchte das human-agentische Teamwork, oder HAT, und wie das Vertrauen, die Arbeitsbelastung und die Wahrnehmung eines Agenten durch die Transparenz von Agenten wie Robotern, unbemannten Fahrzeugen und Software-Agenten beeinflusst werden. Agent-Transparenz bedeutet, dass ein Mensch die Absicht, den Entscheidungsprozess und die zukünftigen Pläne eines Agenten erkennen kann.

Die neue Forschung zeigt, dass das Vertrauen der Menschen in Roboter abnimmt, wenn der Roboter einen Fehler macht. Dies gilt unabhängig davon, ob der Roboter seine Argumentation transparent gemacht hat oder nicht.

Die neue Forschung wurde in der August-Ausgabe der IEEE-Transactions on Human-Machine Systems veröffentlicht. Der Artikel trug den Titel “Agent-Transparenz und Zuverlässigkeit in der Mensch-Roboter-Interaktion: Der Einfluss auf das Vertrauen und die wahrgenommene Zuverlässigkeit”.

Traditionelle Forschung zum human-agentischen Teamwork verwendet in der Regel vollständig zuverlässige intelligente Agenten, die keine Fehler machen. Diese neue Studie war jedoch eine der wenigen, die untersuchte, wie Agent-Transparenz mit Agent-Zuverlässigkeit interagiert. Die Studie umfasste einen Roboter, der Fehler machte, während Menschen ihn beobachteten, und die Menschen wurden dann gefragt, ob sie den Roboter als weniger zuverlässig betrachteten. Während des gesamten Prozesses wurden den Menschen Einblicke in den Entscheidungsprozess des Roboters gegeben.

Dr. Julia Wright ist die Hauptforscherin des Projekts und arbeitet am U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, oder ARL.

“Das Verständnis, wie das Verhalten eines Roboters seine menschlichen Teammitglieder beeinflusst, ist entscheidend für die Entwicklung effektiver Mensch-Roboter-Teams sowie für die Gestaltung von Schnittstellen und Kommunikationsmethoden zwischen Teammitgliedern”, sagte sie. “Diese Forschung trägt zum Army’s Multi-Domain Operations bei, um die Überlegenheit in künstlicher Intelligenz-basierten Fähigkeiten zu gewährleisten. Sie ist jedoch auch interdisziplinär, da ihre Ergebnisse die Arbeit von Psychologen, Roboter-Entwicklern, Ingenieuren und System-Designern beeinflussen werden, die daran arbeiten, eine bessere Verständigung zwischen Menschen und autonomen Agenten zu ermöglichen, um autonome Teammitglieder und nicht nur Werkzeuge zu schaffen.”

Dieses neue Projekt war Teil eines größeren Projekts namens Autonomous Squad Member (ASM), das von der Office of Secretary of Defense’s Autonomy Research Pilot Initiative gesponsert wird. Das ASM ist ein kleiner Boden-Roboter, der in einem Infanterie-Team eingesetzt wird und mit dem Team kommunizieren und interagieren kann.

Die Studie umfasste Teilnehmer, die human-agentische Soldaten-Teams in einer simulierten Umgebung beobachteten. Das ASM war Teil des Teams und bewegte sich durch einen Trainingskurs. Die Aufgabe der Beobachter bestand darin, das Team zu überwachen und den Roboter zu bewerten. Während des Trainingskurses wurden dem Team verschiedene Ereignisse und Hindernisse präsentiert. Die Soldaten konnten jedes Hindernis korrekt navigieren, aber es gab Momente, in denen der Roboter das Hindernis nicht verstehen und Fehler machen konnte. Der Roboter teilte manchmal seine Argumentation hinter bestimmten Aktionen sowie das erwartete Ergebnis mit.

Die Studie ergab, dass die Teilnehmer mehr besorgt waren über die Fehler des Roboters im Vergleich zur zugrunde liegenden Logik und Argumentation. Die Zuverlässigkeit des Roboters spielte eine wichtige Rolle bei dem Vertrauen und den Wahrnehmungen der Teilnehmer. Wenn der Roboter einen Fehler machte, bewerteten die Beobachter seine Zuverlässigkeit niedriger.

Die Zuverlässigkeit und das Vertrauen nahmen zu, wenn die Agent-Transparenz erhöht wurde oder wenn der Roboter Details und Argumentation hinter seinen Entscheidungen teilte. Die Zuverlässigkeit und das Vertrauen waren jedoch immer noch niedriger als bei Robotern, die keine Fehler gemacht hatten. Dies deutet darauf hin, dass die Teilung von Argumentation und zugrunde liegender Logik einige der Vertrauens- und Zuverlässigkeitsprobleme um Roboter lindern könnte.

“Frühere Studien deuten darauf hin, dass der Kontext wichtig ist, um die Nützlichkeit von Transparenz-Informationen zu bestimmen”, sagte Wright. “Wir müssen besser verstehen, welche Aufgaben eine tiefere Einsicht in die Argumentation eines Agenten erfordern und wie wir diese Tiefe erkennen können. Zukunftsforschung sollte Wege erforschen, um Transparenz-Informationen basierend auf den Anforderungen der Aufgaben zu liefern.”

Diese neue Forschung wird eine entscheidende Rolle auf dem Gebiet spielen, da die Interaktion zwischen Menschen und Robotern zunimmt. Eines der wichtigsten Gebiete wird das Militär sein. Wie in diesen Übungen zu sehen ist, werden Roboter und Soldaten schließlich Seite an Seite stehen. Genau wie ein Soldat Vertrauen in einen anderen Soldaten haben muss, wird das gleiche für Roboter gelten. Wenn dies erreicht werden kann und Roboter in Infanterie-Teams alltäglich werden, wird es ein weiteres Beispiel für die Penetration von künstlicher Intelligenz in die Verteidigungsindustrie sein.