Nieuw onderzoek werpt licht op mens-robot-vertrouwen

Nieuw onderzoek, geleid door het U.S. Army Research Laboratory en het University of Central Florida Institute for Simulations and Training, werpt licht op het niveau van vertrouwen dat mensen hebben in robots. Het nieuwe project richtte zich op de relatie tussen mensen en robots, en of mensen meer waarde hechten aan de redenering van een robot of aan zijn fouten.

Het nieuwe onderzoek keek naar human-agent teaming, of HAT, en hoe menselijk vertrouwen, werklast en percepties van een agent worden beïnvloed door de transparantie van agenten zoals robots, onbemande voertuigen en software-agenten. Agent-transparantie is wanneer een mens de intentie, redeneringsproces en toekomstige plannen van agenten kan identificeren.

Het nieuwe onderzoek suggereert dat het vertrouwen van mensen in robots afneemt wanneer de robot een fout maakt. Dit is ongeacht of de robot transparant is geweest over zijn redeneringsproces.

Het nieuwe onderzoek werd gepubliceerd in de augustuseditie van IEEE-Transactions on Human-Machine Systems. Het artikel had als titel “Agent Transparency and Reliability in Human-Robot Interaction: The Influence on User Confidence and Perceived Reliability.”

Traditioneel onderzoek naar human-agent teaming maakt gebruik van volledig betrouwbare intelligente agenten die geen fouten maken. Echter, deze nieuwe studie was een van de weinige die onderzocht hoe agent-transparantie samenwerkt met agent-betrouwbaarheid. De studie betrof een robot die fouten maakte terwijl mensen toekeken, en de mensen werden vervolgens gevraagd of ze de robot als minder betrouwbaar zagen. Tijdens het hele proces kregen de mensen inzicht in het redeneringsproces van de robot.

Dr. Julia Wright is de hoofdonderzoeker van het project, en zij is onderzoeker bij het U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, of ARL.

“Het begrijpen van hoe het gedrag van de robot de menselijke teamleden beïnvloedt, is cruciaal voor de ontwikkeling van effectieve mens-robot-teams, evenals voor het ontwerp van interfaces en communicatiemethoden tussen teamleden,” zei ze. “Dit onderzoek draagt bij aan de inspanningen van het leger om overmatch te garanderen in artificial intelligence-geactiveerde capaciteiten. Maar het is ook interdisciplinair, omdat de resultaten de werkzaamheden van psychologen, roboticisten, ingenieurs en systeemontwerpers zullen informeren die werken aan het faciliteren van een beter begrip tussen mensen en autonome agenten in de inspanning om autonome teamleden te maken in plaats van alleen tools.”

Dit nieuwe project was onderdeel van een groter project genaamd het Autonomous Squad Member (ASM)-project, dat wordt gesponsord door de Office of Secretary of Defense’s Autonomy Research Pilot Initiative. De ASM is een echte kleine grondrobot die wordt gebruikt binnen een infanterie-eenheid. Het kan communiceren en interageren met de eenheid.

De studie betrof deelnemers die mens-agent-soldaat-teams observeerden in een gesimuleerde omgeving. De ASM maakte deel uit van het team en bewoog door een trainingscursus. De taak voor de observatoren was om het team te monitoren en de robot te evalueren. Tijdens de trainingscursus werd het team geconfronteerd met verschillende gebeurtenissen en obstakels. De soldaten konden elk obstakel correct navigeren, maar er waren momenten waarop de robot het obstakel niet kon begrijpen en fouten maakte. De robot deelde soms zijn redenering achter bepaalde acties en het verwachte resultaat.

De studie toonde aan dat de deelnemers meer bezorgd waren over de fouten van de robot in vergelijking met de onderliggende logica en redenering achter de fouten. De betrouwbaarheid van de robot speelde een belangrijke rol in het vertrouwen en de percepties van de deelnemers. Wanneer de robot een fout maakte, beoordeelden de observatoren de betrouwbaarheid van de robot als lager.

De betrouwbaarheid en het vertrouwen namen toe wanneer de agent-transparantie werd verhoogd, of wanneer de robot details en redenering achter zijn beslissing deelde. Echter, de betrouwbaarheid en het vertrouwen waren nog steeds lager dan robots die nooit een fout hadden gemaakt. Dit suggereerde dat het delen van redenering en onderliggende logica kon helpen bij enkele van de vertrouwens- en betrouwbaarheidsproblemen met betrekking tot robots.

“Eerdere studies suggereren dat context belangrijk is bij het bepalen van de bruikbaarheid van transparantie-informatie,” zei Wright. “We moeten beter begrijpen welke taken meer diepgaande kennis van de redenering van de agent vereisen, en hoe we die diepte kunnen bepalen. Toekomstig onderzoek moet manieren onderzoeken om transparantie-informatie te leveren op basis van de taakeisen.”

Dit nieuwe onderzoek zal een kritieke rol spelen in het veld vanwege de toenemende interactie tussen mensen en robots. Een van de gebieden die het meest belangrijk zal zijn, is het leger. Zoals te zien is in deze oefeningen, zullen robots en soldaten uiteindelijk naast elkaar staan. Net zoals een soldaat vertrouwen moet hebben in een andere soldaat, zal hetzelfde gelden voor robots. Als dat kan worden bereikt en robots gemeengoed worden in infanterie-eenheden, zal het een ander voorbeeld zijn van artificial intelligence die het defensie-industrie binnendringt.