Ny forskning kastar ljus över människorobot-förtroende

Ny forskning, ledd av den amerikanska arméns forskningslaboratorium tillsammans med University of Central Floridas institut för simuleringar och utbildning, kastar ljus över den nivå av förtroende som människor har för robotar. Det nya projektet fokuserade på relationen mellan människor och robotar, och om människor ger mer värde till en robots resonemang eller dess misstag.

Den nya forskningen undersökte människa-agent-samarbete, eller HAT, och hur människors förtroende, arbetsbelastning och uppfattningar om en agent påverkas av agentens transparens, såsom robotar, obemannade fordon och programvaruagenter. Agenttransparens är när en människa kan identifiera agentens avsikt, resonemang och framtida planer.

Den nya forskningen visar att människors förtroende för robotar minskar när roboten gör ett misstag. Detta oavsett om roboten har varit transparent med sitt resonemang eller inte.

Den nya forskningen publicerades i augustiupplagan av IEEE-Transactions on Human-Machine Systems. Artikeln hade titeln “Agenttransparens och tillförlitlighet i människa-robot-interaktion: Påverkan på användar-förtroende och upplevd tillförlitlighet”.

Traditionell forskning om människa-agent-samarbete använder helt tillförlitliga intelligenta agenter som inte gör några misstag. Men denna nya studie var en av de få som undersökte hur agenttransparens samverkar med agenttillförlitlighet. Studien involverade en robot som gjorde misstag medan människor tittade på, och människorna fick sedan frågan om de uppfattade roboten som mindre tillförlitlig. Under hela processen fick människorna insikt i robotens resonemang.

Dr. Julia Wright är huvudforskare för projektet och hon är en forskare vid den amerikanska arméns stridsförmågeutvecklingskommandos arméforskningslaboratorium, eller ARL.

“Att förstå hur robotens beteende påverkar dess mänskliga medarbetare är avgörande för utvecklingen av effektiva människa-robot-lag, samt designen av gränssnitt och kommunikationsmetoder mellan lagmedlemmarna”, sa hon. “Denna forskning bidrar till den amerikanska arméns Multi-Domain Operations-insatser för att säkerställa överlägsenhet i artificiell intelligens-aktiverade förmågor. Men den är också tvärvetenskaplig, eftersom dess resultat kommer att informera arbetet med psykologer, robotforskare, ingenjörer och systemdesigners som arbetar för att underlätta en bättre förståelse mellan människor och autonoma agenter i syfte att skapa autonoma medarbetare snarare än bara verktyg.”

Detta nya projekt var en del av ett större projekt som kallas Autonomous Squad Member (ASM)-projektet, som sponsras av försvarsdepartementets Autonomy Research Pilot Initiative. ASM är en riktig liten markbunden robot som används inom en infanterienhet. Den kan kommunicera och interagera med enheten.

Studien involverade deltagare som observerade människa-agent-soldat-lag i en simulerad miljö. ASM var en del av laget och rörde sig genom en utbildningsbana. Uppgiften för observatörerna var att övervaka laget och utvärdera roboten. Under hela utbildningsbanan presenterades laget med olika händelser och hinder. Soldaterna kunde navigera varje hinder korrekt, men det fanns tillfällen när roboten inte kunde förstå hindret och gjorde misstag. Roboten delade ibland sin resonemang bakom vissa handlingar samt den förväntade utgången.

Studien fann att deltagarna var mer oroade över robotens misstag jämfört med den underliggande logiken och resonemanget bakom dem. Robotens tillförlitlighet spelade en stor roll i deltagarnas förtroende och uppfattningar. När roboten gjorde ett misstag, bedömde observatörerna dess tillförlitlighet som lägre.

Tillförlitligheten och förtroendet ökade när agenttransparensen ökade, eller när roboten delade detaljer och resonemang bakom sitt beslut. Men tillförlitligheten och förtroendet var fortfarande lägre än för robotar som aldrig led av ett fel. Detta tydde på att delandet av resonemang och underliggande logik kunde hjälpa till med vissa av förtroende- och tillförlitlighetsproblem som omger robotar.

“Tidigare studier tyder på att sammanhanget har betydelse för att bestämma nyttan av transparensinformation”, sa Wright. “Vi behöver bättre förstå vilka uppgifter som kräver en mer djupgående förståelse av agentens resonemang och hur man ska avgöra vad den djupgående förståelsen skulle innebära. Framtida forskning bör undersöka sätt att leverera transparensinformation baserat på uppgiftskraven.”

Denna nya forskning kommer att spela en avgörande roll inom området på grund av den ökande interaktionen som sker mellan människor och robotar. Ett av de områden som kommer att vara mest viktigt är det militära. Som visas i dessa övningar kommer robotar och soldater att vara sida vid sida. Liksom en soldat måste ha förtroende för en annan soldat, kommer samma sak att gälla för robotar. Om det kan uppnås och robotar blir vanliga inom infanterienheter, kommer det att vara ett annat exempel på artificiell intelligens som tränger in i försvarsindustrin.