Nyt forskning kaster lys over tillid mellem mennesker og robotter

Nyt forskning, ledet af U.S. Army Research Laboratory i samarbejde med University of Central Florida Institute for Simulations and Training, kaster lys over niveauet af tillid, mennesker har til robotter. Det nye projekt fokuserede på forholdet mellem mennesker og robotter, og om mennesker giver mere værdi til en robots begrundelse eller dens fejl.

Den nye forskning undersøgte menneske-agent-samarbejde, eller HAT, og hvordan menneskers tillid, arbejdsbyrde og opfattelse af en agent påvirkes af agentens gennemsigtighed, såsom robotter, ubemandede køretøjer og software-agenter. Agent-gennemsigtighed er, når en menneske kan identificere en agents intention, begrundelsesproces og fremtidige planer.

Den nye forskning viser, at menneskers tillid til robotter aftager, hver gang robotten begår en fejl. Dette er uanset, om robotten har været gennemsigtig med sin begrundelsesproces eller ej.

Den nye forskning blev offentliggjort i august-udgaven af IEEE-Transactions on Human-Machine Systems. Artiklen havde titlen “Agent-gennemsigtighed og pålidelighed i menneske-robot-interaktion: Indflydelse på brugerens tillid og opfattet pålidelighed.”

Traditionel forskning omkring menneske-agent-samarbejde bruger fuldt pålidelige intelligente agenter, der ikke begår fejl. Men denne nye studie var en af de få, der undersøgte, hvordan agent-gennemsigtighed interagerer med agent-pålidelighed. Studiet involverede en robot, der begik fejl, mens mennesker observerede, og menneskerne blev derefter bedt om at vurdere, om de opfattede robotten som mindre pålidelig. Under hele processen fik menneskerne indsigt i robotternes begrundelsesproces.

Dr. Julia Wright er hovedforsker på projektet og er forsker ved U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, eller ARL.

“At forstå, hvordan robotternes adfærd påvirker deres menneskelige teammedlemmer, er afgørende for udviklingen af effektive menneske-robot-team og design af grænseflader og kommunikationsmetoder mellem teammedlemmer,” sagde hun. “Denne forskning bidrager til Hærens Multi-Domain Operations-bestræbelser for at sikre overmatch i kunstig intelligens-aktiverede kapaciteter. Men det er også interdisciplinært, da dens resultater vil informere arbejdet af psykologer, robotforskere, ingeniører og systemdesignere, der arbejder på at facilitere bedre forståelse mellem mennesker og autonome agenter i bestræbelserne på at gøre autonome teammedlemmer i stedet for blot værktøjer.”

Dette nye projekt var en del af et større projekt kendt som Autonomous Squad Member (ASM)-projektet, der er sponsoreret af Office of Secretary of Defense’s Autonomy Research Pilot Initiative. ASM er en reel lille jordrobot, der bruges i en infanterienhed. Den kan kommunikere og interagere med enheden.

Studiet involverede deltagere, der observerede menneske-agent-soldat-team i en simuleret miljø. ASM var en del af teamet og bevægede sig gennem en træningsbane. Opgaven for observatørerne var at overvåge teamet og evaluere robotten. Under hele træningsbanen blev teamet præsenteret for forskellige begivenheder og hindringer. Soldaterne kunne navigere rundt om hver enkelt korrekt, men der var gange, hvor robotten ikke kunne forstå hindringerne og begik fejl. Robotten delte derefter nogle gange sin begrundelse bag bestemte handlinger samt den forventede udfald.

Studiet fandt, at deltagerne var mere bekymrede over robotternes fejl i forhold til den underliggende logik og begrundelse bag dem. Robotternes pålidelighed spillede en stor rolle i deltagernes tillid og opfattelse. Når robotten begik en fejl, vurderede observatørerne dens pålidelighed lavere.

Pålideligheden og tilliden øgedes, når agent-gennemsigtigheden øgedes, eller når robotten delte detaljer og begrundelse bag dens beslutning. Men pålideligheden og tilliden var stadig lavere end for robotter, der aldrig oplevede en fejl. Dette tydede på, at delingen af begrundelse og underliggende logik kunne hjælpe med nogle af tillids- og pålidelighedsproblemerne omkring robotter.

“Tidligere studier tyder på, at kontekst er vigtig for at bestemme nyttigheden af gennemsigtighedsinformation,” sagde Wright. “Vi har brug for at forstå, hvilke opgaver der kræver en dybere forståelse af agentens begrundelsesproces, og hvordan vi kan afgøre, hvad den dybde indebærer. Fremtidig forskning bør undersøge måder at levere gennemsigtighedsinformation baseret på opgavekravene.”

Denne nye forskning vil spille en kritisk rolle på området på grund af den øgede interaktion, der finder sted mellem mennesker og robotter. Et af de områder, der vil være mest vigtigt, er militæret. Som set i disse øvelser, vil robotter og soldater til sidst være side om side. Ligesom en soldat skal have tillid til en anden soldat, vil det samme gælde for robotter. Hvis det kan opnås, og robotter bliver almindelige i infanterienheder, vil det være endnu et eksempel på, at kunstig intelligens trænger ind i forsvarsindustrien.