Ny forskning kaster lys over tillit mellom mennesker og roboter

Ny forskning, ledet av U.S. Army Research Laboratory i samarbeid med University of Central Florida Institute for Simulations and Training, kaster lys over hvor mye tillit mennesker har til roboter. Prosjektet fokuserte på forholdet mellom mennesker og roboter, og om mennesker legger mer verdi på en robots begrunnelse eller feil.

Den nye forskningen undersøkte human-agent teaming, eller HAT, og hvordan menneskers tillit, arbeidsbelastning og oppfatninger av en agent påvirkes av agentens transparens, som roboter, ubemannede kjøretøy og programvareagenter. Agenttransparens er når en menneske kan identifisere agentens intensjoner, begrunnelsesprosess og fremtidige planer.

Den nye forskningen viser at menneskers tillit til roboter minker hver gang roboten gjør en feil. Dette uavhengig av om roboten har vært åpen om sin begrunnelsesprosess eller ikke.

Den nye forskningen ble publisert i august-utgaven av IEEE-Transactions on Human-Machine Systems. Artikkelen het “Agent Transparency and Reliability in Human-Robot Interaction: The Influence on User Confidence and Perceived Reliability.”

Tradisjonell forskning om human-agent teaming bruker fullstendig pålitelige intelligente agenter som ikke gjør feil. Men denne nye studien var en av de få som undersøkte hvordan agenttransparens samspiller med agentpålitelighet. Studien involverte en robot som gjorde feil mens mennesker observerte, og menneskene ble deretter spurt om de anså roboten som mindre pålitelig. Under hele prosessen fikk menneskene innsikt i robotens begrunnelsesprosess.

Dr. Julia Wright er prosjektleder og er en forsker ved U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, eller ARL.

“Å forstå hvordan robotens atferd påvirker deres menneskelige teammedlemmer er avgjørende for utviklingen av effektive menneske-robot team, samt design av grensesnitt og kommunikasjonsmetoder mellom teammedlemmene,” sa hun “Denne forskningen bidrar til hærens Multi-Domain Operations-innsats for å sikre overmatch i kunstig intelligens-aktiverede kapasiteter. Men den er også tverrfaglig, da funnene vil informere arbeidet til psykologer, robotforskere, ingeniører og systemdesignere som arbeider for å fremme bedre forståelse mellom mennesker og autonome agenter i arbeidet med å gjøre autonome teammedlemmer i stedet for bare verktøy.”

Dette nye prosjektet var en del av et større prosjekt kjent som Autonomous Squad Member (ASM)-prosjektet, som er sponsort av Office of Secretary of Defense’s Autonomy Research Pilot Initiative. ASM er en liten bakke-robot som brukes i en infanterienhet. Den kan kommunisere og samhandle med enheten.

Studien involverte deltakere som observerte menneske-agent soldat-team i en simulert miljø. ASM var en del av teamet og beveget seg gjennom en treningsbane. Oppgaven for observatørene var å overvåke teamet og evaluere roboten. Under hele treningsbanen ble teamet presentert for ulike hendelser og hindringer. Soldatene kunne navigere hver enkelt riktig, men det var ganger da roboten ikke kunne forstå hindringen og gjorde feil. Roboten delte iblant sin begrunnelse bak bestemte handlinger samt det forventede resultatet.

Studien fant at deltakerne var mer bekymret for robotens feil sammenlignet med den underliggende logikken og begrunnelsen bak dem. Robotens pålitelighet spilte en stor rolle i deltakernes tillit og oppfatninger. Når roboten gjorde en feil, vurderingen av dens pålitelighet var lavere.

Påliteligheten og tilliten økte når agenttransparensen økte, eller når roboten delte detaljer og begrunnelse bak sine beslutninger. Men påliteligheten og tilliten var fortsatt lavere enn roboter som aldri led feil. Dette antyder at deling av begrunnelse og underliggende logikk kan hjelpe med noen av tillits- og pålitelighetsproblemer omkring roboter.

“Tidligere studier antyder at kontekst har betydning for å bestemme nyttigheten av transparensinformasjon,” sa Wright. “Vi må bedre forstå hvilke oppgaver som krever en mer detaljert forståelse av agentens begrunnelsesprosess, og hvordan å avgjøre hva denne dybden innebærer. Fremtidig forskning bør undersøke måter å levere transparensinformasjon basert på oppgavekravene.”

Denne nye forskningen vil spille en kritisk rolle i feltet på grunn av den økende interaksjonen som finner sted mellom mennesker og roboter. En av områdene som vil være mest viktig er militæret. Som sett i disse øvelsene, vil roboter og soldater til slutt være side om side. Like som en soldat må ha tillit til en annen soldat, vil det samme gjelde for roboter. Hvis det kan oppnås og roboter blir vanlige i infanterienheter, vil det være et annet eksempel på kunstig intelligens som trenger inn i forsvarsindustrien.