Tillit og bedrageri: Rollen til unnskyldninger i menneske-robot-interaksjoner

Robotbedrageri er et understudert felt med mer spørsmål enn svar, spesielt når det kommer til å gjenopbygge tillit i robotiske systemer etter at de har blitt tatt i å lyve. To studentforskere ved Georgia Tech, Kantwon Rogers og Reiden Webber, prøver å finne svar på dette problemet ved å undersøke hvordan intentionelt robotbedrageri påvirker tillit og effekten av unnskyldninger i å reparere tillit.

Rogers, en ph.d.-student ved College of Computing, forklarer:

“All vår tidligere forskning har vist at når mennesker finner ut at roboter har lurt dem – selv om løgnen var ment å være til deres fordel – mister de tillit til systemet.”

Forskerne har som mål å finne ut om forskjellige typer unnskyldninger er mer effektive i å gjenopbygge tillit i sammenheng med menneske-robot-interaksjoner.

Det AI-assisterte kjøresimulator-eksperimentet og dets implikasjoner

Duoen designet et kjøresimulator-eksperiment for å studere menneske-AI-interaksjoner i en høyrisiko-, tidskritisk situasjon. De rekrutterte 341 online-deltagere og 20 deltakere på stedet. Simuleringen involverte en AI-assistert kjøresituasjon hvor AI-en ga feil informasjon om nærvær av politi på ruten til et sykehus. Etter simuleringen ga AI-en en av fem forskjellige tekstbaserte responser, inkludert forskjellige typer unnskyldninger og ikke-unnskyldninger.

Resultatene viste at deltakerne var 3,5 ganger mer sannsynlige til å ikke overholde hastighetsgrensen når de ble rådet av en robotassistent, noe som indikerer en overdriven tillitsfull holdning til AI. Ingen av unnskyldningstypene gjenopbygde fullstendig tillit, men den enkle unnskyldningen uten innrømmelse av løgn (“Jeg er lei”) overgikk de andre responsene. Dette funn er problematisk, da det utnytter den forhåndsbestemte forestillingen om at all feil informasjon gitt av en robot er et systemfeil snarere enn en intentionell løgn.

Reiden Webber påpeker:

“En viktig lærepunkt er at, for at mennesker skal forstå at en robot har lurt dem, må de uttrykkelig bli fortalt det.”

Når deltakerne ble informert om bedrageriet i unnskyldningen, var den beste strategien for å reparere tillit at roboten forklarte hvorfor den løy.

Fremover: Implikasjoner for brukere, designere og politikere

Denne forskningen har implikasjoner for gjennomsnittlige teknologibrukere, AI-systemdesignere og politikere. Det er viktig at mennesker forstår at robotbedrageri er reelt og alltid en mulighet. Designere og teknologer må vurdere konsekvensene av å skape AI-systemer som kan bedra. Politikere bør ta ledelsen i å utforme lovgivning som balanserer innovasjon og beskyttelse for allmennheten.

Kantwon Rogers’ mål er å skape et robotisk system som kan lære når å lyve og når ikke å lyve når de samarbeider med menneskelige team, samt når og hvordan å unnskyldde under lange, gjentakende menneske-AI-interaksjoner for å forbedre teamytelsen.

Han understreker viktigheten av å forstå og regulere robot- og AI-bedrageri, og sier:

“Målet med min forskning er å være proaktiv og informere om behovet for å regulere robot- og AI-bedrageri. Men vi kan ikke gjøre det hvis vi ikke forstår problemet.”

Denne forskningen bidrar med viktig kunnskap til feltet AI-bedrageri og tilbyr verdifulle innsikter for teknologidesignere og politikere som skaper og regulerer AI-teknologi som kan bedra eller potensielt lære å bedra på egen hånd.