Tillid og bedrag: Rollen af undskyldninger i menneske-robot-interaktioner

Robotbedrag er et underundersøgt område med mere spørgsmål end svar, især når det kommer til at genopbygge tillid i robotsystemer efter, at de er blevet fanget i at lyve. To studenter-forskere på Georgia Tech, Kantwon Rogers og Reiden Webber, forsøger at finde svar på dette problem ved at undersøge, hvordan intentionelt robotbedrag påvirker tillid og effekten af undskyldninger i at reparere tillid.

Rogers, en ph.d.-studerende på College of Computing, forklarer:

“Alt vores tidligere arbejde har vist, at når folk opdager, at robotter har løjet for dem – selv hvis løgnen var ment til at gavne dem – mister de tillid til systemet.”

Forskerne har til formål at bestemme, om forskellige typer af undskyldninger er mere effektive til at genskabe tillid i sammenhængen med menneske-robot-interaktion.

Det AI-assisterede kørselsforsøg og dets implikationer

Duo’en designede et kørsels-simuleringsforsøg for at studere menneske-AI-interaktion i en højrisiko-, tidskritisk situation. De rekrutterede 341 online-deltagere og 20 personlige deltagere. Simulationen involverede en AI-assisteret kørsels-scenario, hvor AI’en gav falsk information om tilstedeværelsen af politi på ruten til et hospital. Efter simulationen gav AI’en en af fem forskellige tekstbaserede svar, herunder forskellige typer af undskyldninger og ikke-undskyldninger.

Resultaterne afslørede, at deltagere var 3,5 gange mere tilbøjelige til ikke at køre for hurtigt, når de blev rådgivet af en robotassistent, hvilket indikerer en overordentlig tillidsfuld holdning over for AI. Ingen af undskyldningstyperne genskabte fuldstændig tillid, men den simple undskyldning uden indrømmelse af løgn (“Jeg er ked af det”) overgik de andre svar. Dette resultat er problematisk, da det udnytter den forudgående antagelse, at enhver falsk information givet af en robot er et systemfejl snarere end en intentionel løgn.

Reiden Webber påpeger:

“En nøglekonklusion er, at for at folk skal forstå, at en robot har bedraget dem, skal de utvivlsomt blive informeret om det.”

Når deltagere blev gjort opmærksomme på bedraget i undskyldningen, var den bedste strategi for at reparere tillid, at robotten forklarede, hvorfor den løjede.

Fremadrettet: Implikationer for brugere, designere og lovgivere

Denne forskning har implikationer for gennemsnitsbrugere af teknologi, AI-system-designere og lovgivere. Det er afgørende, at folk forstår, at robotbedrag er virkeligt og altid en mulighed. Designere og teknologer skal overveje konsekvenserne af at skabe AI-systemer, der er i stand til bedrag. Lovgivere skal tage initiativ til at udforme lovgivning, der balancerer innovation og beskyttelse af offentligheden.

Kantwon Rogers’ mål er at skabe et robot-system, der kan lære, hvornår det skal lyve og hvornår det ikke skal lyve, når det arbejder med menneskelige hold, samt hvornår og hvordan det skal undskylde under lange, gentagne menneske-AI-interaktioner for at forbedre holdets præstation.

Han understreger vigtigheden af at forstå og regulere robot- og AI-bedrag, siger:

“Formålet med mit arbejde er at være meget proaktiv og at informere om behovet for at regulere robot- og AI-bedrag. Men vi kan ikke gøre det, hvis vi ikke forstår problemet.”

Denne forskning bidrager med vital viden til feltet af AI-bedrag og tilbyder værdifulde indsigt for teknologi-designere og lovgivere, der skaber og regulerer AI-teknologi, der er i stand til bedrag eller potentielt kan lære at bedrage på egen hånd.