Důvěra a klam: Role omluv v interakcích mezi lidmi a roboty

Robotický klam je málo prozkoumaná oblast s více otázkami než odpověďmi, zejména pokud jde o obnovu důvěry v robotické systémy poté, co byly odhaleny lži. Dva studentští výzkumníci z Georgia Tech, Kantwon Rogers a Reiden Webber, se snaží najít odpovědi na tuto otázku zkoumáním toho, jak úmyslný robotický klam ovlivňuje důvěru a účinnost omluv při obnově důvěry.

Rogers, doktorand na College of Computing, vysvětluje:

“Všechny naše předchozí práce ukázaly, že když lidé zjistí, že roboti jim lžou – i když lži byly určeny k jejich prospěchu – ztrácí důvěru v systém.”

Výzkumníci se snaží určit, zda různé typy omluv jsou účinnější při obnově důvěry v kontextu interakce mezi lidmi a roboty.

Experiment s AI-asistovaným řízením a jeho důsledky

Dvojice navrhla simulační experiment s řízením, aby studovala interakci mezi lidmi a AI v situaci s vysokými nároky a časovým tlakem. Nabídku experimentu přijalo 341 online účastníků a 20 účastníků osobně. Simulace zahrnovala scénář s AI-asistovaným řízením, ve kterém AI poskytovalo falešné informace o přítomnosti policie na trase do nemocnice. Po simulaci AI poskytlo jednu z pěti různých textových odpovědí, včetně různých typů omluv a neomluv.

Výsledky ukázaly, že účastníci byli 3,5krát méně pravděpodobně překročili rychlostní limit, když byli poučeni robotickým asistentem, což ukazuje na přehnanou důvěru v AI. Žádný z typů omluv plně neobnovil důvěru, ale jednoduchá omluva bez přiznání lži (“Omlouvám se”) překonal ostatní odpovědi. Tento výsledek je problematický, protože využívá předem stanovenou představu, že jakékoli falešné informace poskytnuté robotem jsou systémovou chybou, nikoli úmyslnou lží.

Reiden Webber poukazuje na to:

“Jedním z hlavních závěrů je, že lidé musí být explicitně informováni o tom, že roboti je oklamali.”

Když byli účastníci informováni o klamu v omluvě, nejlepší strategie pro obnovu důvěry spočívala v tom, aby robot vysvětlil, proč lhal.

Pokračování: Důsledky pro uživatele, designéry a tvůrce politik

Tento výzkum má důsledky pro průměrné uživatele technologií, designéry AI systémů a tvůrce politik. Je důležité, aby lidé pochopili, že robotický klam je reálný a vždy možný. Designéři a technologové musí zvážit důsledky vytváření AI systémů schopných klamu. Tvůrci politik by měli vést iniciativu v vytváření legislativy, která vyvažuje inovace a ochranu veřejnosti.

Cílem Kantwona Rogerse je vytvořit robotický systém, který se může naučit, kdy lhát a kdy ne, když pracuje s lidskými týmy, a také kdy a jak se omlouvat během dlouhodobých, opakovaných interakcí mezi lidmi a AI, aby zlepšil týmový výkon.

On zdůrazňuje důležitost pochopení a regulace robotického a AI klamu, říká:

“Cílem mé práce je být velmi proaktivní a informovat o potřebě regulace robotického a AI klamu. Ale nemůžeme to udělat, pokud neporozumíme problému.”

Tento výzkum přispívá vitální znalosti do oblasti AI klamu a nabízí cenné poznatky pro technologické designéry a tvůrce politik, kteří vytvářejí a regulují AI technologii schopnou klamu nebo potenciálně se učí klamat sama.