Nová výzkum odhaluje lidskou důvěru v roboty

Nový výzkum, vedený U.S. Army Research Laboratory a University of Central Florida Institute for Simulations and Training, vrhá světlo na úroveň důvěry, kterou lidé mají k robotům. Nový projekt se zaměřil na vztah mezi lidmi a roboty a zda lidé přikládají větší hodnotu robotovu rozumu nebo jeho chybám.

Nový výzkum se zabýval lidsko-agentním týmovým spolupracováním, nebo HAT, a jak lidská důvěra, pracovní zátěž a vnímání agenta jsou ovlivněny transparentností agentů, jako jsou roboti, bezpilotní vozidla a software agenti. Agentní transparentnost je situace, kdy člověk může identifikovat záměr, proces rozumu a budoucí plány agentů.

Nový výzkum naznačuje, že lidská důvěra v roboty klesá, kdykoli robot udělá chybu. To platí bez ohledu na to, zda robot byl transparentní ve svém rozumu nebo ne.

Nový výzkum byl zveřejněn v srpnu v IEEE-Transactions on Human-Machine Systems. Článek se jmenoval „Agentní transparentnost a spolehlivost v lidsko-robotickém взаимодействí: Vliv na uživatelskou důvěru a vnímanou spolehlivost.“

Tradiční výzkum týkající se lidsko-agentního týmového spolupracování používá zcela spolehlivé inteligentní agenty, kteří neudělají chyby. Nicméně, tento nový výzkum byl jedním z mála, který prozkoumal, jak agentní transparentnost interaguje s agentní spolehlivostí. Studie zahrnovala robota, který udělal chyby, zatímco lidé sledovali, a lidé byli poté požádáni, zda považují robota za méně spolehlivého. Během celého procesu byli lidé informováni o robotově rozumu.

Dr. Julia Wright je hlavní výzkumník projektu a je výzkumníkem v U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, nebo ARL.

„Porozumění toho, jak robotovo chování ovlivňuje jeho lidské kolegy, je zásadní pro vývoj účinných lidsko-robotických týmů, stejně jako pro návrh rozhraní a komunikačních metod mezi členy týmu,“ řekla. „Tento výzkum přispívá k Armádě Multi-Domain Operations úsilí zajistit převahu v umělých inteligencích schopnostech. Ale je to také mezinárodní, protože jeho výsledky budou informovat práci psychologů, robotiků, inženýrů a systémových návrhářů, kteří pracují na usnadnění lepšího porozumění mezi lidmi a autonomními agenty v úsilí udělat autonomní kolegy spíše než pouze nástroje.”

Tento nový projekt byl součástí většího projektu známého jako Autonomous Squad Member (ASM) projekt, který je sponzorován Office of Secretary of Defense’s Autonomy Research Pilot Initiative. ASM je skutečný malý pozemní robot, který je použit v rámci pěchotního týmu. Je schopen komunikovat a interagovat s týmem.

Studie zahrnovala účastníky, kteří sledovali lidsko-agentní vojenské týmy v simulovaném prostředí. ASM byl součástí týmu a prošel tréninkovým kurzem. Úkolem pro pozorovatele bylo monitorovat tým a vyhodnotit robota. Během tréninkového kurzu byl tým představen různým událostem a překážkám. Vojáci byli schopni navigovat každou z nich správně, ale byly chvíle, kdy robot nemohl pochopit překážku a udělal chyby. Robot poté někdy sdílel svůj rozum za určitými akcemi, stejně jako očekávaný výsledek.

Studie zjistila, že účastníci byli více znepokojení robotovými chybami ve srovnání s podkladovým logem a rozumním procesem za nimi. Robotova spolehlivost hrála hlavní roli v účastníkovi důvěře a vnímání. Kdykoli robot udělal chybu, pozorovatelé ohodnotili jeho spolehlivost nižší.

Spolehlivost a důvěra se zvýšily, kdykoli byla agentní transparentnost zvýšena, nebo kdy robot sdílel podrobnosti a rozumní procesy za svými rozhodnutími. Nicméně, spolehlivost a důvěra byly stále nižší než u robotů, kteří nikdy neudělali chybu. To naznačilo, že sdílení rozumu a podkladového logu mohlo pomoci s některými problémy důvěry a spolehlivosti týkajícími se robotů.

„Dřívější studie naznačují, že kontext je důležitý pro určení užitečnosti transparentních informací,“ řekla Wright. „Potřebujeme lépe porozumět, které úkoly vyžadují hlubší porozumění agentova rozumu, a jak určit, co tato hloubka zahrnuje. Budoucí výzkum by měl prozkoumat způsoby, jak dodávat transparentní informace na základě požadavků úkolu.“

Tento nový výzkum bude hrát kritickou roli v oboru kvůli rostoucí interakci mezi lidmi a roboty. Jednou z oblastí, která bude nejvíce důležitá, je vojenské prostředí. Jak je vidět v těchto cvičeních, roboti a vojáci budou nakonec vedle sebe. Stejně jako voják musí mít důvěru v jiného vojáka, totéž bude platit pro roboty. Pokud se to podaří a roboti se stanou běžnými v pěchotních týmech, bude to další případ pronikání umělé inteligence do obranného průmyslu.