Nowe badania rzucają światło na zaufanie między ludźmi a robotami

Nowe badania, prowadzone przez U.S. Army Research Laboratory oraz University of Central Florida Institute for Simulations and Training, rzucają światło na poziom zaufania, jakim ludzie obdarzają roboty. Nowy projekt koncentrował się na relacji między ludźmi a robotami oraz na tym, czy ludzie przywiązują większą wagę do rozumowania robota, czy do jego błędów.

Nowe badania zajmowały się zespołową współpracą człowieka i robota, czyli HAT, oraz tym, jak zaufanie, obciążenie pracą i postrzeganie agenta przez człowieka są wpływane przez przejrzystość tych agentów, takich jak roboty, bezzałogowe pojazdy i agenci oprogramowania. Przejrzystość agenta oznacza, że człowiek może zidentyfikować intencje, proces rozumowania i plany agenta na przyszłość.

Nowe badania sugerują, że zaufanie ludzi do robotów maleje, gdy robot popełnia błąd. Dotyczy to niezależnie od tego, czy robot był przejrzysty w swoim procesie rozumowania, czy nie.

Nowe badania zostały opublikowane w sierpniowym wydaniu IEEE-Transactions on Human-Machine Systems. Artykuł nosi tytuł „Przejrzystość i niezawodność agenta w interakcji człowieka z robotem: Wpływ na zaufanie użytkownika i postrzeganą niezawodność”.

Tradycyjne badania dotyczące zespołowej współpracy człowieka i robota wykorzystują całkowicie niezawodne inteligentne agenty, które nie popełniają błędów. Jednakże, nowe badania były jednymi z nielicznych, które badały, jak przejrzystość agenta oddziałuje z niezawodnością agenta. Badanie obejmowało robota, który popełniał błędy, podczas gdy ludzie obserwowali, a następnie proszono ich o ocenę, czy postrzegają robota jako mniej niezawodnego. W całym procesie ludzie mieli wgląd w proces rozumowania robota.

Dr Julia Wright jest głównym badaczem projektu i jest naukowcem w U.S. Army Combat Capabilities Development Command’s Army Research Laboratory, czyli ARL.

“Zrozumienie, jak zachowanie robota wpływa na jego ludzkich współpracowników, jest kluczowe dla rozwoju skutecznych zespołów człowieka i robota, a także dla projektowania interfejsów i metod komunikacji między członkami zespołu”, powiedziała. “To badanie przyczynia się do wysiłków armii w ramach operacji wielodomenowych, aby zapewnić przewagę w możliwościach związanych z sztuczną inteligencją. Jest to jednak również badanie interdyscyplinarne, ponieważ jego wyniki będą informować pracę psychologów, robotyków, inżynierów i projektantów systemów, którzy pracują nad ułatwieniem lepszego zrozumienia między ludźmi i autonomicznymi agentami w celu stworzenia autonomicznych współpracowników, a nie tylko narzędzi”.

Nowy projekt był częścią większego projektu znanego jako Autonomous Squad Member (ASM), który jest sponsorowany przez Office of Secretary of Defense’s Autonomy Research Pilot Initiative. ASM jest rzeczywistym małym robotem lądowym, który jest wykorzystywany w drużynie piechoty. Jest on w stanie komunikować się i współpracować z drużyną.

Badanie obejmowało uczestników, którzy obserwowali zespoły składające się z ludzi i agentów w symulowanym środowisku. ASM był częścią zespołu i poruszał się przez kurs szkoleniowy. Zadaniem obserwatorów było monitorowanie zespołu i ocena robota. W trakcie kursu szkoleniowego zespół był przedstawiany z różnymi wydarzeniami i przeszkodami. Żołnierze byli w stanie nawigować przez każde z nich poprawnie, ale były momenty, kiedy robot nie mógł zrozumieć przeszkody i popełniał błędy. Robot czasami dzielił się swoim rozumowaniem za określonymi działaniami, a także oczekiwanym wynikiem.

Badanie wykazało, że uczestnicy byli bardziej zainteresowani błędami robota w porównaniu z podstawową logiką i rozumowaniem za nimi. Niezawodność robota odegrała kluczową rolę w zaufaniu i postrzeganiu uczestników. Gdy robot popełniał błąd, obserwatorzy oceniali jego niezawodność jako niższą.

Niezawodność i zaufanie wzrosły, gdy przejrzystość agenta została zwiększona, lub gdy robot udostępnił szczegóły i rozumowanie za swoimi decyzjami. Niemniej jednak, niezawodność i zaufanie były nadal niższe niż w przypadku robotów, które nie popełniały błędów. To sugeruje, że udostępnianie rozumowania i podstawowej logiki może pomóc w niektórych kwestiach zaufania i niezawodności związanych z robotami.

“Wcześniejsze badania sugerują, że kontekst ma znaczenie w określaniu użyteczności informacji o przejrzystości”, powiedziała Wright. “Musimy lepiej zrozumieć, które zadania wymagają głębszego zrozumienia procesu rozumowania agenta i jak rozpoznać, co to za głębokość. Przyszłe badania powinny badać sposoby dostarczania informacji o przejrzystości w oparciu o wymagania zadaniowe”.

Nowe badania odegrają kluczową rolę w tej dziedzinie ze względu na rosnącą interakcję między ludźmi a robotami. Jednym z obszarów, które będą najważniejsze, jest wojskowość. Jak widać w tych ćwiczeniach, roboty i żołnierze będą ostatecznie znajdować się obok siebie. Tak jak żołnierz musi mieć zaufanie do innego żołnierza, to samo będzie dotyczyć robotów. Jeśli to zostanie osiągnięte i roboty staną się powszechne w drużynach piechoty, będzie to kolejny przykład przenikania sztucznej inteligencji do przemysłu obronnego.