Uusi tutkimus valottaa ihmisen ja robotin välistä luottamussuhdetta

Uusi tutkimus, jota johtaa Yhdysvaltain armeijan tutkimuslaitos yhdessä Floridan yliopiston simulaatio- ja koulutusinstituutin kanssa, valottaa ihmisen luottamussuhdetta roboteihin. Uusi projekti keskittyi ihmisen ja robotin väliseen suhteeseen ja siihen, antavatko ihmiset enemmän arvoa robotin päätöksenteon perusteelle vai virheille.

Uusi tutkimus tarkasteli ihmisen ja agentin tiimityöskentelyä, eli HAT:ia, ja sitä, miten ihmisen luottamus, työkuorma ja agentin havaintoja vaikuttavat agentin läpinäkyvyyteen, kuten roboteihin, miehittämättömiin ajoneuvoihin ja ohjelmistoihin. Agentin läpinäkyvyys tarkoittaa, että ihminen pystyy tunnistamaan agentin aikomukset, päätöksentekoprosessin ja tulevat suunnitelmat.

Uusi tutkimus osoittaa, että ihmisen luottamus robottiin vähenee aina, kun robotti tekee virheen. Tämä on riippumaton siitä, onko robotti ollut avoin päätöksenteon perusteistaan.

Uusi tutkimus julkaistiin elokuun numerossa IEEE-Transactions on Human-Machine Systems -julkaisussa. Artikkelin otsikko oli “Agentin läpinäkyvyys ja luotettavuus ihmisen ja robotin vuorovaikutuksessa: Vaikutus käyttäjän luottamukseen ja havaittuun luotettavuuteen.”

Perinteinen tutkimus, joka koskee ihmisen ja agentin tiimityöskentelyä, käyttää täysin luotettavia älykkäitä agenteja, jotka eivät tee virheitä. Kuitenkin tämä uusi tutkimus oli yksi harvoista, jotka tarkastelivat, miten agentin läpinäkyvyys vaikuttaa agentin luotettavuuteen. Tutkimuksessa käytettiin robottia, joka teki virheitä, kun ihmiset seurasivat sitä, ja ihmiset pyydettiin arvioimaan, pitivätkö he robottia vähemmän luotettavana. Koko prosessin ajan ihmisille annettiin tietoa robotin päätöksenteon perusteista.

Tohtori Julia Wright on projektin pääjohtaja, ja hän on tutkija Yhdysvaltain armeijan taistelukykyjen kehittämisen komentajan alaisuudessa olevassa tutkimuslaitoksessa, eli ARL:issa.

“Ymmärtäminen siitä, miten robotin käyttäytyminen vaikuttaa hänen ihmisiin joukkuetovereihin, on olennainen tehokkaiden ihmisen ja robotin tiimien kehittämiseksi sekä käyttöliittymien ja viestintätapojen suunnittelulle joukkuetovereiden välillä”, hän sanoi. “Tämä tutkimus edistää armeijan monialaisten operaatioiden ponnisteluja varmistamaan ylivoiman keinotekoisessa älykkyydessä mahdollistavissa kyvykkyyksissä. Mutta se on myös monitieteinen, koska sen tulokset tulevat vaikuttamaan psykologien, robotiikan tutkijoiden, insinöörien ja järjestelmien suunnittelijoiden työhön, jotka pyrkivät edistämään ymmärrystä ihmisten ja autonomisten agenttien välillä pyrkien tekemään autonomisia joukkuetovereita, ei vain työkaluja.”

Tämä uusi projekti oli osa laajempaa projektia, joka tunnetaan autonomisen ryhmän jäsenen (ASM) projektina, jonka rahoittaa puolustusministeriön autonomian tutkimusohjelma. ASM on oikea pieni maaroottori, jota käytetään jalkaväkiryhmässä. Se pystyy viestimään ja vuorovaikuttamaan ryhmän kanssa.

Tutkimuksessa osallistujat seurasivat ihmisen ja agentin sotilastiimejä simuloidussa ympäristössä. ASM oli osa tiimiä, ja se liikkui koulutusradalla. Osallistujien tehtävänä oli seurata tiimiä ja arvioida robottia. Koulutusradan aikana tiimi kohtasi erilaisia tapahtumia ja esteitä. Sotilaat pystyivät navigoimaan jokaisen esteen oikein, mutta joskus robotti ei voinut ymmärtää esteitä ja teki virheitä. Robotti jakoi joskus myös päätöksenteon perustelunsa ja odotetun lopputuloksen.

Tutkimus osoitti, että osallistujat olivat enemmän huolissaan robotin virheistä kuin niiden taustalla olevasta logiikasta ja päätöksenteosta. Robotin luotettavuus vaikutti merkittävästi osallistujien luottamukseen ja havaintoihin. Kun robotti teki virheen, havainnoijat arvioivat sen luotettavuuden alhaisemmaksi.

Luotettavuus ja luottamus lisääntyivät, kun agentin läpinäkyvyys lisääntyi tai kun robotti jakoi yksityiskohtia ja perusteita päätöksistään. Kuitenkin luotettavuus ja luottamus olivat edelleen alhaisemmat kuin roboteilla, jotka eivät koskaan kärsineet virheistä. Tämä osoitti, että päätöksenteon perustelujen ja taustalogiikan jakaminen voisi auttaa joissain luottamukseen ja luotettavuuteen liittyvissä ongelmissa.

“Aikaisemmat tutkimukset osoittavat, että konteksti vaikuttaa läpinäkyvyyden tiedon hyödyllisyyteen”, Wright sanoi. “Meidän on ymmärrettävä, mitkä tehtävät vaativat syvempää ymmärrystä agentin päätöksenteosta, ja miten voidaan määrittää kyseisen syvyyden laajuus. Tulevaisuuden tutkimuksissa tulisi tutkia keinoja toimittaa läpinäkyvyyden tietoa tehtävän vaatimusten mukaan.”

Tämä uusi tutkimus tulee olemaan kriittinen alalla, jossa ihmisten ja robotien välinen vuorovaikutus lisääntyy. Yksi tärkeimmistä alueista on sotilastoiminta. Kuten nähtiin näissä harjoituksissa, robotit ja sotilaat tulevat olemaan lopulta rinnakkain. Niin kuin sotilaan on luotettava toiseen sotilaaseen, sama koskee robottiin. Jos tämä voidaan saavuttaa ja robotit tulevat yleisiksi jalkaväkiryhmissä, se on toinen esimerkki siitä, miten tekoäly tunkeutuu puolustusalaan.