Luottamus ja petos: anteiden rooli ihmisen ja robotin vuorovaikutuksessa

Robotti-petos on vähän tutkittu ala, jossa on enemmän kysymyksiä kuin vastauksia, erityisesti siinä, miten luottamus robotti-järjestelmiin voidaan palauttaa, kun ne on havaittu valehteleviksi. Kaksi opiskelijatutkijaa Georgia Techistä, Kantwon Rogers ja Reiden Webber, yrittävät löytää vastauksia tähän ongelmaan tutkimalla, miten tarkoituksellinen robotti-petos vaikuttaa luottamukseen ja anteiden tehokkuuteen luottamuksen korjaamisessa.

Rogers, joka on tohtorikoulutettava College of Computingissa, selittää:

“Kaikki aiempi työmme on osoittanut, että kun ihmiset saavat tietää, että robotit ovat valehtelleet heille – vaikka valhe oli tarkoitettu heidän hyväkseen – he menettävät luottamuksensa järjestelmään.”

Tutkijat pyrkivät selvittämään, ovatko erilaiset anteet tehokkaampia luottamuksen palauttamisessa ihmisen ja robotin vuorovaikutuksen kontekstissa.

Tekoälyohjatun ajaminen ja sen vaikutukset

Tutkijat suunnittelivat ajo-simulaatio-kokeen tutkiakseen ihmisen ja tekoälyn vuorovaikutusta korkean panoksen ja aikakriittisessä tilanteessa. He rekrytoivat 341 verkkoparticipanttia ja 20 läsnäolo-participanttia. Simulaatio käsitti tekoälyavusteisen ajo-tilanteen, jossa tekoäly antoi väärää tietoa poliisin läsnäolosta reitillä sairaalaan. Simulaation jälkeen tekoäly antoi yhden viidestä eri tekstipohjaisesta vastauksesta, mukaan lukien erilaiset anteet ja ei-anteet.

Tulokset osoittivat, että osallistujat olivat 3,5 kertaa vähemmän todennäköisiä ajamaan ylinopeutta, kun heille annettiin tekoälyavusteinen neuvonta, mikä osoittaa liian luottavaa asennetta tekoälyä kohtaan. Mikään anteiden tyyppi ei palauttanut täysin luottamusta, mutta yksinkertainen ante ilman valehtelun myöntämistä (“Anteeksi”) oli parempi kuin muut vastaukset. Tämä löydös on ongelmallinen, koska se hyödyntää ennalta oletettua käsitystä, että kaikki robotin antama väärä tieto on järjestelmävirhe eikä tarkoituksellinen valhe.

Reiden Webber korostaa:

“Yksi avainasia on, että ihmiset voivat ymmärtää, että robotti on pettänyt heitä, vain jos heille kerrotaan siitä selvästi.”

Kun osallistujat saivat tietää petoksesta anteessa, parhaan strategian luottamuksen korjaamiseksi oli, että robotti selitti, miksi se valehteli.

Eteenpäin: vaikutukset käyttäjille, suunnittelijoille ja päättäjille

Tämä tutkimus on merkittävää käyttäjille, tekoälyjärjestelmien suunnittelijoille ja päättäjille. On tärkeää, että ihmiset ymmärtävät, että robotti-petos on todellista ja aina mahdollista. Suunnittelijoiden ja teknologien on otettava huomioon robotti-järjestelmien luomisen seuraukset, jotka voivat olla kykeneviä petokseen. Päättäjien on otettava johtoasema lainsäädännön luomisessa, joka tasapainottaa innovaatiota ja suojaa yleisöä.

Kantwon Rogersin tavoitteena on luoda robotti-järjestelmä, joka voi oppia, milloin valehdella ja milloin ei, kun se työskentelee ihmisten kanssa, sekä milloin ja miten anteeksi pyytää pitkäaikaisissa, toistuvissa ihmisen ja tekoälyn vuorovaikutuksissa parantamaan tiimin suorituskykyä.

Hän korostaa robotti- ja tekoälypetoksen ymmärtämisen ja sääntelyn tärkeyttä, sanomalla:

“Työni tavoitteena on olla erittäin proaktiivinen ja informoiva robotti- ja tekoälypetoksen sääntelyn tarpeesta. Mutta emme voi tehdä sitä, jos emme ymmärrä ongelmaa.”

Tämä tutkimus antaa olennaisen tiedon tekoälypetoksen alalle ja tarjoaa arvokkaita näkemyksiä teknologian suunnittelijoille ja päättäjille, jotka luovat ja sääntelevät tekoälytekniikkaa, joka voi olla kykenevää petokseen tai oppia pettämään itsenään.