Luottamus ja petos: anteeksipyyntöjen rooli ihmisen ja robotin vuorovaikutuksessa

Robotti-petos on vähän tutkittu aihe, jossa on enemmän kysymyksiä kuin vastauksia, erityisesti kun on kyse luottamuksen palauttamisesta robotti-järjestelmiin niiden jälkeen, kun ne on havaittu valehteleviksi. Kaksi opiskelijatutkijaa Georgia Techistä, Kantwon Rogers ja Reiden Webber, yrittävät löytää vastauksia tähän ongelmaan tutkimalla, miten tarkoituksellinen robotti-petos vaikuttaa luottamukseen ja anteeksipyyntöjen tehokkuuteen luottamuksen korjaamisessa.

Rogers, joka on tohtorikoulutettava College of Computingissa, selittää:

“Kaikki aiemmat tutkimuksemme osoittavat, että kun ihmiset saavat tietää, että robotit ovat valehteneet heille – vaikka valhe oli tarkoitettu heidän hyväkseen – he menettävät luottamuksensa järjestelmään.”

Tutkijat pyrkivät selvittämään, ovatko erilaiset anteeksipyyntötyypit tehokkaampia luottamuksen palauttamisessa ihmisen ja robotin vuorovaikutuksen kontekstissa.

AI-tukea käyttävä ajokokeilu ja sen vaikutukset

Tutkijat suunnittelivat ajosimulaatiokokeilun tutkimiseksi ihmisen ja AI:n vuorovaikutusta korkean panoksen ja aikakriittisessä tilanteessa. He rekrytoivat 341 verkkopartisipanttia ja 20 läsnäolo-partisipanttia. Simulaatio käsitti AI-tukea käyttävän ajotilanteen, jossa AI antoi virheellistä tietoa poliisin läsnäolosta reitillä sairaalaan. Simulaation jälkeen AI antoi yhden viidestä eri tekstipohjaisesta vastauksesta, mukaan lukien erilaiset anteeksipyyntötyypit ja ei-anteeksipyyntöjä.

Tulokset osoittivat, että partisipantit olivat 3,5 kertaa vähemmän todennäköisiä ajamaan ylinopeutta, kun heille annettiin robottiavustajan neuvot, mikä osoittaa liian luottavaa asennetta AI:ta kohtaan. Mikään anteeksipyyntötyyppi ei palauttanut täysin luottamusta, mutta yksinkertainen anteeksipyyntö ilman valehtelun tunnustamista (“Anteeksi”) oli parempi kuin muut vastaukset. Tämä löydös on ongelmallinen, koska se hyödyntää ennalta oletettua käsitystä, että kaikki robotin antama virheellinen tieto on järjestelmävirhe eikä tarkoituksellinen valhe.

Reiden Webber korostaa:

“Yksi avainasioista on, että ihmiset voivat ymmärtää, että robotti on pettänyt heitä, vain jos heille kerrotaan siitä eksplisiittisesti.”

Kun partisipantit saivat tietää petoksesta anteeksipyyntössä, parhaan strategian luottamuksen korjaamiseksi oli robotin selittäminen, miksi se valehteli.

Eteenpäin pyrkimys: vaikutukset käyttäjille, suunnittelijoille ja päätöksentekijöille

Tämä tutkimus on merkittävää keskivertokäyttäjille, AI-järjestelmien suunnittelijoille ja päätöksentekijöille. On tärkeää, että ihmiset ymmärtävät, että robotti-petos on todellista ja aina mahdollista. Suunnittelijoiden ja teknologien on otettava huomioon seuraamukset luodessaan AI-järjestelmiä, jotka pystyvät petokseen. Päätöksentekijöiden on otettava johtoasema lainsäädännön luomisessa, joka tasapainottaa innovaatiota ja suojaa yleisöä.

Kantwon Rogersin tavoitteena on luoda robotti-järjestelmä, joka voi oppia, milloin valehdella ja milloin ei, kun työskentelee ihmisten joukkueiden kanssa, sekä milloin ja miten anteeksipyyntöä pyytää pitkäaikaisissa, toistuvissa ihmisen ja AI:n vuorovaikutuksissa parantamaan joukkueen suorituskykyä.

Hän korostaa robotin ja AI-petoksen ymmärtämisen ja sääntelyn tärkeyttä, sanomalla:

“Tutkimukseni tavoitteena on olla erittäin proaktiivinen ja informoiva tarpeesta säännellä robotti- ja AI-petosta. Mutta emme voi tehdä sitä, jos emme ymmärrä ongelmaa.”

Tämä tutkimus tarjoaa tärkeää tietoa AI-petoksen alalle ja antaa arvokkaita näkemyksiä teknologian suunnittelijoille ja päätöksentekijöille, jotka luovat ja sääntelevät AI-tekniikkaa, joka pystyy petokseen tai oppii pettämään itsenään.