Studie tyder på at roboter er mer overbevisende når de later som de er mennesker

Fremgangen i kunstig intelligens har skapt bots og maskiner som potensielt kan ligne mennesker hvis de bare interagerer med mennesker gjennom et digitalt medium. Nylig har et team av datavitenskapsforskere studert hvordan roboter/maskiner og mennesker interagerer når menneskene tror at robotene også er mennesker. Ifølge ScienceDaily fant studiens resultater at mennesker finner roboter/chatbots mer overbevisende når de tror at botene er mennesker.

Talal Rahwan, associate professor i datavitenskap ved NYU Abu Dhabi, har nylig ledet en studie som undersøkte hvordan roboter og mennesker interagerer med hverandre. Studiens resultater ble publisert i Nature Machine Intelligence i en rapport kalt Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Under studien ble testpersonene bedt om å spille et samarbeidsspill med en partner, og partnern kunne være enten et menneske eller en bot.

Spillet var en variant av det klassiske fanges dilemma, der deltakerne måtte bestemme om de skulle samarbeide eller forråde den andre i hver runde. I et fanges dilemma kan en side velge å forråde og svikte sin partner for å oppnå en fordel på bekostning av den andre spilleren, og bare ved å samarbeide kan begge sider sikre seg en gevinst.

Forskerne manipulerte testpersonene ved å gi dem enten riktig eller feil informasjon om partnerns identitet. Noen av deltakerne ble fortalt at de spilte mot en bot, selv om partnern faktisk var et menneske. Andre deltakere var i den inverse situasjonen. Under eksperimentet kunne forskningsteamet kvantifisere om mennesker behandlet partnere forskjellig når de ble fortalt at partnern var en bot. Forskerne sporet graden av fordommer mot botene og hvordan disse holdningene påvirkte interaksjoner med boter som identifiserte seg.

Studiens resultater viste at boter var mer effektive til å fremme samarbeid fra sine partnere når menneskene trodde at boten også var et menneske. Men når det ble avdekket at boten var en bot, sank samarbeidsnivået. Rahwan forklarte at mens mange forskere og etikere er enige om at AI bør være åpen om hvordan beslutninger tas, er det mindre klart at de også bør være åpne om sin natur når de kommuniserer med andre.

I fjor gjorde Google (GOOGL ) Duplex en stor sensasjon da en sceneshow viste at det kunne ringe opp og bestille møter på vegne av brukeren, og generere menneske-lignende tale så sofistikert at mange mennesker ville ha trodd det var en ekte person hvis de ikke hadde blitt fortalt at de snakket med en bot. Siden Google Duplex’ debut har mange AI- og robot-etikere uttrykt bekymring over teknologien, og promptet Google til å si at det ville identifisere seg selv som en bot i fremtiden. For tiden brukes Google Duplex bare i en svært begrenset kapasitet. Det vil snart brukes i New Zealand, men bare for å sjekke åpningstidene for bedrifter. Etikere er fortsatt bekymret over i hvilken grad teknologien kan misbrukes.

Rahawan argumenterer at den nylige studien viser at vi bør vurdere hva slags kostnader vi er villige til å betale for åpenhet:

“Er det etisk å utvikle et slikt system? Bør vi forby boter fra å late som de er mennesker, og tvinge dem til å være åpne om hvem de er? Hvis svaret er ‘Ja’, så understreker våre funn behovet for å sette standarder for effisienskostnaden vi er villige til å betale for en slik åpenhet.”