Studie visar att robotar är mer övertygande när de utger sig för att vara människor

Genombrott inom artificiell intelligens har skapat botar och maskiner som potentiellt kan utge sig för att vara människor om de interagerar med människor enbart genom en digital medium. Nyligen har en grupp datavetenskapsforskare studerat hur robotar/maskiner och människor interagerar när människorna tror att robotarna också är människor. Enligt ScienceDaily visade studiens resultat att människor tycker att robotar/chatbotar är mer övertygande när de tror att botarna är människor.

Talal Rahwan, biträdande professor i datavetenskap vid NYU Abu Dhabi, har nyligen lett en studie som undersökte hur robotar och människor interagerar med varandra. Studiens resultat publicerades i Nature Machine Intelligence i en rapport som kallades Transparens-Effektivitetsavvägning i Människa-Maskin-Samarbete. Under studiens gång instruerades testdeltagarna att spela ett samarbets spel med en partner, och partnern kunde vara antingen en människa eller en bot.

Spelet var en variant av det klassiska Fångarnas dilemma, där deltagarna måste besluta om de ska samarbeta eller förråda den andra i varje omgång. I ett fångarnas dilemma kan ena sidan välja att förråda och svika sin partner för att uppnå en fördel på den andra spelarens bekostnad, och endast genom att samarbeta kan båda sidor säkerställa sig själva en vinst.

Forskarna manipulerade sina testdeltagare genom att ge dem antingen korrekt eller felaktig information om partnerns identitet. Vissa deltagare informerades om att de spelade med en bot, trots att deras partner i själva verket var en människa. Andra deltagare var i den omvända situationen. Under experimentets gång kunde forskargruppen kvantifiera om människor behandlade partners olika när de informerades om att deras partner var en bot. Forskarna spårade graden av fördomar mot botarna och hur dessa attityder påverkade interaktioner med botar som identifierade sig.

Studiens resultat visade att botar var mer effektiva i att framkalla samarbete från sina partners när den mänskliga parten trodde att boten också var en människa. Men när det avslöjades att boten var en bot, sjönk samarbetsnivåerna. Rahwan förklarade att medan många forskare och etiker är överens om att AI bör vara transparent när det gäller beslutsfattande, är det mindre tydligt att de också bör vara transparenta om sin natur när de kommunicerar med andra.

Förra året gjorde Google (GOOGL ) Duplex rubriker när en scenademo visade att den kunde ringa samtal och boka möten på uppdrag av sin användare, och generera mänskligt tal så sofistikerat att många människor skulle ha tagit det för en riktig person om de inte hade informerats om att de talade med en bot. Sedan Google Duplex debuterade har många AI- och robotetiker uttryckt sina farhågor om teknologin, vilket fick Google att säga att de skulle låta agenten identifiera sig som en bot i framtiden. För närvarande används Google Duplex endast i en mycket begränsad kapacitet. Den kommer snart att användas i Nya Zeeland, men endast för att kontrollera öppettider för företag. Etikerna är fortfarande oroliga för den grad till vilken teknologin kan missbrukas.

Rahawan hävdar att den senaste studien visar att vi bör överväga vilka kostnader vi är villiga att betala för transparens:

“Är det etiskt att utveckla ett sådant system? Bör vi förbjuda botar från att utge sig för att vara människor och tvinga dem att vara transparenta om vem de är? Om svaret är ‘Ja’, då betonar våra fynd behovet av att fastställa standarder för effektivitetskostnaden som vi är villiga att betala i utbyte mot sådan transparens.”