Risk-främjande robotar åsidosätter direkt erfarenhet och instinkt i ny studie

Ny forskning från University of Southampton visar hur robotar kan uppmuntra människor att ta större risker jämfört med om det inte fanns något som påverkade deras beteende. Experimenten, som genomfördes i en simulerad hasardspelscen, hjälper experter att bättre förstå riskbeteende och robotik både etiskt och praktiskt.

Forskningen leddes av Dr. Yaniv Hanoch, associate professor i riskhantering vid University of Southampton. Den publicerades i tidskriften Cybersecurity, Behavior, and Social Networking.

“Vi vet att grupptryck kan leda till högre riskbeteende”, sa Dr. Hanoch. “Med den alltmer ökande skalan av interaktion mellan människor och teknik, både online och fysiskt, är det avgörande att vi förstår mer om huruvida maskiner kan ha en liknande effekt.”

Experimentet

Studien involverade 180 studenter som genomförde Balloon Analogue Risk Task (BART), som är en datorbaserad utvärdering som kräver att användarna blåser upp en ballong på skärmen genom att trycka på mellanslagstangenten på tangentbordet. Ballongen blåses upp lite med varje tryck, och spelarna får en penny varje gång i sin “tillfälliga pengabank”. Ballongerna kan explodera när som helst, vilket resulterar i att spelaren förlorar alla pengar, men de har möjlighet att “kassera in” innan de blåser upp ballongen mer.

En tredjedel av deltagarna, som var kontrollgruppen, genomförde testet ensamma i sina rum. En annan tredjedel genomförde testet medan de var i sällskap med en robot som endast gav instruktioner, annars helt tyst. Den sista gruppen, som var experimentgruppen, genomförde testet bredvid en robot som både gav instruktioner och talade uppmuntrande uttalanden, såsom “varför slutade du pumpa”.

Denna tredje grupp som uppmuntrades av roboten visade riskbeteende mer än de andra grupperna, blåste upp ballongerna mer. Samtidigt tjänade de mer pengar jämfört med de andra grupperna. När det gäller grupperna som var i sällskap med den tysta roboten och utan någon robot, fanns det ingen signifikant skillnad mellan de två.

“Vi såg att deltagare i kontrollförhållandet skala tillbaka sitt riskbeteende efter en ballongexplosion, medan de i experimentförhållandet fortsatte att ta lika stor risk som tidigare”, sa Dr. Hanoch. “Så, att få direkt uppmuntran från en riskfrämjande robot verkar åsidosätta deltagarnas direkta erfarenheter och instinkter.”

Forskarna kommer att genomföra ytterligare studier för att bättre förstå mänsklig interaktion med andra artificiella intelligenssystem, inklusive digitala assistenter.

“Med den breda spridningen av AI-teknik och dess interaktioner med människor, är detta ett område som behöver brådskande uppmärksamhet från forskarsamhället”, fortsatte Dr. Hanoch.

“Å ena sidan kan våra resultat väcka larm om möjligheten att robotar orsakar skada genom att öka riskbeteende. Å andra sidan pekar våra data på möjligheten att använda robotar och AI i förebyggande program, såsom anti-rökning kampanjer i skolor och med svårtillgängliga populationer, såsom missbrukare.”