Risico-bevorderende robots overschrijden directe ervaringen en instincten in nieuwe studie

Nieuw onderzoek van de Universiteit van Southampton toont aan hoe robots mensen kunnen aanmoedigen om grotere risico’s te nemen in vergelijking met wanneer er niets hun gedrag beïnvloedt. De experimenten, die werden uitgevoerd in een gesimuleerde gokscenario, helpen deskundigen beter te begrijpen risicovol gedrag en robotica, zowel ethisch als praktisch.

Het onderzoek werd geleid door Dr. Yaniv Hanoch, associate professor in risicobeheer aan de Universiteit van Southampton. Het werd gepubliceerd in het tijdschrift Cybersecurity, Behavior, and Social Networking.

“We weten dat peer pressure kan leiden tot hoger risicovol gedrag”, zei Dr. Hanoch. “Met de steeds groter wordende schaal van interactie tussen mensen en technologie, zowel online als fysiek, is het cruciaal dat we meer te weten komen over of machines een soortgelijk effect kunnen hebben.”

Het Experiment

De studie omvatte 180 undergraduate studenten die de Balloon Analogue Risk Task (BART) uitvoerden, een computerbeoordeling die gebruikers verplicht om een ballon op het scherm op te blazen door op de spatiebalk op het toetsenbord te drukken. De ballon blaast een beetje op met elke druk, en spelers ontvangen één penny elke keer in hun “tijdelijke geldbank”. De ballonnen kunnen op elk moment exploderen, waardoor de speler alle geld verliest, maar ze hebben de optie om “in te cashen” voordat ze de ballon verder opblazen.

Een derde van de deelnemers, die de controlegroep vormden, namen de test alleen in hun kamers. Een andere derde nam de test terwijl ze werden vergezeld door een robot die alleen instructies gaf, maar verder helemaal stil was. De laatste groep, die de experimentele groep vormde, nam de test terwijl ze werd vergezeld door een robot die zowel instructies gaf als aanmoedigende verklaringen, zoals “waarom stopte je met pompen”.

Deze derde groep, die werd aangemoedigd door de robot, vertoonde risicovol gedrag vaker dan de andere groepen, en blies de ballonnen vaker op. Tegelijkertijd verdienden ze meer geld in vergelijking met de andere groepen. Wat betreft de groepen die werden vergezeld door de stille robot en zonder enige robot, was er geen significant verschil tussen de twee.

“We zagen dat deelnemers in de controlegroep hun risicovol gedrag terugschroefden na een ballonexplosie, terwijl degenen in de experimentele groep bleven risico’s nemen zoals voorheen”, zei Dr. Hanoch. “Dus, het ontvangen van directe aanmoediging van een risico-bevorderende robot lijkt de directe ervaringen en instincten van deelnemers te overschrijden.”

De onderzoekers zullen verdere studies uitvoeren om een beter begrip te krijgen van de interactie tussen mensen en andere kunstmatige intelligentiesystemen, waaronder digitale assistenten.

“Met de wijdverbreide toepassing van AI-technologie en de interactie met mensen, is dit een gebied dat dringend aandacht nodig heeft van de onderzoekscommuniteit”, vervolgde Dr. Hanoch.

“Enerzijds kunnen onze resultaten alarmbellen doen afgaan over het risico dat robots schade kunnen veroorzaken door risicovol gedrag te vergroten. Anderzijds wijzen onze gegevens op de mogelijkheid om robots en AI te gebruiken in preventieve programma’s, zoals anti-rookcampagnes op scholen, en bij moeilijk bereikbare populaties, zoals verslaafden.”