Risikofremmende roboter overstyrer direkte erfaringer og instinkter i ny studie

Nye forskningsresultater fra University of Southampton viser hvordan roboter kan oppmuntre mennesker til å ta større risiko når sammenlignet med hvis det ikke var noen som påvirkte deres atferd. Eksperimentene, som ble gjennomført i en simulert hasardspill-scenario, hjelper eksperter med å bedre forstå risikofull atferd og robotikk både etisk og praktisk.

Forskningen ble ledet av Dr. Yaniv Hanoch, associate professor i risikostyring ved University of Southampton. Den ble publisert i tidsskriftet Cybersecurity, Behavior, and Social Networking.

“Vi vet at peer pressure kan føre til større risikofull atferd,” sa Dr. Hanoch. “Med den stadig økende skalaen av interaksjon mellom mennesker og teknologi, både online og fysisk, er det viktig at vi forstår mer om hvorvidt maskiner kan ha en lignende effekt.”

Eksperimentet

Studien involverte 180 studenter som tok Balloon Analogue Risk Task (BART), som er en datamaskinbasert vurdering som krever at brukerne blåser opp en ballong på skjermen ved å trykke på mellomromstasten på tastaturet. Ballongen blåses opp litt med hver trykk, og spillerne mottar en penni hver gang i deres “midlertidige pengerkonto”. Ballongene kan eksplodere når som helst, noe som resulterer i at spilleren mister alle penger, men de har mulighet til å “innekassere” før de blåser opp ballongen mer.

En tredel av deltakerne, som var kontrollgruppen, tok testen alene i sine rom. En annen tredel tok testen mens de ble ledsaget av en robot som bare ga instruksjoner, ellers helt stille. Den siste gruppen, som var eksperimentgruppen, tok testen sammen med en robot som både ga instruksjoner og snakket oppmuntrende utsagn, som “hvorfor stoppet du å pumpe.”

Denne tredje gruppen som ble oppmuntret av roboten viste risikofull atferd mer enn de andre gruppene, og blåste opp ballongene mer. Samtidig tjente de mer penger sammenlignet med de andre gruppene. For de gruppene som ble ledsaget av den stille roboten og uten noen robot, var det ingen signifikant forskjell mellom de to.

“Vi så at deltakerne i kontrolltilstanden reduserte sin risikofulle atferd etter en ballongeksplosjon, mens de i eksperimenttilstanden fortsatte å ta like mye risiko som før,” sa Dr. Hanoch. “Så, å motta direkte oppmuntning fra en risikofremmende robot synes å overstyre deltakernes direkte erfaringer og instinkter.”

Forskerne vil gjennomføre videre studier for å få en bedre forståelse av menneskelig interaksjon med andre kunstig intelligens-systemer, inkludert digitale assistenter.

“Med den vidstrakte utbredelsen av AI-teknologi og dens interaksjoner med mennesker, er dette et område som trenger øyeblikkelig oppmerksomhet fra forskningsmiljøet,” fortsatte Dr. Hanoch.

“På den ene siden kan våre resultater vekke bekymring om muligheten for at roboter kan skade ved å øke risikofull atferd. På den andre siden, peker våre data mot muligheten for å bruke roboter og AI i forebyggende programmer, som anti-rykingkampanjer i skoler, og hos vanskelig tilgjengelige befolkninger, som avhengige.”