Är robotexploatering universell eller kulturbunden?

Personer i Japan behandlar samarbetsvilliga artificiella agenter med samma nivå av respekt som de gör med människor, medan amerikaner är betydligt mer benägna att utnyttja AI för personlig vinning, enligt en ny studie publicerad i Scientific Reports av forskare från LMU Munich och Waseda University Tokyo.

Allteftersom självkörande fordon och andra AI-autonoma robotar blir alltmer integrerade i dagligt liv, kan kulturella attityder till artificiella agenter avgöra hur snabbt och framgångsrikt dessa teknologier implementeras i olika samhällen.

Kulturell skiljelinje i mänsklig-AI-samarbete

“Allteftersom självkörande teknik blir verklighet, kommer dessa dagliga möten att definiera hur vi delar vägen med intelligenta maskiner”, säger Dr. Jurgis Karpus, huvudforskare från LMU Munich, i studien.

Forskningen representerar en av de första omfattande tvärkulturella undersökningarna av hur människor interagerar med artificiella agenter i scenarier där intressen inte alltid sammanfaller. Resultaten utmanar antagandet att algoritmexploatering – benägenheten att utnyttja samarbetsvillig AI – är ett universellt fenomen.

Resultaten tyder på att allteftersom autonoma teknologier blir mer vanliga, kan samhällen uppleva olika integrationsutmaningar baserat på kulturella attityder till artificiell intelligens.

Forskningsmetodik: Spelteori avslöjar beteendemässiga skillnader

Forskningsgruppen använde klassiska beteendekonomiska experiment – Trust Game och Prisoner’s Dilemma – för att jämföra hur deltagare från Japan och USA interagerade med både mänskliga partners och AI-system.

I dessa spel gjorde deltagarna val mellan egenintresse och ömsesidig nytta, med verkliga monetära incitament för att säkerställa att de gjorde äkta beslut snarare än hypotetiska. Denna experimentella design möjliggjorde för forskare att direkt jämföra hur deltagare behandlade människor jämfört med AI i identiska scenarier.

Spelen var noggrant strukturerade för att replikera vardagssituationer, inklusive trafikscenarier, där människor måste besluta om de ska samarbeta med eller utnyttja en annan agent. Deltagare spelade flera omgångar, ibland med mänskliga partners och ibland med AI-system, vilket möjliggjorde en direkt jämförelse av deras beteenden.

“Våra deltagare i USA samarbetade med artificiella agenter betydligt mindre än de gjorde med människor, medan deltagare i Japan visade upp liknande nivåer av samarbete med båda typerna av medspelare”, hävdar artikeln.

Karpus, J., Shirai, R., Verba, J.T. et al.

Skuld som en nyckelfaktor i kulturella skillnader

Forskarna föreslår att skillnader i upplevd skuld är en primär drivkraft för den observerade kulturella variationen i hur människor behandlar artificiella agenter.

Studien fann att människor i väst, specifikt i USA, tenderar att känna ånger när de utnyttjar en annan människa men inte när de utnyttjar en maskin. I Japan, å andra sidan, verkar människor uppleva skuld på ett liknande sätt oavsett om de behandlar en person eller en artificiell agent illa.

Dr. Karpus förklarar att i västerländskt tänkande innebär att köra om en robot i trafiken inte skadar dess känslor, vilket kan bidra till en större benägenhet att utnyttja maskiner.

Studien inkluderade en utforskande komponent där deltagare rapporterade sina emotionella svar efter att spelresultaten hade avslöjats. Dessa data gav viktiga insikter i de psykologiska mekanismer som låg till grund för de beteendemässiga skillnaderna.

Emotionella svar avslöjar djupare kulturella mönster

När deltagare utnyttjade en samarbetsvillig AI, rapporterade japanska deltagare att de kände betydligt mer negativa känslor (skuld, ilska, besvikelse) och färre positiva känslor (lycka, seger, lättnad) jämfört med sina amerikanska motparter.

Forskningen fann att avhoppare som utnyttjade sin AI-medspelare i Japan rapporterade att de kände sig betydligt mer skyldiga än avhoppare i USA. Detta starkare emotionella svar kan förklara den större oviljan bland japanska deltagare att utnyttja artificiella agenter.

Omvänt kände amerikaner mer negativa känslor när de utnyttjade människor än AI, en distinktion som inte observerades bland japanska deltagare. För människor i Japan var den emotionella reaktionen liknande oavsett om de hade utnyttjat en människa eller en artificiell agent.

Studien noterar att japanska deltagare kände liknande känslor när de utnyttjade både mänskliga och AI-medspelare över alla undersökta känslor, vilket tyder på en fundamentalt annorlunda moralisk uppfattning om artificiella agenter jämfört med västerländska attityder.

Animism och uppfattning om robotar

Japans kulturella och historiska bakgrund kan spela en betydande roll i dessa fynd, och erbjuda potentiella förklaringar till de observerade skillnaderna i beteende mot artificiella agenter och inkarnerad AI.

Artikeln noterar att Japans historiska affinitet för animism och tron att icke-levande föremål kan besitta själar i buddhismen, har lett till antagandet att japanska människor är mer accepterande och omsorgsfulla mot robotar än individer i andra kulturer.

Denna kulturella kontext kan skapa en fundamentalt annorlunda utgångspunkt för hur artificiella agenter uppfattas. I Japan kan det finnas mindre av en skarp distinktion mellan människor och icke-mänskliga entiteter som kan interagera.

Forskningen indikerar att människor i Japan är mer benägna än människor i USA att tro att robotar kan uppleva känslor och är mer villiga att acceptera robotar som mål för mänsklig moralisk bedömning.

Studier som refereras till i artikeln tyder på en större tendens i Japan att uppfatta artificiella agenter som liknande människor, med robotar och människor ofta avbildade som partners snarare än i hierarkiska relationer. Denna perspektiv kan förklara varför japanska deltagare emotionellt behandlade artificiella agenter och människor med liknande hänsyn.

Implikationer för autonom teknologiacceptans

Dessa kulturella attityder kan direkt påverka hur snabbt autonoma teknologier antas i olika regioner, med potentiellt långtgående ekonomiska och samhälleliga implikationer.

Dr. Karpus gissar att om människor i Japan behandlar robotar med samma respekt som människor, kan fullt autonoma taxibilar bli vanligare i Tokyo snabbare än i västerländska städer som Berlin, London eller New York.

Benägenheten att utnyttja autonoma fordon i vissa kulturer kan skapa praktiska utmaningar för deras smidiga integration i samhället. Om förare är mer benägna att köra om självkörande bilar, ta deras företräde eller på annat sätt utnyttja deras programmerade försiktighet, kan det hindra effektiviteten och säkerheten hos dessa system.

Forskarna föreslår att dessa kulturella skillnader kan påverka tidsplanen för omfattande antagande av teknologier som leveransdrönare, autonom allmän transport och självkörande personbilar.

Intressant nog fann studien liten skillnad i hur japanska och amerikanska deltagare samarbetade med andra människor, i linje med tidigare forskning inom beteendekonomi.

Studien observerade begränsad skillnad i benägenheten hos japanska och amerikanska deltagare att samarbeta med andra människor. Detta fynd betonar att divergensen uppstår specifikt i kontexten av mänsklig-AI-interaktion snarare än att reflektera bredare kulturella skillnader i samarbetsbeteende.

Denna konsekvens i mänskligt-mänskligt samarbete ger en viktig baslinje mot vilken man kan mäta de kulturella skillnaderna i mänsklig-AI-interaktion, vilket stärker studiens slutsatser om det observerade mönstrets unikhet.

Större implikationer för AI-utveckling

Resultaten har betydande implikationer för utveckling och distribution av AI-system som är utformade för att interagera med människor i olika kulturella sammanhang.

Forskningen understryker det kritiska behovet av att beakta kulturella faktorer i utformningen och implementeringen av AI-system som interagerar med människor. Sättet människor uppfattar och interagerar med AI är inte universellt och kan variera avsevärt mellan kulturer.

Att ignorera dessa kulturella nyanser kan leda till oavsiktliga konsekvenser, långsammare antagningshastigheter och potential för missbruk eller utnyttjande av AI-teknologier i vissa regioner. Det betonar vikten av tvärkulturella studier för att förstå mänsklig-AI-interaktion och säkerställa ansvarsfull utveckling och distribution av AI globalt.

Forskarna föreslår att allteftersom AI blir mer integrerat i dagligt liv, kommer förståelsen av dessa kulturella skillnader att bli alltmer viktig för en framgångsrik implementering av teknologier som kräver samarbete mellan människor och artificiella agenter.

Begränsningar och framtida forskningsriktningar

Forskarna erkänner vissa begränsningar i sitt arbete som pekar mot riktningar för framtida undersökning.

Studien fokuserade främst på bara två länder – Japan och USA – vilket, medan det ger värdefulla insikter, kanske inte fångar den fulla spektrumet av kulturell variation i mänsklig-AI-interaktion globalt. Ytterligare forskning över ett bredare urval av kulturer behövs för att generalisera dessa fynd.

Dessutom, medan spelteorians experiment erbjuder kontrollerade scenarier som är idealiska för jämförande forskning, kan de kanske inte fullt ut fånga komplexiteten i verkliga mänskliga-AI-interaktioner. Forskarna föreslår att validering av dessa fynd i fältstudier med faktiska autonoma teknologier skulle vara ett viktigt nästa steg.

Förklaringen baserad på skuld och kulturella övertygelser om robotar, medan den stöds av data, kräver ytterligare empirisk undersökning för att fastställa orsakssamband definitivt. Forskarna uppmanar till mer riktade studier som undersöker de specifika psykologiska mekanismer som ligger till grund för dessa kulturella skillnader.

“Våra nuvarande fynd dämpar generaliseringen av dessa resultat och visar att algoritmexploatering inte är ett tvärkulturellt fenomen”, avslutar forskarna.