Ny studie observerar acceptansen av emotionell AI bland generation Z

En ny studie från Ritsumeikan Asia Pacific University i Japan observerar de socio-kulturella faktorerna som påverkar acceptansen av AI-teknologi bland generation Z. 

Emotionell AI, som är artificiell intelligens som engagerar mänskliga känslor, växer snabbt och används i en mängd olika tillämpningar. Med det sagt är den ganska oreglerad för tillfället och saknar erkännande av kulturella skillnader. På grund av detta anser teamet att det är avgörande att studera dess acceptans bland generation Z, som är den demografiska grupp som är mest sårbar för emotionell AI. 

Teamet bestod av forskare från Japan och Vietnam, och forskningen publicerades i Technology in Society. 

Den nya studien var en del av projektet “Emotionell AI i städer: Tvärkulturella lärdomar från Storbritannien och Japan om design för ett etiskt liv.” 

Icke-medveten datainsamling (NCDC)

Algoritmer blir allt bättre på att känna av mänskliga känslor och interagera med dem, vilket leder till att fler och fler embeds i mainstreamsystem. Emotionell AI uppnås genom en process som kallas “icke-medveten datainsamling”, eller NCDC, som innebär att algoritmen samlar in data om användarens hjärt- och andningsfrekvens, röstton, mikroansiktsuttryck, gester och mer. Detta möjliggör för systemet att analysera en användares humör och anpassa svaret. 

Det finns många etiska och integritetsproblem kring emotionell AI, vilket är varför det är viktigt att undersöka hur generation Z känner för det. Generation Z utgör 36% av den globala arbetskraften, och det är troligen den mest sårbara för emotionell AI. 

Professor Peter Mantello var en av forskarna som deltog i studien. 

“NCDC representerar en ny utveckling i mänsklig-maskin relationer, och är långt mer invasiv jämfört med tidigare AI-teknologier. I ljuset av detta finns det ett brådskande behov av att bättre förstå dess påverkan och acceptans bland generation Z-medlemmarna,” säger prof. Mantello. 

Generation Z:s reaktion på emotionell AI

Teamets studie undersökte 1 015 generation Z-respondenter i 48 länder och 8 regioner över hela världen. Deltagarna fick frågor om sina attityder till NCDC som används av kommersiella och statliga aktörer. Bayesiansk multilevelanalys användes sedan för att kontrollera variabler och observera effekterna av var och en. 

Studien fann att, totalt sett, var mer än 50% av respondenterna oroliga för användningen av NCDC, men attityden varierade beroende på kön, inkomst, utbildningsnivå och religion. 

Professor Nader Ghotbi var också involverad i studien. 

“Vi fann att att vara man och ha hög inkomst var båda korrelerade med att ha positiva attityder till att acceptera NCDC. Dessutom var företagsstudenter mer benägna att vara toleranta mot NCDC,” säger prof. Ghotbi. 

Kulturella faktorer som region och religion hade också en påverkan. Individer från Sydostasien, muslimer och kristna rapporterade mer oro över NCDC. 

“Vår studie visar tydligt att socio-kulturella faktorer djupt påverkar acceptansen av ny teknik. Detta innebär att teorier baserade på den traditionella teknologiacceptansmodellen av Davis, som inte tar hänsyn till dessa faktorer, måste modifieras,” säger prof. Mantello.

Teamet svarade på dessa problem genom att föreslå en “mind-sponge”-modellbaserad ansats som tar hänsyn till socio-kulturella faktorer vid bedömning av acceptansen av AI-teknologi. Det rekommenderade också en grundlig förståelse av de potentiella riskerna, som kunde hjälpa till att möjliggöra effektiv styrning och etisk design. 

“Offentliga informationsinsatser behövs för att göra befolkningen medveten om de etiska implikationerna av NCDC. Dessa insatser måste ta hänsyn till demografiska och kulturella skillnader för att vara framgångsrika,” säger Dr. Nguyen.