Ny studie observerar acceptansen av emotionell AI bland generation Z

En ny studie från Ritsumeikan Asia Pacific University i Japan observerar de socio-kulturella faktorerna som påverkar acceptansen av AI-teknik bland generation Z.

Emotionell AI, som är artificiell intelligens som engagerar mänskliga känslor, växer snabbt och används i en mängd olika tillämpningar. Med det sagt är det ganska oreglerat just nu och saknar erkännande av kulturella skillnader. På grund av detta anser teamet att det är viktigt att studera dess acceptans bland generation Z, som är den demografiska grupp som är mest sårbar för emotionell AI.

Teamet bestod av forskare från Japan och Vietnam, och forskningen publicerades i Technology in Society.

Den nya studien var en del av projektet “Emotionell AI i städer: Tvärkulturella lärdomar från Storbritannien och Japan om design för ett etiskt liv.”

Icke-medveten datainsamling (NCDC)

Algoritmerna blir allt bättre på att känna av mänskliga känslor och interagera med dem, vilket leder till att de allt mer integreras i vanliga system. Emotionell AI uppnås genom en process som kallas “icke-medveten datainsamling”, eller NCDC, som innebär att algoritmen samlar in data om användarens hjärtrytm och andning, röstton, mikroansiktsuttryck, gester och mer. Dessa möjliggör för systemet att analysera en användares humör och anpassa svaret.

Det finns många etiska och integritetsrelaterade problem kring emotionell AI, vilket är varför det är viktigt att undersöka hur generation Z känner för den. Generation Z utgör 36% av den globala arbetsstyrkan, och det är troligen den grupp som är mest sårbar för emotionell AI.

Professor Peter Mantello var en av forskarna som deltog i studien.

“NCDC representerar en ny utveckling i människa-maskin-relationer, och är långt mer invasiva jämfört med tidigare AI-teknologier. Mot bakgrund av detta finns det ett brådskande behov av att bättre förstå deras påverkan och acceptans bland generation Z-medlemmarna”, säger professor Mantello.

Generation Z:s reaktion på emotionell AI

Teamets studie undersökte 1 015 generation Z-respondenter i 48 länder och 8 regioner över hela världen. Deltagarna fick frågor om sina attityder till NCDC som används av kommersiella och statliga aktörer. Bayesiansk multilevelanalys användes sedan för att kontrollera variabler och observera effekterna av var och en.

Studien fann att, totalt sett, var mer än 50% av respondenterna oroliga för användningen av NCDC, men attityden varierade beroende på kön, inkomst, utbildningsnivå och religion.

Professor Nader Ghotbi var också involverad i studien.

“Vi fann att att vara man och ha hög inkomst var båda korrelerade med att ha positiva attityder till att acceptera NCDC. Dessutom var företagsstudenter mer benägna att vara toleranta mot NCDC”, säger professor Ghotbi.

Kulturella faktorer som region och religion hade också en påverkan. Individer från Sydostasien, muslimer och kristna rapporterade mer oro över NCDC.

“Vår studie visar tydligt att socio-kulturella faktorer djupt påverkar acceptansen av ny teknik. Detta innebär att teorier baserade på den traditionella teknikanvändningsmodellen av Davis, som inte tar hänsyn till dessa faktorer, måste modifieras”, säger professor Mantello.

Teamet svarade på dessa problem genom att föreslå en “mind-sponge”-modellbaserad ansats som tar hänsyn till socio-kulturella faktorer vid bedömning av acceptansen av AI-teknik. Det rekommenderade också en grundlig förståelse av de potentiella riskerna, som kunde hjälpa till att möjliggöra effektiv styrning och etisk design.

“Offentliga informationsinsatser behövs för att göra befolkningen medveten om de etiska implikationerna av NCDC. Dessa insatser måste ta hänsyn till de demografiska och kulturella skillnaderna för att vara framgångsrika”, säger Dr. Nguyen.