Ny studie observerer aksept av emosjonell AI blant Gen Z

En ny studie fra Ritsumeikan Asia Pacific University i Japan observerer de sosio-kulturelle faktorene som påvirker aksepten av AI-teknologi blant Generasjon Z. 

Emosjonell AI, som er kunstig intelligens som engasjerer menneskelige emosjoner, vokser raskt og brukes i en rekke applikasjoner. Med det sagt, er det forholdsvis uregulert på dette punktet og mangler anerkjennelse av kulturelle forskjeller. På grunn av dette, mener teamet det er kritisk å studere dens aksept blant Gen Z, som er den demografien som er mest sårbar for emosjonell AI. 

Teamet bestod av forskere fra Japan og Vietnam, og forskningen ble publisert i Technology in Society. 

Den nye studien var en del av prosjektet “Emosjonell AI i byer: Kulturelle lærdommer fra UK og Japan om å designe for et etisk liv.” 

Ikke-bevisst datainnsamling (NCDC)

Algoritmer blir stadig bedre til å registrere menneskelige emosjoner og samhandle med dem, noe som fører til at flere av dem blir innbygget i mainstream-systemer. Emosjonell AI oppnås gjennom en prosess kjent som “ikke-bevisst datainnsamling”, eller NCDC, som innebærer at algoritmen samler inn data om brukerens hjerte- og pustefrekvens, stemmeleie, mikro-faciale uttrykk, gester og mer. Disse muliggjør at systemet kan analysere en brukers humør og tilpasse svaret. 

Det finnes mange etiske og personvernsrelaterte bekymringer rundt emosjonell AI, som er hvorfor det er viktig å utforske hvordan Gen Z føler om det. Gen Z utgjør 36% av den globale arbeidsstyrken, og det er sannsynligvis den mest sårbare for emosjonell AI. 

Professor Peter Mantello var en av forskerne involvert i studien. 

“NCDC representerer en ny utvikling i menneske-maskin-relasjoner, og er langt mer invasive sammenlignet med tidligere AI-teknologier. I lys av dette, er det en pressesaks å bedre forstå deres innvirkning og aksept blant Gen Z-medlemmene,” sier Prof. Mantello. 

Gen Z’s respons til emosjonell AI

Teamets studie undersøkte 1 015 Gen Z-respondenter over 48 land og 8 regioner over hele verden. Deltagerne ble spurt om deres holdninger til NCDC brukes av kommersielle og statlige aktører. Bayesian multilevel-analyse ble deretter brukt til å kontrollere for variable og observere effektene av hver. 

Studien fant at, totalt sett, var mer enn 50% av respondentene bekymret for bruk av NCDC, men holdningen varierte basert på kjønn, inntekt, utdannelsesnivå og religion. 

Professor Nader Ghotbi var også involvert i studien. 

“Vi fant at å være mann og ha høy inntekt var begge korrelert med å ha positive holdninger til å akseptere NCDC. I tillegg var bedriftsstudenter mer sannsynlig å være tolerante overfor NCDC,” sier Prof. Ghotbi. 

Kulturelle faktorer som region og religion hadde også en innvirkning. Individer fra Sørøst-Asia, muslimer og kristne rapporterte mer bekymring over NCDC. 

“Vår studie demonstrerer tydelig at sosio-kulturelle faktorer dypt påvirker aksepten av ny teknologi. Dette betyr at teorier basert på den tradisjonelle teknologi-akseptmodellen av Davis, som ikke tar hensyn til disse faktorene, må modificeres,” sier Prof. Mantello.

Teamet svarte på disse bekymringene ved å foreslå en “mind-sponge”-modellbasert tilnærming som tar hensyn til sosio-kulturelle faktorer ved å vurdere aksepten av AI-teknologi. Det anbefalte også en grundig forståelse av de potensielle risikoene, som kunne hjelpe med å aktivere effektiv styring og etisk design. 

“Offentlige utrekningsinitiativer er nødvendige for å sensibilisere befolkningen om de etiske implikasjonene av NCDC. Disse initiativene må ta hensyn til demografiske og kulturelle forskjeller for å være suksessfulle,” sier Dr. Nguyen.