Ny studie observerer aksept av Emosjonell AI blant Gen Z

En ny studie fra Ritsumeikan Asia Pacific University i Japan observerer de sosio-kulturelle faktorene som påvirker aksepten av AI-teknologi blant Generasjon Z.

Emosjonell AI, som er kunstig intelligens som engasjerer menneskelige emosjoner, vokser raskt og brukes i en rekke applikasjoner. Likevel er det relativt uregulert og mangler anerkjennelse av kulturelle forskjeller. Derfor mener teamet det er kritisk å studere aksepten blant Gen Z, som er den demografien som er mest sårbar for emosjonell AI.

Teamet bestod av forskere fra Japan og Vietnam, og forskningen ble publisert i Technology in Society.

Den nye studien var en del av prosjektet “Emotional AI in Cities: Cross Cultural Lessons from UK and Japan on Designing for an Ethical Life.”

Ikke-bevisst datainnsamling (NCDC)

Algoritmer blir stadig bedre på å registrere menneskelige emosjoner og samhandle med dem, noe som fører til at de blir mer og mer integrert i vanlige systemer. Emosjonell AI oppnås gjennom en prosess kjent som “ikke-bevisst datainnsamling”, eller NCDC, som innebærer at algoritmen samler inn data om brukerens hjerte- og åndedrett, stemmeleie, mikro-ansiktsuttrykk, gester og mer. Dette muliggjør at systemet kan analysere en brukers humør og tilpasse svaret.

Det finnes mange etiske og personvernsrelaterte bekymringer knyttet til emosjonell AI, noe som gjør det viktig å utforske hvordan Gen Z føler om det. Gen Z utgjør 36% av den globale arbeidsstyrken, og det er sannsynligvis den mest sårbare for emosjonell AI.

Professor Peter Mantello var en av forskerne involvert i studien.

“NCDC representerer en ny utvikling i menneske-maskin-relasjoner, og er langt mer invasive sammenlignet med tidligere AI-teknologier. I lys av dette, er det en presserende behov for å bedre forstå deres innvirkning og aksept blant Gen Z-medlemmene,” sier Prof. Mantello.

Gen Zs respons på Emosjonell AI

Teamets studie undersøkte 1 015 Gen Z-respondenter over 48 land og 8 regioner over hele verden. Deltagerne ble spurt om deres holdninger til NCDC brukt av kommersielle og statlige aktører. Bayesian multilevel-analyse ble deretter brukt til å kontrollere for variabler og observere effektene av hver.

Studien fant at, totalt sett, var mer enn 50% av respondentene bekymret for bruk av NCDC, men holdningene varierte basert på kjønn, inntekt, utdanningsnivå og religion.

Professor Nader Ghotbi var også involvert i studien.

“Vi fant at å være mann og ha høy inntekt var begge korrelert med å ha positive holdninger til å akseptere NCDC. I tillegg var bedriftsstudenter mer sannsynlig å være tolerante overfor NCDC,” sier Prof. Ghotbi.

Kulturelle faktorer som region og religion hadde også en innvirkning. Individer fra Sørøst-Asia, muslimer og kristne rapporterte mer bekymring over NCDC.

“Vår studie demonstrerer tydelig at sosio-kulturelle faktorer dypt påvirker aksepten av ny teknologi. Dette betyr at teorier basert på den tradisjonelle teknologi-aksept-modellen til Davis, som ikke tar hensyn til disse faktorene, må modificeres,” sier Prof. Mantello.

Teamet svarte på disse bekymringene ved å foreslå en “mind-sponge”-modellbasert tilnærming som tar hensyn til sosio-kulturelle faktorer ved å vurdere aksepten av AI-teknologi. Det anbefalte også en grundig forståelse av de potensielle risikoene, som kunne hjelpe med å muliggjøre effektiv styring og etisk design.

“Offentlige utrekningsinitiativer er nødvendige for å sensibilisere befolkningen om de etiske implikasjonene av NCDC. Disse initiativene må ta hensyn til de demografiske og kulturelle forskjellene for å være suksessfulle,” sier Dr. Nguyen.