Ny studie observerer aksept av emosjonell AI blant Gen Z

En ny studie fra Ritsumeikan Asia Pacific University i Japan observerer de sosiokulturelle faktorene som påvirker aksepten av AI-teknologi blant generasjon Z. 

Emosjonell AI, som er kunstig intelligens som engasjerer menneskelige følelser, vokser raskt og brukes i et bredt spekter av applikasjoner. Med det sagt er det ganske uregulert på dette tidspunktet og mangler anerkjennelse av kulturelle forskjeller. På grunn av dette tror teamet det er avgjørende å studere aksepten blant Gen Z, som er den demografiske mest sårbare for emosjonell AI. 

Teamet besto av forskere fra Japan og Vietnam, og forskningen ble publisert i Teknologi i samfunnet. 

Den nye studien var en del av prosjektet "Emotional AI in Cities: Cross Cultural Lessons from UK and Japan on Designing for an Ethical Life." 

Ikke-bevisst datainnsamling (NCDC)

Algoritmer blir stadig bedre til å sanse menneskelige følelser og samhandle med dem, noe som fører til at flere av dem blir innebygd i vanlige systemer. Emosjonell AI oppnås gjennom en prosess kjent som "ikke-bevisst datainnsamling," eller NCDC, som innebærer at algoritmen samler inn data om brukerens hjerte- og respirasjonsfrekvens, stemmetoner, mikro-ansiktsuttrykk, gester og mer. Disse gjør det mulig for systemet å analysere en brukers humør og tilpasse responsen. 

Det er mange etiske og personvernmessige bekymringer rundt emosjonell AI, og det er derfor det er viktig å utforske hvordan Gen Z føler om det. Gen Z utgjør 36% av den globale arbeidsstyrken, og den er sannsynligvis den mest sårbare for emosjonell AI. 

Professor Peter Mantello var en av forskerne involvert i studien. 

"NCDC representerer en ny utvikling innen menneske-maskin-relasjoner, og er langt mer invasive sammenlignet med tidligere AI-teknologier. I lys av dette er det et presserende behov for å bedre forstå deres innvirkning og aksept blant Gen Z-medlemmene, sier prof. Mantello. 

Gen Zs svar på emosjonell AI

Teamets studie undersøkte 1,015 Gen Z-respondenter i 48 land og 8 regioner over hele verden. Deltakerne ble spurt om deres holdninger til at NCDC ble brukt av kommersielle og statlige aktører. Bayesiansk multilevel-analyse ble deretter brukt til å kontrollere for variabler og observere effektene av hver. 

Studien fant at totalt sett var mer enn 50 % av respondentene bekymret for bruken av NCDC, men holdningen varierte basert på kjønn, inntekt, utdanningsnivå og religion. 

Professor Nader Ghotbi var også involvert i studien. 

"Vi fant at det å være mann og ha høy inntekt begge var korrelert med å ha positive holdninger til å akseptere NCDC. I tillegg var det større sannsynlighet for at bedriftsledere var tolerante overfor NCDC, sier prof. Ghotbi. 

Kulturelle faktorer som region og religion hadde også innvirkning. Enkeltpersoner fra Sørøst-Asia, muslimer og kristne rapporterte mer bekymring over NCDC. 

"Vår studie viser tydelig at sosiokulturelle faktorer i stor grad påvirker aksepten av ny teknologi. Dette betyr at teorier basert på den tradisjonelle teknologiakseptmodellen til Davis, som ikke tar hensyn til disse faktorene, må modifiseres, sier prof. Mantello.

Teamet svarte på disse bekymringene ved å foreslå en "mind-svamp" modellbasert tilnærming som tar hensyn til sosiokulturelle faktorer i vurderingen av aksept av AI-teknologi. Den anbefalte også en grundig forståelse av de potensielle risikoene, som kan bidra til å muliggjøre effektiv styring og etisk design. 

"Offentlige oppsøkende initiativer er nødvendige for å gjøre befolkningen oppmerksom på de etiske implikasjonene av NCDC. Disse initiativene må vurdere de demografiske og kulturelle forskjellene for å være vellykkede, sier Dr. Nguyen.