Ny studie observerer accept af emotionel AI blandt Generation Z

En ny studie fra Ritsumeikan Asia Pacific University i Japan observerer de socio-kulturelle faktorer, der påvirker accepten af AI-teknologi blandt Generation Z.

Emotionel AI, der er kunstig intelligens, der inddrager menneskelige emotioner, vokser hurtigt og bruges i en bred vifte af anvendelser. Med det sagt er det ret ukontrolleret på dette tidspunkt og mangler anerkendelse af kulturelle forskelle. På grund af dette mener teamet, det er afgørende at studere dets accept blandt Gen Z, som er den demografiske gruppe, der er mest sårbar over for emotionel AI.

Teamet bestod af forskere fra Japan og Vietnam, og forskningen blev offentliggjort i Technology in Society.

Den nye studie var en del af projektet “Emotionel AI i byer: Tværkulturelle læresætninger fra Storbritannien og Japan om design til et etisk liv.”

Ikke-bevidst dataindsamling (NCDC)

Algoritmer bliver mere og mere dygtige til at registrere menneskelige emotioner og interagere med dem, hvilket fører til, at de indlejres i mainstream-systemer. Emotionel AI opnås gennem en proces kendt som “ikke-bevidst dataindsamling”, eller NCDC, som indebærer, at algoritmen indsamler data om brugerens hjerte- og åndedrætsrate, stemmeleje, mikro-faciale udtryk, gestus og mere. Disse muliggør, at systemet kan analysere en brugers humør og tilpasse svaret.

Der er mange etiske og privatlivsrelaterede bekymringer omkring emotionel AI, hvilket er hvorfor det er vigtigt at udforske, hvordan Gen Z har det med det. Gen Z udgør 36% af den globale arbejdsstyrke, og det er sandsynligvis den mest sårbare over for emotionel AI.

Professor Peter Mantello var en af de forskere, der var involveret i studiet.

“NCDC repræsenterer en ny udvikling i menneske-maskine-relationer og er langt mere invasive i forhold til tidligere AI-teknologier. I lyset heraf er der en presserende behov for at forbedre vores forståelse af deres impact og accept blandt Gen Z-medlemmer,” siger prof. Mantello.

Gen Z’s respons på emotionel AI

Teamets studie undersøgte 1.015 Gen Z-respondenter fra 48 lande og 8 regioner over hele verden. Deltagerne blev spurgt om deres holdninger til NCDC, der blev brugt af kommercielle og statlige aktører. Bayesian multilevel-analyse blev derefter brugt til at kontrollere for variable og observere effekterne af hver.

Studiet fandt, at mere end 50% af respondentende var bekymrede for brugen af NCDC, men holdningen varierede afhængigt af køn, indkomst, uddannelsesniveau og religion.

Professor Nader Ghotbi var også involveret i studiet.

“Vi fandt, at at være mand og have høj indkomst var begge korreleret med at have positive holdninger til at acceptere NCDC. Desuden var erhvervsstudenter mere tilbøjelige til at være tolerante over for NCDC,” siger prof. Ghotbi.

Kulturelle faktorer som region og religion havde også en impact. Individer fra Sydøstasien, muslimer og kristne rapporterede mere bekymring over NCDC.

“Vores studie demonstrerer tydeligt, at socio-kulturelle faktorer dybt påvirker accepten af ny teknologi. Dette betyder, at teorier baseret på den traditionelle teknologiacceptmodel af Davis, der ikke tager højde for disse faktorer, skal modificeres,” siger prof. Mantello.

Teamet svarede på disse bekymringer ved at foreslå en “mind-sponge”-model-baseret tilgang, der tager højde for socio-kulturelle faktorer i vurderingen af accepten af AI-teknologi. Det anbefalede også en grundig forståelse af de potentielle risici, der kunne hjælpe med at aktivere effektiv styring og etisk design.

“Offentlige udrejningsinitiativer er nødvendige for at sensibilisere befolkningen om de etiske implikationer af NCDC. Disse initiativer skal tage højde for de demografiske og kulturelle forskelle for at være succesfulde,” siger Dr. Nguyen.