Etik
Ny undersøgelse observerer accept af følelsesmæssig AI blandt Gen Z
En ny undersøgelse fra Ritsumeikan Asia Pacific University i Japan observerer de sociokulturelle faktorer, der påvirker accepten af AI-teknologi blandt Generation Z.
Emotionel AI, som er kunstig intelligens, der engagerer menneskelige følelser, vokser hurtigt og bliver brugt i en lang række applikationer. Når det er sagt, er det ret ureguleret på dette tidspunkt og mangler anerkendelse af kulturelle forskelle. På grund af dette mener holdet, at det er afgørende at studere dets accept blandt Gen Z, som er den demografiske mest sårbare over for følelsesmæssig AI.
Holdet bestod af forskere fra Japan og Vietnam, og forskningen blev publiceret i Teknologi i samfundet.
Den nye undersøgelse var en del af projektet "Emotional AI in Cities: Cross Cultural Lessons from UK and Japan on Designing for an Ethical Life."
Ikke-bevidst dataindsamling (NCDC)
Algoritmer bliver stadig bedre til at sanse menneskelige følelser og interagere med dem, hvilket fører til, at flere af dem bliver indlejret i mainstream-systemer. Følelsesmæssig AI opnås gennem en proces kendt som "ikke-bevidst dataindsamling" eller NCDC, som involverer algoritmen, der indsamler data om brugerens hjerte- og åndedrætsfrekvens, stemmetoner, mikro-ansigtsudtryk, gestus og mere. Disse gør det muligt for systemet at analysere en brugers humør og tilpasse svaret.
Der er mange etiske og privatlivsmæssige bekymringer omkring følelsesmæssig AI, og derfor er det vigtigt at undersøge, hvordan Gen Z har det med det. Gen Z udgør 36% af den globale arbejdsstyrke, og det er sandsynligvis den mest sårbare over for følelsesmæssig AI.
Professor Peter Mantello var en af forskerne involveret i undersøgelsen.
"NCDC repræsenterer en ny udvikling inden for menneske-maskine-relationer og er langt mere invasive sammenlignet med tidligere AI-teknologier. I lyset af dette er der et presserende behov for bedre at forstå deres indflydelse og accept blandt Gen Z-medlemmerne,” siger prof. Mantello.
Gen Z's svar på følelsesmæssig AI
Holdets undersøgelse undersøgte 1,015 Gen Z-respondenter i 48 lande og 8 regioner over hele kloden. Deltagerne blev spurgt om deres holdning til, at NCDC blev brugt af kommercielle og statslige aktører. Bayesiansk multilevel-analyse blev derefter brugt til at kontrollere for variabler og observere virkningerne af hver.
Undersøgelsen viste, at overordnet set var mere end 50 % af de adspurgte bekymrede over brugen af NCDC, men holdningen varierede baseret på køn, indkomst, uddannelsesniveau og religion.
Professor Nader Ghotbi var også involveret i undersøgelsen.
"Vi fandt ud af, at det at være mand og have høj indkomst begge var korreleret med at have positive holdninger til at acceptere NCDC. Derudover var erhvervslivet mere tilbøjelige til at være tolerante over for NCDC,” siger prof. Ghotbi.
Kulturelle faktorer som region og religion havde også en indflydelse. Personer fra Sydøstasien, muslimer og kristne rapporterede mere bekymring over NCDC.
"Vores undersøgelse viser tydeligt, at sociokulturelle faktorer dybt påvirker accepten af ny teknologi. Det betyder, at teorier baseret på Davis' traditionelle teknologiacceptmodel, som ikke tager højde for disse faktorer, skal modificeres,” siger prof. Mantello.
Holdet reagerede på disse bekymringer ved at foreslå en "mind-svamp" modelbaseret tilgang, der tager højde for sociokulturelle faktorer i vurderingen af accepten af AI-teknologi. Det anbefalede også en grundig forståelse af de potentielle risici, som kunne hjælpe med at muliggøre effektiv styring og etisk design.
"Offentlige opsøgende initiativer er nødvendige for at gøre befolkningen opmærksom på de etiske implikationer af NCDC. Disse initiativer skal tage højde for de demografiske og kulturelle forskelle for at være en succes,” siger Dr. Nguyen.
