Nieuwe studie observeert acceptatie van emotionele AI onder Gen Z

Een nieuwe studie van de Ritsumeikan Asia Pacific University in Japan observeert de socioculturele factoren die de acceptatie van AI-technologie onder Generation Z beïnvloeden.

Emotionele AI, die artificiële intelligentie is die menselijke emoties betrekt, groeit snel en wordt in een breed scala aan toepassingen gebruikt. Desondanks is het op dit moment nog relatief ongereguleerd en wordt er weinig rekening gehouden met culturele verschillen. Daarom vindt het team het cruciaal om de acceptatie ervan onder Gen Z te bestuderen, aangezien dit de demografische groep is die het meest kwetsbaar is voor emotionele AI.

Het team bestond uit onderzoekers uit Japan en Vietnam, en het onderzoek werd gepubliceerd in Technology in Society.

De nieuwe studie maakte deel uit van het project “Emotionele AI in steden: cross-culturele lessen uit het VK en Japan over het ontwerpen van een ethisch leven.”

Non-Conscious Data Collection (NCDC)

Algoritmes worden steeds beter in het detecteren van menselijke emoties en het interactief zijn met deze emoties, waardoor ze vaker in mainstream-systemen worden geïntegreerd. Emotionele AI wordt bereikt door middel van een proces dat bekend staat als “non-conscious data collection”, of NCDC, waarbij de algoritme gegevens verzamelt over de hart- en ademhalingssnelheid van de gebruiker, stemtonen, micro-faciale expressies, gebaren en meer. Deze gegevens stellen het systeem in staat om de gemoedstoestand van de gebruiker te analyseren en de reactie te personaliseren.

Er zijn veel ethische en privacy-bezorgdheden rondom emotionele AI, waardoor het belangrijk is om te onderzoeken hoe Gen Z hierover denkt. Gen Z maakt 36% van de wereldwijde beroepsbevolking uit en is waarschijnlijk de meest kwetsbare groep voor emotionele AI.

Professor Peter Mantello was een van de onderzoekers die bij de studie betrokken waren.

“NCDC vertegenwoordigt een nieuwe ontwikkeling in de relatie tussen mens en machine, en is veel invasiever dan eerdere AI-technologieën. Gezien deze ontwikkeling is er een dringende behoefte om hun impact en acceptatie onder de leden van Gen Z beter te begrijpen,” zegt prof. Mantello.

Gen Z’s Reactie op Emotionele AI

Het team onderzocht 1.015 respondenten uit Gen Z in 48 landen en 8 regio’s over de hele wereld. De deelnemers werden gevraagd naar hun houding ten opzichte van het gebruik van NCDC door commerciële en overheidsactoren. Vervolgens werd Bayesiaanse multilevel-analyse gebruikt om variabelen te controleren en de effecten van elk te observeren.

De studie toonde aan dat meer dan 50% van de respondenten bezorgd waren over het gebruik van NCDC, maar de houding varieerde op basis van geslacht, inkomen, opleidingsniveau en religie.

Professor Nader Ghotbi was ook betrokken bij de studie.

“We vonden dat mannelijk zijn en een hoog inkomen correleerden met een positieve houding ten opzichte van NCDC. Bovendien waren bedrijfskundestudenten meer geneigd om NCDC te accepteren,” zegt prof. Ghotbi.

Culturele factoren zoals regio en religie hadden ook een impact. Individuen uit Zuidoost-Azië, moslims en christenen meldden meer bezorgdheid over NCDC.

“Onze studie toont duidelijk aan dat socioculturele factoren diepe invloed hebben op de acceptatie van nieuwe technologie. Dit betekent dat theorieën gebaseerd op het traditionele technologie-acceptatiemodel van Davis, die deze factoren niet meeneemt, moeten worden aangepast,” zegt prof. Mantello.

Het team reageerde op deze bezorgdheden door een “mind-sponge”-model-gebaseerde aanpak voor te stellen die rekening houdt met socioculturele factoren bij de beoordeling van de acceptatie van AI-technologie. Het team beval ook een grondig begrip van de potentiële risico’s aan, wat zou kunnen helpen bij het waarborgen van effectief bestuur en ethisch ontwerp.

“Publieke voorlichtingsinitiatieven zijn nodig om de bevolking te sensibiliseren voor de ethische implicaties van NCDC. Deze initiatieven moeten rekening houden met de demografische en culturele verschillen om succesvol te zijn,” zegt dr. Nguyen.