Ethische overwegingen bij de ontwikkeling van AI voor emotieherkenning

Kunstmatige intelligentie voor emotieregulatie is een van de laatste technologische ontwikkelingen op het gebied van machine learning. Hoewel het veel potentieel heeft, zijn er ethische kwesties die de adoptiegraad en levensduur ervan kunnen beïnvloeden. Kunnen AI-ontwikkelaars deze overwinnen?

Wat is emotieherkenning AI?

Emotieherkenning AI is een type machine learning-model. Het vertrouwt vaak op computer vision-technologie die gezichtsuitdrukkingen vastlegt en analyseert om gemoedstoestanden in afbeeldingen en video’s te ontcijferen. Het kan ook werken met audioclips om de toon van de stem te bepalen of geschreven tekst om de sentiment van de taal te beoordelen.

Dit soort algoritme vertegenwoordigt fascinerende vooruitgang in het veld van AI, omdat modellen tot nu toe niet in staat waren om menselijke gevoelens te begrijpen. Terwijl grote taalmodellen zoals ChatGPT stemmingen en personages overtuigend kunnen simuleren, kunnen ze alleen logisch woorden samenstellen – ze kunnen niets voelen en vertonen geen emotionele intelligentie.Hoewel een emotieherkenningmodel geen gevoelens kan hebben, kan het nog steeds gevoelens detecteren en catalogiseren. Deze ontwikkeling is belangrijk omdat het aangeeft dat AI mogelijk binnenkort echt geluk, verdriet of boosheid kan begrijpen en demonstreren. Technologische sprongen zoals deze geven een versneld tempo aan.

Gebruikscases voor AI-emotieherkenning

Bedrijven, onderwijsinstellingen, consultants en gezondheidszorgprofessionals zijn enkele van de groepen die AI voor emotieherkenning kunnen gebruiken.

Risicobeoordeling op kantoor

HR-teams kunnen algoritmes gebruiken om sentimentanalyse uit te voeren op e-mailcorrespondentie of in-app-chats tussen teamleden. Alternatief kunnen ze hun algoritme integreren in hun bewakings- of computer vision-systeem. Gebruikers kunnen hun gemoedstoestand bijhouden om metrics zoals verlooprisico, burn-outgraad en medewerkertevredenheid te berekenen.

Understeuning van klantenserviceagenten

Detailhandelaren kunnen in-house AI-klantenserviceagenten voor eindgebruikers of virtuele assistenten gebruiken om hoge-stresssituaties op te lossen. Aangezien hun model gemoedstoestanden kan herkennen, kan het de-escaleringsmethoden suggereren of van toon veranderen wanneer het beseft dat een consument boos wordt. Tegenmaatregelen zoals deze kunnen de klanttevredenheid en -behoud verbeteren.

Helpen van studenten in de klas

Onderwijsinstellingen kunnen deze AI gebruiken om te voorkomen dat afstandslerenden achterblijven. Een startup heeft al zijn tool gebruikt om spierpunten op de gezichten van studenten te meten terwijl hij hun snelheid en cijfers catalogiseert. Deze methode bepaalt hun gemoedstoestand, motivatie, sterke en zwakke punten. De oprichter van de startup beweert dat ze 10% hoger scoren op tests wanneer ze de software gebruiken.

Uitvoeren van interne marktonderzoek

Bedrijven kunnen interne marktonderzoek uitvoeren met een emotieherkenningmodel. Het kan hen helpen om precies te begrijpen hoe hun doelgroep reageert op hun product, dienst of marketingmateriaal, waardoor ze waardevolle gegevensgestuurde inzichten krijgen. Als gevolg hiervan kunnen ze hun marktintroductietijd versnellen en hun omzet verhogen.

Het probleem met het gebruik van AI om emoties te detecteren

Onderzoek suggereert dat de nauwkeurigheid sterk afhankelijk is van de trainingsgegevens. Een onderzoeksgroep – die probeerde gevoelens uit afbeeldingen te ontcijferen – bewees dit concept anekdotisch toen hun model 92,05% nauwkeurigheid behaalde op de Japanse Female Facial Expression-dataset en 98,13% nauwkeurigheid op de Extended Cohn-Kanade-dataset.

Hoewel het verschil tussen 92% en 98% onbeduidend lijkt, is het belangrijk – dit kleine verschil kan aanzienlijke gevolgen hebben. Ter referentie heeft een dataset-vergiftigingsgraad zo laag als 0,001% zich bewezen effectief te zijn bij het creëren van model-backdoors of het opzettelijk veroorzaken van misclassificaties. Zelfs een fractie van een percentage is belangrijk.

Bovendien, hoewel studies veelbelovend lijken – nauwkeurigheidspercentages boven de 90% laten potentieel zien – worden ze uitgevoerd in gecontroleerde omgevingen. In de echte wereld zijn vaak onscherpe afbeeldingen, gefabriceerde gezichtsuitdrukkingen, slechte hoeken en subtiele gevoelens meer voorkomend. Met andere woorden, AI kan mogelijk niet consistent presteren.

De huidige staat van emotieherkenning AI

Algoritmische sentimentanalyse is het proces van het gebruik van een algoritme om te bepalen of de toon van de tekst positief, neutraal of negatief is. Deze technologie is mogelijk de basis voor moderne emotiedetectiemodellen, aangezien het de weg vrijmaakte voor algoritmische stemmingsevaluaties. Soortgelijke technologieën zoals gezichtsherkenningsoftware hebben ook bijgedragen aan de vooruitgang.

De algoritmes van vandaag kunnen voornamelijk alleen eenvoudige gemoedstoestanden zoals geluk, verdriet, boosheid, angst en verbazing detecteren met variabele nauwkeurigheid. Deze gezichtsuitdrukkingen zijn aangeboren en universeel – ze zijn natuurlijk en wereldwijd begrijpelijk – dus het trainen van een AI om ze te identificeren is relatief eenvoudig.

Bovendien zijn basisgezichtsuitdrukkingen vaak overdreven. Mensen fronsen hun wenkbrauwen als ze boos zijn, kijken somber als ze verdrietig zijn, glimlachen als ze gelukkig zijn en verwijden hun ogen als ze geschokt zijn. Deze eenvoudige, dramatische uitdrukkingen zijn gemakkelijk te onderscheiden. Complexere emoties zijn moeilijker te lokaliseren omdat ze ofwel subtiel zijn of basisuitdrukkingen combineren.

Aangezien deze subset van AI grotendeels nog in onderzoek en ontwikkeling verkeert, heeft het nog niet de complexe gevoelens zoals heimwee, schaamte, rouw, jaloezie, opluchting of verwarring bereikt. Hoewel het waarschijnlijk op een dag meer zal bereiken, is er geen garantie dat het allemaal zal kunnen interpreteren.

In werkelijkheid kunnen algoritmes mogelijk nooit concurreren met mensen. Ter referentie, terwijl de GPT-4-dataset van OpenAI ongeveer 1 petabyte is, bevat een enkele kubieke millimeter van de menselijke hersenen ongeveer 1,4 petabyte aan gegevens. Neurologen kunnen nog niet volledig begrijpen hoe de hersenen emoties waarnemen, ondanks decennia van onderzoek, dus het bouwen van een zeer precieze AI kan onmogelijk zijn.

Hoewel het gebruik van deze technologie voor emotieherkenning precedenten heeft, is dit veld nog steeds technisch in de kinderschoenen. Er is een overvloed aan onderzoek naar het concept, maar er zijn weinig voorbeelden van grootschalige implementatie. Sommige tekenen geven aan dat achterblijvende adoptie mogelijk het gevolg is van zorgen over inconsistentie in de nauwkeurigheid en ethische kwesties.

Ethische overwegingen voor AI-ontwikkelaars

Volgens een enquête zijn 67% van de respondenten het erover eens dat AI enigszins of veel meer gereguleerd moet worden. Om mensen gerust te stellen, moeten ontwikkelaars bias minimaliseren, ervoor zorgen dat hun modellen zich zoals verwacht gedragen en resultaten verbeteren. Deze oplossingen zijn mogelijk als ze ethische overwegingen prioriteren tijdens de ontwikkeling.

1. Toestemmingsgegevensverzameling en -gebruik

Toestemming is alles in een tijdperk waarin AI-regulering toeneemt. Wat gebeurt er als medewerkers ontdekken dat hun gezichtsuitdrukkingen zonder hun medeweten worden geregistreerd? Moeten ouders toestemming geven voor onderwijsgebaseerde sentimentanalyse of kunnen studenten zelf beslissen?

Ontwikkelaars moeten expliciet aangeven welke informatie het model zal verzamelen, wanneer het in werking zal zijn, waar de analyse voor zal worden gebruikt en wie toegang heeft tot die details. Bovendien moeten ze opt-out-functies opnemen zodat individuen hun toestemming kunnen aanpassen.

2. Geanonimiseerde sentimentanalyse-uitvoer

Gegevensanonymisatie is evenzeer een privacyprobleem als een beveiligingskwestie. Ontwikkelaars moeten de emotie-informatie die ze verzamelen anonimiseren om de betrokken individuen te beschermen. Ten minste moeten ze sterk overwegen om at-rest-encryptie te gebruiken.

3. Mens-in-de-lus besluitvorming

De enige reden om AI te gebruiken om iemands emotionele toestand te bepalen, is om besluitvorming te informeren. Of het nu in een geestelijke gezondheids capaciteit of een detailhandelsomgeving wordt gebruikt, het zal mensen beïnvloeden. Ontwikkelaars moeten mens-in-de-lus-veiligheidsmaatregelen gebruiken om onverwacht gedrag te minimaliseren.

4. Mens-gecentreerde feedback voor AI-uitvoer

Zelfs als een algoritme bijna 100% nauwkeurigheid heeft, zal het nog steeds valse positieven produceren. Aangezien het niet ongebruikelijk is voor modellen om 50% of 70% te bereiken – en dat is zonder de bias- of hallucinatieproblemen aan te raken – moeten ontwikkelaars overwegen om een feedbacksysteem te implementeren.

Mensen moeten in staat zijn om te controleren wat AI zegt over hun emotionele toestand en beroep aantekenen als ze het onecht vinden. Hoewel een dergelijk systeem veiligheidsmaatregelen en aansprakelijkheidsmaatregelen zou vereisen, zou het de nadelige gevolgen van onnauwkeurige uitvoer minimaliseren.

De gevolgen van het negeren van ethiek

Ethische overwegingen moeten een prioriteit zijn voor AI-ingenieurs, machine learning-ontwikkelaars en ondernemers, omdat het hen aangaat. Aangezien de publieke mening steeds onzekerder wordt en de regelgeving strakker wordt, kunnen de gevolgen van het negeren van ethiek aanzienlijk zijn.