Etiske Overvejelser Ved Udvikling af AI til Emotionerkendelse

Kunstig intelligens til emotionregulering er en af de seneste teknologiske fremskridt inden for maskinlæringsfeltet. Selvom det viser stor potentiale, er etiske problemer klar til at påvirke dets adoptionsrate og holdbarhed. Kan AI-udviklere overvinde dem? 

Hvad Er Emotionerkendelse AI? 

Emotionerkendelse AI er en type maskinlæringsmodel. Det afhænger ofte af computer vision-teknologi, der fanger og analyserer ansigtsudtryk for at tyde humør i billeder og videoer. Det kan dog også fungere på lydklip for at bestemme tonefald eller skrevet tekst for at vurdere sprogstemningen.

Denne type algoritme repræsenterer fascinerende fremgang inden for AIfeltet, fordi modellerne hidtil har været ude af stand til at forstå menneskelige følelser. Selvom store sprogmodeller som ChatGPT kan simulere humør og personlighed overbevisende, kan de kun sætte ord sammen logisk – de kan ikke føle noget og viser ikke emotionel intelligens. Selvom en emotionerkendelsesmodel ikke er i stand til at have følelser, kan den stadig registrere og katalogisere dem. Denne udvikling er betydelig, fordi den signalerer, at AI måske snart vil være i stand til virkelig at forstå og demonstrere glæde, sorg eller vrede. Teknologiske spring som disse indikerer accelereret fremgang.

Brugsområder for AI Emotionerkendelse

Virksomheder, undervisere, konsulenter og psykiske sundhedsplejepersonale er nogle af de grupper, der kan bruge AI til emotionerkendelse.

Vurdering af Risiko på Kontoret

HR-team kan bruge algoritmer til at udføre stemningsanalyse på e-mailkorrespondance eller i-app-chats mellem teammedlemmer. Alternativt kan de integrere deres algoritme i deres overvågnings- eller computer vision-system. Brugere kan spore humør for at beregne metrikker som omsætningsrisiko, udbrændingsrate og medarbejdertilfredshed.

Hjælp til KundeServiceagenter

Detailhandlere kan bruge interne AI-kundeserviceagenter til slutbrugere eller virtuelle assistenter til at løse højstresssituationer. Da deres model kan genkende humør, kan den foreslå de-eskaleringsteknikker eller ændre sin tone, når den indsætter, at en forbruger bliver vred. Modforanstaltninger som disse kan forbedre kundetilfredshed og -retention. 

Hjælp til Studerende i Klasselokalet

Undervisere kan bruge denne AI til at holde fjernlærere fra at falde bagud. En startup har allerede brugt sin værktøj til at måle muskel punkter på studerendes ansigter, samtidig med at de katalogiserer deres hastighed og karakterer. Denne metode bestemmer deres humør, motivation, styrker og svagheder. Startuppens grundlægger hævder, at de scorer 10% højere på tests, når de bruger softwaren.

Gennemførelse af Intern Markedsforskning 

Virksomheder kan gennemføre intern markedsforskning ved hjælp af en emotionerkendelsesmodel. Det kan hjælpe dem med at forstå, hvordan deres målgruppe reagerer på deres produkt, service eller markedsføringsmateriale, og giver dem værdifulde data-drevne indsigt. Som resultat kan de accelerere tid-til-marked og øge deres omsætning. 

Problemet Med At Bruge AI Til At Registrere Emotioner

Forskning viser, at nøjagtighed er højst afhængig af træningsinformation. En forskningsgruppe – der forsøgte at tyde følelser fra billeder – beviste anekdotisk denne koncept, da deres model opnåede en nøjagtighed på 92,05% på den japanske kvindelige ansigtsudtryksdataset og en nøjagtighed på 98,13% på den udvidede Cohn-Kanade-dataset.

Selvom forskellen mellem 92% og 98% kan synes ubetydelig, har det betydning – denne lille diskrepans kan have betydelige konsekvenser. For reference kan en dataset-forureningssats så lav som 0,001% være effektiv til at etablere model-bagdøre eller bevidst forårsage misclassificeringer. Selv en brøkdel af en procentdel er betydelig.

Desuden, selvom studier synes lovende – nøjagtighedsrater over 90% viser potentiale – udføres de i kontrollerede miljøer. I den virkelige verden er uklare billeder, forfalskede ansigtsudtryk, dårlige vinkler og subtile følelser langt mere almindelige. Med andre ord kan AI måske ikke fungere konsekvent.

Nuværende Tilstand af Emotionerkendelse AI

Algoritmisk stemningsanalyse er processen med at bruge en algoritme til at bestemme, om tone af teksten er positiv, neutral eller negativ. Denne teknologi er sandsynligvis grundlaget for moderne emotionregistreringsmodeller, da den banede vejen for algoritmisk humør-vurdering. Lignende teknologier som ansigtsgenkendelsessoftware har også bidraget til fremgang. 

I dag kan algoritmerne primært kun registrere simple humør som glæde, sorg, vrede, frygt og overraskelse med varierende grader af nøjagtighed. Disse ansigtsudtryk er medfødte og universelle – det vil sige, at de er naturlige og globalt forståelige – så træning af en AI til at identificere dem er relativt ligetil. 

Desuden er grundlæggende ansigtsudtryk ofte overdrevne. Mennesker rynker brynene, når de er vrede, sur, smiler, når de er glade, og åbner øjnene, når de er chokerede. Disse simple, dramatiske udtryk er lette at skelne. Mere komplekse følelser er sværere at pege på, fordi de enten er subtile eller kombinerer grundlæggende ansigtsudtryk.

Da denne undergruppe af AI størstedelen af tiden forbliver i forskning og udvikling, har den endnu ikke udviklet sig til at dække komplekse følelser som længsel, skam, sorg, jalousi, lettelse eller forvirring. Selvom det sandsynligvis vil dække mere til sidst, er der ingen garanti for, at det vil være i stand til at fortolke dem alle.

I virkeligheden kan algoritmer måske aldrig være i stand til at konkurrere med mennesker. For reference, mens OpenAI’s GPT-4-dataset er omtrent 1 petabyte, indeholder en enkelt kubikmillimeter af et menneskes hjerne omkring 1,4 petabyte data. Neuroforskere kan ikke fuldt ud forstå, hvordan hjernen opfatter følelser, på trods af årtiers forskning, så bygning af en højpræcis AI kan være umulig.

Selvom brug af denne teknologi til emotionerkendelse har præcedens, er dette felt stadig teknisk set i sin barndom. Der er en overflod af forskning om konceptet, men få eksempler på storstilede installationer findes. Nogle tegn indikerer, at tilbageholdende adoption kan skyldes bekymringer om inkonsekvent nøjagtighed og etiske problemer.

Etiske Overvejelser for AI-Udviklere

Ifølge en undersøgelse er 67% af respondentende enige om, at AI bør være noget eller meget mere reguleret. For at sætte folks sind i ro bør udviklere minimere bias, sikre, at deres modeller opfører sig, som forventet, og forbedre resultaterne. Disse løsninger er mulige, hvis de prioriterer etiske overvejelser under udviklingen.

1. Samtykkende Dataindsamling og -anvendelse 

Samtykke er alt i en alder, hvor AI-regulering øges. Hvad sker, hvis medarbejdere opdager, at deres ansigtsudtryk bliver katalogiseret uden deres viden? Skal forældre give samtykke til uddannelsesbaseret stemningsanalyse eller kan studerende selv beslutte?

Udviklere bør udtrykkeligt afsløre, hvilken information modellen vil indsamle, hvornår den vil være i drift, hvad analysen vil blive brugt til, og hvem der kan få adgang til disse detaljer. Desuden bør de inkludere funktioner til at fravælge, så individer kan tilpasse tilladelser. 

2. Anonymiseret Stemningsanalyseoutput 

Dataanonymisering er lige så meget et privatlivsproblem som et sikkerhedsproblem. Udviklere bør anonymisere følelsesinformationen, de indsamler, for at beskytte de involverede individer. I hvert fald bør de overveje at udnytte kryptering i hvile. 

3. Menneske-i-løkken Beslutningstagning

Den eneste grund til at bruge AI til at bestemme en persons emotionelle tilstand er at informere beslutningstagning. Uanset om det bruges i en psykisk sundheds kapacitet eller en detailhandelsindstilling, vil det påvirke mennesker. Udviklere bør udnytte menneske-i-løkken-sikkerhedsforanstaltninger for at minimere uventet adfærd. 

4. Menneskecentreret Feedback til AI-Output

Selvom en algoritme har næsten 100% nøjagtighed, vil den stadig producere falske positiver. Da det ikke er usædvanligt for modeller at opnå 50% eller 70% – og det er uden at berøre bias eller hallucinationsproblemer – bør udviklere overveje at implementere et feedbacksystem. 

Mennesker bør være i stand til at gennemse, hvad AI siger om deres emotionelle tilstand, og appellere, hvis de mener, det er forkert. Selvom et sådant system ville kræve sikkerhedsforanstaltninger og ansvarsmæssige foranstaltninger, ville det minimere negative konsekvenser, der stammer fra ukorrekt output. 

Konsekvenserne af at Ignorere Etik

Etiske overvejelser bør være en prioritet for AI-ingeniører, maskinlæringsudviklere og virksomheds ejere, fordi det påvirker dem. Da offentlighedens mening og reguleringer strammes, kan konsekvenserne af at ignorere etik være betydelige.