Etiske Overveielser Når Du Utvikler AI for Emosjonsrekognition

Kunstig intelligens for emosjonsregulering er en av de nyeste teknologiske fremgangene i maskinlæringsfeltet. Selv om det viser stor potensiale, er etiske problemer i ferd med å påvirke adopsjonsraten og langsiktigheten. Kan AI-utviklere overvinne dem? 

Hva Er Emosjonsrekognition AI? 

Emosjonsrekognition AI er en type maskinlæringsmodell. Den bygger ofte på datavisjonsteknologi som fanger og analyserer ansiktsuttrykk for å tyde humør i bilder og videoer. Likevel kan den også fungere på lydklipp for å bestemme tone i stemmen eller skrevet tekst for å vurdere holdningen i språket.

Denne typen algoritme representerer fascinerende fremgang i AI-feltet fordi modellene hittil ikke har kunnet forstå menneskelige følelser. Mens store språkmodeller som ChatGPT kan simulere humør og personligheter overbevisende, kan de bare sette sammen ord logisk — de kan ikke føle noe og viser ikke emosjonell intelligens. Selv om en emosjonsrekognitionsmodell ikke er i stand til å ha følelser, kan den likevel oppdage og katalogisere dem. Denne utviklingen er betydelig fordi den signaliserer at AI snart kan forstå og vise ekte lykke, sørg, eller sinne. Teknologiske sprang som disse indikerer akselerert fremgang.

Anvendelsesområder for AI Emosjonsrekognition

Bedrifter, utdannere, konsulenter og helsepersonell er noen av gruppene som kan bruke AI til emosjonsrekognition.

Vurdere Risiko på Kontoret

HR-team kan bruke algoritmer til å utføre holdningsanalyse på e-postkorrespondanse eller chatte-app mellom teammedlemmer. Alternativt kan de integrere sin algoritme i overvåkningssystemet eller datavisjonssystemet. Brukere kan spore humør for å beregne målinger som omstillingsrisiko, utbrenningsrate og ansatttilfredshet.

Hjelpe Kundebehandlingsagenter

Detaljister kan bruke interne AI-kundebehandlingsagenter for sluttbrukere eller virtuelle assistenter for å løse høyt-stress situasjoner. Siden deres modell kan gjenkjenne humør, kan den foreslå de-eskaleringsteknikker eller endre tonen når den innser at en forbruker blir sint. Mottiltak som disse kan forbedre kundetilfredshet og – beholdning. 

Hjelpe Studenter i Klasserommet

Utdannere kan bruke denne AI til å holde fjernlærere fra å bli etter. En startup har allerede brukt sin verktøy til å måle muskel punkter på studenters ansikter samtidig som de katalogiserer deres hastighet og karakterer. Denne metoden bestemmer deres humør, motivasjon, styrker og svakheter. Startups grunnlegger hevdet de scorer 10% høyere på tester når de bruker programvaren.

Utføre Intern Markedsforskning 

Bedrifter kan utføre intern markedsforskning ved å bruke en emosjonsrekognitionsmodell. Den kan hjelpe dem med å forstå hvordan deres målgruppe reagerer på produktet, tjenesten eller markedsføringsmaterialet, og gi dem verdifull data-drevne innsikter. Som et resultat kan de kanskje akselerere tid til marked og øke inntekten. 

Problemet Med Å Bruke AI Til Å Gjenkjenne Emosjoner

Forskning viser at nøyaktighet er høyt avhengig av treningsinformasjon. En forskningsgruppe — som forsøkte å tyde følelser fra bilder — beviste anekdotisk denne konseptet når deres modell oppnådde en nøyaktighet på 92,05% på Japanese Female Facial Expression-datasettet og en nøyaktighet på 98,13% på Extended Cohn-Kanade-datasettet.

Selv om forskjellen på 92% og 98% kan synes ubetydelig, har den betydning — denne små forskjellen kan ha betydelige konsekvenser. For referanse, en datasett forgiftning på så lavt som 0,001% har vist seg å være effektivt i å etablere modellbakdører eller å forårsake misklassifiseringer med vilje. Selv en brøkdel av en prosent er betydelig.

Videre, selv om studier synes å vise lovende resultater — nøyaktighetsrater over 90% viser potensiale — forskerne utfører dem i kontrollerte miljøer. I den virkelige verden er uklare bilder, forfalskede ansiktsuttrykk, dårlige vinkler og subtile følelser mye vanligere. Med andre ord, AI kan kanskje ikke fungere konsistent.

Dagens Tilstand for Emosjonsrekognition AI

Algoritmisk holdningsanalyse er prosessen med å bruke en algoritme til å bestemme om tonen i teksten er positiv, nøytral eller negativ. Denne teknologien er uten tvil grunnlaget for moderne emosjonsdeteksjonsmodeller siden den åpnet vei for algoritmisk humør-vurdering. Lignende teknologier som ansiktsgjenkjenning har også bidratt til fremgangen. 

Dagens algoritmer kan primært gjenkjenne bare enkle humør som lykke, sørg, sinne, frykt og overraskelse med varierende grader av nøyaktighet. Disse ansiktsuttrykkene er medfødte og universelle — det vil si de er naturlige og globalt forståtte — så å trene en AI til å identifisere dem er relativt enkelt. 

Videre er grunnleggende ansiktsuttrykk ofte forsterket. Folk rynker på brynene når de er sinte, surer når de er sørgelige, smiler når de er lykkelige og åpner øynene når de er sjokkerte. Disse enkle, dramatiske uttrykkene er lett å skille. Mer komplekse emosjoner er vanskeligere å peke ut fordi de er enten subtile eller kombinerer grunnleggende ansiktsuttrykk.

Ettersom denne undergruppen av AI større delen forblir i forskning og utvikling, har den ikke fremmet til å dekke komplekse følelser som lengsel, skam, sorg, misunnelse, lettelse eller forvirring. Selv om den sannsynligvis vil dekke mer til slutt, er det ingen garanti for at den vil kunne tolke alle.

I virkeligheten kan algoritmene kanskje aldri kunne konkurrere med mennesker. For referanse, mens OpenAI sin GPT-4 datasett er omtrent 1 petabyte, inneholder en enkelt kubikkmillimeter av et menneskelig hjernen omtrent 1,4 petabyte med data. Nevroforskere kan ikke fullstendig forstå hvordan hjernen oppfatter emosjoner til tross for tiår med forskning, så å bygge en høy presis AI kan være umulig.

Selv om å bruke denne teknologien til emosjonsrekognition har presedens, er dette feltet fortsatt teknisk sett i sin barndom. Det finnes en overflod av forskning på konseptet, men få eksempler på stor-skala utrulling eksisterer. Noen tegn indikerer at forsinket adopsjon kan resultere fra bekymringer om inkonsistent nøyaktighet og etiske problemer.

Etiske Overveielser for AI-Utviklere

Ifølge en undersøkelse, 67% av respondentene er enige om at AI bør være noe eller mye mer regulert. For å sette folks sinn til ro, bør utviklere minimere bias, sikre at deres modeller oppfører seg som forventet og forbedre resultater. Disse løsningene er mulige hvis de prioriterer etiske overveielser under utviklingen.

1. Samtykkende Datainnsamling og Bruk 

Samtykke er alt i en tid hvor AI-regulering øker. Hva skjer hvis ansatte oppdager at deres ansiktsuttrykk blir katalogisert uten deres kunnskap? Trenger foreldre å signere av på utdanningsbasert holdningsanalyse eller kan studenter bestemme for seg selv?

Utviklere bør uttrykkelig avsløre hva informasjonen modellen vil samle inn, når den vil være i drift, hva analysen vil brukes til og hvem som kan få tilgang til detaljene. I tillegg bør de inkludere funksjoner for å melde seg ut så enkelt som mulig slik at personer kan tilpasse tillatelsene. 

2. Anonymisert Holdningsanalyse Utgang 

Dataanonymisering er like mye et personvernproblem som et sikkerhetsproblem. Utviklere bør anonymisere emosjonsinformasjonen de samler inn for å beskytte de involverte personene. I det minste bør de vurdere å bruke kryptering i ro. 

3. Menneske-I-Løkken Beslutningsprosess

Den eneste grunn til å bruke AI til å bestemme noen sin emosjonelle tilstand er å informere beslutningsprosessen. Uansett om det brukes i en mental helsekapasitet eller en detaljistinnstilling, vil det påvirke mennesker. Utviklere bør utnytte menneske-i-løkken sikkerhetstiltak for å minimere uventet atferd. 

4. Menneske-Sentrert Tilbakemelding for AI Utgang

Selv om en algoritme har nesten 100% nøyaktighet, vil den likevel produsere feilpositive resultater. Ettersom det ikke er uvanlig for modeller å oppnå 50% eller 70% — og det uten å berøre bias eller hallucinasjonsproblemer — bør utviklere vurdere å implementere et tilbakemeldingssystem. 

Personer bør kunne se hva AI sier om deres emosjonelle tilstand og anke hvis de mener det er feil. Selv om et slikt system ville kreve sikkerhetstiltak og ansvarliggjøring, ville det minimere negative virkninger som følge av ukorrekt utgang. 

Konsekvensene av Å Ignorere Etiske Overveielser

Etiske overveielser bør være en prioritet for AI-ingeniører, maskinlæringsutviklere og bedriftseiere fordi det påvirker dem. Ettersom økende usikker offentlig mening og strengere reguleringer er i spill, kan konsekvensene av å ignorere etikk være betydelige.