Etiske overvegelser ved utvikling av AI for gjenkjenning av emosjoner

Kunstig intelligens for regulering av emosjoner er en av de nyeste teknologiske fremstegene i maskinlæringfeltet. Selv om det viser stor potensial, er det etiske problemene som kan påvirke adopsjonsraten og varigheten. Kan AI-utviklere overvinne dem?

Hva er gjenkjenning av emosjoner med AI?

Gjenkjenning av emosjoner med AI er en type maskinlæringsmodell. Den bygger ofte på datavisjonsteknologi som fanger og analyserer ansiktsuttrykk for å tyde humør i bilder og videoer. Men den kan også fungere på lydklipp for å bestemme tone i stemmen eller skrevet tekst for å vurdere holdningen i språket.

Denne typen algoritme representerer fascinerende fremgang i AI-feltet, fordi modellene hittil ikke har kunnet forstå menneskelige følelser. Mens store språkmodeller som ChatGPT kan simulere humør og personlighet på en overbevisende måte, kan de bare sette sammen ord logisk — de kan ikke føle noe og viser ikke emocionell intelligens. En gjenkjenning av emosjoner-modell er ikke i stand til å ha følelser, men den kan likevel gjenkjenne og katalogisere dem. Dette er betydelig, fordi det signaliserer at AI snart kan forstå og vise ekte glede, sorg eller sinne. Slike teknologiske sprang indikerer akselerert fremgang.

Eksempler på bruk av AI for gjenkjenning av emosjoner

Bedrifter, utdannere, konsulenter og helsepersonell er noen av gruppene som kan bruke AI for gjenkjenning av emosjoner.

Vurdering av risiko på kontoret

HR-avdelinger kan bruke algoritmer til å utføre holdningsanalyse på e-postkorrespondanse eller chatte mellom teammedlemmer. Alternativt kan de integrere algoritmen i overvåkings- eller datavisjonssystemet. Brukere kan spore humør for å beregne målinger som fluktrisiko, utbrenthet og ansatttilfredshet.

Hjelp til kundeserviceagenter

Detaljister kan bruke interne AI-kundeserviceagenter for slutbrukere eller virtuelle assistenter for å løse høy-stress situasjoner. Ettersom modellen kan gjenkjenne humør, kan den foreslå de-eskaleringsteknikker eller endre tone når den innser at en forbruker blir sint. Mottiltak som disse kan forbedre kundetilfredshet og -Behold.

Hjelp til studenter i klasserommet

Utdannere kan bruke denne AI til å holde fjernlærere fra å bli etter. En startup har allerede brukt verktøyet sitt til å måle muskelunktene på studenters ansikter samtidig som de katalogiserer deres hastighet og karakterer. Denne metoden bestemmer deres humør, motivasjon, styrker og svakheter. Startuppens grunnlegger hevdet at de scorer 10% høyere på tester når de bruker programvaren.

Utføring av markedundersøkelser internt

Bedrifter kan utføre markedundersøkelser internt ved hjelp av en gjenkjenning av emosjoner-modell. Den kan hjelpe dem med å forstå hvordan målgruppen reagerer på produktet, tjenesten eller markedsføringsmaterialet, og gi dem verdifulle data-drevne innsikter. Som resultat kan de akselerere tid til marked og øke inntekten.

Problemet med å bruke AI til å gjenkjenne emosjoner

Forskning viser at nøyaktighet er høyt avhengig av treninginformasjon. En forskergruppe — som forsøkte å tyde følelser fra bilder — beviste dette konseptet når modellen oppnådde en nøyaktighet på 92,05% på den japanske kvinnelige ansiktsuttrykksdatasetten og en nøyaktighet på 98,13% på den utvidede Cohn-Kanade-datasetten.

Selv om forskjellen mellom 92% og 98% kan synes ubetydelig, er den viktig — denne små forskjellen kan ha betydelige konsekvenser. For eksempel kan en datasett-forurensningsrate så lav som 0,001% være effektiv for å etablere modellbakdører eller å forårsake misklassifiseringer. Selv en brøkdel av en prosent er betydelig.

I tillegg, selv om studier ser lovende ut — nøyaktighetsrater over 90% viser potensial — utføres de i kontrollerte miljøer. I den virkelige verden er uskarpe bilder, forfalskede ansiktsuttrykk, dårlige vinkler og subtile følelser mye mer vanlige. Med andre ord kan AI kanskje ikke fungere konsistent.

Dagens tilstand for gjenkjenning av emosjoner med AI

Algoritmisk holdningsanalyse er prosessen med å bruke en algoritme til å bestemme om tone i teksten er positiv, nøytral eller negativ. Denne teknologien er kanskje grunnlaget for moderne emosjons-gjenkjenningmodeller, siden den åpnet vei for algoritmisk humør-vurdering. Lignende teknologier som ansiktsgjenkjenning har også bidratt til fremgangen.

Dagens algoritmer kan hovedsakelig bare gjenkjenne enkle humør som glede, sorg, sinne, frykt og overraskelse med varierende grader av nøyaktighet. Disse ansiktsuttrykkene er medfødte og universelle — det vil si at de er naturlige og globalt forstått — så å trene en AI til å identifisere dem er relativt enkelt.

I tillegg er grunnleggende ansiktsuttrykk ofte forsterket. Folk rynker brynene når de er sinte, surer når de er triste, smiler når de er glade og åpner øynene når de er sjokkerte. Disse enkle, dramatiske uttrykkene er lett å skille. Mer komplekse emosjoner er vanskeligere å peke ut, fordi de er enten subtile eller kombinerer grunnleggende ansiktsuttrykk.

Ettersom denne undergruppen av AI i stor grad fortsatt er i forskning og utvikling, har den ikke fremmet til å dekke komplekse følelser som lengsel, skam, sorg, misunnelse, lettelse eller forvirring. Selv om det sannsynligvis vil dekke mer til slutt, er det ingen garanti for at det vil kunne tolke alle.

I virkeligheten kan algoritmene kanskje aldri kunne konkurrere med mennesker. For eksempel, mens OpenAIs GPT-4-dataset er omtrent 1 petabyte , inneholder ett enkelt kubikkmillimeter av et menneskehirn omtrent 1,4 petabyte med data. Nevroforskere kan ikke fullt ut forstå hvordan hjernen oppfatter emosjoner, til tross for tiår med forskning, så å bygge en høypresis AI kan være umulig.

Selv om bruken av denne teknologien for gjenkjenning av emosjoner har forutgått, er dette feltet fortsatt i sin barndom. Det finnes en overflod av forskning på konseptet, men få eksempler på stor-skala-utbredelse finnes. Noen tegn indikerer at tilbakevendende adopsjon kan skyldes bekymringer om ujevn nøyaktighet og etiske problemer.

Etiske overvegelser for AI-utviklere

Ifølge en undersøkelse er 67% av respondentene enige om at AI bør være noe eller mye mer regulert. For å sette folks sinn i ro, bør utviklere minimere bias, sikre at modellene oppfører seg som forventet og forbedre resultater. Disse løsningene er mulige hvis de prioriterer etiske overvegelser under utvikling.

1. Samtykkende datainnsamling og bruk

Samtykke er alt i en tid hvor AI-regulering øker. Hva skjer hvis ansatte oppdager at ansiktsuttrykkene deres blir katalogisert uten deres kunnskap? Trenger foreldre å godkjenne utdanningsbasert holdningsanalyse eller kan studenter bestemme for seg selv?

Utviklere bør uttrykkelig avsløre hva slags informasjon modellen vil samle inn, når den vil være i drift, hva analysen vil bli brukt til og hvem som kan få tilgang til detaljene. I tillegg bør de inkludere funksjoner for å melde seg ut, slik at enkeltpersoner kan tilpasse tillatelsene.

2. Anonymisert holdningsanalyse-utdata

Data-anonymisering er like mye et personvern-problem som et sikkerhetsproblem. Utviklere bør anonymisere emosjonsinformasjonen de samler inn for å beskytte de involverte personene. I det minste bør de vurdere å bruke kryptering i ro.

3. Menneske-i-løkken beslutningsprosess

Den eneste grunnen til å bruke AI til å bestemme noen sin emosjonelle tilstand er å informere beslutninger. Uansett om det brukes i en mental helse-kapasitet eller en detaljhandels-innstilling, vil det påvirke mennesker. Utviklere bør bruke menneske-i-løkken-sikkerhetstiltak for å minimere uventet atferd.

4. Menneske-sentrert tilbakemelding for AI-utdata

Selv om en algoritme har nesten 100% nøyaktighet, vil den likevel produsere feilpositive resultater. Med tanke på at det ikke er uvanlig for modeller å oppnå 50% eller 70% — og det uten å berøre bias eller hallusinasjons-problemer — bør utviklere vurdere å implementere et tilbakemeldingssystem.

Mennesker bør kunne se hva AI sier om deres emosjonelle tilstand og anke hvis de mener det er feil. Selv om et slikt system ville kreve sikkerhetstiltak og ansvarliggjøring, ville det minimere negative effekter som følge av uakkurate utdata.

Konsekvensene av å ignorere etikk

Etiske overvegelser bør være en prioritet for AI-ingeniører, maskinlæringsutviklere og bedriftseiere, fordi det påvirker dem. Med tanke på at stadig usikre offentlige meninger og strengere reguleringer er i spill, kan konsekvensene av å ignorere etikk være betydelige.