AI Now-instituttet advarer mot misbruk av emocjonsdetekteringsprogramvare og andre etiske problemer

AI Now-instituttet har utgitt en rapport som oppfordrer lovgivere og andre reguleringer til å sette harde grenser for bruk av emocjonsdetekterings-teknologi, og å forbyte den i tilfeller der den kan brukes til å fatte viktige beslutninger som anssettelse av ansatte eller studenter. I tillegg inneholder rapporten en rekke andre forslag om en rekke emner i AI-feltet.

AI Now-instituttet er et forskningsinstitutt basert ved NYU, med misjonen å studere AI sin påvirkning på samfunnet. AI Now utgir en årlig rapport som viser deres funn om tilstanden i AI-forskningen og de etiske implikasjonene av hvordan AI for tiden brukes. Ifølge BBC, behandlet årets rapport emner som algoritme-diskriminering, mangfold i AI-forskning og arbeidsproblemer.

Affekterkjennelse, det tekniske uttrykket for emocjonsdetekterings-algoritmer, er et raskt voksende område innen AI-forskning. De som bruker teknologien til å fatte beslutninger hevder ofte at systemene kan trekke pålitelige informasjoner om menneskers emosjonelle tilstand ved å analysere mikro-uttrykk, samt andre signaler som tone og kroppsspråk. AI Now-instituttet påpeker at teknologien brukes i en rekke applikasjoner, som å bestemme hvem som skal ansettes, sette forsikringspriser og overvåke om studenter er oppmerksomme i klassen.

Prof. Kate Crawford, medgrunnlegger av AI Now, forklarte at det ofte antas at menneskelige emosjoner kan forutsies nøyaktig med relativt enkle modeller. Crawford sa at noen selskaper baserer utviklingen av sine programmer på Paul Ekman sitt arbeid, en psykolog som har hypotesert at det finnes bare seks grunnleggende typer emosjoner som registreres på ansiktet. Imidlertid påpeker Crawford at siden Ekman sitt teori ble introdusert, har studier funnet at det er langt større variasjon i ansiktsuttrykk og at uttrykk kan endre seg over situasjoner og kulturer svært lett.

“Samtidig som disse teknologiene rulleres ut, viser en rekke studier at det ikke finnes noen substansiell bevis for at mennesker har denne konsistente relasjonen mellom den emosjonen du føler og hvordan ditt ansikt ser ut,” sa Crawford til BBC.

Av denne grunn argumenterer AI Now-instituttet for at mye av affekterkjennelsen er basert på upålitelige teorier og tvilsom vitenskap. Derfor bør emocjonsdetekterings-systemer ikke deployeres før mer forskning har blitt gjort, og at “regjeringer spesifikt bør forbyte bruk av affekterkjennelse i beslutningsprosesser med høye innsatser”. AI Now argumenterte for at vi spesielt bør stoppe bruken av teknologien i “sensitive sosiale og politiske sammenhenger”, sammenhenger som inkluderer arbeid, utdanning og politi.

I alle fall en AI-utviklingsselskap som spesialiserer seg på affekterkjennelse, Emteq, enig i at det bør være reguleringer som forhindrer misbruk av teknologien. Grunnleggeren av Emteq, Charles Nduka, forklarte til BBC at selv om AI-systemer kan nøyaktig gjenkjenne forskjellige ansiktsuttrykk, finnes det ikke en enkel kart over uttrykk til emosjon. Nduka uttrykte bekymring over at reguleringer kan gå for langt og kvæle forskning, og påpekte at hvis “ting skal forbys, er det viktig at folk ikke kaster ut barnet med badevannet”.

Ifølge NextWeb, anbefalte AI Now også en rekke andre politikker og normer som bør guide AI-industrien fremover.

AI Now understreket behovet for at AI-industrien gjør arbeidsplassene mer mangfoldige og at arbeidere bør garanteres retten til å uttrykke sine bekymringer om invasiv og utnyttende AI. Teknologiarbeidere bør også ha retten til å vite om deres innsats brukes til å konstruere skadelig eller uelekiske arbeid.

AI Now foreslo også at lovgivere tar skritt for å kreve informert samtykke for bruk av data som er avledet fra helse-relatert AI. Utenfor dette, ble det rådet at datavern skal tas mer alvorlig og at statene bør arbeide for å designe privatlivslover for biometriske data som dekker både private og offentlige enheter.

Til slutt rådet instituttet at AI-industrien begynner å tenke og handle mer globalt, og prøve å håndtere de større politiske, sosiale og økologiske konsekvensene av AI. Det ble anbefalt at det bør være en betydelig innsats for å regnskape for AI sin påvirkning med hensyn til geografisk forflytning og klima, og at regjeringer bør gjøre klimapåvirkningen av AI-industrien offentlig tilgjengelig.