AI Now Institute advarer mod misbrug af følelsesdetektionssoftware og andre etiske problemer

AI Now Institute har offentliggjort en rapport, der opfordrer lovgivere og andre reguleringer til at fastsætte hårdt grænser for brugen af følelsesdetekterings-teknologi, og forbyde det i tilfælde, hvor det kan bruges til at træffe vigtige beslutninger som ansættelse af medarbejdere eller optagelse af studerende. Rapporten indeholder desuden en række andre forslag omkring en række emner inden for AI-området.

AI Now Institute er et forskningsinstitut baseret på NYU, med missionen at studere AI’s indvirkning på samfundet. AI Now udgiver en årlig rapport, der viser deres resultater omkring tilstanden for AI-forskning og de etiske implikationer af, hvordan AI i øjeblikket bruges. Som BBC rapporterede, behandlede årets rapport emner som algoritme-diskrimination, manglende diversitet i AI-forskning og arbejdsmarkedspolitik.

Følelsesgenkendelse, det tekniske udtryk for følelsesdetekteringsalgoritmer, er et hurtigt voksende område inden for AI-forskning. De, der anvender teknologien til at træffe beslutninger, hævder ofte, at systemerne kan trække pålidelig information om menneskers følelsesstater ved at analysere mikro-udtryk samt andre signaler som tonefald og kroppssprog. AI Now-instituttet bemærker, at teknologien anvendes i en bred vifte af anvendelser, som fx bestemmelse af, hvem der skal ansættes, fastsættelse af forsikringspriser og overvågning af, om studerende er opmærksomme i klassen.

Prof. Kate Crawford, medstifter af AI Now, forklarede, at det ofte antages, at menneskers følelser kan forudsiges nøjagtigt med relativt simple modeller. Crawford sagde, at nogle virksomheder baserer udviklingen af deres software på Paul Ekman’s arbejde, en psykolog, der hypoteserede, at der kun er seks grundlæggende følelser, der registreres på ansigtet. Crawford bemærker dog, at siden Ekman’s teori blev introduceret, har studier vist, at der er langt større variation i ansigtsudtryk, og at udtryk kan ændre sig over situationer og kulturer meget let.

“Samtidig med, at disse teknologier ruller ud, viser en lang række studier, at der ikke er… nogen væsentlig bevis for, at mennesker har denne konsekvente relation mellem den følelse, du føler, og det, hvordan dit ansigt ser ud,” sagde Crawford til BBC.

Af denne grund argumenterer AI Now-instituttet for, at meget af følelsesgenkendelsen er baseret på upålidelige teorier og tvivlsom videnskab. Derfor bør følelsesdetektionssystemer ikke anvendes, før der er gjort mere forskning, og at “regeringerne specifikt skal forbyde brugen af følelsesgenkendelse i beslutningsprocesser med høje indsatser”. AI Now argumenterede for, at vi især skal stoppe med at bruge teknologien i “følsomme sociale og politiske sammenhænge”, sammenhænge, der inkluderer beskæftigelse, uddannelse og politi.

I hvert fald en AI-udviklingsvirksomhed specialiseret i følelsesgenkendelse, Emteq, var enig i, at der skal være regulering, der forhindrer misbrug af teknologien. Emteq’s grundlægger, Charles Nduka, forklarede til BBC, at selvom AI-systemer kan genkende forskellige ansigtsudtryk nøjagtigt, er der ikke en simpel kortlægning fra udtryk til følelse. Nduka udtrykte dog bekymring over, at reguleringen kan gå for langt og kvæle forskningen, og bemærkede, at hvis “ting skal forbydes, er det meget vigtigt, at folk ikke smider barnet ud med badevandet”.

Som NextWeb rapporterede, anbefalede AI Now også en række andre politikker og normer, der skal vejlede AI-industrien fremad.

AI Now fremhævede behovet for, at AI-industrien skal gøre arbejdspladserne mere diverse, og at arbejdere skal have ret til at udtrykke deres bekymringer om invasiv og udnyttende AI. Teknologiarbejdere skal også have ret til at vide, om deres indsats bruges til at konstruere skadelig eller uetisk arbejde.

AI Now foreslog desuden, at lovgivere skal træffe skridt for at kræve informeret samtykke til brugen af alle data, der er afledt fra sundhedsrelateret AI. Derudover blev det rådet, at dataprivatliv skal tages mere alvorligt, og at staterne skal arbejde på at udforme privatlivslove for biometriske data, der dækker både private og offentlige enheder.

Til sidst rådede instituttet til, at AI-industrien skal begynde at tænke og handle mere globalt, og forsøge at løse de større politiske, sociale og økologiske konsekvenser af AI. Det blev anbefalet, at der skal være en betydelig indsats for at tage AI’s indvirkning i forhold til geografisk forflytning og klima, og at regeringer skal gøre klima-indvirkningen af AI-industrien offentligt tilgængelig.