AI Now Institute varnar för missbruk av känslodetekteringsprogramvara och andra etiska frågor

AI Now Institute har släppt en rapport som uppmanar lagstiftare och andra tillsynsmyndigheter att sätta hårda gränser för användningen av känslodetekterings-teknik, och förbjuda den i fall där den kan användas för att fatta viktiga beslut som anställning av anställda eller antagning av studenter. Dessutom innehöll rapporten ett antal andra förslag om ett antal ämnen inom AI-området.

AI Now Institute är ett forskningsinstitut baserat vid NYU, med uppdraget att studera AI:s påverkan på samhället. AI Now släpper en årlig rapport som visar deras resultat om tillståndet för AI-forskning och de etiska implikationerna av hur AI för närvarande används. Som BBC rapporterade, behandlade årets rapport ämnen som algoritmisk diskriminering, brist på mångfald i AI-forskning och arbetsmarknadsfrågor.

Känsligenkänning, den tekniska termen för känslodetekteringsalgoritmer, är ett snabbt växande område inom AI-forskning. De som använder tekniken för att fatta beslut hävdar ofta att systemen kan dra tillförlitlig information om människors känslotillstånd genom att analysera mikrouttryck, samt andra signaler som tonfall och kroppsspråk. AI Now-institutet påpekar att tekniken används inom ett brett spektrum av applikationer, som att bestämma vem som ska anställas, fastställa försäkringspriser och övervaka om studenter är uppmärksamma i klassen.

Prof. Kate Crawford, medgrundare av AI Now, förklarade att det ofta antas att mänskliga känslor kan förutsägas med relativt enkla modeller. Crawford sa att vissa företag baserar utvecklingen av sin programvara på Paul Ekman’s arbete, en psykolog som hypoteserade att det finns bara sex grundläggande typer av känslor som registreras på ansiktet. Men Crawford påpekar att sedan Ekman’s teori introducerades, har studier visat att det finns en mycket större variation i ansiktsuttryck och att uttryck kan ändras över situationer och kulturer mycket lätt.

“Samtidigt som dessa tekniker rullas ut, visar många studier att det inte finns någon betydande bevis för att människor har ett konsekvent förhållande mellan den känsla du känner och hur ditt ansikte ser ut”, sa Crawford till BBC.

Av denna anledning hävdar AI Now-institutet att mycket av känsligenkänning baseras på otillförlitliga teorier och tvivelaktig vetenskap. Därför bör känslodetekteringssystem inte användas förrän mer forskning har gjorts och att “regeringar specifikt bör förbjuda användningen av känsligenkänning i beslutsprocesser med höga insatser”. AI Now hävdar att vi särskilt bör sluta använda tekniken i “känsliga sociala och politiska sammanhang”, sammanhang som inkluderar anställning, utbildning och polisverksamhet.

Minst ett AI-utvecklingsföretag som specialiserar sig på känsligenkänning, Emteq, håller med om att det bör finnas reglering som förhindrar missbruk av tekniken. Emteq’s grundare, Charles Nduka, förklarade för BBC att medan AI-system kan känna igen olika ansiktsuttryck, finns det ingen enkel karta från uttryck till känsla. Nduka uttryckte dock oro över att regleringen kan gå för långt och hämma forskningen, och påpekar att om “saker och ting ska förbjudas, är det mycket viktigt att man inte kastar ut barnet med badvattnet”.

Som NextWeb rapporterar, rekommenderade AI Now också ett antal andra policys och normer som bör styra AI-branschen framöver.

AI Now betonade behovet av att AI-branschen gör arbetsplatserna mer mångfaldiga och att arbetare bör garanteras rätt att uttrycka sina farhågor om invasiva och exploaterande AI. Tekniska arbetare bör också ha rätt att veta om deras insatser används för att konstruera skadliga eller oetiska arbeten.

AI Now föreslog också att lagstiftare tar steg för att kräva informerat samtycke för användningen av alla data som härrör från hälso-relaterad AI. Utöver detta, råddes det att dataskydd ska tas på större allvar och att staterna bör arbeta för att utforma dataskyddslagar för biometrisk data som täcker både privata och offentliga enheter.

Slutligen rådde institutet att AI-branschen börjar tänka och agera mer globalt, och försöka hantera de större politiska, sociala och ekologiska konsekvenserna av AI. Det rekommenderades att det bör finnas ett betydande arbete för att ta hänsyn till AI:s påverkan i fråga om geografisk förflyttning och klimat, och att regeringar bör göra AI-branschens klimatpåverkan offentligt tillgänglig.