AI Now Institute varnar för missbruk av känslodetekteringsprogramvara och andra etiska frågor

AI Now Institute har släppt en rapport som uppmanar lagstiftare och andra tillsynsmyndigheter att sätta hårda gränser för användningen av känslodetekterings-teknik, och förbjuda den i fall där den kan användas för att fatta viktiga beslut som anställning av anställda eller antagning av studenter. Dessutom innehåller rapporten ett antal andra förslag om olika ämnen inom AI-området.

AI Now Institute är ett forskningsinstitut baserat vid NYU, med uppdraget att studera AI:s påverkan på samhället. AI Now släpper en årlig rapport som visar deras resultat om tillståndet för AI-forskning och de etiska implikationerna av hur AI för närvarande används. Som BBC rapporterar, behandlade årets rapport ämnen som algoritmisk diskriminering, brist på mångfald inom AI-forskning och arbetsrelaterade frågor.

Känsligenkänning, det tekniska uttrycket för känslodetekteringsalgoritmer, är ett snabbt växande område inom AI-forskning. De som använder tekniken för att fatta beslut hävdar ofta att systemen kan dra tillförlitlig information om människors känslomässiga tillstånd genom att analysera mikrouttryck, samt andra signaler som tonfall och kroppsspråk. AI Now-institutet påpekar att tekniken används inom en mängd olika tillämpningar, som att bestämma vem som ska anställas, fastställa försäkringspriser och övervaka om studenter är uppmärksamma i klassen.

Prof. Kate Crawford, medgrundare av AI Now, förklarade att det ofta antas att mänskliga känslor kan förutsägas med relativt enkla modeller. Crawford sa att vissa företag utvecklar sin programvara baserat på Paul Ekman’s arbete, en psykolog som hävdade att det finns sex grundläggande typer av känslor som registreras i ansiktet. Men Crawford påpekar att sedan Ekman’s teori introducerades har studier visat att det finns en mycket större variation i ansiktsuttryck och att uttryck kan förändras över situationer och kulturer mycket lätt.

“Samtidigt som dessa tekniker rullas ut, visar en stor mängd studier att det inte finns någon betydande bevis för att människor har ett konsekvent förhållande mellan den känsla du känner och hur ditt ansikte ser ut”, sa Crawford till BBC.

Av denna anledning hävdar AI Now-institutet att mycket av känsligenkänningen baseras på otillförlitliga teorier och tvivelaktig vetenskap. Därför bör känslodetekteringssystem inte användas förrän mer forskning har gjorts och att “regeringar specifikt bör förbjuda användningen av känsligenkänning i beslutsprocesser med höga insatser”. AI Now hävdar att vi särskilt bör sluta använda tekniken i “känsliga sociala och politiska sammanhang”, som inkluderar anställning, utbildning och polisverksamhet.

Minst ett AI-utvecklingsföretag som specialiserar sig på känsligenkänning, Emteq, höll med om att det bör finnas reglering som förhindrar missbruk av tekniken. Emteq’s grundare, Charles Nduka, förklarade för BBC att medan AI-system kan korrekt känna igen olika ansiktsuttryck, finns det ingen enkel karta från uttryck till känsla. Nduka uttryckte oro över att regleringen kan gå för långt och hämma forskningen, och påpekar att om “saker och ting ska förbjudas, är det mycket viktigt att människor inte kastar ut barnet med badvattnet”.

Som NextWeb rapporterar, rekommenderade AI Now också ett antal andra policys och normer som bör styra AI-branschen framöver.

AI Now betonade behovet av att AI-branschen gör arbetsplatserna mer mångfaldiga och att arbetare bör garanteras rätt att uttrycka sina farhågor om invasiv och exploaterande AI. Tekniska arbetare bör också ha rätt att veta om deras ansträngningar används för att konstruera skadlig eller oetisk verksamhet.

AI Now föreslog också att lagstiftare vidtar åtgärder för att kräva informerat samtycke för användningen av alla data som härrör från hälso-relaterad AI. Utöver detta rekommenderades att dataskydd ska tas på allvar och att staterna bör arbeta för att utforma integritetslagar för biometrisk data som omfattar både privata och offentliga enheter.

Slutligen rådde institutet att AI-branschen börjar tänka och agera mer globalt, försöker att hantera de större politiska, samhälleliga och ekologiska konsekvenserna av AI. Det rekommenderades att det bör finnas en betydande ansträngning för att ta hänsyn till AI:s påverkan i fråga om geografisk förflyttning och klimat och att regeringar bör göra klimatpåverkan av AI-branschen offentligt tillgänglig.