Instytut AI Now ostrzega przed nadużyciem oprogramowania do wykrywania emocji i innych kwestii etycznych

Instytut AI Now opublikował raport, w którym apeluje do ustawodawców i innych organów regulacyjnych o ustalenie surowych limitów dla stosowania technologii wykrywania emocji, zakazując jej stosowania w przypadkach, w których może być używana do podejmowania ważnych decyzji, takich jak zatrudnianie pracowników lub przyjmowanie studentów. Ponadto raport zawierał szereg innych sugestii dotyczących różnych tematów w dziedzinie sztucznej inteligencji.

Instytut AI Now to instytut badawczy z siedzibą w NYU, którego misją jest badanie wpływu sztucznej inteligencji na społeczeństwo. AI Now co roku publikuje raport, w którym przedstawia swoje ustalenia dotyczące stanu badań nad sztuczną inteligencją i etycznych implikacji jej stosowania. Jak donosi BBC, tegoroczny raport poruszał tematy takie jak dyskryminacja algorytmiczna, brak różnorodności w badaniach nad sztuczną inteligencją oraz kwestie związane z pracą.

Rozpoznawanie emocji, czyli techniczna nazwa algorytmów wykrywania emocji, to szybko rozwijająca się dziedzina badań nad sztuczną inteligencją. Ci, którzy stosują tę technologię do podejmowania decyzji, często twierdzą, że systemy te mogą dostarczyć wiarygodnych informacji o stanie emocjonalnym ludzi, analizując mikroekspresje, a także inne sygnały, takie jak ton głosu i język ciała. Instytut AI Now zauważa, że ta technologia jest stosowana w szerokim zakresie aplikacji, takich jak określanie, kogo zatrudnić, ustalanie cen ubezpieczeń oraz monitorowanie, czy studenci są uwagi w klasie.

Prof. Kate Crawford, współzałożycielka AI Now, wyjaśniła, że często uważa się, że ludzkie emocje mogą być dokładnie przewidywane za pomocą relativnie prostych modeli. Crawford powiedziała, że niektóre firmy opierają rozwój swojego oprogramowania na pracy Paula Ekmana, psychologa, który wysunął hipotezę, że istnieje tylko sześć podstawowych typów emocji, które rejestrują się na twarzy. Jednak Crawford zauważa, że od czasu wprowadzenia teorii Ekmana badania wykazały, że istnieje znacznie większa zmienność w wyrażeniach twarzy i że wyrażenia mogą się zmieniać w zależności od sytuacji i kultury w bardzo łatwy sposób.

“W tym samym czasie, gdy te technologie są wdrażane, wiele badań pokazuje, że nie ma… żadnych istotnych dowodów na to, że ludzie mają taki spójny związek między emocjami, które odczuwają, a tym, jak wygląda ich twarz”, powiedziała Crawford do BBC.

Z tego powodu instytut AI Now twierdzi, że wiele rozpoznawania emocji opiera się na niewiarygodnych teoriach i wątpliwej nauce. Dlatego systemy wykrywania emocji nie powinny być wdrażane, dopóki nie zostaną przeprowadzone dalsze badania, a “rządy powinny wyraźnie zabronić stosowania rozpoznawania emocji w procesach podejmowania decyzji o wysokim stopniu ryzyka”. AI Now twierdzi, że powinniśmy szczególnie przestać używać tej technologii w “wrażliwych kontekstach społecznych i politycznych”, takich jak zatrudnianie, edukacja i policja.

Co najmniej jedna firma zajmująca się rozwojem sztucznej inteligencji, specjalizująca się w rozpoznawaniu emocji, Emteq, zgodziła się, że powinna istnieć regulacja, która zapobiega nadużyciom tej technologii. Założyciel Emteq, Charles Nduka, powiedział do BBC, że chociaż systemy sztucznej inteligencji mogą dokładnie rozpoznać różne wyrażenia twarzy, nie ma prostego odwzorowania między wyrażeniem a emocją. Nduka wyraził obawę, że regulacja może być zbyt surowa i hamować badania, zauważając, że jeśli “rzeczy mają być zabronione, bardzo ważne jest, aby ludzie nie wyrzucali dziecka z kąpielą”.

Jak donosi NextWeb, AI Now również zalecił szereg innych polityk i norm, które powinny kierować przemysłem sztucznej inteligencji w przyszłości.

AI Now podkreślił potrzebę zwiększenia różnorodności w miejscach pracy w przemyśle sztucznej inteligencji i stwierdził, że pracownicy powinni mieć zagwarantowane prawo do wyrażania swoich obaw dotyczących inwazyjnej i wyzyskującej sztucznej inteligencji. Pracownicy techniczni powinni również mieć prawo do wiedzy, czy ich praca jest wykorzystywana do tworzenia szkodliwej lub nieetycznej pracy.

AI Now również zasugerował, że ustawodawcy powinni podjąć kroki w celu zapewnienia świadomej zgody na używanie danych pochodzących z aplikacji związanych ze zdrowiem. Ponadto zalecono, aby prawa do prywatności były traktowane poważnie i aby państwa pracowały nad tworzeniem praw dotyczących ochrony danych biometrycznych, obejmujących zarówno podmioty prywatne, jak i publiczne.

Wreszcie instytut zalecił, aby przemysł sztucznej inteligencji zaczął myśleć i działać bardziej globalnie, próbując rozwiązać większe konsekwencje polityczne, społeczne i ekologiczne sztucznej inteligencji. Zalecono, aby podjęto znaczące wysiłki, aby uwzględnić wpływ sztucznej inteligencji na przesiedlenia geograficzne i klimat, oraz aby rządy uczyniły wpływ sztucznej inteligencji na środowisko powszechnie dostępnym.