Koalicja Etyki Sztucznej Inteligencji Potępia Algorytmy Przewidywania Przestępczości

We wtorek, grupa badaczy sztucznej inteligencji, etyków, naukowców danych i naukowców społecznych opublikowała post na blogu argumentując, że badacze akademicy powinni zaprzestać prowadzenia badań, których celem jest przewidywanie prawdopodobieństwa popełnienia przez osobę czynu przestępczego, w oparciu o zmienne takie jak statystyki przestępczości i skany twarzy.

Post na blogu został napisany przez Koalicję dla Krytycznej Technologii, która twierdzi, że wykorzystywanie takich algorytmów utrwala cykl uprzedzeń wobec mniejszości. Wiele badań nad skutecznością algorytmów rozpoznawania twarzy i predykcyjnego podejmowania decyzji przez policję wykazuje, że algorytmy te częściej są surowe wobec mniejszości, co autorzy postu na blogu argumentują, jest spowodowane nierównościami w systemie sprawiedliwości. System sprawiedliwości wytwarza tendencyjne dane, a zatem algorytmy szkolone na tych danych propagują te tendencyjności, twierdzi Koalicja dla Krytycznej Technologii. Koalicja twierdzi, że sama idea “przestępczości” jest często oparta na rasie, a zatem badania nad tymi technologiami zakładają neutralność algorytmów, podczas gdy takiej neutralności nie ma.

Jak donosi The Verge, jeden z dużych wydawców prac akademickich, Springer, planował opublikowanie studium zatytułowanego “Głęboki model sieci neuronowej do przewidywania przestępczości za pomocą przetwarzania obrazu”. Autorzy studium twierdzili, że stworzyli algorytm rozpoznawania twarzy, który może przewidywać szansę, że osoba popełni przestępstwo, bez żadnych uprzedzeń i z dokładnością około 80%. Jednak Koalicja dla Krytycznej Technologii napisała list otwarty do Springer, nakłaniając wydawcę do odstąpienia od publikacji studium lub innych badań dotyczących podobnych tematów.

„Publikacja tej pracy przez dużego wydawcę jak Springer oznaczałaby znaczący krok w kierunku uznania i zastosowania nieustannie obalanych, szkodliwych badań w świecie rzeczywistym”, twierdzi koalicja.

Springer oświadczył, że nie opublikuje artykułu, jak donosi MIT Technology Review. Springer oświadczył, że artykuł został złożony na nadchodzącą konferencję, ale po procesie recenzji artykuł został odrzucony do publikacji.

Koalicja dla Krytycznej Technologii twierdzi, że studium dotyczące przewidywania przestępczości jest tylko jednym przypadkiem szerszego, szkodliwego trendu, w którym inżynierowie i badacze sztucznej inteligencji próbują przewidywać zachowania na podstawie danych zawierających wrażliwe, społecznie skonstruowane zmienne. Koalicja twierdzi również, że wiele badań opiera się na naukowo wątpliwych ideach i teoriach, które nie są poparte dostępnymi dowodami z biologii i psychologii. Jako przykład, badacze z Princeton i Google (GOOGL ) opublikowali artykuł ostrzegający, że algorytmy, które twierdzą, że mogą przewidywać przestępczość na podstawie cech twarzy, opierają się na dyskredytowanych i niebezpiecznych pseudonaukach, takich jak fizjonomia. Badacze ostrzegali przed tym, aby pozwolić machine learningowi na ożywienie dawno obalonych teorii, które są wykorzystywane do wspierania rasistowskich systemów.

Ostatni impet ruchu Black Lives Matter skłonił wiele firm wykorzystujących algorytmy rozpoznawania twarzy do ponownej oceny ich użycia. Badania wykazały, że te algorytmy są często tendencyjne, oparte na nieprzedstawiających, tendencyjnych danych szkoleniowych.

Sygnatariusze listu, oprócz argumentowania, że badacze sztucznej inteligencji powinni zrezygnować z badań nad algorytmami przewidywania przestępczości, zalecili również, aby badacze ponownie ocenili, w jaki sposób mierzy się sukces modeli sztucznej inteligencji. Członkowie koalicji zalecili, aby wpływ społeczny algorytmów był miarą sukcesu, oprócz miar takich jak precyzja, recall i dokładność. Jak piszą autorzy artykułu:

„Jeśli sztuczna inteligencja ma przynieść ‘dobre społeczne’ wymienione w grantach i komunikatach prasowych, badacze w tej dziedzinie muszą aktywnie rozważać struktury władzy (i towarzyszące im uciski), które umożliwiają ich pracę”.