Badacze wyzwają długo utrzymywane założenie uczenia maszynowego

Badacze z Carnegie Mellon University wyzwają długo utrzymywane założenie uczenia maszynowego, że istnieje kompromis między dokładnością a sprawiedliwością w algorytmach stosowanych w podejmowaniu decyzji politycznych.

Użycie uczenia maszynowego rośnie w wielu dziedzinach, takich jak sprawiedliwość karana, zatrudnienie, opieka zdrowotna i interwencje społeczne. Wraz z tym wzrostem pojawiają się również obawy, czy te nowe zastosowania nie mogą pogorszyć istniejących nierówności. Mogą one być szczególnie szkodliwe dla mniejszości rasowych lub osób z niekorzystną sytuacją ekonomiczną.

Dostosowanie systemu

Istnieją ciągłe dostosowania danych, etykiet, szkolenia modeli, systemów oceny i innych aspektów systemu w celu ochrony przed uprzedzeniami. Jednak teoretyczne założenie było takie, że system staje się mniej dokładny, gdy wprowadza się więcej takich dostosowań.

Zespół z CMU postanowił wyzwać tę teorię w nowym badaniu opublikowanym w Nature Machine Intelligence.

Rayid Ghani jest profesorem w Wydziale Informatyki, Departamentu Uczenia Maszynowego (MLD) oraz w Heinz College of Information Systems and Public Policy (PPHC ). Dołączył do niego Kit Rodolfa, naukowiec w MLD; oraz Hemank Lamba, badacz w SCS.

Testowanie aplikacji w świecie rzeczywistym

Badacze przetestowali to założenie w aplikacjach świata rzeczywistego i odkryli, że kompromis jest znikomy w wielu dziedzinach polityki.

“Można osiągnąć obie rzeczy. Nie trzeba poświęcać dokładności, aby budować systemy, które są sprawiedliwe i równoprawne”, powiedział Ghani. “Ale wymaga to celowego projektowania systemów, aby były one sprawiedliwe i równoprawne. Gotowe systemy nie będą działać.”

Zespół skupił się na sytuacjach, w których popyt na zasoby jest ograniczony. Przydział tych zasobów jest wspomagany przez uczenie maszynowe.

Skupili się na systemach w czterech obszarach:

• priorytetowe ograniczone działania opieki zdrowia psychicznej w oparciu o ryzyko powrotu do więzienia w celu zmniejszenia ponownego uwięzienia;
• przewidywanie poważnych naruszeń bezpieczeństwa w celu lepszego rozmieszczenia ograniczonych inspektorów mieszkań;
• modelowanie ryzyka nieukończenia szkoły średniej na czas w celu identyfikacji osób, które potrzebują dodatkowego wsparcia;
• i pomoc nauczycielom w osiągnięciu celów crowdfundingu dla potrzeb klasowych.

Badacze odkryli, że modele zoptymalizowane pod kątem dokładności mogą skutecznie przewidywać wyniki zainteresowania. Jednak również wykazały znaczne dysproporcje w zaleceniach dotyczących interwencji.

Ważne wyniki pojawiły się, gdy badacze zastosowali dostosowania do wyników modeli, które miały na celu poprawę ich sprawiedliwości. Odkryli, że nie ma utraty dokładności, gdy dysproporcje oparte na rasy, wieku lub dochodzie są usunięte.

“Chcemy, aby społeczność sztucznej inteligencji, informatyki i uczenia maszynowego przestała akceptować to założenie kompromisu między dokładnością a sprawiedliwością i zaczęła celowo projektować systemy, które maksymalizują obie”, powiedział Rodolfa. “Mamy nadzieję, że decydenci polityczni przyjmą uczenie maszynowe jako narzędzie w swoim podejmowaniu decyzji, aby pomóc im osiągnąć równoprawne wyniki.”