Algorytm może rozwiązać problem rasistowskich uprzedzeń w opiece zdrowotnej, jeśli zostanie właściwie przeszkolony

Zespół badaczy z Uniwersytetu Stanforda, Uniwersytetu Harvarda i Uniwersytetu Chicagowskiego przeszkolił algorytmy do diagnozowania zapalenia stawów na zdjęciach rentgenowskich kolan. Okazało się, że gdy dane pacjentów są wykorzystywane jako dane szkoleniowe dla algorytmu, algorytm jest bardziej dokładny niż radiolodzy przy analizie danych pacjentów czarnoskórych.

Problem uprzedzeń algorytmicznych

Użycie algorytmów machine learning w medycynie może potencjalnie poprawić wyniki leczenia pacjentów cierpiących na różne choroby, ale istnieją również dobrze udokumentowane problemy związane z używaniem algorytmów AI do diagnozowania pacjentów. Badania nad wpływem wdrożonych modeli AI wykazały wiele przypadków uprzedzeń algorytmicznych. Obejmują one algorytmy, które dają mniejszą liczbę skierowań do jednostek kardiologicznych pacjentom mniejszościowym niż pacjentom białym, mimo że wszystkie objawy były takie same.

Jeden z autorów badania, profesor Ziad Obermeyer z Wydziału Zdrowia Publicznego Uniwersytetu Kalifornijskiego w Berkeley, postanowił wykorzystać AI do zbadania różnic między diagnozami zdjęć rentgenowskich przez radiologów a poziomem bólu, który pacjenci zgłaszali. Chociaż pacjenci czarnoskórzy i pacjenci o niskich dochodach zgłaszali wyższy poziom bólu, ich interpretacje zdjęć rentgenowskich były takie same jak ogółu populacji. Dane o poziomach bólu pochodziły z NIH, a badacze chcieli zbadać, czy lekarze przegapili coś w swojej analizie danych.

Jak donosi Wired, aby zidentyfikować potencjalne przyczyny tych różnic, Obermeyer i inni badacze opracowali model widzenia komputerowego przeszkolony na danych z NIH. Algorytmy zostały zaprojektowane do analizy zdjęć rentgenowskich i przewidywania poziomu bólu pacjenta na podstawie obrazów. Oprogramowanie znalazło wzorce w obrazach, które okazały się silnie skorelowane z poziomem bólu pacjenta.

Gdy algorytm jest przedstawiony nieznanemu obrazowi, model zwraca przewidywania dotyczące poziomu bólu pacjenta. Przewidywania zwrócone przez model są bardziej zgodne z rzeczywistymi poziomami bólu pacjentów niż oceny przydzielone przez radiologów. Jest to szczególnie prawdziwe w przypadku pacjentów czarnoskórych. Obermeyer wyjaśnił w Wired, że algorytm widzenia komputerowego był w stanie wykryć zjawiska, które były bardziej powszechnie związane z bólem u pacjentów czarnoskórych.

Właściwe szkolenie systemów

Jak donoszą, kryteria oceny zdjęć rentgenowskich zostały pierwotnie opracowane na podstawie wyników małego badania przeprowadzonego w północnej Anglii w 1957 roku. Początkowa populacja, na której opracowano kryteria oceny osteoartrozy, była znacznie inna niż bardzo zróżnicowana populacja Stanów Zjednoczonych, więc nie jest zaskakujące, że popełniane są błędy przy diagnozowaniu tych zróżnicowanych ludzi.

Nowe badanie pokazuje, że gdy algorytmy AI są właściwie przeszkolone, mogą one zmniejszyć uprzedzenia. Szkolenie opierało się na opinii pacjentów, a nie na opiniach ekspertów. Obermeyer i jego koledzy wcześniej udowodnili, że powszechnie używany algorytm AI dawał pierwszeństwo pacjentom białym nad pacjentami czarnoskórymi, ale Obermeyer również pokazał, że szkolenie systemu machine learning na odpowiednich danych może pomóc zapobiec uprzedzeniom.

Istotną uwagą do badania jest to, że model AI opracowany przez zespół badawczy jest czarną skrzynką, a zespół badawczy sam nie wie, jakie cechy algorytm wykrywa na zdjęciach rentgenowskich, co oznacza, że nie mogą powiedzieć lekarzom, jakie cechy przegapili.

Inni radiolodzy i badacze starają się rozwiązać tajemnicę czarnej skrzynki i odkryć wzorce w niej. Nadzieją jest, że pomoże to lekarzom zrozumieć, co przegapili. Radiolog i profesor na Uniwersytecie Emory, Judy Gichoya, zbiera bardziej obszerny i zróżnicowany zestaw zdjęć rentgenowskich, aby przeszkolić model AI. Gichoya poprosi radiologów o stworzenie szczegółowych notatek na temat tych zdjęć rentgenowskich. Notatki te będą porównywane z wynikami modelu, aby sprawdzić, czy wzorce wykryte przez algorytm mogą być odkryte.