Algorytm może rozwiązać problem rasowych uprzedzeń w opiece zdrowotnej, jeśli zostanie odpowiednio wytrenowany

Zespół badaczy z Uniwersytetu Stanforda, Uniwersytetu Harvarda i Uniwersytetu Chicagowskiego wytrenował algorytmy do diagnozowania zapalenia stawów na zdjęciach rentgenowskich kolan. Okazało się, że gdy dane pacjentów są używane jako dane szkoleniowe dla algorytmu, algorytm jest bardziej dokładny niż radiolodzy przy analizie danych pacjentów czarnoskórych.

Problem algorytmicznego uprzedzenia

Użycie algorytmów machine learning w dziedzinie medycyny może potencjalnie poprawić wyniki dla pacjentów cierpiących na różne choroby, ale istnieją również dobrze udokumentowane problemy związane z używaniem algorytmów AI do diagnozowania pacjentów. Badania nad wpływem wdrożonych modeli AI wykazały wiele godnych uwagi incydentów związanych z algorytmicznym uprzedzeniem. Należą do nich algorytmy, które przydzielają mniejszą liczbę skierowań do jednostek kardiologicznych mniejszościom niż pacjentom białym, mimo że wszystkie objawy były takie same.
Jeden z autorów badania, profesor Ziad Obermeyer z Wydziału Zdrowia Publicznego Uniwersytetu Kalifornijskiego w Berkeley, postanowił wykorzystać AI do zbadania różnic między diagnozami zdjęć rentgenowskich przez radiologów a poziomem bólu, który pacjenci zgłaszali. Chociaż pacjenci czarnoskórzy i pacjenci o niskich dochodach zgłaszali wyższe poziomy bólu, ich interpretacje zdjęć rentgenowskich były takie same jak ogółu populacji. Dane o poziomach bólu pochodziły z NIH, a badacze chcieli zbadać, czy lekarze nie przegapili czegoś w swojej analizie danych.
Jak donosi Wired, aby zidentyfikować potencjalne przyczyny tych różnic, Obermeyer i inni badacze opracowali model widzenia komputerowego wytrenowany na danych z NIH. Algorytmy zostały zaprojektowane do analizy zdjęć rentgenowskich i przewidywania poziomu bólu pacjenta na podstawie obrazów. Oprogramowanie znalazło wzorce w obrazach, które okazały się bardzo skorelowane z poziomem bólu pacjenta.
Gdy algorytm jest przedstawiony nieznanemu obrazowi, model zwraca przewidywania dotyczące poziomu bólu pacjenta. Przewidywania zwrócone przez model są bardziej zgodne z rzeczywistymi poziomami bólu pacjentów niż oceny przydzielone przez radiologów. Jest to szczególnie prawdziwe w przypadku pacjentów czarnoskórych. Obermeyer wyjaśnił za pośrednictwem Wired, że algorytm widzenia komputerowego był w stanie wykryć zjawiska, które są bardziej powszechnie związane z bólem u pacjentów czarnoskórych.

Właściwe szkolenie systemów

Jak się donosi, kryteria oceny zdjęć rentgenowskich zostały pierwotnie opracowane na podstawie wyników małego badania przeprowadzonego w północnej Anglii w 1957 roku. Początkowa populacja użyta do opracowania kryteriów oceny zapalenia stawów była znacznie inna niż bardzo zróżnicowana populacja współczesnych Stanów Zjednoczonych, więc nie jest zaskakujące, że popełniane są błędy przy diagnozowaniu tych zróżnicowanych ludzi.
Nowe badanie pokazuje, że gdy algorytmy AI są właściwie wytrenowane, mogą one zmniejszyć uprzedzenia. Szkolenie oparto na opinii samych pacjentów, a nie na opinii ekspertów. Obermeyer i jego koledzy wcześniej udowodnili, że powszechnie używany algorytm AI daje pierwszeństwo pacjentom białym nad pacjentami czarnoskórymi, ale Obermeyer pokazał również, że szkolenie systemu machine learning na odpowiednich danych może pomóc zapobiec uprzedzeniom.
Godny uwagi wyjątek od badania jest jeden znany wielu badaczom machine learning. Model AI opracowany przez zespół badawczy jest czarną skrzynką, a zespół badawczy sam nie wie, jakie rodzaje cech algorytm wykrywa na zdjęciach rentgenowskich, co oznacza, że nie mogą powiedzieć lekarzom, jakie cechy przegapili.
Inni radiolodzy i badacze starają się zagłębić w czarną skrzynkę i odkryć wzorce w niej, co może pomóc lekarzom zrozumieć, co przegapili. Radiolog i profesor na Uniwersytecie Emory, Judy Gichoya, zbiera bardziej obszerny i zróżnicowany zbiór zdjęć rentgenowskich, aby wytrenować model AI. Gichoya poprosi radiologów o stworzenie szczegółowych notatek na temat tych zdjęć. Notatki te będą porównane z wyjściem modelu, aby sprawdzić, czy wzorce wykryte przez algorytm mogą być odkryte.