Algoritmus může řešit rasovou nespravedlnost ve zdravotní péči, pokud je řádně vyškolen

Tým výzkumníků ze Stanfordovy univerzity, Harvardské univerzity a Chicagské univerzity vyškolil algoritmy k diagnostice artritidy na rentgenových snímcích kolen. Ukázalo se, že když jsou jako trénovací data pro algoritmus použity zprávy pacientů, je algoritmus přesnější než radiologové při analýze záznamů černých pacientů.

Problém algoritmické předpojnosti

Použití algoritmů strojového učení ve zdravotnictví může potenciálně zlepšit výsledky pro pacienty trpící všemi druhy nemocí, ale existují také dobře zdokumentované problémy s používáním algoritmů AI k diagnostice pacientů. Studie o dopadech nasazených modelů AI odhalily řadu pozoruhodných incidentů týkajících se algoritmické předpojnosti. Tyto algoritmy poskytují menšinám méně odkazů na kardiologické jednotky než bílým pacientům, a to i přesto, že všechny hlášené symptomy byly stejné.

Jeden z autorů studie, profesor Ziad Obermeyer z Kalifornské univerzity v Berkeley, rozhodl se použít AI k prozkoumání rozdílů mezi diagnózami rentgenových snímků radiology a množstvím bolesti, které pacienti hlásili. Ačkoli černí pacienti a pacienti s nízkými příjmy hlásili vyšší úroveň bolesti, jejich interpretace rentgenových snímků byly hodnoceny stejně jako u obecné populace. Data o hlášených úrovních bolesti pocházela z NIH a výzkumníci chtěli prozkoumat, zda lidský lékaři něco přehlížejí ve své analýze dat.

Podle Wired výzkumníci vyvinuli počítačový model zobrazení, který byl vyškolen na datech z NIH. Algoritmy byly navrženy k analýze rentgenových snímků a předpovídání úrovní bolesti pacientů na základě snímků. Software našel vzory v obrazech, které byly silně korelovány s úrovněmi bolesti pacientů.

Když je algoritmu předložen neviditelný obraz, model vrací předpovědi úrovní bolesti pacienta. Předpovědi vrácené modelem se shodovaly více s hlášenými úrovněmi bolesti pacientů než hodnocení přidělená radiology. To bylo zvláště pravdivé pro černé pacienty. Obermeyer vysvětlil prostřednictvím Wired, že počítačový model zobrazení byl schopen detekovat jevy, které byly častěji spojeny s bolestí u černých pacientů.

Rýpné školení systémů

Podle zpráv byla kritéria pro hodnocení rentgenových snímků původně vyvinuta na základě výsledků malé studie provedené v severní Anglii v roce 1957. Počáteční populace, která byla použita k vývoji kritérií pro hodnocení osteoartritidy, byla mnohem odlišnější než velmi rozmanitá populace moderních Spojených států, takže není překvapivé, že existují chyby při diagnostice těchto rozmanitých lidí.

Nová studie ukazuje, že když jsou algoritmy AI řádně vyškoleny, mohou snížit předpojnost. Školení bylo založeno na zpětné vazbě pacientů sami, a noto na odborných názorech. Obermeyer a jeho kolegové předtím prokázali, že běžně používaný algoritmus AI dává přednost bílým pacientům před černými pacienty, ale Obermeyer také ukázal, že školení systému strojového učení na správných datech může pomoci zabránit předpojnosti.

Značná poznámka ke studiu je jedna, která je známá mnoha výzkumníkům strojového učení. Model AI vyvinutý výzkumným týmem je černá skříňka a tým výzkumníků sám neví, jaké druhy funkcí algoritmus detekuje v rentgenových snímcích, což znamená, že nemohou říci doktorům, jaké funkce přehlížejí.

Jiní radiologové a výzkumníci se snaží prozkoumat černou skříňku a odhalit vzory uvnitř ní, doufajíce, že pomohou doktorům pochopit, co přehlížejí. Radiolog a profesor na Emoryho univerzitě, Judy Gichoya, shromažďuje větší a rozmanitější sadu rentgenových snímků k vyškolení modelu AI. Gichoya bude mít radiology vytvářet podrobné poznámky k těmto rentgenovým snímkům. Tyto poznámky budou porovnány s výstupem modelu, aby se zjistilo, zda lze vzory detekované algoritmem odhalit.