Algoritmus by mohl řešit rasovou zaujatost ve zdravotnictví, pokud by byl řádně vyškolen

Tým výzkumníků ze Stanford University, Harvard University a University of Chicago trénoval algoritmy k diagnostice artritidy na rentgenových snímcích kolen. Ukazuje se, že když jsou zprávy pacientů použity jako tréninková data pro algoritmus, algoritmus byl při analýze záznamů černošských pacientů přesnější než radiologové.

Problém algortimického zkreslení

Použití algoritmů strojového učení v lékařské oblasti může potenciálně zlepšit výsledky u pacientů trpících všemi druhy onemocnění, ale existují také dobře zdokumentované problémy s používáním algoritmů AI k diagnostice pacientů. Studie dopadů nasazených modelů umělé inteligence zjistily řadu pozoruhodných incidentů zahrnujících algoritmické zkreslení. Tyto zahrnují algoritmy které dávají menšinám méně doporučení na kardiologická oddělení než bílí pacienti, i když všechny hlášené příznaky byly stejné.

Jeden z autorů studie, profesor Ziad Obermeyer z University of California Berkeley's School of Public Health, se rozhodl využít AI ke zkoumání rozdílů mezi diagnózami rentgenových paprsků radiology a množstvím bolesti, kterou pacienti hlásili. Přestože černoši a pacienti s nízkými příjmy hlásili vyšší úrovně bolesti, jejich rentgenové interpretace byly hodnoceny stejně jako u běžné populace. Údaje o hlášených úrovních bolesti pocházely z NIH a vědci chtěli prozkoumat, zda lidští lékaři v analýze dat něco postrádali.

Jak uvádí WiredAby bylo možné identifikovat potenciální příčiny těchto rozdílů, Obermeyer a další výzkumníci zkonstruovali model počítačového vidění trénovaný na datech z NIH. Algoritmy byly navrženy tak, aby analyzovaly rentgenové záření a předpovídaly úrovně bolesti pacienta na základě snímků. Software dokázal na snímcích najít vzory, které se ukázaly jako vysoce korelované s úrovní bolesti pacienta.

Když je algoritmus prezentován s neviditelným obrázkem, model vrátí předpovědi pro úroveň pacientem hlášené bolesti. Předpovědi vrácené modelem byly více v souladu se skutečnými hlášenými úrovněmi bolesti pacientů než skóre přidělené radiology. To platilo zejména pro černošské pacienty. Obermeyer prostřednictvím Wired vysvětlil, že algoritmus počítačového vidění byl schopen detekovat jevy, které byly častěji spojeny s bolestí u černošských pacientů.

Správně školící systémy

Kritéria používaná k hodnocení rentgenových paprsků byla údajně původně vyvinuta na základě výsledků malé studie provedené v severní Anglii v roce 1957. Počáteční populace používaná k vypracování kritérií hodnocení osteoartrózy byla velmi odlišná od velmi různorodé populace moderních Spojených států. států, takže není divu, že při diagnostikování těchto různorodých lidí dochází k chybám.

Nová studie ukazuje, že když jsou algoritmy AI správně trénovány, mohou snížit zkreslení. Školení bylo založeno na zpětné vazbě samotných pacientů namísto odborných názorů. Obermeyer a kolegové dříve prokázáno že běžně používaný algoritmus umělé inteligence dával přednost bílým pacientům před černými, ale Obermeyer také ukázal, že trénování systému strojového učení na správných datech může pomoci předejít zkreslení.

Pozoruhodné upozornění na studii je známé mnoha výzkumníkům strojového učení. Model umělé inteligence vyvinutý výzkumným týmem je černá skříňka a samotný tým výzkumníků si není jistý, jaké druhy funkcí algoritmus detekuje na rentgenových snímcích, což znamená, že nemohou lékařům říci, jaké funkce jim chybí. .

Další radiologové a výzkumníci se snaží proniknout do černé skříňky a odhalit vzory v nich, doufejme, že pomohou lékařům pochopit, co jim chybí. Radioložka a profesorka na Emory University, Judy Gichoya, shromažďuje rozsáhlejší a rozmanitější sadu rentgenových snímků pro trénování modelu umělé inteligence. Gichoya nechá radiology, aby vytvořili podrobné poznámky k těmto rentgenovým paprskům. Tyto poznámky budou porovnány s výstupem modelu, aby se zjistilo, zda lze odhalit vzory detekované algoritmem.