Алгоритм може вирішити проблему расової упередженості в охороні здоров’я, якщо його правильно натренувати

Команда дослідників з Стенфордського університету, Гарвардського університету та Чиказького університету натренувала алгоритми для діагностики артриту на рентгенограмах колін. Виявилося, що коли дані пацієнтів використовуються як тренувальні дані для алгоритму, алгоритм був більш точним, ніж радіологи при аналізі записів пацієнтів афроамериканців.

Проблема алгоритмічної упередженості

Використання алгоритмів машинного навчання в галузі медицини потенційно може покращити результати лікування пацієнтів, які страждають на різні захворювання, але також існують добре задокументовані проблеми з використанням алгоритмів штучного інтелекту для діагностики пацієнтів. Дослідження впливу розгорнутих моделей штучного інтелекту виявили ряд помітних випадків алгоритмічної упередженості. До них належать алгоритми, які дають меншу кількість направжень до кардіологічних відділень для пацієнтів меншин, ніж для білих пацієнтів, хоча всі повідомлені симптоми були однаковими.

Один із авторів дослідження, професор Зіад Обермейер з Школи громадського здоров’я Каліфорнійського університету в Берклі, вирішив використовувати штучний інтелект для вивчення розбіжностей між діагнозами рентгенограм радіологами та рівнем болю, який повідомили пацієнти. Хоча пацієнти афроамериканців і пацієнти з низькими доходами повідомили про вищі рівні болю, їхні інтерпретації рентгенограм були оцінені так само, як і у загальної популяції. Дані про повідомлені рівні болю були отримані з Національного інституту охорони здоров’я, і дослідники хотіли вивчити, чи пропускають людські лікарі щось при аналізі даних.

За повідомленням Wired, для визначення потенційних причин цих розбіжностей Обермейер і інші дослідники створили комп’ютерну модель зору, натреновану на даних Національного інституту охорони здоров’я. Алгоритми були розроблені для аналізу рентгенограм і прогнозування рівня болю пацієнта на основі зображень. Програмне забезпечення виявило закономірності в зображеннях, які були тісно пов’язані з рівнем болю пацієнта.

Коли алгоритму надається невідоме зображення, модель повертає прогнози рівня болю пацієнта. Прогнози, повернуті моделлю, збігалися ближче з фактичними рівнями болю пацієнтів, ніж оцінки радіологів. Це було особливо вірно для пацієнтів афроамериканців. Обермейер пояснив через Wired, що комп’ютерна модель зору змогла виявити явища, які були більш часто пов’язані з болем у пацієнтів афроамериканців.

Натренування систем правильно

Згідно повідомлень, критерії оцінки рентгенограм були спочатку розроблені на основі результатів невеликого дослідження, проведеного в північній Англії в 1957 році. Первоначальне населення, яке використовувалося для розробки критеріїв оцінки остеоартрозу, було досить різним від сучасного населення США, тому не дивно, що виникають помилки при діагностиці цього різноманітного населення.

Нове дослідження демонструє, що коли алгоритми штучного інтелекту правильно натреновані, вони можуть зменшити упередженість. Натренування було засновано на відгуках самих пацієнтів, а не на думці експертів. Обермейер і його колеги раніше продемонстрували, що широко використовуваний алгоритм штучного інтелекту надавав перевагу білим пацієнтам над пацієнтами афроамериканцями, але Обермейер також показав, що натренування системи машинного навчання на правильних даних може допомогти запобігти упередженості.

Помітна застереження до дослідження полягає в тому, що модель штучного інтелекту, розроблена командою дослідників, є чорним ящиком, і сама команда дослідників не знає, які саме ознаки алгоритм виявляє на рентгенограмах, тобто вони не можуть сказати лікарям, яких ознак вони пропускають.

Інші радіологи та дослідники намагаються розібратися в цьому чорному ящику та виявити закономірності в ньому, сподіваючись допомогти лікарям зрозуміти, чого їм не вистачає. Радіолог і професор Еморійського університету Джуді Гічоя збирає більш розширений і різноманітний набір рентгенограм для натренування моделі штучного інтелекту. Гічоя буде мати радіологів, які створюють детальні нотатки до цих рентгенограм. Ці нотатки будуть порівняні з виходом моделі, щоб побачити, чи можна виявити закономірності, виявлені алгоритмом.