Алгоритм міг би вирішити проблему расових упереджень у сфері охорони здоров’я, якщо його належним чином навчити

Команда дослідників зі Стенфордського університету, Гарвардського університету та Чиказького університету навчила алгоритми діагностувати артрит на рентгенівських знімках колін. Виявляється, коли звіти пацієнтів використовуються як навчальні дані для алгоритму, алгоритм виявився точнішим, ніж радіологи, аналізуючи записи темношкірих пацієнтів.

Проблема алгоритмічного зміщення

Використання алгоритмів машинного навчання в медичній сфері може потенційно покращити результати для пацієнтів, які страждають на всілякі захворювання, але існують також добре задокументовані проблеми з використанням алгоритмів ШІ для діагностики пацієнтів. Дослідження впливу розгорнутих моделей штучного інтелекту виявили низку помітних інцидентів, пов’язаних із зміщенням алгоритмів. Ці включають алгоритми які дають меншинам менше направлень до кардіологічних відділень, ніж білим пацієнтам, навіть якщо всі зареєстровані симптоми були однаковими.

Один із авторів Дослідження, професор Зіад Обермейер зі Школи громадської охорони здоров’я Каліфорнійського університету в Берклі, вирішив застосувати штучний інтелект, щоб дослідити розбіжності між діагностикою рентгенівських променів рентгенологами та кількістю болю, про яку повідомляли пацієнти. Хоча чорні пацієнти та пацієнти з низьким рівнем доходу повідомляли про вищий рівень болю, їх інтерпретація рентгенівських знімків була оцінена так само, як і загальна популяція. Дані про зареєстрований рівень болю надійшли від NIH, і дослідники хотіли дослідити, чи не пропустили лікарі-людини щось під час аналізу даних.

Як повідомляє WiredЩоб визначити потенційні причини цих відмінностей, Обермайер та інші дослідники розробили модель комп’ютерного зору, навчену на основі даних NIH. Алгоритми були розроблені для аналізу рентгенівських променів і прогнозування рівня болю пацієнта на основі зображень. Програмному забезпеченню вдалося знайти шаблони на зображеннях, які виявилися тісно пов’язаними з рівнем болю пацієнта.

Коли алгоритму представлено невидиме зображення, модель повертає прогнози щодо рівня болю, про який повідомляє пацієнт. Прогнози, надані моделлю, більше узгоджувалися з фактичними рівнями болю пацієнтів, ніж бали, присвоєні радіологами. Особливо це стосувалося темношкірих пацієнтів. Обермейер пояснив через Wired, що алгоритм комп’ютерного зору зміг виявити явища, які частіше пов’язували з болем у темношкірих пацієнтів.

Належні системи навчання

Як повідомляється, критерії, які використовувалися для оцінки рентгенівських променів, спочатку були розроблені на основі результатів невеликого дослідження, проведеного в північній Англії протягом 1957 року. Початкова популяція, використана для розробки критеріїв оцінки остеоартриту, значно відрізнялася від дуже різноманітного населення сучасних Сполучених Штатів. Штатів, тож не дивно, що при діагностиці цих різних людей допускаються помилки.

Нове дослідження демонструє, що належним чином навчені алгоритми ШІ можуть зменшити упередження. Тренінг базувався на відгуках самих пацієнтів, а не на експертних висновках. Обермайер та його колеги раніше продемонстровано що широко використовуваний алгоритм штучного інтелекту надає перевагу білим пацієнтам над чорними пацієнтами, але Обермайер також показав, що навчання системи машинного навчання на правильних даних може допомогти запобігти упередженості.

Важливим застереженням у дослідженні є те, що знайоме багатьом дослідникам машинного навчання. Модель штучного інтелекту, розроблена дослідницькою групою, є чорним ящиком, і сама команда дослідників не впевнена, які саме особливості алгоритм виявляє на рентгенівських променях, тобто вони не можуть сказати лікарям, яких функцій їм бракує. .

Інші радіологи та дослідники прагнуть докопатися до чорної скриньки та виявити закономірності в ній, сподіваючись, допомагаючи лікарям зрозуміти, чого вони втрачають. Рентгенолог і професор Університету Еморі Джуді Гічоя збирає більш широкий і різноманітний набір рентгенівських знімків для навчання моделі ШІ. Гічоя змусить радіологів створити докладні нотатки на цих рентгенівських знімках. Ці примітки порівнюватимуться з виходом моделі, щоб побачити, чи можна розкрити закономірності, виявлені алгоритмом.