Алгоритм может устранить расовую предвзятость в здравоохранении, если его правильно обучить

Команда исследователей из Стэнфордского университета, Гарвардского университета и Чикагского университета обучила алгоритмы диагностировать артрит на рентгеновских снимках колен. Оказалось, что когда отчеты пациентов используются в качестве обучающих данных для алгоритма, алгоритм оказался более точным, чем радиологи при анализе записей чернокожих пациентов.

Проблема алгоритмической предвзятости

Использование алгоритмов машинного обучения в медицинской сфере может потенциально улучшить результаты для пациентов, страдающих от различных заболеваний, но также существуют хорошо документированные проблемы с использованием алгоритмов ИИ для диагностики пациентов. Исследования воздействия развернутых моделей ИИ обнаружили ряд заметных инцидентов, связанных с алгоритмической предвзятостью. Это включает алгоритмы, которые направляют меньшее количество пациентов из числа меньшинств в кардиологические отделения, чем белых пациентов, хотя все симптомы были одинаковыми.
Один из авторов исследования, профессор Зиад Обермейер из Школы общественного здравоохранения Калифорнийского университета в Беркли, решил использовать ИИ для изучения расхождений между диагнозами рентгеновских снимков радиологами и уровнем боли, который сообщали пациенты. Хотя чернокожие пациенты и пациенты с низкими доходами сообщали о более высоких уровнях боли, их интерпретации рентгеновских снимков были оценены так же, как и у общей популяции. Данные о уровнях боли были получены из Национальных институтов здравоохранения, и исследователи хотели изучить, не пропускают ли человеческие врачи что-то в своем анализе данных.
Как сообщает Wired, для выявления потенциальных причин этих различий Обермейер и другие исследователи разработали модель компьютерного зрения, обученную на данных из Национальных институтов здравоохранения. Алгоритмы были разработаны для анализа рентгеновских снимков и прогнозирования уровня боли пациента на основе изображений. Программное обеспечение смогло обнаружить закономерности в изображениях, которые оказались высоко коррелированными с уровнем боли пациента.
Когда алгоритму представляют незнакомое изображение, модель возвращает прогнозы уровня боли пациента. Прогнозы, возвращенные моделью, более тесно соответствуют фактическим уровням боли пациентов, чем оценки, присвоенные радиологами. Это было особенно верно для чернокожих пациентов. Обермейер объяснил через Wired, что алгоритм компьютерного зрения смог обнаружить явления, которые более часто связаны с болью у чернокожих пациентов.

Правильная тренировка систем

Согласно сообщениям, критерии оценки рентгеновских снимков были первоначально разработаны на основе результатов небольшого исследования, проведенного в северной Англии в 1957 году. Первоначальная популяция, использованная для разработки критериев оценки остеоартроза, была намного другой, чем очень разнообразная популяция современных США, поэтому не удивительно, что при диагностике этих разнообразных людей допускаются ошибки.
Новое исследование демонстрирует, что когда алгоритмы ИИ правильно обучены, они могут уменьшить предвзятость. Обучение было основано на обратной связи самих пациентов, а не на мнениях экспертов. Обермейер и его коллеги ранее продемонстрировали, что широко используемый алгоритм ИИ отдает предпочтение белым пациентам над чернокожими пациентами, но Обермейер также показал, что обучение системы машинного обучения на правильных данных может помочь предотвратить предвзятость.
Заметным ограничением исследования является один, знакомый многим исследователям в области машинного обучения. Разработанная исследовательской командой модель ИИ является черным ящиком, и команда исследователей сама не знает, какие именно признаки алгоритм обнаруживает в рентгеновских снимках, что означает, что они не могут сказать врачам, какие признаки они пропускают.
Другие радиологи и исследователи стремятся изучить черный ящик и обнаружить закономерности внутри него, надеясь помочь врачам понять, что они пропускают. Радиолог и профессор Эмори университета Джуди Гичоя собирает более обширный и разнообразный набор рентгеновских снимков для обучения модели ИИ. Гичоя попросит радиологов создать подробные заметки на этих рентгеновских снимках. Эти заметки будут сравнены с выводом модели, чтобы увидеть, могут ли закономерности, обнаруженные алгоритмом, быть раскрыты.