Алгоритм может устранить расовую предвзятость в здравоохранении, если его правильно обучить

Команда исследователей из Стэнфордского университета, Гарвардского университета и Чикагского университета обучила алгоритмы. для диагностики артрита по рентгену коленей. Оказывается, когда в качестве обучающих данных для алгоритма используются отчеты пациентов, алгоритм оказался более точным, чем рентгенологи, при анализе записей чернокожих пациентов.

Проблема алгоритмического смещения

Использование алгоритмов машинного обучения в медицинской сфере потенциально может улучшить результаты лечения пациентов, страдающих от всех видов заболеваний, но существуют также хорошо задокументированные проблемы с использованием алгоритмов ИИ для диагностики пациентов. Исследования влияния развернутых моделей ИИ выявили ряд примечательных инцидентов, связанных с алгоритмической предвзятостью. Эти включить алгоритмы это дает представителям меньшинств меньше направлений в кардиологические отделения, чем белым пациентам, даже несмотря на то, что все зарегистрированные симптомы были одинаковыми.

Один из авторов Исследование, профессор Зиад Обермейер из Школы общественного здравоохранения Калифорнийского университета в Беркли, решил использовать ИИ для исследования несоответствий между рентгенологическими диагнозами рентгенологов и интенсивностью боли, о которой сообщали пациенты. Хотя чернокожие пациенты и пациенты с низким доходом сообщали о более высоком уровне боли, их интерпретация рентгеновских снимков оценивалась так же, как и население в целом. Данные о зарегистрированных уровнях боли поступили от Национального института здоровья, и исследователи хотели выяснить, не упустили ли что-нибудь врачи-люди в своем анализе данных.

Как сообщает WiredЧтобы выявить потенциальные причины этих различий, Обермейер и другие исследователи разработали модель компьютерного зрения, обученную на данных НИЗ. Алгоритмы были разработаны для анализа рентгеновских лучей и прогнозирования уровня боли пациента на основе изображений. Программному обеспечению удалось найти закономерности на изображениях, которые оказались тесно связаны с уровнем боли пациента.

Когда алгоритм представлен невидимым изображением, модель возвращает прогнозы для уровня сообщаемой пациентом боли. Прогнозы, полученные моделью, более точно соответствовали фактическим уровням боли, о которых сообщали пациенты, чем баллы, присвоенные радиологами. Особенно это касалось чернокожих пациентов. Обермейер объяснил через Wired, что алгоритм компьютерного зрения смог обнаружить явления, которые чаще всего связаны с болью у чернокожих пациентов.

Правильные тренировочные системы

Как сообщается, критерии, используемые для оценки рентгеновских снимков, были первоначально разработаны на основе результатов небольшого исследования, проведенного в северной Англии в 1957 году. Первоначальная популяция, использовавшаяся для разработки критериев оценки остеоартрита, сильно отличалась от очень разнообразного населения современных Соединенных Штатов. США, поэтому неудивительно, что при диагностике этих разных людей делаются ошибки.

Новое исследование демонстрирует, что когда алгоритмы ИИ правильно обучены, они могут уменьшить предвзятость. Обучение основывалось на отзывах самих пациентов, а не на мнениях экспертов. Обермейер и его коллеги ранее продемонстрированный что широко используемый алгоритм ИИ отдавал предпочтение белым пациентам, а не чернокожим, но Обермейер также показал, что обучение системы машинного обучения правильным данным может помочь предотвратить предвзятость.

Заметная оговорка к исследованию знакома многим исследователям машинного обучения. Модель искусственного интеллекта, разработанная исследовательской группой, представляет собой черный ящик, и сами исследователи не уверены, какие функции алгоритм обнаруживает на рентгеновских снимках, а это означает, что они не могут сказать врачам, какие функции им не хватает. .

Другие радиологи и исследователи стремятся заглянуть в черный ящик и выявить закономерности внутри него, надеясь, что это поможет врачам понять, чего им не хватает. Рентгенолог и профессор Университета Эмори Джуди Гичоя собирает более обширный и разнообразный набор рентгеновских снимков для обучения модели ИИ. Гичоя попросит рентгенологов сделать подробные заметки об этих рентгеновских снимках. Эти заметки будут сравниваться с выходными данными модели, чтобы увидеть, можно ли обнаружить закономерности, обнаруженные алгоритмом.