Алгоритм может устранить расовую предвзятость в здравоохранении, если его правильно обучить

Команда исследователей из Стэнфордского университета, Гарвардского университета и Чикагского университета обучила алгоритмы диагностировать артрит на рентгеновских снимках колен. Оказалось, что когда для обучения алгоритма используются отчеты пациентов, алгоритм оказывается более точным, чем радиологи при анализе записей чернокожих пациентов.

Проблема алгоритмической предвзятости

Использование алгоритмов машинного обучения в медицине может потенциально улучшить результаты лечения пациентов, страдающих различными заболеваниями, но также существуют хорошо документированные проблемы с использованием алгоритмов ИИ для диагностики пациентов. Исследования влияния развернутых моделей ИИ выявили ряд заметных инцидентов, связанных с алгоритмической предвзятостью. К ним относятся алгоритмы, которые реже направляют пациентов из меньшинств в кардиологические отделения, чем белых пациентов, хотя все симптомы были одинаковыми.

Один из авторов этого исследования, профессор Зиад Обермайер из Школы общественного здравоохранения Калифорнийского университета в Беркли, решил использовать ИИ для изучения расхождений между диагнозами рентгеновских снимков радиологами и уровнем боли, который сообщали пациенты. Хотя чернокожие пациенты и пациенты с низкими доходами сообщали о более высоких уровнях боли, их интерпретации рентгеновских снимков были оценены одинаково, как и у общей популяции. Данные о уровнях боли были получены из Национальных институтов здравоохранения, и исследователи хотели изучить, не пропускают ли человеческие врачи что-то при анализе данных.

Как сообщает Wired, чтобы выявить потенциальные причины этих различий, Обермайер и другие исследователи разработали модель компьютерного зрения, обученную на данных из Национальных институтов здравоохранения. Алгоритмы были разработаны для анализа рентгеновских снимков и прогнозирования уровня боли пациента на основе изображений. Программное обеспечение смогло обнаружить закономерности в изображениях, которые оказались тесно связаны с уровнем боли пациента.

Когда алгоритму представляют незнакомое изображение, модель возвращает прогнозы уровня боли пациента. Прогнозы, возвращенные моделью, более точно соответствовали фактическим уровням боли пациентов, чем оценки, присвоенные радиологами. Это было особенно верно для чернокожих пациентов. Обермайер объяснил через Wired, что алгоритм компьютерного зрения смог обнаружить явления, которые чаще связаны с болью у чернокожих пациентов.

Правильная тренировка систем

Как сообщается, критерии оценки рентгеновских снимков были первоначально разработаны на основе результатов небольшого исследования, проведенного в северной Англии в 1957 году. Первоначальная популяция, использованная для разработки критериев оценки остеоартроза, была намного другой, чем разнообразная популяция современных США, поэтому не удивительно, что при диагностике этих разнообразных людей допускаются ошибки.

Новое исследование демонстрирует, что когда алгоритмы ИИ правильно обучены, они могут уменьшить предвзятость. Обучение было основано на обратной связи пациентов themselves, а не на мнениях экспертов. Обермайер и его коллеги ранее продемонстрировали, что широко используемый алгоритм ИИ отдавал предпочтение белым пациентам над чернокожими пациентами, но Обермайер также показал, что обучение системы машинного обучения на правильных данных может помочь предотвратить предвзятость.

Заметным ограничением исследования является один, знакомый многим исследователям машинного обучения. Разработанная исследовательской командой модель ИИ является черным ящиком, и сами исследователи не знают, какие именно признаки алгоритм обнаруживает на рентгеновских снимках, что означает, что они не могут сказать врачам, какие признаки они пропускают.

Другие радиологи и исследователи стремятся изучить черный ящик и раскрыть закономерности внутри него, надеясь помочь врачам понять, что они пропускают. Радиолог и профессор Эмориского университета Джуди Гичоя собирает более полный и разнообразный набор рентгеновских снимков для обучения модели ИИ. Гичоя будет иметь радиологов, создающих подробные заметки на этих рентгеновских снимках. Эти заметки будут сравнены с выводом модели, чтобы увидеть, могут ли закономерности, обнаруженные алгоритмом, быть раскрыты.