Искусственный интеллект может быть другом или врагом в улучшении равенства в здравоохранении. Вот как обеспечить, чтобы он помогал, а не вредил

Несоответствия и различия в медицинской помощи распространены по социально-экономическим, расовым и гендерным разделам. Как общество, мы несём моральную, этическую и экономическую ответственность за закрытие этих разрывов и обеспечение последовательного, справедливого и доступного доступа к медицинской помощи для всех.

Искусственный интеллект (ИИ) помогает решить эти различия, но он также является двусмысленным мечом. Безусловно, ИИ уже помогает оптимизировать доставку медицинской помощи, ermöglicht персонализированную медицину в масштабе и поддерживает прорывные открытия. Однако врожденный предвзятость в данных, алгоритмах и пользователях может усугубить проблему, если мы не будем осторожны.

Это означает, что те из нас, кто разрабатывает и развертывает решения для здравоохранения на основе ИИ, должны быть осторожны, чтобы предотвратить непреднамеренное расширение существующих разрывов, и регулирующие органы и профессиональные ассоциации должны сыграть активную роль в установлении ограничений, чтобы избежать или смягчить предвзятость.

Вот как использование ИИ может сократить разрывы в неравенстве вместо того, чтобы их расширять.

Достижение равенства в клинических испытаниях

Многие новые испытания лекарств и методов лечения исторически были предвзятыми в своем дизайне, будь то намеренно или нет. Например, только в 1993 году женщинам было предписано законом участвовать в исследованиях, финансируемых NIH. Более недавно, вакцины от COVID-19 никогда не были намеренно протестированы на беременных женщинах — только потому, что некоторые участники испытаний были незаметно беременны в момент вакцинации, мы знали, что это безопасно.

Одной из проблем исследований является то, что мы не знаем, чего не знаем. Однако ИИ помогает обнаружить предвзятые наборы данных, анализируя данные населения и флагируя непропорциональное представительство или пробелы в демографическом покрытии. Обеспечивая разнообразное представительство и обучая модели ИИ на данных, которые точно представляют целевые популяции, ИИ помогает обеспечить инклюзивность, уменьшить вред и оптимизировать результаты.

Обеспечение равных методов лечения

Это хорошо установленный факт, что чернокожие беременные женщины, испытывающие боль и осложнения во время родов, часто игнорируются, что приводит к материнской смертности в 3 раза выше для чернокожих женщин, чем для не-испанских белых женщин независимо от дохода или образования. Проблема в основном обусловлена врожденным предвзятостью: существует распространенное заблуждение среди медицинских работников, что чернокожие люди имеют более высокую толерантность к боли, чем белые люди.

Предвзятость в алгоритмах ИИ может усугубить проблему: исследователи Гарварда обнаружили, что общий алгоритм предсказывал, что чернокожие и латиноамериканские женщины менее вероятно будут иметь успешные вагинальные роды после кесарева сечения (VBAC), что может привести к тому, что врачи будут выполнять больше кесаревых сечений у женщин цветных. Однако исследователи обнаружили, что “ассоциация не подтверждается биологической правдоподобностью“, что предполагает, что раса является “заменой других переменных, которые отражают влияние расизма на здоровье”. Алгоритм был впоследствии обновлен, чтобы исключить расу или этническую принадлежность при расчете риска.

Это идеальное применение ИИ для устранения неявного предвзятости и предложения (с доказательствами) путей лечения, которые ранее могли быть упущены из виду. Вместо того, чтобы продолжать практиковать “стандартную помощь”, мы можем использовать ИИ, чтобы определить, основаны ли лучшие практики на опыте всех женщин или только белых женщин. ИИ помогает обеспечить, чтобы наши основы данных включали пациентов, которые имеют наибольшие выгоды от достижений в здравоохранении и технологиях.

Хотя могут быть условия, при которых раса и этническая принадлежность могут быть важными факторами, мы должны быть осторожны, чтобы знать, когда и как они должны быть рассмотрены, и когда мы просто полагаемся на историческую предвзятость, чтобы сформировать наши восприятия и алгоритмы ИИ.

Предоставление равных стратегий профилактики

Решения ИИ могут легко упустить из виду определенные условия в маргинализированных сообществах без тщательного учета потенциальной предвзятости. Например, администрация ветеранов работает над несколькими алгоритмами для прогнозирования и обнаружения признаков сердечно-сосудистых заболеваний и инфарктов. Это имеет огромный потенциал для спасения жизней, но большинство исследований исторически не включали многих женщин, для которых сердечно-сосудистые заболевания являются основной причиной смерти. Следовательно, неизвестно, являются ли эти модели столь же эффективными для женщин, которые часто проявляют совершенно другие симптомы, чем мужчины.

Включение пропорционального числа женщин в этот набор данных может помочь предотвратить некоторые из 3,2 миллиона инфарктов и полмиллиона сердечно-сосудистых смертей в год у женщин путем раннего обнаружения и вмешательства. Аналогично, новые инструменты ИИ удаляют расово-ориентированные алгоритмы в скрининге почечных заболеваний, которые исторически исключали чернокожих, испанцев и коренных американцев, что приводило к задержкам в лечении и плохим клиническим результатам.

Вместо исключения маргинализированных лиц ИИ может фактически помочь прогнозировать риски для здоровья у недооцененных популяций и ermöglicht персонализированные оценки риска, чтобы лучше нацеливать вмешательства. Данные могут уже быть там; это просто вопрос “настройки” моделей, чтобы определить, как раса, пол и другие демографические факторы влияют на результаты — если они вообще влияют.

Оптимизация административных задач

Помимо прямого влияния на результаты лечения пациентов, ИИ имеет огромный потенциал для ускорения рабочих процессов за кулисами, чтобы сократить различия. Например, компании и поставщики уже используют ИИ для заполнения пробелов в кодировании претензий и разрешении, проверки диагностических кодов против заметок врачей и автоматизации процессов предварительного разрешения для обычных диагностических процедур.

Оптимизируя эти функции, мы можем значительно сократить операционные затраты, помочь офисам поставщиков работать более эффективно и дать сотрудникам больше времени, чтобы провести с пациентами, что делает уход экспоненциально более доступным и доступным.

Мы все играем важную роль

Тот факт, что у нас есть эти невероятные инструменты в нашем распоряжении, делает еще более важным, чтобы мы использовали их, чтобы искоренить и преодолеть предвзятости в здравоохранении. К сожалению, в США нет сертификационного органа, который регулирует усилия по использованию ИИ для “обезвреживания” медицинской помощи, и даже для тех организаций, которые выработали рекомендации, нет регулирующего стимула для соблюдения их.

Следовательно, бремя лежит на нас как на практиках ИИ, ученых-данных, создателях алгоритмов и пользователях, чтобы разработать сознательную стратегию, чтобы обеспечить инклюзивность, разнообразие данных и справедливое использование этих инструментов и прозрений.

Чтобы сделать это, точная интеграция и взаимодействие являются важными. С учетом множества источников данных — от носимых устройств и сторонних лабораторных и изображений до первичной помощи, обмена информацией о здоровье и записей стационара — мы должны интегрировать все эти данные, чтобы ключевые фрагменты были включены, независимо от форматирования или источника. Промышленность нуждается в нормализации данных, стандартизации и сопоставлении идентификаторов, чтобы убедиться, что важные данные пациентов включены, даже с разными орфографиями или конвенциями именования на основе различных культур и языков.

Мы также должны построить оценки разнообразия в нашем процессе разработки ИИ и отслеживать “дрейф” в наших метриках со временем. Практики ИИ несут ответственность за тестирование производительности модели в демографических подгруппах, проведение аудитов предвзятости и понимание того, как модель принимает решения. Мы можем выйти за рамки расово-ориентированных предположений, чтобы обеспечить, что наш анализ представляет популяцию, для которой мы его строим. Например, члены племени Пима, живущие в резервации Гила-Ривер в Аризоне, имеют чрезвычайно высокие показатели ожирения и сахарного диабета 2-го типа, в то время как члены того же племени, живущие прямо через границу в горах Сьерра-Мадре в Мексике, имеют резко более низкие показатели ожирения и диабета, что доказывает, что генетика не является единственным фактором.

Наконец, нам нужны организации, такие как Американская медицинская ассоциация, Управление национального координатора информационных технологий здравоохранения и специализированные организации, такие как Американский колледж акушерства и гинекологии, Американская академия педиатрии, Американский колледж кардиологии и многие другие, чтобы работать вместе, чтобы установить стандарты и основы для обмена данными и остроты, чтобы охранять от предвзятости.

Стандартизируя обмен данными о здоровье и расширяя HTI-1 и HTI-2 для требований от разработчиков работать с аккредитующими органами, мы помогаем обеспечить соблюдение и исправить прошлые ошибки неравенства. Кроме того, демократизируя доступ к полным и точным данным пациентов, мы можем удалить “закрытые глаза”, которые способствовали предвзятости, и использовать ИИ для решения различий в уходе посредством более полных, объективных прозрений.