Искусственный интеллект может быть другом или врагом в улучшении здоровья и равенства. Вот как обеспечить, чтобы он помогал, а не вредил

Неравенство в здравоохранении и диспропорции в уходе за пациентами распространены по социально-экономическим, расовым и гендерным границам. Как общество, мы несём моральную, этическую и экономическую ответственность за закрытие этих пробелов и обеспечение последовательного, справедливого и доступного доступа к здравоохранению для всех.

Искусственный интеллект (ИИ) помогает решать эти диспропорции, но он также является двусмысленным мечом. Безусловно, ИИ уже помогает оптимизировать доставку ухода, обеспечивать персонализированную медицину в масштабе и поддерживать прорывные открытия. Однако встроенные предубеждения в данных, алгоритмах и пользователях могут усугубить проблему, если мы не будем осторожны.

Это означает, что те из нас, кто разрабатывает и развертывает решения для здравоохранения на основе ИИ, должны быть осторожны, чтобы предотвратить непреднамеренное расширение существующих пробелов, и регулирующие органы и профессиональные ассоциации должны играть активную роль в установлении ограничений для предотвращения или смягчения предубеждений.

Вот как использование ИИ может сократить разрывы в неравенстве вместо того, чтобы их расширять.

Достичь равенства в клинических испытаниях

Многие новые испытания лекарств и методов лечения исторически были предвзятыми в своём дизайне, будь то намеренно или нет. Например, только в 1993 году женщинам было предписано законом участвовать в клинических исследованиях, финансируемых Национальными институтами здравоохранения. Более недавно вакцины от COVID-19 никогда не были намеренно протестированы на беременных женщинах — только потому, что некоторые участники испытаний были незаметно беременны на момент вакцинации, мы знаем, что это безопасно.

Проблема с исследованиями заключается в том, что мы не знаем того, чего не знаем. Однако ИИ помогает обнаружить предвзятые наборы данных, анализируя данные о населении и флагируя непропорциональное представительство или пробелы в демографическом покрытии. Обеспечивая разнообразное представительство и обучая модели ИИ на данных, которые точно представляют целевые популяции, ИИ помогает обеспечить инклюзивность, уменьшить вред и оптимизировать результаты.

Обеспечить равные методы лечения

Это хорошо известно, что чернокожие беременные женщины, испытывающие боль и осложнения во время родов, часто игнорируются, что приводит к материнской смертности в 3 раза выше для чернокожих женщин, чем для не-испаноязычных белых женщин независимо от дохода или образования. Проблема в основном обусловлена встроенными предубеждениями: существует распространённое заблуждение среди медицинских работников, что чернокожие люди имеют более высокую толерантность к боли, чем белые люди.

Предубеждения в алгоритмах ИИ могут усугубить проблему: исследователи Гарварда обнаружили, что распространённый алгоритм предсказывал, что чернокожие и латиноамериканские женщины менее вероятно будут иметь успешные вагинальные роды после кесарева сечения (VBAC), что может привести врачей к проведению более частых кесаревых сечений у женщин цветных. Однако исследователи обнаружили, что «ассоциация не подтверждается биологической правдоподобностью», что предполагает, что раса является «заменой других переменных, которые отражают влияние расизма на здоровье». Алгоритм был впоследствии обновлён, чтобы исключить расу или этническую принадлежность при расчете риска.

Это идеальное применение ИИ для выявления неявных предубеждений и предложения (с доказательствами) путей ухода, которые могли бы быть ранее упущены. Вместо того, чтобы продолжать практиковать «стандартный уход», мы можем использовать ИИ, чтобы определить, основаны ли эти лучшие практики на опыте всех женщин или только белых женщин. ИИ помогает обеспечить, чтобы наши основы данных включали пациентов, которые имеют наибольшие выгоды от достижений в здравоохранении и технологиях.

Хотя могут быть условия, при которых раса и этническая принадлежность могли бы быть значимыми факторами, мы должны быть осторожны, чтобы знать, когда и как они должны быть рассмотрены, и когда мы просто полагаемся на исторические предубеждения, чтобы сформировать наши восприятия и алгоритмы ИИ.

Предоставить равные стратегии профилактики

Решения ИИ могут легко упустить из виду определённые условия в маргинализированных сообществах без тщательного учета потенциальных предубеждений. Например, администрация ветеранов работает над несколькими алгоритмами для предсказания и обнаружения признаков сердечно-сосудистых заболеваний и инфарктов. Это имеет огромный потенциал для спасения жизней, но большинство исследований исторически не включали многих женщин, для которых сердечно-сосудистые заболевания являются основной причиной смерти. Следовательно, неизвестно, насколько эффективны эти модели для женщин, которые часто проявляют совершенно другие симптомы, чем мужчины.

Включение пропорционального числа женщин в этот набор данных могло бы помочь предотвратить некоторые из 3,2 миллиона инфарктов и полмиллиона сердечно-связанных смертей в год у женщин через раннее обнаружение и вмешательство. Аналогично, новые инструменты ИИ удаляют расово-ориентированные алгоритмы при тестировании на заболевания почек, которые исторически исключали чернокожих, испаноязычных и коренных американцев, что приводило к задержкам в уходе и плохим клиническим результатам.

Вместо исключения маргинализированных лиц ИИ может фактически помочь прогнозировать риски для здоровья у недостаточно обслуживаемых популяций и обеспечивать персонализированные оценки рисков, чтобы лучше нацеливать вмешательства. Данные могут уже быть там; это просто вопрос «настройки» моделей для определения того, как раса, пол и другие демографические факторы влияют на результаты — если они вообще влияют.

Оптимизировать административные задачи

Помимо прямого влияния на результаты пациентов, ИИ имеет невероятный потенциал для ускорения рабочих процессов за кулисами, чтобы сократить диспропорции. Например, компании и поставщики уже используют ИИ для заполнения пробелов в кодировании претензий и адъюдикации, проверки диагностических кодов против заметок врача и автоматизации процессов предварительного разрешения для обычных диагностических процедур.

Оптимизируя эти функции, мы можем радикально сократить операционные затраты, помочь офисам поставщиков работать более эффективно и дать сотрудникам больше времени, чтобы провести с пациентами, что сделает уход экспоненциально более доступным и доступным.

Мы все играем важную роль

Тот факт, что у нас есть эти невероятные инструменты в нашем распоряжении, делает ещё более важным, чтобы мы использовали их для устранения и преодоления предубеждений в здравоохранении. К сожалению, в США нет сертификационного органа, который регулирует усилия по использованию ИИ для «обезвреживания» доставки здравоохранения, и даже для тех организаций, которые выработали рекомендации, нет регулирующего стимула для соблюдения их.

Следовательно, наша обязанность как практиков ИИ, учёных-данных, создателей алгоритмов и пользователей — разработать сознательную стратегию для обеспечения инклюзивности, разнообразия данных и равного использования этих инструментов и прозрений.

Для этого точная интеграция и взаимодействие являются необходимыми. С таким количеством источников данных — от носимых устройств и сторонних лабораторных и изображений до первичной помощи, обменов информацией о здоровье и стационарных записей — мы должны интегрировать все эти данные, чтобы включить ключевые фрагменты, независимо от форматирования источника. Промышленность нуждается в нормализации данных, стандартизации и сопоставлении идентификаторов, чтобы убедиться, что важные данные пациентов включены, даже с разными орфографиями или наименованиями на основе различных культур и языков.

Мы также должны построить оценки разнообразия в нашем процессе разработки ИИ и отслеживать «дрейф» в наших метриках во времени. Практики ИИ несут ответственность за тестирование производительности модели в демографических подгруппах, проведение аудитов предубеждений и понимание того, как модель принимает решения. Нам может потребоваться выйти за рамки расово-ориентированных предположений, чтобы обеспечить, что наш анализ представляет популяцию, для которой мы его строим. Например, члены племени Пима, живущие в резервации Гила-Ривер в Аризоне, имеют чрезвычайно высокие показатели ожирения и диабета 2-го типа, в то время как члены того же племени, живущие прямо через границу в горах Сьерра-Мадре в Мексике, имеют значительно более низкие показатели ожирения и диабета, доказывая, что генетика не является единственным фактором.

Наконец, нам нужны организации, такие как Американская медицинская ассоциация, Управление национального координатора информационных технологий здравоохранения, и специализированные организации, такие как Американский колледж акушерства и гинекологии, Американская академия педиатрии, Американский колледж кардиологии и многие другие, чтобы работать вместе, чтобы установить стандарты и рамки для обмена данными и остроты, чтобы охранять от предубеждений.

Стандартизируя обмен данными о здоровье и расширяя HTI-1 и HTI-2 для требований от разработчиков работать с аккредитующими органами, мы помогаем обеспечить соблюдение и исправить прошлые ошибки неравенства. Кроме того, демократизируя доступ к полным и точным данным пациентов, мы можем удалить «закрытые глаза», которые увековечили предубеждения, и использовать ИИ для решения диспропорций в уходе посредством более полных и объективных прозрений.