Штучний інтелект може бути другом або ворогом у покращенні медичної рівності. Ось як забезпечити, щоб він допоміг, а не зашкодив

Нерівності у сфері охорони здоров’я та розбіжності у медичній допомозі поширене явище по соціально-економічним, расовим і статевим ознакам. Як суспільство, ми маємо моральне, етичне та економічне зобов’язання ліквідувати ці розбіжності та забезпечити стабільний, справедливий та доступний доступ до медичної допомоги для всіх.

Штучний інтелект (ШІ) допомагає ліквідувати ці розбіжності, але він також має подвійний эфект. Безумовно, ШІ вже зараз допомагає оптимізувати надання медичної допомоги, забезпечувати персоналізовану медицину у великих масштабах та підтримувати революційні відкриття. Однак вбудований упередження у даних, алгоритмах та користувачах може погіршити проблему, якщо ми не будемо обережні.

Це означає, що ті з нас, хто розробляє та впроваджує рішення, засновані на ШІ, у сфері охорони здоров’я, повинні бути обережними, щоб запобігти випадковому розширенню існуючих розбіжностей, а також органи управління та професійні асоціації повинні відігравати активну роль у встановленні обмежень, щоб уникнути або пом’якшити упередження.

Ось як використання ШІ може звузити розбіжності у медичній сфері, а не розширювати їх.

Досягти рівності у клінічних дослідженнях

Багато нових клінічних досліджень мали історично упереджене проектування, незалежно від того, чи було це зроблено навмисно чи ні. Наприклад, лише у 1993 році жінки були зобов’язані законом брати участь у клінічних дослідженнях, фінансуваних Національними інститутами охорони здоров’я. Нещодавно вакцини проти COVID-19 ніколи не були навмисно протестовані на вагітних жінках — лише тому, що деякі учасники досліджень були невідомо вагітні на момент вакцинації, ми знаємо, що це безпечно.

Одна з проблем у дослідженнях полягає в тому, що ми не знаємо того, чого не знаємо. Однак ШІ допомагає виявити упереджені набори даних, аналізуючи дані населення та виділяючи непропорційне представництво або розбіжності у демографічному покритті. Завдяки забезпеченню різноманітного представництва та навчанню моделей ШІ на даних, які точно відображають цільові популяції, ШІ допомагає забезпечити інклюзивність, зменшити шкоду та оптимізувати результати.

Забезпечити рівноправне лікування

Встановлено, що чорні майбутні матері, які відчувають біль та ускладнення під час пологів, часто ігноруються, що призводить до рівня материнської смертності у 3 рази вище для чорних жінок, ніж для не-іспанських білих жінок незалежно від доходу чи освіти. Проблема в основному підтримується вбудованим упередженням: існує поширений неправильний висновок серед медичних фахівців, що чорні люди мають вищу толерантність до болю, ніж білі люди.

Упередження в алгоритмах ШІ може погіршити проблему: дослідники Гарварду виявили, що загальний алгоритм передбачав, що чорні та латиноамериканські жінки мали меншу ймовірність успішних вагінальних пологів після кесаревого розтину (VBAC), що могло привести до того, що лікарі проводили більше кесарських розтинів у жінок кольору. Однак дослідники виявили, що “асоціація не підтримується біологічною правдоподібністю“, що свідчить про те, що раса є “замінником інших змінних, які відображають вплив расизму на здоров’я”. Алгоритм був згодом оновлений, щоб виключити расу чи етнічну приналежність при розрахунку ризику.

Це ідеальний приклад застосування ШІ для виявлення неявного упередження та пропозиції (з доказами) шляхів лікування, які раніше могли бути проігноровані. Замість того, щоб продовжувати практикувати “стандартну допомогу”, ми можимо використовувати ШІ, щоб визначити, чи ці найкращі практики засновані на досвіді всіх жінок чи лише білих жінок. ШІ допомагає забезпечити, щоб наші дані включали пацієнтів, які мають найбільше користі від вдосконалень у сфері охорони здоров’я та технологій.

Хоча можуть бути умови, у яких раса та етнічна приналежність можуть бути вагомими чинниками, ми повинні бути обережними, щоб знати, коли та як вони повинні бути враховані, а коли ми просто спираємося на історичне упередження, щоб сформувати наші сприйняття та алгоритми ШІ.

Забезпечити рівноправні стратегії профілактики

Рішення ШІ можуть легко проігнорувати певні захворювання у маргіналізованих спільнотах без ретельного розгляду потенційного упередження. Наприклад, Міністерство у справах ветеранів працює над кількома алгоритмами для прогнозування та виявлення ознак хвороби серця та інфарктів. Це має великий потенціал для порятунку життя, але більшість досліджень історично не включали багатьох жінок, для яких хвороба серця є основною причиною смерті. Тому невідомо, чи ці моделі так само ефективні для жінок, які часто мають зовсім інші симптоми, ніж чоловіки.

Включення пропорційного числа жінок до цього набору даних могло б допомогти запобігти деяким з 3,2 мільйонів інфарктів та півмільйона серцево-судинних смертей щорічно серед жінок завдяки ранньому виявленню та втручанню. Аналогічно, нові інструменти ШІ видаляють алгоритми, засновані на расі, у скринінгу захворювань нирок, які історично виключали чорних, іспанських та корінних американців, що призводило до затримок у лікуванні та поганих клінічних результатів.

Замість того, щоб виключати маргіналізовані групи, ШІ може фактично допомогти прогнозувати ризики для недопредставлених популяцій та забезпечити персоналізовані оцінки ризику для кращого націлення втручань. Дані можуть вже бути наявні; це просто питання “налаштування” моделей для визначення того, як раса, стать та інші демографічні чинники впливають на результати — якщо вони це роблять.

Оптимізувати адміністративні завдання

Поза прямим впливом на результати лікування, ШІ має неймовірний потенціал для прискорення робочих процесів позаду сцени для зменшення розбіжностей. Наприклад, компанії та постачальники вже використовують ШІ для заповнення пробілів у кодуванні та вирішенні претензій, перевірки діагностичних кодів проти лікарських записів та автоматизації процесів попередньої авторизації для загальних діагностичних процедур.

Завдяки оптимізації цих функцій ми можемо суттєво зменшити операційні витрати, допомогти офісам постачальників працювати більш ефективно та дати персоналу більше часу, щоб провести з пацієнтами, що робить лікування експоненціально більш доступним та доступним.

Кожен з нас має важливу роль

Той факт, що у нас є ці неймовірні інструменти, робить ще більш важливим використання їх для ліквідації та подолання упереджень у сфері охорони здоров’я. На жаль, у США немає сертифікаційного органу, який регулює зусилля щодо використання ШІ для “дебіасування” медичної допомоги, а навіть для тих організацій, які запропонували рекомендації, немає регулюючого стимулу для їх виконання.

Отже, на нас як практиків ШІ, вчених-даних, творців алгоритмів та користувачів лежить обов’язок розробити свідому стратегію забезпечення інклюзивності, різноманітності даних та рівноправного використання цих інструментів та інсайтів.

Для цього точна інтеграція та інтероперабельність є суттєвими. З великою кількістю джерел даних — від носимих пристроїв та третіх сторін, які надають лабораторні та іміджеві послуги, до первинної медичної допомоги, обмінів медичної інформації та стаціонарних записів — ми повинні інтегрувати всі ці дані, щоб ключові частини були включені, незалежно від форматування джерела даних. Промисловість потребує нормалізації даних, стандартизації та ідентифікації для забезпечення того, що важливі дані пацієнтів включені, навіть з розбіжними правописами імен або іменними конвенціями на основі різних культур та мов.

Ми також повинні будувати оцінки різноманітності у процес розробки ШІ та контролювати “дрейф” наших метрик з часом. Практики ШІ мають відповідальність тестувати продуктивність моделі у різних демографічних підгрупах, проводити аудити упередження та розуміти, як модель приймає рішення. Нам може знадобитися піти далі за расові припущення, щоб забезпечити, що наш аналіз представляє популяцію, для якої ми його будемо створювати. Наприклад, члени племені Піма, які живуть у резервації Гіла-Рівер в Арізоні, мають надзвичайно високі рівні ожиріння та цукрового діабету 2 типу, тоді як члени того ж племені, які живуть просто через кордон у горах Сьєрра-Мадре в Мексиці, мають значно нижчі рівні ожиріння та діабету, що доводить, що генетика не єдина чинниця.

Нарешті, нам потрібні організації, такі як Американська медична асоціація, Офіс національного координатора інформаційних технологій охорони здоров’я та спеціалізовані організації, такі як Американський коледж акушерства та гінекології, Американська академія педіатрії, Американський коледж кардіології та багато інших, щоб працювати разом, щоб встановити стандарти та рамки для обміну даними та гостроти, щоб захистити від упередження.

Стандартизуючи обмін медичними даними та розширюючи HTI-1 та HTI-2 для того, щоб розробники працювали з акредитуючими органами, ми допомагаємо забезпечити дотримання вимог та виправлення помилок упередження в минулому. Крім того, демократизуючи доступ до повних та точних даних пацієнтів, ми можемо видалити “сліпі плями”, які сприяли упередженню, та використовувати ШІ для вирішення розбіжностей у медичній допомозі за допомогою більш повних та об’єктивних інсайтів.