Sztuczna inteligencja może być przyjacielem lub wrogiem w poprawie równości zdrowotnej. Oto jak zapewnić, że pomoże, a nie zaszkodzi

Nierówności w opiece zdrowotnej i różnice w leczeniu są powszechne wśród podziałów społeczno-ekonomicznych, rasowych i płciowych. Jako społeczeństwo, mamy moralną, etyczną i ekonomiczną odpowiedzialność za zlikwidowanie tych luk i zapewnienie stałego, sprawiedliwego i przystępnego dostępu do opieki zdrowotnej dla wszystkich.

Sztuczna inteligencja (SI) pomaga rozwiązać te dysproporcje, ale jest również obosiecznym mieczem. Z pewnością SI już pomaga w usprawnieniu dostarczania opieki, umożliwiając personalizację leczenia na dużą skalę oraz wspierając przełomowe odkrycia. Niemniej jednak, wrodzona predyspozycja w danych, algorytmach i użytkownikach mogłaby pogorszyć problem, jeśli nie będziemy ostrożni.

To oznacza, że my, którzy rozwijamy i wdrożujemy rozwiązania oparte na SI w ochronie zdrowia, musimy być ostrożni, aby nie dopuścić do tego, by SI niezamierzenie powiększała istniejące luki, a organy nadzorcze i stowarzyszenia zawodowe muszą odegrać aktywną rolę w ustanowieniu zabezpieczeń, aby uniknąć lub złagodzić predyspozycję.

Oto jak wykorzystanie SI może pomóc w zlikwidowaniu luk równościowych zamiast je powiększać.

Osiągnij równość w badaniach klinicznych

Wiele nowych badań nad lekami i terapiami było historycznie predysponowanych w swoim projekcie, czy to zamierzone, czy nie. Na przykład, dopiero w 1993 roku kobiety zostały zobowiązane przez prawo do udziału w badaniach klinicznych finansowanych przez NIH. Bardziej niedawno, szczepionki na COVID-19 nie były celowo testowane u kobiet w ciąży — tylko dlatego, że niektórzy uczestnicy badań byli nieświadomie w ciąży w momencie szczepienia, wiemy, że jest to bezpieczne.

Wyzwaniem w badaniach jest to, że nie wiemy, czego nie wiemy. Jednak SI pomaga ujawniać predysponowane zestawy danych, analizując dane populacyjne i wskazując nieproporcjonalną reprezentację lub luki w pokryciu demograficznym. Poprzez zapewnienie różnorodnej reprezentacji i szkolenie modeli SI na danych, które dokładnie odzwierciedlają docelowe populacje, SI pomaga zapewnić inkluzywność, zmniejszyć szkody i zoptymalizować wyniki.

Zapewnij równościowe leczenie

Jest dobrze udokumentowane, że czarnoskóre kobiety w ciąży, które doświadczają bólu i powikłań podczas porodu, są często ignorowane, co skutkuje wskaźnikiem umieralności okołoporodowej 3-krotnie wyższym dla czarnych kobiet niż dla nie-hiszpańskich białych kobiet niezależnie od dochodu lub wykształcenia. Problem jest w dużej mierze utrwalany przez wrodzoną predyspozycję: istnieje powszechny mit wśród profesjonalistów medycznych, że ludzie czarnoskórzy mają wyższą tolerancję bólu niż ludzie biali.

Predyspozycja w algorytmach SI może pogorszyć problem: badacze z Harvardu odkryli, że powszechny algorytm przewidywał, że czarnoskóre i latynoskie kobiety są mniej prawdopodobne do udanego porodu waginalnego po cesarskim cięciu (VBAC), co mogło skłonić lekarzy do wykonania więcej cesarskich cięć u kobiet kolorowych. Jednak badacze stwierdzili, że „związek nie jest poparty biologiczną prawdopodobieństwem”, co sugeruje, że rasa jest „zastępnikiem innych zmiennych, które odzwierciedlają wpływ rasizmu na zdrowie”. Algorytm został później zaktualizowany, aby wykluczyć rasę lub etniczność przy obliczaniu ryzyka.

To jest idealne zastosowanie SI, aby wykorzenić niejawne predyspozycje i sugerować (z dowodami) ścieżki leczenia, które mogłyby być wcześniej pominięte. Zamiast kontynuować „standardową opiekę”, możemy użyć SI, aby określić, czy te najlepsze praktyki opierają się na doświadczeniu wszystkich kobiet, czy tylko białych kobiet. SI pomaga zapewnić, że nasze podstawy danych obejmują pacjentów, którzy mają najwięcej do zyskania na postępach w ochronie zdrowia i technologii.

Chociaż mogą być sytuacje, w których rasa i etniczność mogą być istotnymi czynnikami, musimy być ostrożni, aby wiedzieć, kiedy i jak powinny być brane pod uwagę, a kiedy po prostu opieramy się na historycznej predyspozycji, aby ukształtować nasze postrzeganie i algorytmy SI.

Zapewnij równościowe strategie prewencji

Rozwiązania SI mogą łatwo pominąć pewne schorzenia w społecznościach marginalizowanych bez starannej uwagi na potencjalną predyspozycję. Na przykład, Administracja ds. Weteranów pracuje nad wieloma algorytmami, aby przewidzieć i wykryć objawy choroby serca i zawału serca. To ma ogromny potencjał ratowania życia, ale większość badań historycznie nie obejmowała wielu kobiet, dla których choroba serca jest główną przyczyną zgonu. Dlatego nie wiadomo, czy te modele są tak skuteczne dla kobiet, które często prezentują się z objawami różnymi niż mężczyźni.

Włączenie odpowiedniej liczby kobiet do tego zestawu danych mogłoby pomóc w zapobieganiu niektórym z 3,2 miliona zawałów serca i pół miliona zgonów sercowych rocznie u kobiet poprzez wczesne wykrycie i interwencję. Podobnie, nowe narzędzia SI usuwają algorytmy oparte na rasie w badaniach nerkowych, które historycznie wykluczały czarnoskórych, latynoskich i rdzennych Amerykanów, co skutkowało opóźnieniami w leczeniu i złymi wynikami klinicznymi.

Zamiast wykluczać osoby marginalizowane, SI może naprawdę pomóc w prognozowaniu ryzyka zdrowotnego dla społeczności nieobsługiwanych i umożliwić personalizowane oceny ryzyka, aby lepiej ukierunkować interwencje. Dane mogą już być tam; jest to po prostu kwestia „dostrojenia” modeli, aby określić, jak rasa, płeć i inne czynniki demograficzne wpływają na wyniki — jeśli w ogóle.

Usprawnij zadania administracyjne

Poza bezpośrednim wpływem na wyniki pacjentów, SI ma niesamowity potencjał przyspieszenia workflowów w tle, aby zmniejszyć dysproporcje. Na przykład, firmy i dostawcy już używają SI, aby wypełnić luki w kodowaniu roszczeń i rozstrzygnięciu, walidacji kodów diagnozowania wobec notatek lekarskich oraz automatyzacji procesów preautoryzacji dla powszechnych procedur diagnostycznych.

Poprzez usprawnienie tych funkcji, możemy drastycznie zmniejszyć koszty operacyjne, pomóc biurom lekarskim działać bardziej efektywnie i dać personelowi więcej czasu, aby spędzić go z pacjentami, co sprawi, że opieka stanie się wykładniczo bardziej przystępna i dostępna.

Każdy z nas ma ważną rolę do odegrania

Fakt, że mamy te niesamowite narzędzia do dyspozycji, sprawia, że jest jeszcze bardziej niezbędne, abyśmy ich używali, aby wykorzenić i pokonać predyspozycje w ochronie zdrowia. Niestety, nie ma certyfikującego organu w Stanach Zjednoczonych, który reguluje wysiłki, aby użyć SI do „odpredysponowania” dostarczania opieki zdrowotnej, a nawet dla tych organizacji, które wydały wytyczne, nie ma regulacyjnego zachętu do zgodności z nimi.

To oznacza, że my, jako praktycy SI, naukowcy danych, twórcy algorytmów i użytkownicy, musimy rozwinąć świadomą strategię, aby zapewnić inkluzję, różnorodność danych i równy dostęp do tych narzędzi i wglądów.

Aby to zrobić, dokładna integracja i interoperacyjność są niezbędne. Z tak wielu źródeł danych — od wearable, dostawców laboratoryjnych i obrazowych po podstawową opiekę, wymianę informacji o zdrowiu i dokumentację szpitalną — musimy zintegrować wszystkie te dane, aby kluczowe elementy były uwzględnione, niezależnie od formatowania naszego źródła. Branża potrzebuje normalizacji danych, standaryzacji i dopasowania tożsamości, aby upewnić się, że istotne dane pacjentów są uwzględnione, nawet z rozbieżnymi pisowniami nazw lub konwencjami nazewniczymi opartymi na różnych kulturach i językach.

Musimy również wdrożyć oceny różnorodności do naszego procesu rozwoju SI i monitorować „dryf” w naszych metrykach w czasie. Praktycy SI mają odpowiedzialność za testowanie wydajności modelu w podgrupach demograficznych, przeprowadzanie audytów predyspozycji i zrozumienie, jak model podejmuje decyzje. Możemy musieć wyjść poza założenia oparte na rasie, aby upewnić się, że nasza analiza reprezentuje populację, dla której ją budujemy. Na przykład, członkowie plemienia Pima, którzy mieszkają w rezerwacie Gila River w Arizonie, mają ekstremalnie wysokie wskaźniki otyłości i cukrzycy typu 2, podczas gdy członkowie tego samego plemienia, którzy mieszkają po drugiej stronie granicy w górach Sierra Madre w Meksyku, mają znacznie niższe wskaźniki otyłości i cukrzycy, co dowodzi, że genetyka nie jest jedynym czynnikiem.

Wreszcie, potrzebujemy organizacji takich jak Amerykańskie Stowarzyszenie Medyczne, Urząd Koordynatora ds. Technologii Informacji o Zdrowiu, i specjalistycznych organizacji takich jak Amerykańskie Kolegium Położnictwa i Ginekologii, Amerykańska Akademia Pediatrii, Amerykańskie Kolegium Kardiologii i wiele innych, aby współpracować w celu ustanowienia standardów i ram dla wymiany danych i złożoności, aby przeciwdziałać predyspozycjom.

Poprzez standaryzowanie wymiany danych zdrowotnych i rozwijanie HTI-1 i HTI-2, aby wymagać od deweloperów współpracy z akredytowanymi organami, pomagamy zapewnić zgodność i skorygować błędy przeszłości. Co więcej, poprzez demokratyzację dostępu do pełnych i dokładnych danych pacjentów, możemy usunąć ślepe uliczki, które utrwalały predyspozycję, i użyć SI, aby rozwiązać dysproporcje w opiece zdrowotnej za pomocą bardziej kompleksowych, obiektywnych wglądów.