AI kan være ven eller fjende i forbedring af sundhedsulighed. Her er, hvordan vi sikrer, at det hjælper, ikke skader

Sundhedsuligheder og forskelle i behandling er udbredt på tværs af socioøkonomiske, raciale og kønsgrupper. Som samfund har vi en moralsk, etisk og økonomisk ansvarlighed for at lukke disse huller og sikre konsekvent, retfærdig og billig adgang til sundhedsydelser for alle.

Kunstig intelligens (AI) hjælper med at løse disse uligheder, men det er også en dobbeltægget sværd. Bestemt, AI hjælper allerede med at strømline behandlingsleveringen, aktivere personlig medicin i stor målestok, og støtte gennembrudsopdagelser. Dog kan indbygget bias i data, algoritmer og brugere forværre problemet, hvis vi ikke er forsigtige.

Det betyder, at os, der udvikler og implementerer AI-drevne sundheds løsninger, skal være forsigtige for at forhindre, at AI utilsigtet udvider eksisterende huller, og styrende organer og fagforeninger skal spille en aktiv rol i at etablere retningslinjer for at undgå eller mindske bias.

Her er, hvordan vi kan udnytte AI til at brobygge uligheds huller i stedet for at udvide dem.

Opnå lighed i kliniske forsøg

Mange nye lægemiddel- og behandlingsforsøg har historisk set været fordomsfulde i deres design, enten med vilje eller ikke. For eksempel var det først i 1993, at kvinder var pålagt af loven at være inkluderet i NIH-finansieret klinisk forskning. Mere nyligt var COVID-vacciner aldrig bevidst testet på gravide kvinder—det var kun, fordi nogle forsøgsdeltagere var uvidende gravide på tidspunktet for vaccination, at vi vidste, det var sikkert.

En udfordring med forskning er, at vi ikke ved, hvad vi ikke ved. Dog hjælper AI med at afsløre fordomsfulde datasæt ved at analysere befolkningsdata og markere disproportioneret repræsentation eller huller i demografisk dækning. Ved at sikre divers repræsentation og træne AI-modeller på data, der nøjagtigt repræsenterer målpopuleringer, hjælper AI med at sikre inklusivitet, reducere skade og optimere resultater.

Sikre retfærdige behandlinger

Det er veldokumenteret, at sorte forventer, der oplever smerter og komplikationer under fødslen, ofte bliver ignoreret, hvilket resulterer i en mor-dødelighed på 3 gange højere for sorte kvinder end ikke-hispanske hvide kvinder uanset indtægt eller uddannelse. Problemet er overvejende forårsaget af indbygget bias: der er en udbredt misforståelse blandt medicinske fagfolk om, at sorte mennesker har en højere smertetolerance end hvide mennesker.

Bias i AI-algoritmer kan gøre problemet værre: Harvard-forskere opdagede, at en almindelig algoritme forudsagde, at sorte og latinske kvinder var mindre sandsynlige for at have en succesfuld vaginal fødsel efter en kejsersnit (VBAC), hvilket kan have ført til, at læger udførte flere kejsersnit på kvinder af farve. Dog fandt forskerne, at “associationen ikke er biologisk plausibel,” hvilket tyder på, at race er “en proxy for andre variabler, der reflekterer effekten af racisme på sundhed.” Algoritmen blev herefter opdateret til at ekskludere race eller etnicitet, når der beregnes risiko.

Dette er en perfekt anvendelse af AI til at rodde ud implicit bias og foreslå (med bevis) behandlingsveje, der tidligere kan være blevet overset. I stedet for at fortsætte med at praktisere “standardbehandling” kan vi bruge AI til at afgøre, om disse bedste praksisser er baseret på erfaringerne fra alle kvinder eller kun hvide kvinder. AI hjælper med at sikre, at vores datafundamenter inkluderer patienterne, der har mest at vinde fra fremskridt i sundhedsydelser og teknologi.

Selv om der kan være tilfælde, hvor race og etnicitet kan være væsentlige faktorer, skal vi være forsigtige med, hvordan og hvornår de skal være overvejet, og hvornår vi blot falder tilbage til historisk bias for at informere vores opfattelser og AI-algoritmer.

Tilbyde retfærdige forebyggelsesstrategier

AI-løsninger kan let overse bestemte tilstande i marginaliserede samfund uden omhyggelig overvejelse af potentiel bias. For eksempel arbejder Veterans Administration på flere algoritmer til at forudsige og opdage tegn på hjertesygdom og hjerteanfald. Dette har enormt livreddende potentiale, men de fleste studier har historisk set ikke inkluderet mange kvinder, for hvem hjertesygdom er den vigtigste dødsårsag. Derfor er det ukendt, om disse modeller er lige så effektive for kvinder, der ofte præsenterer med meget forskellige symptomer end mænd.

At inkludere en proportionel antal kvinder i denne datasæt kunne hjælpe med at forebygge nogle af de 3,2 millioner hjerteanfald og halv million hjerte-relaterede dødsfald årligt hos kvinder gennem tidlig opdækkelse og intervention. Lignende nye AI-værktøjer fjerner race-baserede algoritmer i nyre-sygdoms-screening, der historisk har ekskluderet sorte, hispanicske og indfødte amerikanere, hvilket har resulteret i behandlingsforsinkelser og dårlige kliniske resultater.

I stedet for at ekskludere marginaliserede individer kan AI faktisk hjælpe med at forudsige sundhedsrisici for underbetjente befolkninger og aktivere personlige risikovurderinger til bedre målrettede interventioner. Dataene kan allerede være der; det er blot en sag om at “justere” modellerne for at bestemme, hvordan race, køn og andre demografiske faktorer påvirker resultater—hvis de overhovedet gør.

Strømline administrative opgaver

Ud over direkte påvirkning af patientresultater har AI en enorm potentiale til at accelerere arbejdsgange bag scenen for at reducere uligheder. For eksempel bruger virksomheder og udbydere allerede AI til at udfylde huller i krav-kodning og -godkendelse, validering af diagnosekoder mod lægenoter, og automatisering af forudgodkendelsesprocesser for almindelige diagnostiske procedurer.

Ved at strømline disse funktioner kan vi drastisk reducere driftsomkostninger, hjælpe udbyderkontorer med at køre mere effektivt og give personalet mere tid til at tilbringe med patienter, hvilket gør behandlingen eksponentielt mere billig og tilgængelig.

Vi har alle en vigtig rol at spille

Det faktum, at vi har disse fantastiske værktøjer til rådighed, gør det endnu mere nødvendigt, at vi bruger dem til at rodde ud og overvinde sundhedsbias. Desværre er der ingen certificeringsorgan i USA, der regulerer bestræbelserne på at bruge AI til at “afbias” sundhedsydelser, og selv for organisationer, der har udgivet retningslinjer, er der ingen regulativ incitament til at overholde dem.

Derfor er det op til os som AI-praktikere, datavidenskabsfolk, algoritme-udviklere og -brugere at udvikle en bevidst strategi for at sikre inklusivitet, diversitet af data og retfærdig brug af disse værktøjer og indsigt.

For at gøre det kræves nøjagtig integration og interoperabilitet. Med så mange datakilder—fra wearables og tredjeparts-laboratorie- og billedleverandører til primær sundhedsydelser, sundhedsinformationssystemer og indlæggelsesoptegnelser—skal vi integrere alle disse data, så vigtige dele er inkluderet, uanset formatering af vores kilde. Branchen har brug for datanormalisering, standardisering og identitetsmatchning for at sikre, at essentiel patientdata er inkluderet, selv med forskellige stavemåder eller navnekonventioner baseret på forskellige kulturer og sprog.

Vi skal også bygge diversitetsvurderinger ind i vores AI-udviklingsproces og overvåge “drift” i vores målinger over tid. AI-praktikere har en ansvarlighed for at teste modelpræstationer på tværs af demografiske undergrupper, gennemføre bias-audit og forstå, hvordan modellen tager beslutninger. Vi kan være nødt til at gå ud over race-baserede antagelser for at sikre, at vores analyse repræsenterer populationen, vi bygger det for. For eksempel har medlemmer af Pima-indianerstammen, der bor i Gila River-reservatet i Arizona, ekstremt høje niveauer af fedme og type 2-diabetes, mens medlemmer af samme stamme, der bor lige på den anden side af grænsen i Sierra Madre-bjergene i Mexico, har markant lavere niveauer af fedme og diabetes, hvilket viser, at genetik ikke er den eneste faktor.

Til sidst har vi brug for organisationer som American Medical Association, Office of the National Coordinator for Health Information Technology og specialorganisationer som American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology og mange andre til at arbejde sammen for at etablere standarder og rammer for dataudveksling og akuitet for at beskytte mod bias.

Ved at standardisere delingen af sundhedsdata og udvide på HTI-1 og HTI-2 for at kræve, at udviklere samarbejder med akkrediteringsorganer, hjælper vi med at sikre overholdelse og korrigere for tidligere fejl af ulighed. Yderligere kan vi, ved at demokratisere adgangen til komplette, nøjagtige patientdata, fjerne blindskærerne, der har vedligeholdt bias, og bruge AI til at løse sundhedsuligheder gennem mere komplette, objektive indsigt.