AI kan være ven eller fjende i forbedring af sundhedsulighed. Her er, hvordan du sikrer, at det hjælper, ikke skader

Sundhedsuligheder og forskelle i sundhedsydelser er udbredt på tværs af socioøkonomiske, racemæssige og kønsrelaterede skel. Som samfund har vi en moralsk, etisk og økonomisk ansvarlighed for at lukke disse huller og sikre konsekvent, retfærdig og billig adgang til sundhedsydelser for alle.

Kunstig intelligens (AI) hjælper med at løse disse uligheder, men det er også en dobbeltægget sværd. Bestemt er AI allerede med til at strømline sundhedsydelser, muliggøre personlig medicin i stor målestok, og understøtte gennembrudsopdagelser. Dog kan indbygget bias i data, algoritmer og brugere forværre problemet, hvis vi ikke er forsigtige.

Det betyder, at os, der udvikler og implementerer AI-drevne sundheds løsninger, skal være omhyggelige med at forhindre, at AI utilsigtet udvider eksisterende huller, og styrende organer og fagforeninger skal spille en aktiv rol i at etablere sikkerhedsforanstaltninger for at undgå eller mindske bias.

Her er, hvordan udnyttelse af AI kan brobygge uligheds huller i stedet for at udvide dem.

Opnå lighed i kliniske forsøg

Mange nye lægemiddel- og behandlingsforsøg har historisk set været fordomsfulde i deres design, enten bevidst eller ubevidst. For eksempel var det først i 1993, at kvinder var påkrævet af loven til at være inkluderet i NIH-finansieret klinisk forskning. Mere nyligt var COVID-vacciner aldrig bevidst testet på gravide kvinder—det var kun, fordi nogle forsøgsdeltagere var uvidende gravide på tidspunktet for vaccination, at vi vidste, det var sikkert.

En udfordring med forskning er, at vi ikke ved, hvad vi ikke ved. Dog hjælper AI med at afsløre fordomsfulde datasæt ved at analysere befolkningsdata og markere disproportional repræsentation eller huller i demografisk dækning. Ved at sikre divers repræsentation og træne AI-modeller på data, der nøjagtigt repræsenterer målpopuleringer, hjælper AI med at sikre inklusivitet, reducere skade og optimere resultater.

Sikre retfærdige behandlinger

Det er veldokumenteret, at sorte forventer mødre, der oplever smerter og komplikationer under fødsel, ofte bliver ignoreret, hvilket resulterer i en mor-dødelighed på 3 gange højere for sorte kvinder end for ikke-hispanske hvide kvinder uanset indkomst eller uddannelse. Problemet er primært fremmet af indbygget bias: der er en udbredt misforståelse blandt medicinske fagfolk om, at sorte mennesker har en højere smertetolerance end hvide mennesker.

Bias i AI-algoritmer kan gøre problemet værre: Harvard-forskere opdagede, at en almindelig algoritme forudsagde, at sorte og latinske kvinder var mindre sandsynlige at have en succesfuld vaginal fødsel efter en kejsersnit (VBAC), hvilket kan have ført til, at læger udførte flere kejsersnit på kvinder af farve. Dog fandt forskerne, at “associationen ikke er understøttet af biologisk plausibilitet,” hvilket tyder på, at race er “en proxy for andre variable, der reflekterer effekten af racisme på sundhed.” Algoritmen blev herefter opdateret til at udelukke race eller etnicitet, når der beregnes risiko.

Dette er en perfekt anvendelse af AI til at rodde ud implicit bias og foreslå (med bevis) behandlingsforløb, der tidligere kan have været overset. I stedet for at fortsætte med at praktisere “standardbehandling” kan vi bruge AI til at bestemme, om disse bedste praksisser er baseret på erfaringerne fra alle kvinder eller kun hvide kvinder. AI hjælper med at sikre, at vores datafundamenter inkluderer patienterne, der har mest at vinde fra fremskridt i sundhedsydelser og teknologi.

Selv om der kan være tilfælde, hvor race og etnicitet kan være væsentlige faktorer, skal vi være omhyggelige med at vide, hvordan og hvornår de skal være overvejet, og hvornår vi blot falder tilbage til historisk bias for at informere vores perceptioner og AI-algoritmer.

Give retfærdige forebyggelsesstrategier

AI-løsninger kan let overse bestemte tilstande i marginaliserede samfund uden omhyggelig overvejelse af potentiel bias. For eksempel arbejder Veterans Administration på multiple algoritmer til at forudsige og registrere tegn på hjertesygdom og hjerteanfald. Dette har enormt livreddende potentiale, men de fleste studier har historisk set ikke inkluderet mange kvinder, for hvem hjertesygdom er den vigtigste dødsårsag. Derfor er det ukendt, om disse modeller er lige så effektive for kvinder, der ofte præsenterer med meget forskellige symptomer end mænd.

Inklusion af en proportionel antal kvinder i denne datasæt kunne hjælpe med at forhindre nogle af de 3,2 millioner hjerteanfald og halv million hjerte-relaterede dødsfald årligt hos kvinder gennem tidlig registrering og intervention. Ligesom nye AI-værktøjer fjerner race-baserede algoritmer i nyresygdomsscreening, der historisk har ekskluderet sorte, hispanicske og indfødte amerikanere, hvilket har resulteret i behandlingsforsinkelse og dårlige kliniske resultater.

I stedet for at ekskludere marginaliserede individer kan AI faktisk hjælpe med at forudsige sundhedsrisici for underbetjente befolkninger og muliggøre personlige risikovurderinger for bedre at målrette interventioner. Dataene kan allerede være der; det er blot et spørgsmål om at “justere” modellerne for at bestemme, hvordan race, køn og andre demografiske faktorer påvirker resultater—hvis de overhovedet gør det.

Strømline administrative opgaver

Foruden direkte at påvirke patientresultater har AI en enorm potentiale til at accelerere arbejdsprocesser bag scenen for at reducere uligheder. For eksempel bruger virksomheder og udbydere allerede AI til at udfylde huller i kravkodning og godkendelse, validering af diagnosekoder mod lægenoter, og automatisering af forudgodkendelsesprocesser for almindelige diagnostiske procedurer.

Ved at strømline disse funktioner kan vi dramatisk reducere driftsomkostninger, hjælpe udbyderkontorer med at køre mere effektivt og give personale mere tid til at tilbringe med patienter, hvilket gør sundhedsydelser eksponentielt mere billige og tilgængelige.

Vi har alle en vigtig rol at spille

Det faktum, at vi har disse fantastiske værktøjer til rådighed, gør det endnu mere påkrævet, at vi bruger dem til at rodde ud og overvinde sundhedsbias. Desværre er der ingen certificeringsorgan i USA, der regulerer bestræbelserne på at bruge AI til at “afbias” sundhedsydelser, og selv for de organisationer, der har udgivet retningslinjer, er der ingen regulativ incitament til at overholde dem.

Derfor er det op til os som AI-praktikere, datavidenskabsfolk, algoritme-skabere og brugere at udvikle en bevidst strategi for at sikre inklusivitet, diversitet af data og retfærdig brug af disse værktøjer og indsigt.

For at gøre det, er præcis integration og interoperabilitet afgørende. Med så mange datakilder—fra wearables og tredjeparts laboratorie- og billedleverandører til primær sundhedsydelser, sundhedsoplysningssystemer og indlæggelser—skal vi integrere alle disse data, så vigtige dele er inkluderet, uanset formatering eller kilde. Branchen har brug for data-normalisering, standardisering og identitetsmatchning for at sikre, at essentiel patientdata er inkluderet, selv med forskellige staveformer eller navnekonventioner baseret på forskellige kulturer og sprog.

Vi skal også bygge diversitetsvurderinger ind i vores AI-udviklingsproces og overvåge “drift” i vores metrikker over tid. AI-praktikere har en ansvarlighed for at teste modelpræstationer på tværs af demografiske undergrupper, gennemføre bias-revisioner og forstå, hvordan modellen tager beslutninger. Vi kan være nødt til at gå ud over race-baserede antagelser for at sikre, at vores analyse repræsenterer befolkningen, vi bygger det for. For eksempel har medlemmer af Pima-indianerstammen, der bor i Gila River-reservatet i Arizona, ekstremt høje niveauer af fedme og type 2-diabetes, mens medlemmer af samme stamme, der bor lige over grænsen i Sierra Madre-bjergene i Mexico, har markant lavere niveauer af fedme og diabetes, hvilket viser, at genetik ikke er den eneste faktor.

Til sidst har vi brug for organisationer som American Medical Association, Office of the National Coordinator for Health Information Technology og specialorganisationer som American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology og mange andre til at arbejde sammen for at fastsætte standarder og rammer for dataudveksling og akuitet for at beskytte mod bias.

Ved at standardisere sundhedsdataudveksling og udvide HTI-1 og HTI-2 for at kræve, at udviklere arbejder med akkrediteringsorganer, hjælper vi med at sikre overholdelse og korrigere for tidligere fejl af ulighed. Yderligere kan vi, ved at demokratisere adgangen til komplette, nøjagtige patientdata, fjerne blindskærerne, der har fremmet bias, og bruge AI til at løse sundhedsuligheder gennem mere omfattende, objektive indsigt.