AI kan være venn eller fiende i å forbedre helsemessig likhet. Her er hvordan du kan sikre at det hjelper, ikke skader

Helsemessige ulikheter og forskjeller i behandling er utbredt over sosioøkonomiske, rasemessige og kjønnsbaserte skillelinjer. Som et samfunn har vi en moralsk, etisk og økonomisk ansvar til å lukke disse gapene og sikre konsekvent, rettferdig og rimelig tilgang til helsevesen for alle.

Kunstig intelligens (AI) hjelper med å løse disse ulikhetene, men det er også et toegget sverd. Selvfølgelig hjelper AI allerede med å strømlinje behandlingsleveringen, muliggjøre personlig medisin i stor skala og støtte gjennombruddsoppdagelser. Imidlertid kan innebygd bias i data, algoritmer og brukere forverre problemet hvis vi ikke er forsiktige.

Det betyr at de av oss som utvikler og distribuerer AI-drevne helseløsninger må være forsiktige for å forhindre at AI utilsiktet utvider eksisterende gap, og styrende organer og fagforeninger må spille en aktiv rol i å etablere retningslinjer for å unngå eller mildne bias.

Her er hvordan AI kan brukes til å lukke ulikhetsgapene i stedet for å utvide dem.

Oppnå likhet i kliniske studier

Mange nye legemiddel- og behandlingsstudier har historisk sett vært bias i sin design, enten med vilje eller ikke. For eksempel var det først i 1993 at kvinner var pålagt av loven å delta i NIH-finansiert klinisk forskning. Mer nylig var COVID-vaksiner aldri med vilje testet på gravide kvinner—det var bare fordi noen deltakere i studiene var uvitende gravide på tidspunktet for vaksinasjon at vi visste det var trygt.

En utfordring med forskning er at vi ikke vet hva vi ikke vet. Likevel hjelper AI med å avdekke biasede datasamlinger ved å analysere befolkningsdata og flagge urettferdig representasjon eller gap i demografisk dekning. Ved å sikre mangfoldig representasjon og trene AI-modeller på data som nøyaktig representerer målpopulasjoner, hjelper AI med å sikre inklusivitet, redusere skade og optimalisere resultater.

Sikre rettferdige behandlinger

Det er vel etablert at svarte gravide kvinner som opplever smerte og komplikasjoner under fødsel ofte blir ignorert, noe som resulterer i en mødredødelighet på 3 ganger høyere for svarte kvinner enn for ikke-hispanske hvite kvinner uavhengig av inntekt eller utdanning. Problemet er i stor grad forårsaket av innebygd bias: det finnes en utbredt misforståelse blant medisinske fagfolk om at svarte mennesker har en høyere smertetoleranse enn hvite mennesker.

Bias i AI-algoritmer kan forverre problemet: Harvard-forskere oppdaget at en vanlig algoritme forutså at svarte og latina-kvinner var mindre sannsynlige å ha en vellykket vaginal fødsel etter en keisersnitt (VBAC), noe som kan ha ført til at leger utførte flere keisersnitt på kvinner av farge. Likevel fant forskerne at “assosiasjonen ikke støttes av biologisk plausibilitet,” noe som tyder på at rase er “en proxy for andre variabler som reflekterer effekten av rasisme på helse.” Algoritmen ble deretter oppdatert til å ekskludere rase eller etnisitet når den beregnet risiko.

Dette er en perfekt anvendelse av AI for å avdekke implisitt bias og foreslå (med bevis) behandlingsveier som tidligere kan ha blitt overseen. I stedet for å fortsette å praktisere “standardbehandling” kan vi bruke AI til å bestemme om disse beste praksisene er basert på erfaringene til alle kvinner eller bare hvite kvinner. AI hjelper med å sikre at våre datafundamenter inkluderer pasientene som har mest å vinne på fremgangene i helsevesenet og teknologien.

Selv om det kan finnes situasjoner hvor rase og etnisitet kan være betydningsfulle faktorer, må vi være forsiktige med å vite når og hvordan de skal vurderes og når vi bare faller tilbake på historisk bias for å informere våre forestillinger og AI-algoritmer.

Tilby rettferdige forebyggingsstrategier

AI-løsninger kan lett overse bestemte tilstander i marginaliserte samfunn uten omsorg for potensiell bias. For eksempel arbeider Veterans Administration med flere algoritmer for å forutsi og oppdage tegn på hjertesykdom og hjerteinfarkt. Dette har enormt livreddende potensiale, men de fleste studier har historisk sett ikke inkludert mange kvinner, for hvem hjertesykdom er den største dødsårsaken. Derfor er det ukjent om disse modellene er like effektive for kvinner, som ofte presenterer med svært forskjellige symptomer enn menn.

Å inkludere en proporsjonert antall kvinner i denne datasamlingen kunne hjelpe med å forebygge noen av de 3,2 millioner hjerteinfarktene og halvannen million hjerte-relaterte dødsfall årlig hos kvinner gjennom tidlig oppdagelse og inngripen. Liknende nye AI-verktøy fjerner rasebaserte algoritmer i nyresykdomsscreening, som historisk sett har ekskludert svarte, hispanicske og innfødt amerikanere, noe som har resultert i behandlingsforsinkelser og dårlige kliniske resultater.

I stedet for å ekskludere marginaliserte individer kan AI faktisk hjelpe med å forutsi helse-risiko for underbetjente befolkninger og muliggjøre personlige risikovurderinger for å bedre målrette inngrep. Dataene kan allerede være der; det er bare en måte å “finjustere” modellene for å bestemme hvordan rase, kjønn og andre demografiske faktorer påvirker resultater—hvis de gjør det overhode.

Strømlinje administrative oppgaver

Bortsett fra å direkte påvirke pasientresultater, har AI enormt potensiale til å akselerere arbeidsflyter bak scenen for å redusere ulikheter. For eksempel bruker selskaper og leverandører allerede AI til å fylle hull i kravkoding og avgjørelse, validering av diagnosekoder mot lege-notater og automatisering av forhåndsautoriseringer for vanlige diagnostiske prosedyrer.

Ved å strømlinje disse funksjonene kan vi drastisk redusere driftskostnader, hjelpe legekontorer å kjøre mer effektivt og gi personalet mer tid til å tilbringe med pasienter, noe som gjør behandlingen eksponentielt mer tilgjengelig og rimelig.

Vi har alle en viktig rolle å spille

Det faktum at vi har disse fantastiske verktøyene til vår disposisjon gjør det enda mer nødvendig at vi bruker dem til å avdekke og overvinne helse-bias. Dessverre finnes det ingen sertifiseringsorgan i USA som regulerer bestrebelser for å bruke AI til å “av-bias” helseleveringen, og selv for organisasjoner som har lagt frem retningslinjer, finnes det ingen regulativ incitament til å følge dem.

Derfor ligger ansvaret på oss som AI-praktikere, data-vitere, algoritme- skapere og brukere til å utvikle en bevisst strategi for å sikre inklusivitet, mangfold i data og rettferdig bruk av disse verktøyene og innsiktene.

For å gjøre det, er nøyaktig integrering og interoperabilitet essensielle. Med så mange datakilder—fra wearables og tredjeparts lab- og bildeleverandører til primærhelsetjenester, helseinformasjonsutvekslinger og innleggingsjournaler—må vi integrere all denne data så at nøkkelstykker er inkludert, uavhengig av formattering vår kilde. Bransjen trenger data-normalisering, standardisering og identitets-matching for å sikre at essensiell pasientdata er inkludert, selv med ulike navnestavinger eller navnekonvensjoner basert på ulike kulturer og språk.

Vi må også bygge diversitets-vurderinger inn i vår AI-utviklingsprosess og overvåke “drift” i våre målinger over tid. AI-praktikere har en ansvar til å teste modell-ytelse over demografiske undergrupper, gjennomføre bias-auditorer og forstå hvordan modellen tar beslutninger. Vi kan måtte gå utenfor rase-baserte antagelser for å sikre at vår analyse representerer populasjonen vi bygger det for. For eksempel har medlemmer av Pima-indianer-stammen som bor i Gila River-reservatet i Arizona ekstremt høye rater av fedme og type 2-diabetes, mens medlemmer av samme stammen som bor bare over grensen i Sierra Madre-fjellene i Mexico har markant lavere rater av fedme og diabetes, noe som viser at genetikk ikke er den eneste faktoren.

Til slutt trenger vi organisasjoner som American Medical Association, Office of the National Coordinator for Health Information Technology og spesialistorganisasjoner som American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology og mange andre til å arbeide sammen for å sette standarder og rammer for data-utveksling og akuttitet for å beskytte mot bias.

Ved å standardisere delingen av helse-data og utvide på HTI-1 og HTI-2 for å kreve at utviklere samarbeider med akkrediteringsorganer, hjelper vi med å sikre overholdelse og korrigere for tidligere feil av ulikhet. Videre, ved å demokratisere tilgangen til fullstendig, nøyaktig pasientdata, kan vi fjerne blindskjermene som har videreført bias og bruke AI til å løse helse-ulikheter gjennom mer omfattende, objektive innsikter.