AI kan vara vän eller fiende i förbättringen av hälsoskillnader. Här är hur man ser till att den hjälper, inte skadar

Hälsoojämlikhet och vårdskillnader är utbredda över socioekonomiska, ras- och könsskillnader. Som samhälle har vi ett moraliskt, etiskt och ekonomiskt ansvar att stänga dessa gap och säkerställa konsekvent, rättvis och tillgänglig tillgång till hälsovård för alla.

Artificiell intelligens (AI) hjälper till att hantera dessa skillnader, men det är också ett tvåeggat svärd. Visst hjälper AI redan till att effektivisera vårdförmedlingen, möjliggöra personlig medicin i stor skala och stödja banbrytande upptäckter. Men den inbyggda biasen i data, algoritmer och användare kan förvärra problemet om vi inte är försiktiga.

Det betyder att vi som utvecklar och distribuerar AI-drivna hälsovårdslösningar måste vara försiktiga med att förhindra att AI oavsiktligt vidgar befintliga gap, och styrande organ och yrkesorganisationer måste spela en aktiv roll i att etablera skydd för att undvika eller mildra bias.

Här är hur man kan använda AI för att överbrygga ojämlikhetsskillnader istället för att vidga dem.

Uppnå jämlikhet i kliniska prövningar

Många nya läkemedels- och behandlingsprövningar har historiskt sett varit partiska i sin design, antingen avsiktligt eller inte. Till exempel var det inte förrän 1993 som kvinnor var tvungna att ingå i NIH-finansierad klinisk forskning. Mer nyligen var COVID-vacciner aldrig avsiktligt testade på gravida kvinnor – det var bara för att vissa deltagare i prövningen var omedvetet gravida vid tidpunkten för vaccinationen som vi visste att det var säkert.

En utmaning med forskning är att vi inte vet vad vi inte vet. Men AI hjälper till att avslöja partiska datamängder genom att analysera befolkningsdata och flagga oproportionerlig representation eller gap i demografisk täckning. Genom att säkerställa mångfaldig representation och träna AI-modeller på data som korrekt representerar målpopulationer, hjälper AI till att säkerställa inklusivitet, minska skada och optimera resultat.

Säkerställa jämlika behandlingar

Det är väl etablerat att svarta gravida kvinnor som upplever smärta och komplikationer under förlossningen ofta ignoreras, vilket resulterar i en mödradödlighet som är 3 gånger högre för svarta kvinnor än för icke-spanska vita kvinnor, oavsett inkomst eller utbildning. Problemet är till stor del förvärrat av inbyggd bias: det finns en utbredd missuppfattning bland medicinska yrkesutövare att svarta människor har en högre smärttröskel än vita människor.

Bias i AI-algoritmer kan förvärra problemet: Harvard-forskare upptäckte att en vanlig algoritm förutsade att svarta och latinamerikanska kvinnor var mindre benägna att ha en lyckad vaginal förlossning efter en kejsarsnitt (VBAC), vilket kan ha lett till att läkare utförde fler kejsarsnitt på kvinnor av färg. Men forskarna fann att “associationen inte stöds av biologisk sannolikhet”, vilket tyder på att ras är “en proxy för andra variabler som reflekterar effekten av rasism på hälsa”. Algoritmen uppdaterades därefter för att utesluta ras eller etnicitet när man beräknar risk.

Detta är ett perfekt tillämpningsområde för AI för att rotat ut implicit bias och föreslå (med bevis) vårdvägar som tidigare kan ha förbisetts. Istället för att fortsätta utöva “standardvård” kan vi använda AI för att avgöra om dessa bästa metoder bygger på erfarenheterna av alla kvinnor eller bara vita kvinnor. AI hjälper till att säkerställa att våra dataunderlag innehåller patienterna som har mest att vinna på framsteg inom hälsovård och teknik.

Medan det kan finnas tillstånd där ras och etnicitet kan vara betydelsefulla faktorer, måste vi vara försiktiga med att veta när och hur de ska beaktas och när vi bara förlitar oss på historisk bias för att informera våra uppfattningar och AI-algoritmer.

Tillhandahålla jämlika förebyggande strategier

AI-lösningar kan lätt förbise vissa tillstånd i marginaliserade samhällen utan noggrann hänsyn till potential bias. Till exempel arbetar Veterans Administration med flera algoritmer för att förutsäga och upptäcka tecken på hjärt-kärlsjukdom och hjärtattacker. Detta har ett enormt livräddande potential, men de flesta studierna har historiskt sett inte inkluderat många kvinnor, för vilka hjärt-kärlsjukdom är den främsta dödsorsaken. Därför är det okänt om dessa modeller är lika effektiva för kvinnor, som ofta visar olika symtom än män.

Att inkludera ett proportionerligt antal kvinnor i denna datamängd kunde hjälpa till att förhindra några av de 3,2 miljoner hjärtattacker och 500 000 hjärtrelaterade dödsfall per år hos kvinnor genom tidig upptäckt och ingripande. På liknande sätt tar nya AI-verktyg bort rasbaserade algoritmer i njursjukdomsscreening, som historiskt sett har uteslutit svarta, spansktalande och ursprungsbefolkning, vilket har lett till vårdfördröjningar och dåliga kliniska resultat.

Istället för att utesluta marginaliserade individer kan AI faktiskt hjälpa till att förutsäga hälsorisker för underservicede befolkningar och möjliggöra personliga riskbedömningar för att bättre rikta insatser. Data kan redan finnas där; det är bara en fråga om att “justera” modellerna för att avgöra hur ras, kön och andra demografiska faktorer påverkar resultaten – om de gör det.

Effektivisera administrativa uppgifter

Förutom att direkt påverka patientresultat har AI en otrolig potential att accelerera arbetsflöden bakom kulisserna för att minska skillnader. Till exempel använder företag och vårdgivare redan AI för att fylla i luckor i anspråkskodning och prövning, validera diagnoskoder mot läkaranteckningar och automatisera förauktorisationsprocesser för vanliga diagnostiska procedurer.

Genom att effektivisera dessa funktioner kan vi drastiskt minska driftskostnader, hjälpa vårdgivarkontor att köra mer effektivt och ge personal mer tid att tillbringa med patienter, vilket gör vården exponentiellt mer tillgänglig och tillgänglig.

Vi har alla en viktig roll att spela

Det faktum att vi har dessa otroliga verktyg till vårt förfogande gör det ännu viktigare att vi använder dem för att rotat ut och övervinna hälsovårdsskillnader. Tyvärr finns det ingen certifierande myndighet i USA som reglerar ansträngningar att använda AI för att “avbiasa” hälsovård, och även för de organisationer som har lagt fram riktlinjer, finns det ingen reglerande incitament att följa dem.

Därför ligger ansvaret på oss som AI-praktiker, dataforskare, algoritmiska skapare och användare att utveckla en medveten strategi för att säkerställa inklusivitet, mångfald av data och rättvist användande av dessa verktyg och insikter.

För att göra det är korrekt integration och interoperabilitet avgörande. Med så många datakällor – från wearables och tredjeparts laboratorie- och bildgivare till primärvård, hälsoinformationsexchange och inpatientjournaler – måste vi integrera all denna data så att nyckelbitar ingår, oavsett formatering av vår källa. Branschen behöver datanormalisering, standardisering och identitetsmatchning för att säkerställa att väsentlig patientdata ingår, även med disparata namnstavningar eller namnkonventioner baserade på olika kulturer och språk.

Vi måste också bygga in diversitetsbedömningar i vår AI-utvecklingsprocess och övervaka “drift” i våra mått över tid. AI-praktiker har ett ansvar att testa modellprestanda över demografiska undergrupper, genomföra biasrevisioner och förstå hur modellen fattar beslut. Vi kan behöva gå utöver rasbaserade antaganden för att säkerställa att vår analys representerar befolkningen vi bygger den för. Till exempel har medlemmar av Pima-indianstammen som bor i Gila River-reservatet i Arizona extremt höga halter av fetma och typ 2-diabetes, medan medlemmar av samma stam som bor precis över gränsen i Sierra Madre-bergen i Mexiko har betydligt lägre halter av fetma och diabetes, vilket visar att genetik inte är den enda faktorn.

Slutligen behöver vi organisationer som American Medical Association, Office of the National Coordinator for Health Information Technology och specialiserade organisationer som American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology och många fler för att arbeta tillsammans för att fastställa standarder och ramverk för datautbyte och akuitet för att skydda mot bias.

Genom att standardisera delningen av hälsoinformation och bygga på HTI-1 och HTI-2 för att kräva att utvecklare samarbetar med ackrediteringsorgan, hjälper vi till att säkerställa regelefterlevnad och korrigera för tidigare ojämlikhet. Dessutom kan vi, genom att demokratisera tillgången till fullständig och korrekt patientdata, ta bort de blinda fläckar som har förvärrat bias och använda AI för att lösa vårdskillnader genom mer omfattande, objektiv insikt.