AI kan zowel vriend als vijand zijn bij het verbeteren van de gezondheidsongelijkheid. Hier is hoe we ervoor kunnen zorgen dat het helpt, niet schaadt

Gezondheidsongelijkheden en verschillen in zorg zijn wijdverbreid over socio-economische, raciale en geslachtsgebonden scheidslijnen. Als samenleving hebben we een morele, ethische en economische verantwoordelijkheid om deze kloven te dichten en ervoor te zorgen dat iedereen toegang heeft tot consistente, eerlijke en betaalbare zorg.

Kunstmatige intelligentie (AI) helpt bij het aanpakken van deze verschillen, maar het is ook een tweesnijdend zwaard. Zeker, AI helpt al bij het stroomlijnen van de zorgverlening, het mogelijk maken van persoonlijke geneeskunde op grote schaal en het ondersteunen van doorbraken in de wetenschap. Echter, ingebouwde vooroordelen in de data, algoritmes en gebruikers kunnen het probleem verergeren als we niet voorzichtig zijn.

Dat betekent dat wij die AI-gedreven gezondheidsoplossingen ontwikkelen en implementeren, voorzichtig moeten zijn om te voorkomen dat AI onbewust bestaande kloven vergroot, en dat regelgevende instanties en beroepsverenigingen een actieve rol moeten spelen bij het opstellen van richtlijnen om vooroordelen te voorkomen of te mitigeren.

Hier is hoe we AI kunnen gebruiken om de ongelijkheidskloven te overbruggen in plaats van ze te vergroten.

Gelijkheid bereiken in klinische onderzoeken

Veel nieuwe geneesmiddelen- en behandelonderzoeken zijn historisch bevooroordeeld in hun ontwerp, of dat nu intentioneel was of niet. Bijvoorbeeld, het was pas in 1993 dat vrouwen verplicht werden opgenomen in door de NIH gefinancierd klinisch onderzoek. Nog onlangs, werden COVID-vaccins nooit opzettelijk getest bij zwangere vrouwen—het was alleen omdat sommige deelnemers aan het onderzoek onbewust zwanger waren op het moment van vaccinatie dat we wisten dat het veilig was.

Een uitdaging met onderzoek is dat we niet weten wat we niet weten. Toch helpt AI bij het ontdekken van bevooroordeelde datasets door populatiegegevens te analyseren en onevenredige vertegenwoordiging of lacunes in demografische dekking te markeren. Door ervoor te zorgen dat de vertegenwoordiging divers is en AI-modellen te trainen op gegevens die de doelpopulatie nauwkeurig vertegenwoordigen, helpt AI bij het waarborgen van inclusiviteit, het verminderen van schade en het optimaliseren van resultaten.

Ervoor zorgen dat behandelingen eerlijk zijn

Het is goed vastgesteld dat zwarte aanstaande moeders die pijn en complicaties ervaren tijdens de bevalling vaak genegeerd worden, wat resulteert in een moedersterfte van 3 keer hoger voor zwarte vrouwen dan voor niet-Hispanische witte vrouwen ongeacht inkomen of opleiding. Het probleem wordt grotendeels in stand gehouden door ingebouwd vooroordeel: er is een wijdverbreid misverstand onder medische professionals dat zwarte mensen een hogere pijntolerantie hebben dan witte mensen.

Vooroordelen in AI-algoritmes kunnen het probleem verergeren: onderzoekers van Harvard ontdekten dat een veelvoorkomend algoritme voorspelde dat zwarte en Latina-vrouwen minder kans hadden op een succesvolle vaginale bevalling na een keizersnede (VBAC), wat ertoe kan hebben geleid dat artsen meer keizersnedes uitvoerden bij vrouwen van kleur. Toch vonden onderzoekers dat “de associatie niet wordt ondersteund door biologische plausibiliteit”, wat suggereert dat ras “een proxy is voor andere variabelen die het effect van racisme op de gezondheid weerspiegelen”. Het algoritme werd vervolgens bijgewerkt om ras of etniciteit uit te sluiten bij het berekenen van het risico.

Dit is een perfecte toepassing voor AI om impliciete vooroordelen te elimineren en zorgpaden te suggereren (met bewijs) die eerder over het hoofd gezien kunnen zijn. In plaats van voort te gaan met het praktiseren van “standaardzorg”, kunnen we AI gebruiken om te bepalen of die beste praktijken zijn gebaseerd op de ervaring van alle vrouwen of alleen witte vrouwen. AI helpt ervoor zorgen dat onze gegevensfundamenten de patiënten omvatten die het meest te winnen hebben bij vooruitgang in de gezondheidszorg en technologie.

Terwijl er situaties kunnen zijn waarin ras en etniciteit een impact kunnen hebben, moeten we voorzichtig zijn om te weten wanneer en hoe ze in overweging moeten worden genomen en wanneer we ons alleen baseren op historisch vooroordeel om onze percepties en AI-algoritmes te informeren.

Ervoor zorgen dat preventiestrategieën eerlijk zijn

AI-oplossingen kunnen gemakkelijk bepaalde aandoeningen in gemarginaliseerde gemeenschappen over het hoofd zien zonder zorgvuldige overweging van potentieel vooroordeel. Bijvoorbeeld, de Veterans Administration werkt aan meerdere algoritmes om tekenen van hartziekten en hartaanvallen te voorspellen en te detecteren. Dit heeft een enorm levensreddend potentieel, maar de meerderheid van de studies heeft historisch niet veel vrouwen omvat, voor wie hart- en vaatziekten de nummer één oorzaak van dood zijn. Daarom is het onbekend of deze modellen even effectief zijn voor vrouwen, die vaak andere symptomen vertonen dan mannen.

Door een evenredig aantal vrouwen op te nemen in deze dataset, kan worden voorkomen dat sommige van de 3,2 miljoen hartaanvallen en een half miljoen hartgerelateerde sterfgevallen per jaar bij vrouwen door vroegtijdige detectie en interventie. Vergelijkbaar zijn nieuwe AI-hulpmiddelen rasgebaseerde algoritmes verwijderd in de screening van nierziekten, die historisch zwart, Spaans en inheems Amerikaans hebben uitgesloten, wat heeft geresulteerd in vertragingen in de zorg en slechte klinische resultaten.

In plaats van gemarginaliseerde individuen uit te sluiten, kan AI eigenlijk helpen bij het voorspellen van gezondheidsrisico’s voor onderbediende bevolkingsgroepen en het mogelijk maken van persoonlijke risicobeoordelingen om interventies beter te richten. De gegevens kunnen al aanwezig zijn; het is alleen een kwestie van “het afstemmen” van de modellen om te bepalen hoe ras, geslacht en andere demografische factoren de resultaten beïnvloeden—als ze dat al doen.

Administratieve taken stroomlijnen

Los van het direct beïnvloeden van de resultaten voor patiënten, heeft AI een enorm potentieel om workflows achter de schermen te versnellen om ongelijkheden te verminderen. Bijvoorbeeld, bedrijven en zorgverleners gebruiken AI al om lacunes in te vullen in de codering van claims en de toewijzing van diagnosecodes tegenover artsennotes, en om voorafgaande autorisatieprocessen voor veelvoorkomende diagnostische procedures te automatiseren.

Door deze functies te stroomlijnen, kunnen we de operationele kosten aanzienlijk verlagen, helpen om de praktijken van zorgverleners efficiënter te laten draaien en het personeel meer tijd geven om met patiënten door te brengen, waardoor de zorg exponentieel betaalbaarder en toegankelijker wordt.

We hebben allemaal een belangrijke rol te spelen

Het feit dat we deze geweldige tools tot onze beschikking hebben, maakt het nog belangrijker dat we ze gebruiken om gezondheidsvooroordeel te elimineren en te overwinnen. Helaas is er in de VS geen certificerende instantie die de inspanningen reguleert om AI te gebruiken om “ongelijkheid in de gezondheidszorg te elimineren”, en zelfs voor die organisaties die richtlijnen hebben opgesteld, is er geen regelgevende stimulans om zich daaraan te houden.

Daarom ligt de verantwoordelijkheid bij ons als AI-praktijk, datawetenschappers, algoritme-creators en gebruikers om een bewuste strategie te ontwikkelen om inclusiviteit, diversiteit van gegevens en eerlijke gebruik van deze tools en inzichten te waarborgen.

Om dat te doen, zijn nauwkeurige integratie en interoperabiliteit essentieel. Met zoveel gegevensbronnen—van wearables en derdepartijlab- en beeldvormingsproviders tot primaire zorg, gezondheidsinformatie-uitwisselingen en ziekenhuisrecords—moeten we al deze gegevens integreren zodat belangrijke stukken zijn opgenomen, ongeacht de opmaak van onze bron. De industrie heeft gegevensnormalisatie, standaardisatie en identiteitsmatchen nodig om ervoor te zorgen dat essentiële patiëntgegevens zijn opgenomen, zelfs met uiteenlopende naamsspellings- of naamconventies op basis van verschillende culturen en talen.

We moeten ook diversiteitbeoordelingen opnemen in ons AI-ontwikkelingsproces en controleren op “drift” in onze metrieken over tijd. AI-praktijk heeft de verantwoordelijkheid om modelprestaties te testen over demografische subgroepen, vooroordeelaudits uit te voeren en te begrijpen hoe het model beslissingen neemt. We moeten mogelijk verder gaan dan rasgebonden aannamen om ervoor te zorgen dat onze analyse de populatie vertegenwoordigt waarvoor we het bouwen. Bijvoorbeeld, leden van de Pima-indianenstam die in de Gila River Reservation in Arizona wonen, hebben extreem hoge percentages obesitas en type 2 diabetes, terwijl leden van dezelfde stam die net over de grens in de Sierra Madre-bergen van Mexico wonen, veel lagere percentages obesitas en diabetes hebben, wat aantoont dat genetica niet de enige factor is.

Tenslotte hebben we organisaties nodig zoals de American Medical Association, het Office of the National Coordinator for Health Information Technology en specialisatieorganisaties zoals de American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology en vele anderen om samen te werken om standaarden en kaders op te stellen voor gegevensuitwisseling en acuïteit om vooroordeel te voorkomen.

Door het delen van gezondheidsgegevens te standaardiseren en uit te breiden op HTI-1 en HTI-2 om ontwikkelaars te laten werken met accreditatie-instanties, helpen we ervoor te zorgen dat we ons houden aan de regels en dat we corrigeren voor eerdere fouten van ongelijkheid. Bovendien, door de toegang tot complete, nauwkeurige patiëntgegevens te democratiseren, kunnen we de blinders verwijderen die vooroordeel in stand hebben gehouden en AI gebruiken om zorgongelijkheden op te lossen door meer omvattende, objectieve inzichten.