Algoritme kan raciale vooroordelen in de gezondheidszorg aanpakken als het goed getraind is

Een team van onderzoekers van de Stanford University, Harvard University en de University van Chicago heeft algoritmes getraind om artrose te diagnosticeren in röntgenfoto’s van knieën. Het blijkt dat wanneer de verslagen van patiënten worden gebruikt als trainingsdata voor het algoritme, het algoritme nauwkeuriger is dan radiologen bij het analyseren van de dossiers van zwarte patiënten.

Probleem van algoritmische vooroordelen

Het gebruik van machine learning-algoritmes in de medische sector kan de resultaten voor patiënten met allerlei soorten ziekten potentieel verbeteren, maar er zijn ook goed gedocumenteerde problemen met het gebruik van AI-algoritmes om patiënten te diagnosticeren. Studies naar de gevolgen van geïmplementeerde AI-modellen hebben een aantal opvallende incidenten met algoritmische vooroordelen aan het licht gebracht. Deze omvatten algoritmes die minderheden minder verwijzingen naar cardiologie-eenheden geven dan blanke patiënten, zelfs als alle gerapporteerde symptomen hetzelfde zijn.

Een van de auteurs van de studie, professor Ziad Obermeyer aan de School of Public Health van de University of California Berkeley, besloot om AI te gebruiken om de verschillen tussen diagnoses van röntgenfoto’s door radiologen en de hoeveelheid pijn die patiënten rapporteerden te onderzoeken. Hoewel zwarte patiënten en patiënten met een laag inkomen hogere niveaus van pijn rapporteerden, werden hun röntgenfoto’s beoordeeld als gelijk aan die van de algemene bevolking. De gegevens over de gerapporteerde pijn niveaus kwamen van de NIH, en de onderzoekers wilden onderzoeken of menselijke artsen iets misten in hun analyse van de gegevens.

Volgens Wired ontwierpen Obermeyer en andere onderzoekers een computer vision-model dat getraind was op gegevens van de NIH om de potentiële oorzaken van deze verschillen te identificeren. De algoritmes waren ontworpen om röntgenfoto’s te analyseren en de pijn niveaus van patiënten te voorspellen op basis van de afbeeldingen. De software slaagde erin om patronen in de afbeeldingen te vinden die sterk correleerden met de pijn niveaus van patiënten.

Wanneer het algoritme een ongezien beeld wordt gepresenteerd, retourneert het model voorspellingen voor het niveau van gerapporteerde pijn van een patiënt. De voorspellingen die door het model werden geretourneerd, kwamen meer overeen met de daadwerkelijke gerapporteerde pijn niveaus van de patiënten dan de scores die door de radiologen werden toegewezen. Dit was vooral waar voor zwarte patiënten. Obermeyer legde via Wired uit dat het computer vision-algoritme in staat was om fenomenen te detecteren die vaker werden gelinkt aan pijn bij zwarte patiënten.

Goed getrainde systemen

Volgens rapporten was de criteria die gebruikt werd om röntgenfoto’s te beoordelen oorspronkelijk ontwikkeld op basis van de resultaten van een kleine studie die in 1957 in Noord-Engeland werd uitgevoerd. De initiële populatie die werd gebruikt om de beoordelingscriteria voor osteoartritis te ontwikkelen, was heel anders dan de zeer diverse bevolking van de moderne Verenigde Staten, dus het is niet verwonderlijk dat er fouten worden gemaakt bij het diagnosticeren van deze diverse mensen.

De nieuwe studie toont aan dat wanneer AI-algoritmes goed getraind zijn, ze vooroordelen kunnen verminderen. De training was gebaseerd op de feedback van patiënten zelf in plaats van deskundigenmeningen. Obermeyer en zijn collega’s hebben eerder aangetoond dat een veelgebruikt AI-algoritme de voorkeur gaf aan blanke patiënten boven zwarte patiënten, maar Obermeyer toonde ook aan dat het trainen van een machine learning-systeem op de juiste gegevens vooroordelen kan voorkomen.

Een opvallende kanttekening bij de studie is een die bekend is bij veel machine learning-onderzoekers. Het AI-model dat door het onderzoeksteam werd ontwikkeld, is een black box, en het team van onderzoekers weet zelf niet welke soorten kenmerken het algoritme in de röntgenfoto’s detecteert, wat betekent dat ze artsen niet kunnen vertellen welke kenmerken ze missen.

Andere radiologen en onderzoekers proberen de black box te onderzoeken en de patronen daarin te ontdekken, in de hoop artsen te helpen begrijpen wat ze missen. Radioloog en professor aan de Emory University, Judy Gichoya, verzamelt een meer uitgebreide en gevarieerde set röntgenfoto’s om het AI-model te trainen. Gichoya zal radiologen laten gedetailleerde notities maken over deze röntgenfoto’s. Deze notities zullen worden vergeleken met de uitvoer van het model om te zien of de patronen die door het algoritme worden gedetecteerd, kunnen worden ontdekt.