Algoritmen kan adressere raseskjevhet i helsevesenet hvis den er riktig opplært

Et team av forskere fra Stanford University, Harvard University og University of Chicago trente algoritmer å diagnostisere leddgikt ved røntgenbilder av knærne. Det viser seg at når pasientrapporter brukes som treningsdata for algoritmen, var algoritmen mer nøyaktig enn radiologer når de analyserte journalene til svarte pasienter.

Problem med algoritmisk skjevhet

Bruk av maskinlæringsalgoritmer i det medisinske feltet kan potensielt forbedre resultatene for pasienter som lider av alle slags sykdommer, men det er også godt dokumenterte problemer med bruk av AI-algoritmer for å diagnostisere pasienter. Studier av virkningene av utplasserte AI-modeller har funnet en rekke bemerkelsesverdige hendelser som involverer algoritmisk skjevhet. Disse inkludere algoritmer som gir minoriteter færre henvisninger til kardiologiske enheter enn hvite pasienter, selv om alle rapporterte symptomer var like.

En av forfatterne av studien, professor Ziad Obermeyer ved University of California Berkeley's School of Public Health, bestemte seg for å bruke AI for å undersøke forskjeller mellom diagnoser av røntgenstråler fra radiologer og mengden smerte som pasientene rapporterte. Selv om svarte pasienter og lavinntektspasienter rapporterte høyere nivåer av smerte, ble deres røntgentolkninger skåret på det samme som den generelle befolkningen. Dataene om de rapporterte smertenivåene kom fra NIH, og forskerne ønsket å undersøke om menneskelige leger manglet noe i analysen av dataene.

Som rapportert av Wired, for å identifisere de potensielle årsakene til disse forskjellene, konstruerte Obermeyer og andre forskere en datasynsmodell trent på data fra NIH. Algoritmene ble designet for å analysere røntgenbilder og forutsi en pasients smertenivå basert på bildene. Programvaren klarte å finne mønstre i bildene som viste seg sterkt korrelert med pasientens smertenivå.

Når algoritmen presenteres med et usett bilde, returnerer modellen spådommer for pasientens nivå av rapportert smerte. Forutsigelsene som ble returnert av modellen stemte tettere med de faktiske rapporterte smertenivåene til pasientene enn skårene tildelt av radiologene. Dette gjaldt spesielt for svarte pasienter. Obermeyer forklarte via Wired at datasynsalgoritmen var i stand til å oppdage fenomener som oftere var knyttet til smerte hos svarte pasienter.

Riktig treningssystemer

Etter sigende ble kriteriene som ble brukt til å evaluere røntgenstråler opprinnelig utviklet basert på resultatene av en liten studie utført i Nord-England i 1957. Den opprinnelige befolkningen som ble brukt til å utvikle vurderingskriterier for slitasjegikt var mye annerledes enn den svært mangfoldige befolkningen i det moderne United. stater, så det er ikke overraskende at det er gjort feil når man diagnostiserer disse forskjellige menneskene.

Den nye studien viser at når AI-algoritmer er riktig trent, kan de redusere skjevhet. Opplæringen var basert på tilbakemeldinger fra pasientene selv i stedet for ekspertuttalelser. Obermeyer og kolleger tidligere demonstrert at en vanlig brukt AI-algoritme ga preferanse til hvite pasienter fremfor svarte pasienter, men Obermeyer viste også at trening av et maskinlæringssystem på riktige data kan bidra til å forhindre skjevhet.

Et bemerkelsesverdig forbehold til studien er kjent for mange maskinlæringsforskere. AI-modellen utviklet av forskerteamet er en svart boks, og teamet av forskere selv er ikke sikre på hva slags funksjoner algoritmen oppdager i røntgenstrålene, noe som betyr at de ikke kan fortelle leger hvilke funksjoner de mangler .

Andre radiologer og forskere har som mål å grave i den svarte boksen og avdekke mønstrene i dem, og forhåpentligvis hjelpe leger å forstå hva de går glipp av. Radiolog og professor ved Emory University, Judy Gichoya, samler inn et mer ekspansivt og variert sett med røntgenbilder for å trene AI-modellen. Gichoya vil la radiologer lage detaljerte notater om disse røntgenstrålene. Disse notatene vil bli sammenlignet med utdata fra modellen for å se om mønstrene oppdaget av algoritmen kan avdekkes.