Algoritmi voi olla ratkaisu rotuhaaravoittumiseen terveydenhuollossa, jos se koulutetaan oikein

Stanfordin yliopiston, Harvardin yliopiston ja Chicagon yliopiston tutkijaryhmä koulutti algoritmeja diagnosoimaan nivelreumaa polvien röntgenkuvissa. Tutkimus osoitti, että kun potilaiden ilmoitukset käytettiin algoritmin koulutusaineistona, algoritmi oli tarkempi kuin radiologit mustien potilaiden tutkimisessa.

Algoritmisen harhaan ongelma

Koneälyalgoritmien käyttö lääketieteellisessä alalla voi parantaa potilaiden hoitotuloksia, mutta niiden käytössä on myös tunnettuja ongelmia. Tutkimukset osoittavat, että algoritmit voivat sisältää rotuhaaravoittumista, kuten esimerkiksi algoritmit, jotka antavat vähemmän etnisille vähemmistöille kuin valkoisille potilaille samanlaisista oireista huolimatta.

Yksi tutkimuksen tekijöistä, Kalifornian yliopiston terveydenhuollon koulun professori Ziad Obermeyer, päätti käyttää koneälyä tutkimaan rotuhaaravoittumista röntgenkuvien tulkinnassa. Vaikka mustat potilaat ja matalan tulotason potilaat ilmoittivat korkeampia kiputasoja, heidän röntgenkuviensa tulkinnat olivat samat kuin yleisesti ottaen. Tutkimuksessa käytettiin NIH:n tietoja ja tutkijat halusivat selvittää, oliko lääkäreillä jotain puutteita aineistojen tulkinnassa.

Wiredin mukaan Obermeyer ja muut tutkijat kehittivät tietokoneen näköalgoritmin, joka oli koulutettu NIH:n aineistolla. Algoritmi pystyi analysoimaan röntgenkuvia ja ennustamaan potilaiden kiputason kuvien perusteella. Ohjelmisto löysi kuvista korrelaatioita, jotka liittyivät potilaiden kiputason määrään.

Kun algoritmi esitettiin uudelle, aiemmin näkemättömälle kuvalle, se antoi ennusteita potilaiden kiputason määrästä. Algoritmin antamat ennusteet olivat lähempänä potilaiden todellisia kiputason ilmoituksia kuin radiologien antamat arviot. Tämä oli erityisen totta mustien potilaiden kohdalla. Obermeyer selitti Wiredille, että tietokoneen näköalgoritmi pystyi havaitsemaan ilmiöitä, jotka liittyivät useammin kipuun mustien potilaiden kohdalla.

Järjestelmien oikea koulutus

Tiedot ovat osoittaneet, että algoritmit voivat vähentää harhaa, jos ne koulutetaan oikein. Koulutus perustui potilaiden itse antamiin palautteisiin, ei asiantuntijoiden mielipiteisiin. Obermeyer ja hänen kollegansa olivat aiemmin osoittaneet, että yleisesti käytetty algoritmi antoi etuoikeutetummalle asemalle valkoisille potilaille mustiin potilaisiin verrattuna, mutta Obermeyer osoitti myös, että koneälyjärjestelmän koulutus oikeilla tiedoilla voi estää harhaa.

Tutkimuksessa on kuitenkin yksi merkittävä varaus, joka on tuttu monille koneälytutkijoille. Tutkijaryhmän kehittämä algoritmi on “musta laatikko”, ja tutkijat itse eivät tiedä, mitä ominaisuuksia algoritmi havaitsee röntgenkuvissa, mikä tarkoittaa, että he eivät voi kertoa lääkäreille, mitä he ovat havainneet.

Muiden radiologien ja tutkijoiden tavoitteena on tutkia “mustaa laatikkoa” ja paljastaa siinä olevat mallit, toivoen, että lääkärit voivat ymmärtää, mitä he ovat havainneet. Emoryn yliopiston radiologi ja professori Judy Gichoya kerää laajempaa ja monipuolisempaa röntgenkuvia kouluttamaan algoritmia. Gichoya pyytää radiologeja luomaan yksityiskohtaiset muistiinpanot näistä röntgenkuvista. Nämä muistiinpanot verrataan algoritmin tuloksiin, jotta voidaan nähdä, voivatko algoritmin havaitsemat mallit paljastua.