Algoritmi voi osoittaa rotuhaaravoja terveydenhuollossa, jos se koulutetaan oikein

Stanfordin yliopiston, Harvardin yliopiston ja Chicagon yliopiston tutkijaryhmä koulutti algoritmeja diagnoosimaan nivelreumaa polvien röntgenkuvissa. Kun potilaiden ilmoitukset käytettiin algoritmin koulutusdatana, algoritmi oli tarkin kuin radiologit mustien potilaiden tutkimusten analyysissä.

Algoritmisen harhan ongelma

Koneoppimisen algoritmien käyttö lääketieteen alalla voi parantaa potilaiden hoitotuloksia monissa sairauksissa, mutta on myös hyvin dokumentoituja ongelmia käytettäessä tekoälyalgoritmeja potilaiden diagnosointiin. Tutkimukset käytössä olevien tekoälymallien vaikutuksista ovat osoittaneet useita merkittäviä tapauksia algoritmisen harhan kanssa. Nämä sisältävät algoritmeja, jotka antavat vähemmän etnisten vähemmistöjen potilaiden lähetysten kardiologiaosastolle kuin valkoisten potilaiden, vaikka kaikki oireet olivat samat.
Tutkimuksen yksi tekijöistä, Kalifornian yliopiston Berkeleyn terveydenhuollon koulun professori Ziad Obermeyer, päätti käyttää tekoälyä tutkimaan eroja radiologien tekemien röntgenkuville ja potilaiden kivun määrään. Vaikka mustat potilaat ja alhaisen tulotason potilaat ilmoittivat korkeampia kiputasoja, heidän röntgenkuviensa tulkinnat saivat saman arvosanan kuin yleisväestö. Kivun tasoista kerrottu data tuli NIH:sta, ja tutkijat halusivat tutkia, ovatko ihmiset lääkärit ylittäneet jotain datan analyysissä.
Wiredin mukaan mahdollisten erojen syiden tunnistamiseksi Obermeyer ja muut tutkijat kehittivät tietokoneen näkömallin, joka oli koulutettu NIH:n datalla. Algoritmit suunniteltiin analysoimaan röntgenkuvia ja ennustamaan potilaan kiputason kuvien perusteella. Ohjelmisto löysi kuvista korrelaation, joka oli vahvasti kytköksissä potilaan kiputason kanssa.
Kun algoritmi esitettiin näkemättömälle kuvalle, malli palautti ennusteita potilaan ilmoittamasta kiputason määrästä. Mallin antamat ennusteet olivat lähempänä potilaiden todellista kiputason ilmoitusta kuin radiologien antamat arvosanat. Tämä oli erityisen totta mustille potilaille. Obermeyer selitti Wiredille, että tietokoneen näköalgoritmi pystyi havaitsemaan ilmiöitä, jotka liittyivät useammin kipuun mustilla potilailla.

Järjestelmien oikea koulutus

Röntgenkuville käytetty arviointikriteeri kehitettiin alun perin pohjautuen pienelle tutkimukselle, joka tehtiin Pohjois-Englannissa vuonna 1957. Alkuperäinen väestö, jolle osteoartriitin arviointikriteerit kehitettiin, oli hyvin erilainen kuin nyky-Yhdysvaltain monikulttuurinen väestö, joten ei ole yllättävää, että virheitä tehdään näiden moninaisten ihmisten diagnosoinnissa.
Uusi tutkimus osoittaa, että kun tekoälyalgoritmit koulutetaan oikein, ne voivat vähentää harhaa. Koulutus perustui potilaiden palautteeseen eikä asiantuntijoiden mielipiteisiin. Obermeyer ja hänen kollegansa olivat aiemmin osoittaneet, että yleisesti käytetty tekoälyalgoritmi antoi etusijan valkoisille potilaille mustiin potilaisiin nähden, mutta Obermeyer osoitti myös, että koneoppimisen järjestelmän koulutus oikealla datalla voi estää harhan.
Tutkimuksessa on merkittävä varoitus, joka on tuttu monille koneoppimisen tutkijoille. Tutkijaryhmän kehittämä tekoälymalli on musta laatikko, ja tutkijaryhmä itse ei tiedä, mitä ominaisuuksia algoritmi havaitsee röntgenkuvissa, mikä tarkoittaa, että he eivät voi kertoa lääkäreille, mitä he ovat ylittäneet.
Muiden radiologien ja tutkijoiden on tarkoitus tutkia mustaa laatikkoa ja paljastaa siinä olevat mallit, toivoen, että lääkärit ymmärtävät, mitä he ovat ylittäneet. Emoryn yliopiston radiologi ja professori Judy Gichoya kerää laajempaa ja monipuolisempaa röntgenkuvia kouluttamaan tekoälymallia. Gichoya pyytää radiologeja luomaan yksityiskohtaiset muistiinpanot näistä röntgenkuvista. Nämä muistiinpanot verrataan mallin tuloksiin, jotta voidaan selvittää, voivatko algoritmin havaitsemat mallit paljastaa, mitä lääkärit ovat ylittäneet.