Tekoäly voi olla sekä ystävä että vihollinen terveyden tasa-arvon parantamisessa – Tässä on, miten varmistamme, että se auttaa, ei satuta

Terveyspalvelujen epätasa-arvo ja hoitoyhteysvaihtelut ovat yleisiä sosioekonomisen, rodullisen ja sukupuolirajauksen ylittävissä ryhmissä. Yhteiskuntana meillä on moraalinen, eettinen ja taloudellinen vastuu sulkea nämä kuilut ja varmistaa jokaisen ihmisen oikeus tasapuoliseen, reiluun ja edulliseen terveydenhuoltoon.

Teckoäly auttaa näiden epätasa-arvojen korjaamisessa, mutta se on myös kaksiteräinen miekka. Tekoäly on jo nyt auttamassa hoitotoiminnan sujuvoittamisessa, mahdollistamassa yksilöllistä lääketiedettä laajassa mittakaavassa ja tukeutumassa läpimurtojen löytämisessä. Kuitenkin sisäänrakennettu harha dataan, algoritmeihin ja käyttäjiin voi pahentaa ongelmaa, jos emme ole varovaisia.

Tämä tarkoittaa, että meidän, jotka kehitämme ja otamme käyttöön tekoälypohjaisia terveydenhuollon ratkaisuja, on oltava tarkkana estämään tekoälyä aiheuttamasta tahattomasti olemassa olevien kuilujen laajentumista, ja sääntelyelimien ja ammattijärjestöjen on oltava mukana luomassa suojavarustoja välttääksemme tai lieventääksemme harhaa.

Tässä on, miten tekoäly voi ylittää epätasa-arvon sijaan sen laajentamisen.

Saavuta tasa-arvo kliinisissä tutkimuksissa

Monet uudet lääke- ja hoitotutkimukset ovat historiallisesti olleet sisällöltään harhaanjohtavia, olkoon se tahallista tai ei. Esimerkiksi vuoteen 1993 asti naiset eivät olleet lain mukaan mukana NIH:n rahoittamissa kliinisissä tutkimuksissa. Myöhemmin koronarokotetta ei koskaan tarkoituksella kokeiltu raskaana olevilla naisilla – ainoastaan siksi, että jotkut kokeen osanottajat olivat tietämättään raskaana rokotetta annettaessa, tiesimme sen olevan turvallista.

Tutkimuksen haaste on, että emme tiedä, mitä emme tiedä. Tekoäly kuitenkin auttaa paljastamalla harhaanjohtavat tietokannat analysoimalla väestötietoja ja merkitsemällä epäsuhdan edustuksen tai demograafisen katveen. Varmistamalla monipuolisen edustuksen ja kouluttamalla tekoälymallit tietoihin, jotka edustavat kohderyhmiä, tekoäly auttaa varmistamaan sisällyttämisen, vähentämään vahinkoa ja optimoida tuloksia.

Varmista tasa-arvoinen hoito

On hyvin perusteltu, että mustat odottavat äidit, jotka kokevat kipua ja komplikaatioita synnytyksessä, usein jätetään huomiotta, mikä johtaa äitiyskuolleisuuslukuun, joka on 3-kertainen mustille naisille verrattuna valkoihoisiin naisiin huomiotta tulotaso tai koulutus.

Ongelma on suurelta osin periytyvä sisäänrakennettu harha: lääkärien ja hoitohenkilöstön keskuudessa vallitsee yleinen käsitys, että mustilla ihmisillä on suurempi kipukynnys kuin valkoisilla ihmisillä.

Harha tekoälyalgoritmeissa voi pahentaa ongelmaa: Harvardin tutkijat havaitsivat, että yleinen algoritmi ennusti, että mustille ja latinaksi puhuville naisille oli vähemmän todennäköistä, että heillä olisi onnistunut vaginaalinen synnytys cesareiden jälkeen (VBAC), mikä saattoi johtaa siihen, että lääkärit suorittivat enemmän cesareidejä värillisiin naisiin. Tutkijat kuitenkin totesivat, että “yhteys ei ole biologisesti perusteltu“, mikä viittaa siihen, että rotu on “välittäjä muille muuttujille, jotka heijastavat rasismista aiheutuvia terveyshaittoja”. Algoritmiä päivitettiin myöhemmin poistamaan rotu tai etnisyys riskin laskennasta.

Tämä on täydellinen sovellus tekoälylle, jotta se voisi juurruttaa sisäänrakennetun harhan ja ehdottaa (näyttöön perustuen) hoitopolkuja, jotka olisivat aikaisemmin jääneet huomiotta. Sen sijaan, että jatkaisimme “standardihoidon” harjoittamista, voimme käyttää tekoälyä määrittämään, perustuvatko parhaat käytännöt kaikkien naisten kokemuksiin vai ainoastaan valkoihoisten naisten kokemuksiin. Tekoäly auttaa varmistamaan, että tietopohjamme sisältävät potilaat, jotka hyötyvät eniten terveydenhuollon ja teknologian edistymisestä.

Vaikka rotu ja etnisyys voivat olla vaikuttavia tekijöitä tietyissä olosuhteissa, on oltava varovainen ja tietävä, miten ja milloin niitä tulisi ottaa huomioon ja milloin vain perustumme historialliseen harhaan muotoilemaan käsityksemme ja tekoälyalgoritmejamme.

Tarjoa tasa-arvoisia ehkäisystrategioita

Tekoälyratkaisut voivat helposti ohittaa tiettyjä olosuhteita syrjäytyneissä yhteisöissä, jos ei ole tarkoin huomioitu mahdollista harhaa. Esimerkiksi Yhdysvaltain veteraanien hallinto työskentelee useiden algoritmien parissa, joiden tavoitteena on ennustaa ja havaita sydäntautien ja sydänkohtauksien merkkejä. Tämä on täynnä elämän pelastavaa potentiaalia, mutta useimmat tutkimuksista eivät historiallisesti sisältäneet monia naisia, joille sydänsairaudet ovat yleisin kuoleman aiheuttaja. Siksi on tuntematonta, ovatko nämä mallit yhtä tehokkaita naisille, jotka usein esittävät erilaisia oireita kuin miehet.

Naisten sisällyttäminen tähän tietokantaan voisi auttaa estämään osaa 3,2 miljoonasta sydänkohtauksesta ja puolesta miljoonasta sydämen liittyvistä kuolemista vuosittain naisilla varhaisen havaitsemisen ja puuttumisen kautta. Samoin uudet tekoälytyökalut poistavat rotupohjaiset algoritmit munuaisten tautien seulontaan, jotka ovat historiallisesti jättäneet mustat, latinot ja alkuperäiskansat huomioimatta, mikä on johtanut hoitomyöhästymisiin ja heikkoihin terveydenhuollon tuloksiin.

Sen sijaan, että suljettaisiin syrjäytyneitä yksilöitä, tekoäly voi itse asiassa auttaa ennustamaan terveysriskejä syrjäytyneille väestöille ja mahdollistaa yksilölliset riskiarviot kohdennettujen puuttumisten parantamiseksi. Data voi olla jo olemassa; on vain kyse siitä, “säätää” malleja määrittämään, miten rotu, sukupuoli ja muut demograafiset tekijät vaikuttavat tuloksiin – jos ne vaikuttavat lainkaan.

Streamline administrative tasks

Lisäksi vaikuttamasta potilastuloksiin tekoälyllä on uskomaton potentiaali kiihdyttää työnkulkua taustalla vähentämällä epätasa-arvoa. Esimerkiksi yritykset ja tarjoajat käyttävät jo tekoälyä täyttämään aukkoja korvauskoodeissa ja -päätöksissä, validoimalla diagnosoiden koodit lääkärien muistiinpanoja vasten ja automatisoimalla etukäteisen hyväksymisen yleisille diagnostisille menettelyille.

Näiden toimintojen sujuvoittamisen myötä voimme radikaalisti vähentää toimintakustannuksia, auttaa toimistojen toimintaa tehokkaammin ja antaa henkilöstölle enemmän aikaa potilaiden kanssa, mikä tekee hoidosta eksponentiaalisesti edullisemman ja saatavampaa.

Jokaisella on tärkeä rooli

Se, että meillä on nämä uskomattomat työkalut käytössämme, tekee siitä vielä välttämättömämpää, että käytämme niitä juurimaan ja voittamaan terveydenhuollon harhat. Valitettavasti Yhdysvalloissa ei ole sertifioivaa elintä, joka sääntelisi tekoälyn käyttöä “epäpuolueellisen” terveydenhuollon toimittamiseen, ja vaikka jotkut organisaatiot ovat antaneet ohjeita, niiden noudattamisesta ei ole sääntelykanavaa.

Sen vuoksi meidän, jotka kehitämme ja otamme käyttöön tekoälypohjaisia terveydenhuollon ratkaisuja, on oltava tietoisia strategiasta, joka varmistaa sisällyttämisen, tietojen monimuotoisuuden ja näiden työkalujen ja oivallusten tasa-arvoisen käytön.

Tämän toteuttamiseksi tarkin integraatio ja yhteentoimivuus ovat olennaisia. Monien tietolähteiden, kuten wearable-laitteiden, kolmannen osapuolen laboratorioiden ja kuvantamisen tarjoajien, ensisijaisen terveydenhuollon, terveydenhuollon tietovaihto- ja sairaalarekisterien, on oltava integroituna siten, että avainasiat sisällytetään riippumatta muotoilusta. Alan tarvitsee tietojen normalisointia, standardisointia ja tunnistamista varmistamaan, että olennainen potilastieto sisällytetään, myös erilaisilla kirjoitusmuodoilla ja nimeämiskäytännöillä eri kulttuureista ja kielistä.

Meidän on myös rakennettava monimuotoisuuden arviointeja tekoälykehitysprosessiimme ja seurattava “liukumista” mittareissamme ajan myötä. Tekoälypraktikkojen on testattava mallin suorituskykyä demograafisten alaryhmien yli, suoritettava harha-analyysi ja ymmärrettävä, miten malli tekee päätöksiä. Meidän on ehkä mentävä rotupohjaisista oletuksista pidemmälle varmistamaan, että analyysi edustaa väestöä, jolle se on rakennettu. Esimerkiksi Pima-intiaaniheimon jäsenet, jotka asuvat Arizonan Gila-joen varrella, ovat erittäin korkean rasvan ja 2-tyypin diabeteksen riskiryhmässä, kun taas saman heimon jäsenet, jotka asuvat vastapäätä Meksikon Sierra Madre -vuorilla, ovat selvästi vähemmän alttiita rasvalle ja diabetekselle, mikä osoittaa, että geenit eivät ole ainoa tekijä.

Lopulta meidän tarvitsee organisaatiot, kuten American Medical Association, Office of the National Coordinator for Health Information Technology, American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology ja monet muut, työskentelemään yhdessä luomaan standardeja ja kehyksiä tietojen vaihtoon ja tarkkuuteen harhan estämiseksi.

Standardoimalla terveydenhuollon tietojen jakamista ja laajentamalla HTI-1:ää ja HTI-2:a vaatimaan kehittäjiä työskentelemään akkreditointielinten kanssa, autamme varmistamaan vaatimustenmukaisuuden ja korjaamaan aiemmat epätasa-arvon virheet. Lisäksi demokratisoimalla pääsyn täydellisiin ja tarkoihin potilastietoihin voimme poistaa sokeudet, jotka ovat ylläpitäneet harhaa, ja käyttää tekoälyä ratkaisemaan hoitoyhteysvaihteluita kattavampien, objektiivisempien oivallusten kautta.