Tekoäly terveydenhuollossa voi tuoda riskejä mahdollisuuksien lisäksi

Tekoälyllä on valtava potentiaali terveydenhuollon alalla, ja se voi parantaa diagnosoita ja löytää uusia, tehokkaampia lääkkeitä. Kuitenkin, kuten Scientific Americanin artikkeli viime aikoina keskusteli, tekoälyn nopea tunkeutuminen terveydenhuoltoon avaa myös monia uusia haasteita ja riskejä.

Viimeisen viiden vuoden aikana Yhdysvaltain elintarvike- ja lääkevirasto on hyväksynyt yli 40 erilaista tekoälytuotetta. Kuitenkin, kuten Scientific American kertoo, yksikään näistä tuotteista, jotka on hyväksytty myyntiin Yhdysvalloissa, ei ole läpäissyt satunnaistettuja kontrolloituja kliinisiä tutkimuksia. Monet tekoälylääketieteelliset työkalut eivät edes vaadi FDA:n hyväksyntää.

Evan Topol, kirjan “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again” kirjoittaja, totesi Scientific Americanille, että monet tekoälytuotteet, jotka väittävät olevansa tehokkaita tehtävissä kuten sairauksien diagnosoinnissa, eivät ole läpäisseet tarkastelua tällaisessa muodossa, ja ensimmäinen suuri satunnaistettu tutkimus tekoälydetektio- ja diagnosotyksestä tehtiin viime lokakuussa. Lisäksi vain harvat teknologiayritykset julkaisevat tutkimusartikkeleitaan vertaisarvioituissa tieteellisissä lehdissä, joissa heidän työnsä tullaan analysoimaan tieteilijoiden toimesta.

Kun tekoälyjärjestelmät on testattu ja kontrolloitu oikein, ne voivat olla voimakkaita työkaluja, jotka auttavat lääketieteellisiä ammattilaisia havaitsemaan muuten huomaamattomia oireita ja parantamaan terveyden lopputuloksia.

Esimerkiksi tekoälytyökalu diabeettisen silmataudin havaitsemiseksi testattiin sadoilla potilailla ja näytti olevan luotettava. Yritys, joka suoritti testin, työskenteli FDA:n kanssa yli kahdeksan vuoden ajan jalostamaan tuotetta. Testi, IDx-DR, on matkalla perusterveydenhuoltoon, jossa se voi mahdollisesti auttaa havaitsemaan diabeettisen retinopatian varhaisia oireita ja ohjata potilaita silmäspesialisteille, jos epäilyttäviä oireita havaitaan.

Jos tekoälyjärjestelmiä ei testata huolellisesti, ne voivat aiheuttaa haittaa sen sijaan, että ne välttäisivät sitä.

Scientific Americanin artikkeli korostaa yhtä mahdollista ongelmaa, joka liittyy tekoälyyn, joka analysoi röntgenkuvia ja havaitsee, kuka potilaista sairastuu keuhkokuumeeseen. Vaikka järjestelmä osoittautui tarkaksi, kun se testattiin Mount Sinai -sairaalassa New Yorkissa, se epäonnistui, kun se testattiin muiden sairaaloiden kuvilla. Tutkijat totesivat, että tekoäly erotti kuvat, jotka oli otettu siirrettävillä röntgenlaitteilla verrattuna niihin, jotka oli otettu radiologian osastolla. Lääkärit käyttävät siirrettäviä röntgenlaitteita potilailla, jotka ovat usein liian sairaita jättämään vuoteensa, ja nämä potilaat ovat suuremmassa vaarassa sairastua keuhkokuumeeseen.

Väärät hälytykset ovat myös huolenaihe. DeepMind loi tekoälysovelluksen, joka pystyy ennustamaan akuutin munuaisten vajaatoiminnan sairaalapotilailla jopa 48 tuntia etukäteen. Kuitenkin järjestelmä ilmoitettiin myös tekivän kaksi väärää hälytystä jokaisen onnistuneen ennusteen vuoksi. Väärät positiiviset tulokset voivat olla haitallisia, koska ne voivat rohkaista lääkäreitä käyttämään tarpeettomasti aikaa ja resursseja järjestämällä lisätutkimuksia tai muuttamalla määrättyjä hoitoja.

Toisessa tapauksessa yksi tekoälyjärjestelmä johti väärään johtopäätökseen, että potilaat, joilla oli keuhkokuume, olisivat todennäköisemmin selviävät, jos heillä oli astma, mikä voisi johtaa siihen, että lääkärit muuttavat hoitoa potilailla, joilla on astma.

Tekoälyjärjestelmät, jotka on kehitetty yhteen sairaalaan, usein suorittavat heikosti, kun niitä käytetään toisessa sairaalassa. Tähän on useita syitä. Yksi syy on, että tekoälyjärjestelmät usein koulutetaan sähköisistä potilastiedoista, mutta monet sähköiset potilastiedot ovat usein epätäydellisiä tai virheellisiä, koska niiden pääasiallinen tarkoitus on usein laskutus eikä potilashoito. Esimerkiksi yksi tutkimus joka suoritettiin KHN:ssa osoitti, että joskus potilastiedoissa oli henkeä uhkaavia virheitä, kuten lääkeluettelo, joka sisälsi virheellisiä lääkkeitä. Lisäksi sairaudet ovat usein monimutkaisempia, ja terveydenhuoltojärjestelmä on monimutkaisempi, kuin mitä tekoälyinsinöörit ja tieteilijat voivat usein odottaa.

Kun tekoäly yleistyy yhä enemmän, on tärkeää, että tekoälykehittäjät työskentelevät terveysviranomaisten kanssa varmistaakseen, että heidän tekoälyjärjestelmänsä on perusteellisesti testattu, ja säädösviranomaiset varmistavat, että on asetettu ja noudatetaan tekoälydiagnostiikkatyökalujen luotettavuuden vaatimuksia.