Tekoäly terveydenhuollossa voi tuoda sekä riskejä että mahdollisuuksia

Teckoälyllä on valtavat mahdollisuudet terveydenhuollossa, ja se voi parantaa diagnooseja ja löytää uusia, tehokkaampia lääkkeitä. Kuitenkin, kuten Scientific Americanin artikkeli viimeksi keskusteli, tekoälyn nopea tunkeutuminen terveydenhuoltoon avaa myös monia uusia haasteita ja riskejä.

Viiden viime vuoden aikana Yhdysvaltain elintarvike- ja lääkevirasto on hyväksynyt yli 40 erilaista tekoälytuotetta. Kuitenkin, kuten Scientific American kertoi, yksikään näistä tuotteista, joille on myönnetty myyntilupa Yhdysvalloissa, ei ole käynyt läpi satunnaistettuja kontrolloituja kliinisiä tutkimuksia. Monet tekoälylääketieteelliset työkalut eivät edes vaadi FDA:n hyväksyntää.

Evan Topol, kirjan “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again” kirjoittaja, totesi Scientific Americanille, että monista tekoälytuotteista, jotka väittävät olevansa tehokkaita tehtävissä kuten sairauksien diagnosoinnissa, on todella tehty kattavia testejä, ja ensimmäinen suuri satunnaistettu tekoälytutkimus tehtiin viime lokakuussa. Lisäksi vain harvat teknologiayritykset julkaisevat tutkimuksiaan vertaisarvioituissa lehdistössä, missä niiden työ analyysoidaan tieteilijöiden toimesta.

Asianmukaisesti testattuina ja kontrolloiduina tekoälyjärjestelmät voivat olla voimakkaita työkaluja, jotka auttavat lääkäreitä havaitsemaan muutoin huomaamattomia oireita, parantaen terveydenhuollon tuloksia.

Esimerkiksi tekoälytyökalu diabeettisen silmataudin havaitsemiseksi testattiin sadoilla potilailla ja näytti olevan luotettava. Yritys, joka suoritti testin, työskenteli yhdessä FDA:n kanssa yli kahdeksan vuoden ajan jalostamaan tuotetta. Testi, IDx-DR, on nyt matkalla perusterveydenhuoltoon, missä se voi mahdollisesti auttaa havaitsemaan diabeettisen retinopatian varhaisia merkkejä ja ohjata potilaita silmälääkäreille, jos epäilyttäviä oireita havaitaan.

Jos tekoälyjärjestelmiä ei testata huolellisesti, ne voivat aiheuttaa haittaa sen sijaan, että välttäisivät sitä.

Scientific Americanin artikkeli korostaa yhtä mahdollista ongelmaa, joka liittyy tekoälyyn, jota käytetään sairauksien diagnosointiin. Se viittaa esimerkkiin tekoälystä, joka on tarkoitettu röntgenkuvien analysointiin ja keuhkokuumeen diagnostiikkaan. Vaikka järjestelmä osoittautui tarkaksi Mount Sinai -sairaalassa New Yorkissa, se epäonnistui, kun se testattiin muiden sairaaloiden kuvilla. Tutkijat totesivat, että tekoäly erotti kuvat, jotka oli otettu siirrettävillä röntgenlaitteilla, ja kuvat, jotka oli otettu radiologian osastolla. Lääkärit käyttävät siirrettäviä röntgenlaitteita potilailla, jotka ovat usein liian sairaita jäämään vuodevaan, ja nämä potilaat ovat suuremmassa vaarassa sairastua keuhkokuumeeseen.

Väärät hälytykset ovat myös huolenaihe. DeepMind loi tekoälysovelluksen, joka pystyy ennustamaan akuutin munuaisten vajaatoiminnan sairaalapotilailla jopa 48 tuntia etukäteen. Kuitenkin järjestelmä ilmoitettiin myös antaneen kaksi väärää hälytystä jokaisen onnistuneen ennusteen vuoksi. Väärät positiiviset tulokset voivat olla haitallisia, koska ne voivat rohkaista lääkäreitä käyttämään tarpeettomasti aikaa ja resursseja järjestämällä lisätutkimuksia tai muuttamalla määrättyjä hoitoja.

Toisessa tapauksessa yksi tekoälyjärjestelmä johti virheelliseen johtopäätökseen, että potilaat, joilla oli keuhkokuume, olisivat todennäköisemmin selviävät, jos heillä oli astma, mikä voi johtaa siihen, että lääkärit muuttavat potilaiden astmaan liittyviä hoitoja.

Teckoälyjärjestelmät, jotka on kehitetty yhdelle sairaalalle, usein suorittavat heikosti, kun niitä käytetään toisessa sairaalassa. Tähän on useita syitä. Yksi syy on, että tekoälyjärjestelmät usein koulutetaan potilastietojärjestelmiin, mutta monet potilastietojärjestelmät ovat usein epätäydellisiä tai virheellisiä, koska niiden ensisijainen tarkoitus on usein laskutus eikä potilashoito. Esimerkiksi yksi KHN:n tutkimus osoitti, että potilastietojen virheitä, kuten virheellisiä lääkelistoja, voi esiintyä potilastietojärjestelmissä. Lisäksi sairauksien monimutkaisuus ja terveydenhuollon järjestelmän monimutkaisuus voivat olla vaikeampia tekoälyinsinöörien ja tieteilijöiden ennustettavissa.

Kun tekoäly kehittyy yhä enemmän, on tärkeää, että tekoälykehittäjät työskentelevät terveysviranomaisten kanssa varmistaakseen, että heidän tekoälyjärjestelmänsä on kattavasti testattu, ja että sääntelyelimet varmistavat, että tekoälydiagnostiikkatyökalujen luotettavuuden vaatimukset on asetettu ja noudatettu.