Milloin kannattaa välttää tekoälyä terveydenhuollossa

Aina kun uusi teknologinen edistysaskel tekee tuloaan alalle, voi olla viehättävää julistaa se uusi, loistava lelu parantavaksi kaikille alan ongelmille. Tekoäly terveydenhuollossa on erinomainen esimerkki. Teknologian jatkaessa kehittymistään, sitä on sovellettu lääkekehitykseen, hoidon koordinointiin ja korvauksiin, mainiten muutamia. On lukuisia legitiimejä käyttötarkoituksia tekoälylle terveydenhuollossa, joissa teknologia on selkeästi parempi kuin mikään muu tällä hetkellä saatavilla oleva vaihtoehto.

Kuitenkin tekoäly – sellaisena kuin se on tällä hetkellä – on erinomainen vain tiettyjen tehtävien suorittamisessa, kuten suurten tietomassojen ymmärtämisessä ja päätöksenteossa, joka perustuu hyvin määriteltyihin sääntöihin. Muiden tilanteiden, erityisesti niiden, joissa lisäkonteksti on välttämätöntä oikean päätöksen tekemiseksi, eivät sovellu tekoälylle. Tarkastellaan joitakin esimerkkejä.

Korvausten ja hoidon kieltäminen

Riippumatta siitä, onko kyse korvauksesta tai hoidosta, kieltämiset ovat monimutkaisia päätöksiä, ja ne ovat liian tärkeitä jätettäväksi tekoälyn yksin hoitoon. Kun korvaus tai hoito kieltäytyy, on olemassa ilmeinen moraalinen velvollisuus tehdä se varovasti, ja tekoälyn nykyisistä kyvyistä johtuen se edellyttää ihmisten osallistumista.

Moraalisen elementin lisäksi terveyssuunnitelmat asettavat itsensä vaaraan, kun ne luottavat liiaksi tekoälyyn kieltämisratkaisujen tekemiseen. Suunnitelmat voivat ja ovat kohtaamassa oikeudenkäynnit tekoälyn väärinkäytöstä korvausten kieltämisessä, ja oikeudenkäynnit syyttävät suunnitelmia siitä, etteivät ne täytä lääkärin tarkastuksen vähimmäisvaatimuksia, koska tekoälyä käytettiin sen sijaan.

Riippuvuus aiemmista päätöksistä

Tekoälyn luottaminen päätöksiin, jotka perustuvat ainoastaan siihen, miten se on tehnyt aiemmin päätöksiä, on ilmeinen heikkous: yksi väärä päätös menneisyydestä vaikuttaa muihin. Lisäksi, koska tekoälyä ohjaavat säännöt ovat usein jakautuneet eri järjestelmiin tai epätäydellisesti koodattuina ihmisillä, tekoälyjärjestelmät voivat omaksua ja jatkossa lisätä epätarkan ymmärryksen näistä säännöistä. Tämän välttämiseksi organisaatioiden on luotava yksi sääntöjen totuuden lähde, josta tekoäly voi viitata ja oppia luotettavasta tietokannasta.

Rakentaminen perinteisten järjestelmien päälle

Suhteellisen uutena teknologiana tekoäly tuo mukanaan mahdollisuuksien tunnetta, ja monet terveyssuunnitelmien data-tieteelliset tiimit ovat innostuneita hyödyntämään nopeasti tekoälytyökaluja, jotka on jo rakennettu olemassa oleviin yritysjärjestelmiin. Ongelma on, että terveydenhuollon korvausprosessit ovat erittäin monimutkaisia, ja yritysjärjestelmät eivät usein ymmärrä niiden yksityiskohtia. Tekoälyn asettaminen näiden perinteisten järjestelmien päälle yhden kokoaikaisen ratkaisuna (joka ei ottaa huomioon kaikkia korvausten ratkaisemiseen vaikuttavia tekijöitä) johtaa sekavuuteen ja epätarkkuuteen, sen sijaan, että se luovat tehokkaampia prosesseja.

Nojautuminen vanhaan dataan

Yksi tekoälyn suurimmista hyödyistä on, että se parantaa jatkuvasti tehtävien suorittamista, kun se oppii, mutta tämä oppiminen voi tapahtua vain, jos on olemassa jatkuva palautekanava, joka auttaa tekoälyä ymmärtämään, mitä se on tehnyt väärin, jotta se voi sopeutua. Tämä palaute ei ainoastaan ole jatkuva, vaan se on perustuttava puhdasille ja tarkoille tiedoille. Koska tekoäly on yhtä hyvä kuin se data, josta se oppii.

Milloin tekoäly on hyödyllinen terveydenhuollossa

Tekoälyn käyttö alalla, jossa tulokset ovat yhtä merkittäviä kuin terveydenhuollossa, vaatii varovaisuutta, mutta se ei tarkoita, ettei tekoälyllä ole soveltamisalueita, joissa se on järkevää.

Yhtäältä terveydenhuollossa on runsaasti dataa (kun otetaan huomioon, että yhden henkilön terveysrekisteri voi olla tuhansien sivujen mittainen), ja tämän datan sisältämät mallit voivat kertoa paljon sairauksien diagnosoinnista, korvausten oikeasta ratkaisemisesta ja muusta. Tässä tekoäly erottuu, etsimällä malleja ja ehdottamalla toimia, jotka perustuvat niihin, ja jotka ihmisten tarkastajat voivat käyttää hyväkseen.

Toisaalta tekoäly erottuu myös sääntöjen ja määräysten katalogisoinnissa ja niiden ottamisessa käyttöön, jotka ohjaavat korvausten maksamista. Generatiivinen tekoäly (GenAI) voidaan käyttää muuttamaan tämä sisältö eri muodoista konekieliseksi koodiksi, jota voidaan soveltaa johdonmukaisesti kaikkiin potilaiden korvauksiin. GenAI voidaan myös käyttää tietojen yhteenvetoon ja niiden esittämiseen helposti luettavassa muodossa ihmisille tarkastettavaksi.

Kaiken tämän läpi kulkeva teema on, että tekoälyä käytetään apuna ihmisille, jotka valvovat sitä, eivätkä ohjaa itse näytön. Niin kauan kuin organisaatiot voivat pitää tämän ajatuksen mielessään tekoälyn käyttöönoton aikana, he ovat asemassa onnistua tässä vaiheessa, jossa terveydenhuolto muuttuu tekoälyn ansiosta.