Generatiivisen tekoälytarpeen selittävyyttä terveydenhuoltoalalla

Tekoälypohjaisten tekstigeneneraattorien nopeus, jolla ne suorittavat korkean tason kirjoittamis- ja viestintätehtäviä, on löytänyt vastakaikua sekä yrityksissä että kuluttajien keskuudessa. Mutta prosessit, jotka tapahtuvat taustalla näiden vaikuttavien ominaisuuksien mahdollistamiseksi, voivat tehdä siitä riskialttiutta herkkien, viranomaisten säätelemien alojen, kuten vakuutus-, rahoitus- tai terveydenhuoltoalalla, hyödyntää tekoälyä ilman varovaisuutta.

Joitakin näkyvimpiä esimerkkejä tästä voidaan löytää terveydenhuoltoalalta.

Nämä ongelmat liittyvät yleensä laajoihin ja monimuotoisiin aineistoihin, joita käytetään suurten kielen mallien (LLM) koulutukseen – malleihin, joita tekstipohjaiset tekoälytyökalut käyttävät suorittaakseen korkean tason tehtäviä. Ilman ohjelmoijien ulkopuolista väliintuloa nämä LLM:t keräävät tietoja epäröimättä eri lähteistä internetissä laajentaakseen tietopohjaansa.

Tämä lähestymistapa on enimmäkseen sovelias matalan riskin, kuluttajalähtöiseen käyttöön, jossa lopullinen tavoite on ohjata asiakkaita toivottuihin tarjontoihin tarkkuudella. Kasvavasti kuitenkin suuret aineistot ja epäselvät polut, joita tekoälymallit käyttävät tulosten tuottamiseen, peittävät selittävyyden, jota sairaalat ja terveydenhuoltoalan toimijat vaativat jäljittääkseen ja estääkseen mahdollisia epätarkkuuksia.

Tässä yhteydessä selittävyydellä tarkoitetaan kykyä ymmärtää jokaisen LLM:n loogisia polkuja. Terveydenhuollon ammattilaisten, jotka haluavat omaksua avustavia tekoälytyökaluja, on oltava mahdollista ymmärtää, miten heidän mallejaan tuottavat tuloksia, jotta potilaat ja henkilöstö voivat toimia täydellisen avoimuuden kanssa eri päätöksentekoprosessien aikana. Toisin sanoen terveydenhuoltoalalla, jossa on kyse henkilöiden elämistä, panokset ovat yksinkertaisesti liian korkeat sille, että ammattilaiset voivat tulkita väärin aineistoa, jota heidän tekoälytyökalunsa koulutukseen käytetään.

Onneksi on olemassa keino kiertää tekoälyn selittävyyden ongelma – se vaatii vain hieman enemmän valvontaa ja tarkkuutta.

Arvoitus ja epäily

Tekoälyssä ymmärtäminen siitä, miten LLM siirtyy pisteestä A – syötteestä – pisteeseen B – tulokseen – on paljon monimutkaisempaa kuin ei-generatiivisilla algoritmeilla, jotka noudattavat enemmän määrättyjä polkuja.

Generatiiviset tekoälytyökalut luovat lukuisia yhteyksiä siirryttäessä syötteestä tulokseen, mutta ulkopuolisen havainnoijan näkökulmasta se, miten ja miksi ne tekevät mitä tahansa yhteyksiä, jää arvoitukseksi. Ilman tapaa nähdä ’ajatteluprosessi’, jonka tekoälyalgoritmi noudattaa, ihmiset puuttuvat perusteellisesta tavasta tutkia sen päättelyä ja jäljittää mahdollisia epätarkkuuksia.

Lisäksi jatkuvasti laajenevat aineistot, joita käytetään ML-algoritmeissa, monimutkaistavat selittävyyttä edelleen. Mitä suurempi aineisto on, sitä todennäköisemmin järjestelmä oppii sekä relevantista että irrelevantista tiedosta ja tuottaa ”tekoälyharhoja” – valheita, jotka poikkeavat ulkoisista tosiasioista ja kontekstuaalisesta logiikasta, vaikka vakuuttavasti.

Terveydenhuoltoalalla nämä virheelliset tulokset voivat aiheuttaa monia ongelmia, kuten väärät diagnoosit ja virheelliset reseptit. Etiikan, lainsäädännön ja taloudellisten seurausten lisäksi nämä virheet voivat helposti vahingoittaa terveydenhuollon tarjoajien mainetta ja heidän edustamiaan lääketieteellisiä laitoksia.

Terveydenhuoltoalalla generatiivinen tekoäly on edelleen epäilyksen vallassa, ja oikeutetusti – 55 %:ia kliinikoista ei usko, että se on valmis lääketieteelliseen käyttöön, ja 58 %:ia epäilee sitä kokonaan. Terveydenhuollon organisaatiot kuitenkin jatkavat eteenpäin, ja 98 %:ia niistä toteuttaa tai suunnittelee generatiivisen tekoälyn käyttöönottostrategiaa pyrkien kompensoimaan alan jatkuvaan työvoimapulaan.

Hallitse lähde

Terveydenhuoltoala on usein jäänyt jälkeen nykyisessä kuluttajakulttuurissa, jossa arvostetaan tehokkuutta ja nopeutta enemmän kuin varmistetaan turvallisuuden takeet. Viimeaikaiset uutiset tekoälymallien koulutukseen käytettävien aineistojen laajasta keräämisestä ovat tuoneet nämä ongelmat esille. Joitakin yrityksiä vastaan on nostettu kanne tekijänoikeusloukkauksista. Joitakin yrityksiä syytetään myös siitä, että kansalaisten henkilökohtaisia tietoja on kerätty kouluttamaan näitä kielen malleja, mikä voi rikkoa tietosuojalakeja.

Tekoälykehittäjien on siis hallittava tietolähteitä vähentääksesi mahdollisia virheitä. Tämä tarkoittaa, että heidän on priorisoitava luotettavien, alan hyväksymien lähteiden käyttöä verrattuna siihen, että he etsivät tietoja satunnaisesti ja ilman lupaa eri verkkosivuilta. Terveydenhuoltoalalla tämä tarkoittaa, että tietolähteitä on rajoitettava esimerkiksi usein kysytyistä kysymyksistä, CSV-tiedostoista ja lääketieteellisistä tietokannoista – muihin sisäisiin lähteisiin.

Jos tämä kuulostaa hieman rajoittavalta, kokeile etsiä palvelua suuren terveydenhuoltojärjestelmän verkkosivuilta. Yhdysvaltain terveydenhuolto-organisaatiot julkaisevat satoja, ellei tuhansia, tietosivuja alustoillaan; useimmat ovat niin syvällä piilossa, että potilaat eivät voi koskaan edes päästä niihin. Generatiiviset tekoälyratkaisut, jotka perustuvat sisäisiin tietoihin, voivat toimittaa tämän tiedon potilaille kätevästi ja vaivattomasti. Tämä on voitto kaikille osapuolille, sillä terveydenhuoltojärjestelmä näkee lopulta tuoton tästä sisällöstä, ja potilaat voivat löytää tarvitsemansa palvelut välittömästi ja helposti.

Mitä seuraavaksi tekoälylle säädellyillä aloilla?

Terveydenhuoltoala hyötyy generatiivisesta tekoälystä usealla tavalla.

Otetaan esimerkiksi laaja polttoutumisen ilmiö, joka vaivaa Yhdysvaltain terveydenhuoltoalaa viime aikoina – lähelle 50 % työvoimasta aikoo lähteä vuoteen 2025 mennessä. Generatiivisen tekoälypohjaiset chatbotit voivat auttaa lieventämään työtaakan ja säilyttämään ylipäänsä potilaiden pääsyn terveydenhuoltopalveluihin.

Potilaiden puolesta generatiivinen tekoäly voi parantaa terveydenhuollon palvelujen asiakaspalvelukeskuksia. Tekoälyautomatiikka voi käsitellä laajan joukon kysymyksiä eri yhteydenotoista, mukaan lukien usein kysytyt kysymykset, IT-ongelmat, lääkeuudistukset ja lääkärin siirrot. Asiakkaiden pettymyksen lisäksi, joka johtuu odottamisesta puhelimessa, vain noin puolet Yhdysvaltain potilaista onnistuu ratkaisemaan ongelman ensimmäisellä yrittämällä, mikä johtaa korkeisiin hylkäysluvuin ja heikentää pääsyä hoitoon. Tämä alhainen asiakastyytyväisyyden taso luo lisää painetta alan toimijoille.

Terveydenhuoltoalan hyödyttääkseen todella generatiivisesta tekoälystä, terveydenhuollon tarjoajien on mahdollisuuksien mukaan järjesteltävä tietoisesti tietoja, joihin heidän LLM:nsä pääsevät käsiksi.