Tarkistamattomat LLM:t ja terveydenhuollon noudattamisongelma

Ympäri teollisuutta, generatiivinen tekoäly (GenAI) on saavuttanut nopeita läpimurtoja suhteellisen lyhyessä ajassa. Nämä edistysaskeleet ovat perustuvia perusmalleihin, jotka The California Report on Frontier AI Policy määrittelee “yleispätevien teknologioiden luokaksi, jotka ovat resursseja vaativia tuottaa, vaativat merkittäviä määriä dataa ja laskentaa, jotta ne voivat tuottaa kykyjä, jotka voivat mahdollistaa monia alihankkeita tekoälysovelluksissa.”

Nämä yleispätevät suuret kielen mallit (LLM), kuten Gemini ja ChatGPT, osoittavat kasvavaa voimaa jäljitellä ja ylittää ihmisen kognitiiviset kyvyt alueilla, kuten data-analyysi, kirjoittaminen ja päättely. Terveydenhuollossa erityisesti GenAI:n omaksuminen on kasvamassa, kun terveydenhuollon ammattilaiset etsivät teknologiaa vähentämään hallinnollista taakkaa, kiihdyttää toimintoja ja jopa tukea kliinistä päätöksentekoa.

Kuitenkin, vaikka teknologia tarjoaa suuren luvun, GenAI:n omaksuminen terveydenhuollossa herättää avainnoudattamisriskejä, jos sitä ei toteuteta tai käytetä vastuullisesti. Erityisesti yleispätevien LLM:ien käyttö herättää tiettyjä noudattamisriskejä, joita terveydenhuolto-organisaatioiden on täysin ymmärrettävä estääksesi tietosuojan tai turvallisuuden rikkomiset. Nämä mallit voivat riippua vahvistamattomista tietolähteistä, hyödyntää potilastietoja valtuuttamattomilla tavoilla tai ylläpitää harhaa ja/tai epätarkkaa tietoa.

Jotta potilastietojen yksityisyyttä voidaan ylläpitää, pysyä noudattamassa kehittyvien sääntöjen mukaisena ja minimoida kalliit riskit, terveydenhuollon johtajien on otettava ratkaiseva lähestymistapa purkaa “tikittävä” noudattamisen “pommi” “tarkistamattoman” LLM-käytön.

Nykytila yleispätevien LLM:ien käytöstä terveydenhuollossa

Terveydenhuollossa henkilöstö käyttää yhä enemmän LLM:itä tukeakseen jokapäiväisiä tehtäviä, hallinnollisesta työstä potilasviestintään. Monimodaalinen LLM laajentaa näitä sovelluksia helposti prosessoiden tekstiä, kuvia ja ääntä. Hallinnollisen tuen lisäksi nämä mallit ovat jo osoittaneet, mitä jotkut voivat pitää vaikuttavina tuloksina, useat tutkimukset osoittavat, että LLM-suorituskyky vastaa tai jopa ylittää ihmisten kykyjä tiettyjen alueiden osalla. Esimerkiksi GPT-4-malli läpäisi Yhdysvaltain lääketieteellisen lisensointitutkinnon kokonaispistemäärällä 86,7%.

Hybridi-tekoly on toinen nouseva lähestymistapa GenAI:n käytölle terveydenhuollossa, joka yhdistää koneoppimisen (ML) ja LLM:it käsitelläkseen monimutkaisia analyysejä ja kääntääkseen tulokset selkeäksi kieleksi. Tämä lähestymistapa pyrkii ylittämään LLM:ien puutteet, kuten harhat, epätarkkuudet ja harhat, samalla korostamalla sen vahvuuksia. Agenti-tekoly on myös kasvamassa omaksumisessaan sen kyvyn automatisoida avain tehtäviä ilman ihmisen syötettä, kuten vastaamalla potilasviesteihin tai aikatauluttamalla tapaamisia.

Kuitenkin, tekoälyn tarjoama potentiaali korostaa myös kiireellistä tarvetta enemmän proaktiiviselle hallinnolle. Mitä enemmän nämä työkalut upotetaan terveydenhuollon toimintoihin, sitä korkeammat panokset ovat varmistamaan tarkkuutta, turvallisuutta ja noudattamista.

Yleispätevien LLM:ien noudattamisriskit terveydenhuollossa

Vaikka digitaalisen omaksumisen terveydenhuollossa on avannut runsaasti uusia mahdollisuuksia, se on myös paljastanut avainhaavoittuvuuksia. Esimerkiksi 1. marraskuuta 2023 ja 31. lokakuuta 2024 välisenä aikana terveydenhuolto-alalla koettiin 1 710 turvallisuusloukkausta, joista 1 542 liittyi vahvistettuihin tietovuotoihin.

Tekoälykausi syventää näitä rakoja ja lisää uuden kerroksen monimutkaisuutta tietosuojalle ja turvallisuudelle. Erityisesti yleispätevien LLM:ien käyttö terveydenhuollossa herättää useita avainnoudattamisriskejä:

Riski #1: Opaakki kehitys estää jatkuvaan seurantaa tai vahvistamista

Suljetut mallit puuttuvat avoimuudelta kehitysprosessista, kuten tiettyjen tietojen käytöstä mallin koulutuksessa tai miten päivitykset tehdään. Tämä opaakkuus estää kehittäjiä ja tutkijoita tutkimasta mallia turvallisuusriskien alkuperän tai päätöksentekoprosessien määrittämiseksi. Seurauksena suljetut LLM:it voivat mahdollistaa vahvistamattomien lääketieteellisten tietolähteiden käytön ja sallia turvallisuusvauriot menevätkin tarkistamattomina.

Riski #2: Potilastietojen vuoto

LLM:it eivät aina riipu anonyymeistä potilastiedoista. Erikoistuneet kehotukset tai vuorovaikutukset voivat vahingossa paljastaa tunnistettavia terveydentietoja, mikä voi johtaa mahdollisiin HIPAA-rikkomuksiin.

Riski #3: Harhan ja epätarkan tiedon ylläpitäminen

Yhdessä kokeessa tutkijat lisäsivät pieni prosentti virheellisiä tosiasioita yhteen biolääketieteellisen mallin tietokannan kategoriaan, säilyttäen samalla sen käyttäytymisen kaikilla muilla alueilla. Tutkijat totesivat, että virheellinen tieto levisi ympäri mallin tulostetta, korostamalla LLM:ien haavoittuvuutta virhetietohyökkäyksille.

Kaikki perusmallien virheet periytyvät kaikkiin sovellettuun malleihin ja niiden sovelluksiin. Tulosten epäsymmetria voi pahentaa terveydenhuollon epätasa-arvoa, kuten epätarkkaa neuvontaa aliedustetuille ryhmille.

Riski #4: Sääntelyyn sopimattomuus

Yleispätevien LLM:ien käyttö ei välttämättä ole sopusoinnussa HIPAA:n, GDPR:n tai kehittyvien tekoälyyn liittyvien sääntöjen kanssa, erityisesti jos toimittajat eivät voi vahvistaa koulutusdataa. Nämä riskit ovat yhdistyneitä terveydenhuolto-organisaatioiden työntekijöiden käytön kanssa hyväksymättömiä tai valvomattomia tekoälytyökaluja tai varjotekoälyä. IBM:n mukaan 20%:lla kyselyyn osallistuneista organisaatioista kaikilla aloilla koettiin tietoturvaloukkaus, joka liittyi turvallisuusloukkauksiin, jotka liittyivät varjotekoälyyn.

Lopulta, yleispätevien LLM:ien riskit terveydenhuollossa ovat todellisia maailmanlaajuisia seurauksia, mukaan lukien oikeudelliset toimet, maineen vahingoittuminen, potilaiden luottamuksen menetys ja oikeudenkäyntikulut.

Parhaat käytännöt: LLM-ohjeet ja huomioon otettavat seikat

Vastuullisesti omaksumaan GenAI:ta terveydenhuollon johtajien on perustettava selkeät suojavarustukset, jotka suojelevat potilaita ja organisaatioita. Seuraavat parhaat käytännöt voivat auttaa terveydenhuolto-organisaatioita perustamaan perustan vastuulliselle, noudattavalle tekoälykäytölle:

Paras käytäntö #1: Valitse AI-teknologiaa viisaasti

Vaadi selkeää tietoa toimittajilta siitä, miten AI-teknologiaa kehitetään ja mitä tietolähteitä käytetään kehitysprosessissa. Priorisoi työkaluja, jotka hyödyntävät vain asiantuntijoiden vahvistamaa lääketieteellistä sisältöä, joilla on avoimet päätöksentekoprosessit ja välttävät potilastietojen koulutusmalleja.

Paras käytäntö #2: Rakenna ihmisten valvontaan perustuvat turvallisuusvarustukset

Varmista, että terveydenhuollon ammattilaiset tarkastavat kaikki AI:n tuottamat tulosteet, jotka voivat vaikuttaa hoitopäätöksiin. Tekoäly voi olla voimakas työkalu, mutta alalla, jolla on suora vaikutus potilaiden elämään, kliininen valvonta on avainasemassa varmistamaan vastuullisen käytön ja AI-tukeutuvan tiedon tarkkuuden.

Paras käytäntö #3: Koulutus ja työvoiman valmius

Koulutus terveydenhuollon ammattilaisia sekä AI:n eduista että riskeistä vähentää varjotekoälyn omaksumista. Terveydenhuollon henkilöstö navigoi monimutkaisessa työvoimassa, joka on jännittynyt henkilöstöpulasta ja korkeista palovuorista. AI-koulutusprosessin yksinkertaisuus varmistaa noudattamisen ilman lisätöitä työkuormaan.

Paras käytäntö #4: Perusta hallintokulttuuri

Integroi kolmannen osapuolen arviot AI-ratkaisuista varmistamaan turvallisuus, luotettavuus ja noudattaminen. Samanaikaisesti toteuta selkeä, organisaatiolaajuinen viitekehys AI-valvonnalle, joka määrittelee hyväksynnän, käytön ja seurannan, jotta voidaan vahvistaa luottamusta teknologiaan ja estää henkilöstöä kääntymästä valvomattomiin työkaluihin.

Paras käytäntö #5: Toimi johtajuuden kanssa tekoälyn huolenpidosta

Yhteistyö johtajuuden kanssa pysyäkseen kehittyvien sääntöjen ja FDA:n sekä ONC:n ohjeiden edellä. Sääntelypyrkimykset ovat nousemassa osavaltiotasolla. Esimerkiksi Kalifornia perusti Avoin Front AI -lain, joka korostaa riskien ilmoittamista, avoimuutta ja lieventämistä, erityisesti terveydenhuoltopaikoissa, ja on myös Colorado Artificial Intelligence Act (CAIA), joka on suunniteltu estämään algoritmisen syrjinnän.

Paras käytäntö #6: Jatkuva seuranta ja palautekierrat

Tekoälyn käyttö terveydenhuollossa ei koskaan tulisi lähestyä “aseta ja unohda” -asenteella. Jatkuvan seurannan päättämiseen on mahdollista varmistaa AI-työkalujen tarkkuus, lujittaa vastuu ja ylläpitää noudattamista ajan myötä.

Paras käytäntö #7: Tavoittele kumppanuuksia valvontaa ja tutkimusta varten

Terveydenhuolto-organisaatioiden on hyödynnettävä kumppanuuksia sääntelijöiden ja julkisen sektorin kanssa maksimoidakseen valvontaa, osallistumalla alan näkökulmaan turvallisuusstandardeihin ja yhdistämällä asiantuntija-resursseja.

Luottamuksen rakentaminen noudattamisen johtajuuden kautta

Tekoälyratkaisujen erottautuminen terveydenhuollossa riippuu yhä enemmän asiantuntija-sisällön laadusta, arviointiprosessien eheystä ja vastuullisesta integroinnista kliinisiin työvirtoihin. Tekoälyn seuraava vaihe riippuu vähemmän koodista ja enemmän noudattamisjohtajuudesta.

Luottamus on yhtä kriittinen kuin noudattaminen itse. Jotta teknologia voisi olla todella tehokas, potilaiden ja tarjoajien on uskottava, että tekoäly on turvallista ja on sopusoinnussa korkealaatuisen, eettisen hoidon kanssa. Noudattamisjohtajuus on strateginen etu, ei pelkästään puolustuksellinen toimenpide. Eturistiriitojen varalta toimivat organisaatiot, jotka perustavat turvallisuusvarustuksia jo varhain, ennen haitallisia tapahtumia, eroavat itsensä tekoälyvoimaisessa terveydenhuollon tulevaisuudessa.