Tarkistamattomat LLM:t ja terveydenhuollon noudattamisongelma

Eri aloilla on generatiivinen tekoäly (GenAI) saavuttanut nopeasti läpimurtoja suhteellisen lyhyessä ajassa. Nämä edistysaskeleet johtuvat perusmalleista, jotka The California Report on Frontier AI Policy määrittelee “yleispätevien teknologioiden luokaksi, jotka ovat resursseja vaativia tuottaa, vaativat merkittäviä määriä dataa ja laskentaa tuottaakseen kykyjä, jotka voivat mahdollistaa monia alihankkijan tekoälysovelluksia.”

Nämä yleispätevät suuret kielen mallit (LLM), kuten Gemini ja ChatGPT, osoittavat kasvavaa voimaa replikoida ja ylittää ihmisen kognitiiviset kyvyt alueilla, kuten data-analyysissä, kirjoittamisessa ja päättelyssä. Terveydenhuollossa erityisesti GenAI:n omaksuminen on kasvamassa, kun terveydenhuollon ammattilaiset etsivät teknologiaa vähentämään hallinnollista taakkaa, kiihdyttääkseen toimintoja ja jopa tukemaan kliinistä päätöksentekoa.

Kuitenkin, vaikka teknologia tarjoaa suuren luvun, GenAI:n omaksuminen terveydenhuollossa herättää avainnoudattamisriskejä, jos sitä ei toteuteta tai käytetä vastuullisesti. Erityisesti yleispätevien LLM:ien käyttö liittyy tiettyihin noudattamisongelmiin, joita terveydenhuolto-organisaatioiden on täytettävä täysin ymmärrettäväksi estääkseen henkilökohtaisten tietojen tai turvallisuuden rikkomiset. Nämä mallit voivat riippua vahvistamattomista tietolähteistä, hyödyntää potilaiden terveystietoja valtuuttamattomilla tavoilla tai ylläpitää harhaa ja/tai epätarkkaa tietoa.

Potilaiden terveystietojen suojaamiseksi, pysyäkseen mukana kehittyvissä säännöksissä ja vähentääkseen kalliiden riskien, terveydenhuollon johtajien on otettava ratkaiseva lähestymistapa purkaa “aikapommi” “tarkistamattoman” LLM-käytön.

Yleispätevien LLM:ien nykytila terveydenhuollossa

Terveydenhuollossa henkilöstö käyttää yhä enenevissä määrin LLM:itä tukeakseen arkipäivän tehtäviä, hallinnollisesta työstä potilasviestintään. Monimodaalinen LLM laajentaa näitä sovelluksia helposti prosessoiden tekstiä, kuvia ja ääntä. Hallinnollisen tuen lisäksi nämä mallit ovat jo osoittaneet, mitä jotkut voivat pitää vaikuttavina tuloksina, useissa tutkimuksissa, joissa LLM:n suorituskyky vastaa tai ylittää ihmisten kykyjä tiettyjen alueiden osalla.

Hybridi-TEKOÄLY on toinen nouseva lähestymistapa GenAI:n käyttöön terveydenhuollossa, joka yhdistää koneoppimisen (ML) ja LLM:it käsitelläkseen monimutkaisia analyysejä ja kääntääkseen tulokset selkeäksi kieleksi. Tämä lähestymistapa pyrkii ylittämään LLM:ien puutteet, kuten harhat, epätarkkuudet ja harhat, ja hyödyntää sen vahvuuksia. Agenssi-TEKOÄLY on myös kasvamassa omaksumisessa sen kyvyn vuoksi automatisoida avain tehtäviä ilman ihmisen syöttämistä, kuten vastaamalla potilaiden viesteihin tai aikatauluttamalla tapaamisia.

Kuitenkin, TEKOÄLY:n mahdollisuudet korostavat myös tarvetta proaktiivisempaan hallintoon. Mitä enemmän nämä työkalut upotetaan terveydenhuollon toimintoihin, sitä korkeammat panokset ovat varmistamaan tarkkuus, turvallisuus ja noudattaminen.

Yleispätevien LLM:ien noudattamisriskejä terveydenhuollossa

Digitaalisen omaksumisen terveydenhuollossa on avannut runsaasti uusia mahdollisuuksia, mutta se on myös paljastanut avainhaavoittuvuuksia. Esimerkiksi marraskuun 1. päivän, 2023, ja lokakuun 31. päivän, 2024, välisenä aikana terveydenhuolto-alalla koettiin 1 710 turvallisuusloukkausta, joista 1 542 liittyi vahvistettuihin tietojen luovuttamisiin.

TEKOÄLY:n aikakausi syventää näitä rakoja, lisäten uuden kerroksen monimutkaisuutta tietosuojalle ja -turvallisuudelle. Erityisesti yleispätevien LLM:ien käyttö terveydenhuollossa herättää useita avainnoudattamisriskejä:

Riski #1: Opaakki kehitys estää jatkuvan seurannan tai vahvistamisen

Suljetut mallit puuttuvat avoimuudelta kehitysprosessin suhteen, kuten mitä tiettyjä tietoja malli on koulutettu tai miten päivitykset tehdään. Tämä opaquaus estää kehittäjiä ja tutkijoita tutkimasta mallia määrittääkseen turvallisuusriskien alkuperän tai päätöksentekoprosessien. Suljetut LLM:t voivat mahdollistaa käytön vahvistamattomia lääketieteellisiä tietolähteitä ja sallivat turvallisuusvauriot jäämään tarkistamattomiksi.

Riski #2: Potilastietojen vuoto

LLM:t eivät aina riipu de-identifioituista potilastiedoista. Erikoistuneet käskyt tai vuorovaikutukset voivat vahingossa paljastaa tunnistettavia terveystietoja, luoden potentiaalisia HIPAA-rikkomuksia.

Riski #3: Harhan ja epätarkan tiedon ylläpitäminen

Yhdessä kokeessa , tutkijat injektoivat pienen prosenttiosuuden virheellisiä tosiasioita yhteen biolääketieteellisen mallin tietokannan luokkaan, säilyttäen samalla sen käyttäytymisen kaikilla muilla alueilla. Tutkijat totesivat, että virheellinen tieto levisi mallin tulosteisiin, korostaa LLM:ien haavoittuvuutta virhetietohyökkäyksille.

Kaikki perusmallien virheet periytyvät kaikkiin sovellettuun malleihin ja tuloksiin sovelluksista perusmallista. Eroja tuloksissa voi pahentaa terveyden epätasa-arvoa, kuten epätarkkaa neuvontaa aliedustetuille ryhmille.

Riski #4: Sääntelyn epäsovitus

Yleispätevien LLM:ien käyttö voi olla ristiriidassa HIPAA:n, GDPR:n tai TEKOÄLY:ään liittyvien kehittyvien sääntöjen kanssa, erityisesti jos toimittajat eivät voi vahvistaa koulutusdataa. Nämä riskit ovat yhdistyneitä terveydenhuollon organisaatioiden työntekijöiden käyttäessä hyväksymättömiä tai valvomattomia TEKOÄLY-työkaluja tai varjoteckoälyä. IBM:n mukaan 20 %:lla kyselyyn osallistuneista organisaatioista kaikilla aloilla koettiin tietoturvaloukkaus, joka liittyi turvallisuusloukkauksiin varjoteckoälyyn liittyen.

Lopulta, yleispätevien LLM:ien riskit terveydenhuollossa ovat todellisia maailmanlaajuisia seurauksia, kuten oikeudellisia toimia, mainevahinkoja, potilaiden luottamuksen menetystä ja oikeudenkäyntikuluja.

Parhaat käytännöt: LLM-ohjeet ja huomioon otettavat seikat

Vastuullisen GenAI:n omaksumiseksi terveydenhuollon johtajien on perustettava selkeät suojavarustukset, jotka suojaavat potilaita ja organisaatioita. Seuraavat parhaat käytännöt voivat auttaa terveydenhuolto-organisaatioita perustamaan perustan vastuullisen TEKOÄLY:n käytölle:

Paras käytäntö #1: Valitse TEKOÄLY-teknologiaa viisaasti

Vaadi selkeää tietoa toimittajilta siitä, miten TEKOÄLY-teknologiaa kehitetään ja mitä tietolähteitä kehitysprosessissa käytetään. Priorisoi työkaluja, jotka hyödyntävät vain asiantuntijoiden vahvistamaa lääketieteellistä sisältöä, joilla on avoimet päätöksentekoprosessit ja välttävät potilaiden terveystietojen kouluttamista.

Paras käytäntö #2: Rakenna ihmisen osallistumisen turvallisuusvarustukset

Varmista, että klinikkalaisten tarkistavat kaikki TEKOÄLY:n tuottamat tulosteet, jotka voivat vaikuttaa hoitopäätöksiin. TEKOÄLY voi olla voimakas työkalu, mutta alalla, jolla on suora vaikutus potilaiden elämään, klinikkalaisten valvonta on avainasemassa varmistamaan vastuullisen käytön ja TEKOÄLY:n avustamien tietojen tarkkuuden.

Paras käytäntö #3: Koulutus ja työvoiman valmius

Koulutkaa klinikkalaisia ja henkilöstöä sekä TEKOÄLY:n hyödyistä että riskeistä vähentääksesi varjoteckoäly:n omaksumista. Terveydenhuollon henkilöstö navigoi monimutkaisessa työvoimassa, joka on jännittynyt henkilöstöpuutteista ja korkeista palovuustasosta. TEKOÄLY:n koulutusprosessin yksinkertaisminen auttaa varmistamaan noudattamisen ilman lisätä henkilöstön työtaakkaa.

Paras käytäntö #4: Perusta hallintokulttuuri

Integroi kolmannen osapuolen arviot TEKOÄLY-ratkaisuista vahvistamaan turvallisuutta, luotettavuutta ja noudattamista. Samanaikaisesti toteuta selkeä, koko organisaatiota koskeva viitekehys TEKOÄLY:n valvonnalle, joka määrittää hyväksynnän, käytön ja seurannan lisätäkseen luottamusta teknologiaan ja estääkseen henkilöstön kääntymisen valtuuttamattomiin työkaluihin.

Paras käytäntö #5: Toiminta johtajuuden kanssa TEKOÄLY:n huolehtimisesta

Yhteistyö johtajuuden kanssa pysyäkseen edellä kehittyvissä säännöksissä sekä FDA:n ja ONC:n ohjeistuksista. Sääntelypyrkimykset ovat nousseet osavaltiotasolla. Esimerkiksi Kalifornia asetti Laki TEKOÄLY:n avoimuudesta, joka korostaa riskien ilmoittamista, avoimuutta ja lieventämistä, erityisesti terveydenhuollossa, ja on myös Coloradon TEKOÄLY-laki (CAIA), joka on suunniteltu estämään algoritmista syrjintää.

Paras käytäntö #6: Jatkuva seuranta ja palautekanavat

TEKOÄLY:n käyttö terveydenhuollossa ei koskaan tulisi lähestyä “aseta ja unohda” -asenteella. Jatkuvan seurannan puitteiden luominen voi auttaa varmistamaan TEKOÄLY-työkalujen tarkkuuden, vahvistaa vastuullisuutta ja ylläpitää noudattamista ajan myötä.

Paras käytäntö #7: Pyri yhteistyöhön valvontaa ja tutkimusta varten

Terveydenhuolto-organisaatioiden on hyödyntävä yhteistyötä sääntelijöiden ja julkisen sektorin kanssa maksimoidakseen valvontaa, osallistumaan asiantuntija-näkemyksiinsä turvallisuusstandardeihin ja yhdistämään asiantuntija-resursseja.

Luottamuksen rakentaminen noudattamisen kautta

TEKOÄLY-ratkaisujen erottautuminen terveydenhuollossa riippuu yhä enenevissä määrin asiantuntija-sisällön laadusta, arviointiprosessien eheystä ja vastuullisesta integroinnista kliinisiin työvirtoihin. TEKOÄLY:n seuraava vaihe riippuu vähemmän koodista ja enemmän noudattamisen johtajuudesta.

Luottamus on yhtä tärkeää kuin noudattaminen itse. Jotta teknologia voisi olla todella tehokas, potilaiden ja tarjoajien on uskottava, että TEKOÄLY on turvallista ja sitoutunut korkealaatuiseen, eettiseen hoitoon. Noudattamisen johtajuus on strateginen etu, ei pelkästään puolustuksellinen toimenpide. Eturistiriitoja, jotka perustavat suojavarustuksia ennen haitallisia tapahtumia, erottautuvat itsensä TEKOÄLY:llä varustetussa terveydenhuollon tulevaisuudessa.