Generatiivinen tekoäly terveydenhuoltoalalla tarvitsee annoksen selitettävyyttä

Huomattava nopeus, jolla tekstipohjaiset generatiiviset tekoälytyökalut voivat suorittaa korkean tason kirjoitus- ja viestintätehtäviä, on iskenyt niin yrityksiin kuin kuluttajiinkin. Mutta prosessit, jotka tapahtuvat kulissien takana näiden vaikuttavien ominaisuuksien mahdollistamiseksi, voivat tehdä herkille, hallituksen sääntelemille aloille, kuten vakuutus-, rahoitus- tai terveydenhuoltoalan riskialttiiksi, hyödyntää generatiivista tekoälyä ilman huomattavaa varovaisuutta.

Joitakin havainnollistavimpia esimerkkejä tästä löytyy terveydenhuoltoalalta.

Tällaiset ongelmat liittyvät tyypillisesti laajoihin ja monipuolisiin tietokokonaisuuksiin, joita käytetään suurten kielimallien (LLM) kouluttamiseen – malleihin, joita tekstipohjaiset generatiiviset tekoälytyökalut käyttävät korkean tason tehtävien suorittamiseen. Ilman ohjelmoijien nimenomaista ulkopuolista väliintuloa näillä LLM:illä on tapana raaputtaa tietoa umpimähkäisesti eri lähteistä Internetissä laajentaakseen tietopohjaansa.

Tämä lähestymistapa soveltuu parhaiten vähäriskisiin kuluttajalähtöisiin käyttötapauksiin, joissa perimmäisenä tavoitteena on ohjata asiakkaat haluttujen tarjontaan tarkasti. Suuret tietojoukot ja sekavat reitit, joilla tekoälymallit tuottavat tulostensa, peittävät kuitenkin yhä useammin selitettävyys joita sairaalat ja terveydenhuollon tarjoajat vaativat mahdollisten epätarkkuuksien jäljittämiseksi ja estämiseksi.

Tässä yhteydessä selitettävyys viittaa kykyyn ymmärtää minkä tahansa tietyn LLM:n logiikkapolkuja. Terveydenhuollon ammattilaisilla, jotka haluavat ottaa käyttöön avustavia generatiivisia tekoälytyökaluja, on oltava keinot ymmärtää miten niiden mallit tuottavat tuloksia, jotta potilaat ja henkilökunta ovat täysin läpinäkyviä eri päätöksentekoprosesseissa. Toisin sanoen terveydenhuollon kaltaisella alalla, jossa ihmishenkiä on vaarassa, panokset ovat yksinkertaisesti liian korkeat, jotta ammattilaiset voivat tulkita väärin tekoälytyökalujensa kouluttamiseen käytettyjä tietoja.

Onneksi on olemassa tapa ohittaa generatiivisen tekoälyn selitettävyysongelma – se vaatii vain hieman enemmän hallintaa ja keskittymistä.

Mysteeri ja skeptisyys

Generatiivisessa tekoälyssä käsitys sen ymmärtämisestä, kuinka LLM pääsee pisteestä A – syötteestä – pisteeseen B – ulostuloon – on paljon monimutkaisempi kuin ei-generatiivisissa algoritmeissa, jotka toimivat useammin asetettujen mallien mukaan.

Generatiiviset tekoälytyökalut muodostavat lukemattomia yhteyksiä siirtyessään tulosta ulostuloon, mutta ulkopuoliselle tarkkailijalle on mysteeri, kuinka ja miksi ne muodostavat tietyn sarjan yhteyksiä. Ilman keinoa nähdä tekoälyalgoritmin "ajatteluprosessia" ihmisoperaattoreista puuttuu perusteellinen keino tutkia sen perusteluja ja jäljittää mahdollisia epätarkkuuksia.

Lisäksi ML-algoritmien käyttämät jatkuvasti laajenevat tietojoukot vaikeuttavat selitettävyyttä entisestään. Mitä suurempi tietojoukko on, sitä todennäköisemmin järjestelmä oppii sekä merkityksellisestä että epäolennaisesta tiedosta ja sylkee "AI-harhoja" – valheita, jotka poikkeavat ulkoisista tosiseikoista ja kontekstuaalisesta logiikasta vaikka kuinka vakuuttavasti.

Terveydenhuoltoalalla tämän tyyppiset virheelliset tulokset voivat aiheuttaa monenlaisia ​​ongelmia, kuten virhediagnooseja ja virheellisiä reseptejä. Eettisiä, oikeudellisia ja taloudellisia seurauksia lukuun ottamatta tällaiset virheet voivat helposti vahingoittaa terveydenhuollon tarjoajien ja heidän edustamiensa hoitolaitosten mainetta.

Huolimatta mahdollisuuksistaan ​​parantaa lääketieteellisiä toimenpiteitä, parantaa kommunikaatiota potilaiden kanssa ja tehostaa toimintaa, generatiivinen tekoäly säilyy terveydenhuollossa. skeptisyyden peitossa, ja aivan oikein – 55 % kliinisistä ei usko, että se on valmis lääketieteelliseen käyttöön ja 58 % ei luota siihen kokonaan. Terveydenhuollon organisaatiot ovat kuitenkin työntäen eteenpäin, jossa 98 % integroi tai suunnittelee generatiivisen tekoälyn käyttöönottostrategiaa yrittääkseen kompensoida alan jatkuvan työvoimapulan vaikutuksia.

Hallitse lähdettä

Terveydenhuoltoala jää usein takajalkaan nykyisessä kuluttajailmapiirissä, joka arvostaa tehokkuutta ja nopeutta rautaisten turvatoimien sijaan. Viimeaikaiset uutiset, jotka koskevat lähes rajattoman datan kaapimisen sudenkuoppia LLM-koulutusta varten, mikä johtaa oikeusjuttuja tekijänoikeusrikkomuksista, on tuonut nämä asiat etualalle. Jotkut yritykset kohtaavat myös väitteitä, joiden mukaan kansalaisten henkilötietoja louhittiin näiden kielimallien kouluttamiseksi, mikä saattaa rikkoa tietosuojalakeja.

Tiukasti säänneltyjen teollisuudenalojen tekoälykehittäjien tulisi siksi valvoa tietolähteitä mahdollisten virheiden rajoittamiseksi. Eli priorisoi tietojen poimiminen luotettavista, alan tarkastamista lähteistä sen sijaan, että kaavittaisiin ulkoisia verkkosivuja satunnaisesti ja ilman lupaa. Terveydenhuoltoalalla tämä tarkoittaa tietojen syöttämisen rajoittamista UKK-sivuille, CSV-tiedostoihin ja lääketieteellisiin tietokantoihin – muiden sisäisten lähteiden joukossa.

Jos tämä kuulostaa jokseenkin rajoittavalta, yritä etsiä palvelua suuren terveydenhuoltojärjestelmän verkkosivustolta. Yhdysvaltain terveydenhuoltoorganisaatiot julkaisevat satoja ellei tuhansia tietosivuja alustoillaan; useimmat on haudattu niin syvälle, että potilaat eivät koskaan pääse käsiksi niihin. Sisäisiin tietoihin perustuvat generatiiviset tekoälyratkaisut voivat toimittaa nämä tiedot potilaille kätevästi ja saumattomasti. Tästä hyötyvät kaikki osapuolet, sillä terveydenhuoltojärjestelmä näkee vihdoin tämän sisällön ROI:n ja potilaat voivat löytää tarvitsemansa palvelut välittömästi ja vaivattomasti.

Mitä seuraavaksi generatiiviselle tekoälylle säännellyillä aloilla?

Terveydenhuoltoteollisuus hyötyy generatiivisesta tekoälystä monin tavoin.

Ajatellaanpa esimerkiksi Yhdysvaltojen terveydenhuoltoalaa viime aikoina koettelevaa laajaa työuupumusta. lähes 50% työvoiman ennustetaan irtisanovan vuoteen 2025 mennessä. Generatiiviset tekoälypohjaiset chatbotit voisivat auttaa keventämään suurta osaa työkuormasta ja säilyttämään liian suuret potilasryhmät.

Potilaspuolella generatiivisella tekoälyllä on potentiaalia parantaa terveydenhuollon tarjoajien puhelinpalveluita. Tekoälyautomaatiolla on valta vastata monenlaisiin tiedusteluihin eri yhteydenottokanavien kautta, mukaan lukien usein kysytyt kysymykset, IT-ongelmat, lääkkeiden täyttöpakkaukset ja lääkärin lähetteet. Lukuun ottamatta turhautumista, joka tulee odotustilassa, vain noin puolet yhdysvaltalaispotilaista ratkaisee ongelmansa onnistuneesti ensimmäisessä puhelussaan, mikä johtaa korkeaan hylkäämisasteeseen ja heikentyneeseen hoitoon. Tästä johtuva alhainen asiakastyytyväisyys luo lisäpaineita teollisuudelle.

Jotta teollisuus todella hyötyisi generatiivisesta tekoälyn toteutuksesta, terveydenhuollon tarjoajien on helpotettava LLM:ien käytettävissä olevien tietojen tarkoituksellista uudelleenjärjestelyä.