Mikä tahansa AI-välittäjä voi puhua. Harvat voivat olla luotettavia

AI-välittäjien tarve terveydenhuollossa on kiireellinen. Ympäri alaa, ylityöllistetyt tiimit ovat jumiutuneet ajanhaustaviin tehtäviin, jotka hidastavat potilashoitoa. Kliinikot ovat venyneet ohueksi, maksajien asiakaspalvelukeskukset ovat ylikuormittuneita, ja potilaat jäävät odottamaan vastauksia välittömiin huolenaiheisiin.

AI-välittäjät voivat auttaa täyttämällä syviä aukkoja, laajentamalla kliinisen ja hallinnollisen henkilöstön ulottuvuutta ja vähentämällä terveydenhuollon henkilöstön ja potilaiden uupumusta. Mutta ennen kuin voimme tehdä niin, meidän on luotava vahva perusta AI-välittäjien luottamukseen. Se luottamus ei tule lämpimästä äänensävystä tai keskustelukyvystä. Se tulee insinööritöistä.

Vaikka kiinnostus AI-välittäjiin kasvaa räjähdysmäisesti ja otsikot julistavat agenssivälittäjien lupaavuutta, terveydenhuollon johtajat – jotka ovat vastuussa potilailleen ja yhteisöilleen – ovat edelleen epäröiviä käyttää tätä teknologiaa laajamittaisesti. Start-up-yritykset mainostavat agenssivälittäjien kykyjä, jotka ulottuvat järjestelmällisten tehtävien automaatioon, kuten ajanvaraukseen, ja korkean kosketuksen potilasviestintään ja hoitoon. Kuitenkin useimmat eivät ole vielä osoittaneet, että nämä sitoutumiset ovat turvallisia.

Monet heistä eivät koskaan tee sitä.

Todellisuus on, että kuka tahansa voi käynnistää ääniagentin, joka perustuu suureen kielimalliin (LLM), antaa sille myötätuntoisen sävyn ja käsikirjoittaa keskustelun, joka kuulostaa vakuuttavalta. On paljon alustoja, jotka tarjoavat tällaisia agenteja jokaisessa alalla. Heidän agenttinsa saattavat näyttää ja kuulostaa erilaisilta, mutta kaikki heistä käyttäytyvät samalla tavalla – alttiina harhaluuluisuudelle, kykenemättömiä vahvistamaan kriittisiä tosiasioita ja puuttuvia mekanismeja, jotka varmistavat vastuullisuuden.

Tämä lähestymistapa – rakentaa usein liian ohut kuori perussuureen LLM:ään – saattaa toimia aloilla kuten vähittäiskauppa tai hotelliala, mutta se epäonnistuu terveydenhuollossa. Perusmallit ovat poikkeuksellisia työkaluja, mutta ne ovat pääasiassa yleiskäyttöisiä; ne eivät ole koulutettu erityisesti kliinisiin protokolliin, maksajien käytäntöihin tai sääntelynormeihin. Jopa kaikkein suorapuheisimmat agentit, jotka on rakennettu näiden mallien päälle, voivat ajautua harhaluuluisuuden alueelle, vastata kysymyksiin, joita ei pitäisi vastata, keksivät tosiasioita tai eivät tunnista, kun ihminen on tuotava mukaan.

Näiden käyttäytymisen seuraukset eivät ole teoreettisia. Ne voivat sekoittaa potilaita, häiritä hoitoa ja johtaa kalliisiin ihmisten uudelleen tekemisiin. Tämä ei ole älyongelma. Se on infrastruktuuriongelma.

Toimimaan turvallisesti, tehokkaasti ja luotettavasti terveydenhuollossa, AI-välittäjien on oltava enemmän kuin vain autonomiset äänet puhelimen toisessa päässä. Niiden on oltava järjestelmiä, jotka on suunniteltu erityisesti ohjaukseen, kontekstiin ja vastuullisuuteen. Kokemuksestani näiden järjestelmien rakentamisesta, tässä on mitä se käytännössä tarkoittaa.

Vastausohjaus voi tehdä harhaluuluisuuden olemattomaksi

AI-välittäjien terveydenhuollossa ei voi vain tuottaa uskottavia vastauksia. Niiden on annettava oikeat vastaukset, joka kerta. Tämä vaatii ohjattavissa olevan “toimintatilan” – mekanismin, joka sallii AI:n ymmärtää ja helpottaa luonnollista keskustelua, mutta varmistaa, että jokainen mahdollinen vastaus on rajoitettu ennalta hyväksyttyyn logiikkaan.

Vastausohjausparametrien ollessa mukana, agentit voivat vain viitata vahvistettuihin protokolleihin, ennalta määritettyihin toimintamenettelyihin ja sääntelynormeihin. Mallin luovuutta hyödynnetään ohjaamaan vuorovaikutuksia eikä keksimään tosiasioita. Tämä on tapa, jolla terveydenhuollon johtajat voivat varmistaa, että harhaluuluisuuden riski on kokonaan poistettu – ei testaamalla pilottiprojektissa tai yhdessä fokusryhmässä, vaan suunnittelemalla riskin pois alusta alkaen.

Erikoistuneet tietoverkot voivat varmistaa luotettavat vaihdot

Jokaisen terveydenhuollon keskustelun konteksti on syvän henkilökohtainen. Kaksi henkilöä, joilla on tyypin 2 diabetes, saattavat asua samalla alueella ja sopia samalle riskiprofiilille. Heidän oikeutensa tiettyyn lääkkeeseen vaihtelee heidän lääkärin hoitokäytännön, vakuutussuunnitelman ja formularioluokan mukaan.

AI-välittäjien on tarpeen pääsy tähän kontekstiin, mutta niiden on myös kyettävä järkeilemään sen kanssa reaaliajassa. Erikoistunut tietoverkko tarjoaa tämän kyvyn. Se on järjestelmällinen tapa esittää tietoa useista luotettavista lähteistä, joka mahdollistaa agenttien tarkistamisen siitä, mitä he kuulevat, ja varmistamisen, että tieto, jonka he antavat takaisin, on sekä tarkin että henkilökohtainen. Agentit, joilla ei ole tätä kerrosta, saattavat kuulostaa tietäviltä, mutta ne seuraavat vain joustamattomia työnkulkuja ja täyttävät aukot.

Robustit tarkastusjärjestelmät voivat arvioida tarkin

Potilas saattaa lopettaa puhelun AI-välittäjän kanssa ja tuntea tyytyväisyyttä, mutta agentin työ on vasta alkanut. Terveydenhuolto-organisaatioiden on varmistettava, että agentti ei vain tuottanut oikein tietoa, vaan ymmärsi ja dokumentoi vuorovaikutuksen. Siinä on, missä automaattiset jälkikäsittelyjärjestelmät tulevat kuvaan.

Robusti tarkastusjärjestelmä tulisi arvioida jokaista keskustelua samalla tarkkuudella kuin ihmishenkilö, jolla on kaikki aika maailmassa. Se tulisi pystyä tunnistamaan, oliko vastaus tarkin, varmistamaan, että oikea tieto oli tallennettu, ja määrittämään, onko seuraamista tarpeen. Jos jotain ei ole oikein, agentin tulisi pystyä siirtymään ihmiseen, mutta jos kaikki on kunnossa, tehtävä voidaan merkitä to-do-listalle luottavaisesti.

Näiden kolmen perustavan elementin lisäksi, jotka vaaditaan luotettavuuden insinöörimiseen, jokaisen agenssivälittäjä-infrastruktuurin on oltava robusti turvallisuus- ja vaatimustenmukaisuuskehys, joka suojaa potilastietoja ja varmistaa, että agentit toimivat sääntelyrajoitusten puitteissa. Tämä kehys tulisi sisältää tiukat säännökset, kuten SOC 2 ja HIPAA, mutta siinä tulisi myös olla prosesseja, jotka on sisällytetty puolueettomuustestaukseen, suojattujen terveydenhuollon tietojen poistoon ja tietojen säilyttämiseen.

Nämä turvallisuussuojausjärjestelmät eivät ainoastaan tarkista vaatimustenmukaisuusruutuja. Ne muodostavat luotettavan järjestelmän rungon, joka voi varmistaa, että jokainen vuorovaikutus hoidetaan tasolla, jota potilaat ja tarjoajat odottavat.

Terveydenhuollon alalla ei tarvita enää AI-huuruuta. Sille tarvitaan luotettavaa AI-infrastruktuuria. Agenssivälittäjien tapauksessa luottamus ei niinkään ansaita kuin insinööritään.