Generativ kunstig intelligens i sundhedssektoren har brug for en dosis forklaring

Den bemærkelsesværdige hastighed, hvormed tekstbaserede generative AI-værktøjer kan udføre skrive- og kommunikationsopgaver på højt niveau, har ramt både virksomheder og forbrugere. Men de processer, der finder sted bag kulisserne for at muliggøre disse imponerende egenskaber, kan gøre det risikabelt for følsomme, regeringsregulerede industrier, såsom forsikring, finans eller sundhedspleje, at udnytte generativ kunstig intelligens uden at bruge betydelig forsigtighed.

Nogle af de mest illustrative eksempler på dette kan findes i sundhedssektoren.

Sådanne problemer er typisk relateret til de omfattende og forskelligartede datasæt, der bruges til at træne store sprogmodeller (LLM'er) - de modeller, som tekstbaserede generative AI-værktøjer lever af for at udføre opgaver på højt niveau. Uden eksplicit ekstern intervention fra programmører har disse LLM'er en tendens til at skrabe data vilkårligt fra forskellige kilder på tværs af internettet for at udvide deres vidensbase.

Denne tilgang er mest velegnet til lavrisiko forbrugerorienterede use cases, hvor det ultimative mål er at lede kunderne til ønskværdige tilbud med præcision. I stigende grad skjuler store datasæt og de forvirrede veje, hvormed AI-modeller genererer deres output, forklarlighed som hospitaler og sundhedsudbydere kræver for at spore og forhindre potentielle unøjagtigheder.

I denne sammenhæng refererer forklaringsevne til evnen til at forstå enhver given LLM's logiske veje. Sundhedspersonale, der ønsker at anvende generative AI-værktøjer, skal have midlerne til at forstå hvordan deres modeller giver resultater, så patienter og personale er udstyret med fuld gennemsigtighed gennem forskellige beslutningsprocesser. Med andre ord, i en industri som sundhedsvæsenet, hvor liv står på spil, er indsatsen simpelthen for høj til, at fagfolk kan fejlfortolke de data, der bruges til at træne deres AI-værktøjer.

Heldigvis er der en måde at omgå generativ AI's forklaringsproblem på – det kræver bare lidt mere kontrol og fokus.

Mystik og skepsis

I generativ AI er konceptet med at forstå, hvordan en LLM kommer fra punkt A – inputtet – til punkt B – outputtet – langt mere komplekst end med ikke-generative algoritmer, der kører langs flere faste mønstre.

Generative AI-værktøjer skaber utallige forbindelser, mens de går fra input til output, men for den eksterne iagttager forbliver det et mysterium, hvordan og hvorfor de laver en given serie af forbindelser. Uden en måde at se den 'tankeproces', som en AI-algoritme tager, mangler menneskelige operatører et grundigt middel til at undersøge dens ræsonnement og spore potentielle unøjagtigheder.

Derudover komplicerer de kontinuerligt ekspanderende datasæt, der bruges af ML-algoritmer, forklaringen yderligere. Jo større datasættet er, jo mere sandsynligt er det, at systemet lærer af både relevant og irrelevant information og udsender "AI-hallucinationer" - løgne, der afviger fra eksterne fakta og kontekstuel logik, dog overbevisende.

I sundhedssektoren kan disse typer af fejlbehæftede resultater give anledning til en byge af problemer, såsom fejldiagnoser og forkerte recepter. Bortset fra etiske, juridiske og økonomiske konsekvenser kan sådanne fejl nemt skade sundhedsudbydernes omdømme og de medicinske institutioner, de repræsenterer.

Så på trods af dets potentiale til at forbedre medicinske interventioner, forbedre kommunikationen med patienter og styrke den operationelle effektivitet, forbliver generativ AI i sundhedsvæsenet indhyllet i skepsis, og med rette – 55 % af klinikerne mener ikke, at det er klar til medicinsk brug, og 58 % har fuldstændig mistillid til det. Alligevel er sundhedsorganisationer skubber frem, hvor 98 % integrerer eller planlægger en generativ AI-implementeringsstrategi i et forsøg på at opveje virkningen af ​​sektorens igangværende mangel på arbejdskraft.

Styr kilden

Sundhedsindustrien er ofte fanget på bagsiden i det nuværende forbrugerklima, som værdsætter effektivitet og hurtighed frem for at sikre jernbeklædte sikkerhedsforanstaltninger. Seneste nyheder omkring faldgruberne ved næsten grænseløs data-skrabning til træning af LLM'er, hvilket fører til retssager for krænkelse af ophavsretten, har bragt disse spørgsmål på spidsen. Nogle virksomheder står også over for påstande om, at borgernes personlige data blev udvundet for at træne disse sprogmodeller, hvilket potentielt krænker privatlivslovgivningen.

AI-udviklere til stærkt regulerede industrier bør derfor udøve kontrol over datakilder for at begrænse potentielle fejl. Det vil sige, prioriter at udtrække data fra pålidelige, branchekontrollerede kilder i modsætning til at skrabe eksterne websider tilfældigt og uden udtrykkelig tilladelse. For sundhedsindustrien betyder det, at datainput begrænses til FAQ-sider, CSV-filer og medicinske databaser – blandt andre interne kilder.

Hvis dette lyder noget begrænsende, kan du prøve at søge efter en tjeneste på et stort sundhedssystems hjemmeside. Amerikanske sundhedsorganisationer udgiver hundredvis, hvis ikke tusindvis af informationssider på deres platforme; de fleste er begravet så dybt, at patienterne faktisk aldrig kan få adgang til dem. Generative AI-løsninger baseret på interne data kan levere denne information til patienter bekvemt og problemfrit. Dette er en win-win for alle sider, da sundhedssystemet endelig ser ROI fra dette indhold, og patienterne kan finde de tjenester, de har brug for øjeblikkeligt og ubesværet.

Hvad er det næste for Generativ AI i regulerede industrier?

Sundhedsindustrien kan drage fordel af generativ kunstig intelligens på en række måder.

Tænk for eksempel på den udbredte udbrændthed, der har ramt den amerikanske sundhedssektor på det seneste – tæt på 50% af arbejdsstyrken forventes at stoppe i 2025. Generative AI-drevne chatbots kan hjælpe med at lindre meget af arbejdsbyrden og bevare overudvidede patientadgangsteams.

På patientsiden har generativ kunstig intelligens potentialet til at forbedre sundhedsudbyderes call center-tjenester. AI-automatisering har magten til at adressere en bred vifte af forespørgsler gennem forskellige kontaktkanaler, herunder ofte stillede spørgsmål, it-problemer, farmaceutiske refills og lægehenvisninger. Bortset fra den frustration, der følger med at vente på hold, kun omkring halvdelen af amerikanske patienter med succes løser deres problemer ved deres første opkald, hvilket resulterer i høje afbrydelsesrater og nedsat adgang til pleje. Den resulterende lave kundetilfredshed skaber yderligere pres for industrien til at handle.

For at industrien virkelig kan drage fordel af generativ AI-implementering, skal sundhedsudbydere lette bevidst omstrukturering af de data, deres LLM'er har adgang til.