Kunstig intelligens i helsevesenet kan bringe risiko sammen med muligheter

Kunstig intelligens (KI) har enormt potensial når det gjelder helsefeltet, og kan forbedre diagnoser og finne nye, mer effektive legemidler. Imidlertid, som en artikkel i Scientific American nylig diskuterte, åpner hastigheten med hvilken KI trenger inn i helsefeltet også opp for mange nye utfordringer og risikoer.

Over de siste fem årene har USAs mat- og legemiddeladministrasjon (FDA) godkjent over 40 forskjellige KI-produkter. Imidlertid, som rapportert av Scientific American, har ingen av produktene som er godkjent for salg i USA hatt sin ytelse evaluert i randomiserte kontrollerte kliniske studier. Mange KI-mediske verktøy trenger ikke engang godkjenning fra FDA.

Evan Topol, forfatteren av “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”, uttalte til Scientific American at mange av KI-produktene som hevder å være effektive i oppgaver som å diagnostisere sykdommer, faktisk har blitt grundig testet, med den første store randomiserte studien av en KI-deteksjons- og diagnostisk verktøy som ble gjennomført i oktober i fjor. Videre, publiserer svært få teknologiske startups sine forskningspapirer i fagfellevurderte tidsskrifter, som er deres arbeid vil bli analysert av vitenskapsmenn.

Når de testes og kontrolleres ordentlig, kan KI-systemer være kraftfulle verktøy som kan hjelpe medisinske fagfolk med å oppdage symptomer som ellers ville være uoppdaget, og forbedre helseresultatene.

Som et eksempel, ble et KI-verktøy for å diagnostisere diabetisk øyesykdom testet på hundredvis av pasienter og syntes å være pålitelig. Selskapet som var ansvarlig for testen, arbeidet sammen med FDA i over åtte år for å forbedre produktet. Testen, IDx-DR, er på vei til primærhelsetjenesten, hvor den potensielt kan hjelpe med å oppdage tidlige tegn på diabetisk retinopati og henviser pasienter til øyespesialister hvis mistenkte symptomer oppdages.

Hvis de ikke testes omsorgsfullt, kan KI-systemer som medisinske fagfolk kan bruke til å guide sin diagnose og behandling, potensielt skape skade i stedet for å unngå den.

Artikkelen i Scientific American beskriver ett potensielt problem med å bruke KI til å diagnostisere sykdommer, og peker på eksemplet med en KI som var ment å analysere bryst-røntgenbilder og oppdage hvilke pasienter som kan utvikle lungebetennelse. Mens systemet viste seg å være nøyaktig når det ble testet på Mount Sinai-sykehuset i New York, feilet det når det ble testet på bilder tatt på andre sykehus. Forskerne fant ut at KI-en skilte mellom bilder skapt av portable røntgen-systemer og de som ble skapt i en radiologisk avdeling. Legene bruker portable bryst-røntgen-systemer på pasienter som ofte er for syke til å forlate sengene sine, og disse pasientene er i større risiko for å utvikle lungebetennelse.

Falske alarmer er også en bekymring. DeepMind skapte en KI-mobilapp som kan forutsi akutt nyresvikt hos innlagte pasienter opptil 48 timer i forveien. Imidlertid rapporterte systemet også to falske alarmer for hver nyresvikt som ble suksessfullt forutsagt. Falske positiver kan være skadelige, da de kan få legene til å bruke unødvendig tid og ressurser på å bestille flere tester eller endre foreskrevne behandlinger.

I en annen hendelse, konkluderte et KI-system feilaktig at pasienter som hadde lungebetennelse, var mer sannsynlig å overleve hvis de hadde astma, noe som kunne få legene til å endre behandlinger for pasienter med astma.

KI-systemer som er utviklet for ett sykehus, kan yte dårligere når de brukes på et annet sykehus. Det er flere årsaker til dette. For det første, er KI-systemer ofte trent på elektroniske helsejournaler, men mange elektroniske helsejournaler er ofte ufullstendige eller feil, da deres primære formål ofte er fakturering og ikke pasientpleie. For eksempel, fant en undersøkelse gjennomført av KHN at det på noen tilfeller var livstruende feil i pasientenes medisinske journaler, som for eksempel medikamentslister som inneholdt feil medisiner. Videre er sykdommer ofte mer kompliserte, og helsevesenet mer komplekst, enn hva KI-ingeniører og forskere ofte kan forutse.

Etterhvert som KI blir mer og mer utbredt, vil det være viktig at KI-utviklere samarbeider med helsemyndighetene for å sikre at deres KI-systemer er grundig testet, og at regulatorene sikrer at standarder settes og følges for påliteligheten av KI-diagnostiske verktøy.