Kunstig intelligens i helsevesenet kan bringe risiko sammen med muligheter

Kunstig intelligens har enormt potensial når det gjelder helsefeltet, og kan forbedre diagnoser og finne nye, mer effektive legemidler. Imidlertid, som en artikkel i Scientific American nylig diskuterte, åpner hastigheten med hvilken kunstig intelligens trenger inn i helsefeltet også opp for mange nye utfordringer og risikoer.

Over de siste fem årene har den amerikanske mat- og legemiddeladministrasjonen (FDA) godkjent over 40 forskjellige kunstig intelligens-produkter. Imidlertid, som rapportert av Scientific American, har ingen av produktene som er godkjent for salg i USA hatt sin ytelse evaluert i randomiserte kontrollerte kliniske studier. Mange kunstig intelligens-verktøy for medisinske formål trenger ikke godkjenning fra FDA.

Evan Topol, forfatteren av “Deep Medicine: Hvordan kunstig intelligens kan gjøre helsevesenet mer menneskelig”, uttalte til Scientific American at mange av de kunstig intelligens-produktene som hevder å være effektive til oppgaver som å diagnostisere sykdommer, faktisk har blitt grundig testet, med den første store randomiserte studien av en kunstig intelligens-verktøy for diagnostisering og diagnose gjennomført for noen måneder siden. Videre har svært få teknologiske startups publisert sine forskningsrapporter i fagfellevurderte tidsskrifter, deres arbeid vil bli analysert av vitenskapsmenn.

Når de er riktig testet og kontrollert, kan kunstig intelligens-systemer være kraftfulle verktøy som kan hjelpe medisinske fagfolk med å oppdage symptomer som ellers ville være uoppdaget, og forbedre helseutfallene.

Som et eksempel ble et kunstig intelligens-verktøy for å diagnostisere diabetisk øyensykdom testet på hundrevis av pasienter og viste seg å være pålitelig. Selskapet som stod bak testen arbeidet sammen med FDA i over åtte år for å forbedre produktet. Testen, IDx-DR, er nå på vei til primærhelsetjenesten, der den potensielt kan hjelpe med å diagnostisere tidlige tegn på diabetisk retinopati og henviser pasienter til øyespesialister hvis mistenkte symptomer oppdages.

Hvis de ikke testes nøye, kan kunstig intelligens-systemer som medisinske fagfolk kan bruke til å guide sin diagnose og behandling, skape skade i stedet for å unngå den.

Artikkelen i Scientific American beskriver et potensielt problem med å bruke kunstig intelligens til å diagnostisere sykdommer, og peker på eksemplet med et kunstig intelligens-system som er ment å analysere bryst-røntgenbilder og diagnostisere hvilke pasienter som kan utvikle lungebetennelse. Mens systemet viste seg å være nøyaktig når det ble testet på Mount Sinai-sykehuset i New York, feilet det når det ble testet på bilder tatt på andre sykehus. Forskerne fant ut at kunstig intelligens-systemet skilte mellom bilder tatt med bærbare røntgenapparater og bilder tatt i en radiologisk avdeling. Legene bruker bærbare bryst-røntgenapparater på pasienter som ofte er for syke til å forlate sengen, og disse pasientene er på større risiko for å utvikle lungebetennelse.

Falske alarmer er også en bekymring. DeepMind utviklet en kunstig intelligens-mobilapp som kan forutsi akutt nyresvikt hos innlagte pasienter opptil 48 timer i forveien. Imidlertid rapporterte systemet også to falske alarmer for hver nyresvikt som ble suksessfullt forutsagt. Falske positiver kan være skadelige, da de kan få legene til å bruke unødvendig tid og ressurser på å bestille flere tester eller endre foreskrevne behandlinger.

I en annen hendelse konkluderte et kunstig intelligens-system feilaktig at pasienter som hadde lungebetennelse var mer sannsynlig å overleve hvis de hadde astma, noe som kunne få legene til å endre behandlinger for pasienter med astma.

Kunstig intelligens-systemer som er utviklet for ett sykehus, kan ofte underprestere når de brukes på et annet sykehus. Det finnes flere årsaker til dette. For det første er kunstig intelligens-systemer ofte trent på elektroniske helsejournaler, men mange elektroniske helsejournaler er ofte ufullstendige eller feil, da deres primære formål ofte er fakturering og ikke pasientpleie. For eksempel fant en undersøkelse gjennomført av KHN at det noen ganger var livstruende feil i pasientenes medisinske journaler, som medikamentlister som inneholdt feil medisiner. Videre er sykdommer ofte mer kompliserte, og helsevesenet mer komplekst, enn hva kunstig intelligens-ingeniører og forskere ofte kan forutse.

Etterhvert som kunstig intelligens blir mer og mer utbredt, vil det være viktig for kunstig intelligens-utviklere å arbeide sammen med helsemyndighetene for å sikre at deres kunstig intelligens-systemer er grundig testet, og for regulatorene å sikre at standarder settes og følges for påliteligheten av kunstig intelligens-diagnostiske verktøy.