Papir undersøker hvordan man kan redusere risikoen ved å bruke AI i medisin

Kunstig intelligens-programmer er i stand til å forbedre helsevesenet på en rekke måter. For eksempel kan AI-applikasjoner bruke datavisjon til å hjelpe leger med å diagnostisere tilstander fra røntgenbilder og FMRIs. Maskinlæringsalgoritmer kan også brukes til å hjelpe med å redusere falske positive rater ved å trekke ut subtile mønster fra data som mennesker kanskje ikke kan finne i medisinske data. Men med mulighetene kommer nye utfordringer, og nylig ble det publisert en ny artikkel i Science som undersøkte mulige risikoer og regulatoriske strategier for medisinske maskinlærings-teknikker i et forsøk på å minimere eventuelle negative bieffekter av å bruke AI i en medisinsk sammenheng.

Utvidede applikasjoner for AI i helsevesenet

AI ser sine applikasjoner i det medisinske feltet utvide raskt. Nylige utviklinger i helsevesenet, drevet av AI, inkluderer opprettelsen av et nytt legemiddelfirma som har som mål å bruke AI til å skape nye legemidler, opprettelsen av AI-drevne fjernhelse-sensorer og datavisjons-applikasjoner som analyserer CT-skanninger og røntgenbilder.

For å være mer presis, er Genesis Therapeutics et startup som har som mål å bruke AI til å akselerere prosessen med å oppdage nye legemidler, i håp om å skape legemidler som kan redusere alvorlighetsgraden av funksjonshemmende sykdommer. Genesis Therapeutics er bare ett av nesten 170 forskjellige firmaer som bruker AI til å forskere på nye legemiddelformuleringer. I mellomtiden, når det gjelder helseovervåkingsenheter, bruker iRhythm og den franske AI-startupen Cardiologs AI-algoritmer til å analysere EEG-data og overvåke helsen til de som har hjerteproblemer og er i risiko for komplikasjoner. Programvaren designet av selskapene kan detektere hjertemurmere, en tilstand forårsaket av turbulent blodstrøm.

Til slutt fant en nylig studie som undersøkte hvordan datavisjon kan brukes på medisinske bilder, at datavisjonssystemer utfører like godt eller bedre enn ekspert-radiologer når de undersøker CT-skanninger for å finne små blødninger. Algoritmene som ble brukt i studien kunne gi prediksjoner etter å ha undersøkt CT-skanninger i bare ett sekund. Datavisjonssystemene kunne også lokalisere blødningen i hjernen.

Så mens de potensielle fordelene med å bruke AI i helsevesenet er klare, er det mindre klart hva slags nye utfordringer og risikoer som vil oppstå som en bieffekt av å bruke AI innen helsevesenet.

Regulering av et utvidende felt

Som TechXplore rapporterte, for å vurdere potensielle ulemper ved å bruke AI i helsevesenet, publiserte en gruppe forskere nylig en artikkel i Science, med mål om å finne svar på å forutse potensielle problemer med AI og utforske potensielle løsninger på disse problemene. Problemer som kan oppstå fra å bruke AI i helsevesenet inkluderer uriktig anbefaling av behandlinger som kan føre til skade, bekymringer om personvern og algoritme-bias/ulikhet.

FDA har bare godkjent medisinsk AI som bruker “låste algoritmer”, algoritmer som pålitelig produserer samme resultat hver gang de kjøres. Men mye av AI-s muligheter ligger i dens evne til å lære og reagere på nye typer inndata. For å aktivere “adaptative algoritmer” til å se mer bruk og få godkjenning fra FDA, tok forfatterne av artikkelen en dyptgående titt på hvordan risikoene relatert til oppdatering av algoritmer kan minimeres.

Forfatterne anbefaler at maskinlæringsingeniører og forskere skal fokusere på kontinuerlig overvåking av modeller over hele levetiden til deres utrulling. Blant de foreslåtte verktøyene for å overvåke AI-systemer var AI selv, som kunne hjelpe med å gi automatiserte rapporter om hvordan en AI oppfører seg. Det er også mulig at flere AI-enheter kunne overvåke hverandre.

“For å håndtere risikoene, bør regulatorer fokusere spesielt på kontinuerlig overvåking og risikovurdering, og mindre på planlegging for fremtidige algoritme-endringer,” sa forfatterne av artikkelen.

Forfatterne av artikkelen anbefaler også at regulatorer fokuserer på å utvikle nye metoder for å identifisere, overvåke, vurdere og håndtere risikoer. Artikkelen anvender mange av de teknikker som FDA har brukt til å regulere andre former for medisinsk teknologi.

Som forfatterne av artikkelen forklarte:

“Vårt mål er å understreke risikoene som kan oppstå fra uventede endringer i hvordan medisinske AI/ML-systemer reagerer eller tilpasser seg sine omgivelser. Subtile, ofte uerkjente parametrisk oppdateringer eller nye typer data kan forårsake store og kostbare feil.”