Papir undersøker hvordan man kan redusere risikoen ved å bruke AI i medisin

Kunstig intelligens-programmer er i stand til å forbedre helsevesenet på en rekke måter. For eksempel kan AI-applikasjoner bruke datavisjon til å hjelpe leger med å diagnostisere tilstander fra røntgenbilder og MR-bilder. Maskinlæringsalgoritmer kan også brukes til å hjelpe med å redusere falsk-positiv rate ved å trekke ut subtile mønster fra data som mennesker kanskje ikke kan finne i medisinske data. Men med mulighetene kommer også nye utfordringer, og nylig ble det publisert en ny artikkel i Science som undersøkte mulige risikoer og regulatoriske strategier for medisinske maskinlærings-teknikker i et forsøk på å minimere eventuelle negative bieffekter av å bruke AI i en medisinsk kontekst.

Utvidede applikasjoner for AI i helsevesenet

AI ser sine applikasjoner i det medisinske feltet utvide raskt. Nyutviklinger i feltet helsevesen, drevet av AI, inkluderer opprettelsen av et nytt legemiddelfirma som har som mål å bruke AI til å oppdage nye legemidler, opprettelsen av AI-drevne fjernhelse-sensorer og datavisjons-applikasjoner som analyserer CT-skanninger og røntgenbilder.

For å være mer presis, er Genesis Therapeutics et startup som har som mål å bruke AI til å akselerere prosessen med å oppdage nye legemidler, i håp om å kunne lage legemidler som kan redusere alvorlighetsgraden av funksjonshemninger. Genesis Therapeutics er bare ett av nesten 170 forskjellige firmaer som bruker AI til å forskke på nye legemiddelformulasjoner. I mellomtiden, når det gjelder helseovervåkingsenheter, bruker iRhythm (IRTC ) og den franske AI-startupen Cardiologs AI-algoritmer til å analysere EEG-data og overvåke helsen til de som har hjerte-problemer og er i fare for komplikasjoner. Programvaren designet av selskapene kan detektere hjerte-murmur, en tilstand forårsaket av turbulent blodstrøm.

Til slutt fant en nylig studie som undersøkte hvordan datavisjon kan brukes på medisinske bilder, at datavisjonssystemer utfører like godt eller bedre enn ekspert-radiologer når de undersøker CT-skanninger for å finne små blødninger. Algoritmene brukt i studien kunne gi prediksjoner etter å ha undersøkt CT-skanninger i bare ett sekund. Datavisjonssystemene kunne også lokalisere blødningen innenfor hjernen.

Så mens de potensielle fordelene med å bruke AI i helsevesenet er klare, er det mindre klart hva slags nye utfordringer og risikoer som vil oppstå som en bieffekt av å bruke AI innenfor helsefeltet.

Regulering av et utvidende felt

Som TechXplore rapporterte, for å vurdere mulige ulemper ved å bruke AI i helsevesenet, publiserte en gruppe forskere nylig en artikkel i Science, med mål om å finne svar på å forutse mulige problemer med AI og utforske mulige løsninger på disse problemene. Problemer som kan oppstå fra å bruke AI i helsefeltet inkluderer uriktig anbefaling av behandlinger som resulterer i skade, bekymringer om personvern og algoritme-bias/ulikhet.

FDA har bare godkjent medisinsk AI som bruker “låste algoritmer”, algoritmer som pålitelig produserer det samme resultatet hver gang de kjøres. Men mye av AIens potensiale ligger i dens evne til å lære og reagere på nye typer innputt. For å kunne bruke “tilpasningsdyktige algoritmer” mer og få godkjenning fra FDA, tok forfatterne av artikkelen en nærmere titt på hvordan risikoene relatert til oppdatering av algoritmer kan minimeres.

Forfatterne anbefaler at maskinlæringsingeniører og forskere skal fokusere på kontinuerlig overvåking av modeller over hele levetiden til deres distribusjon. Blant de foreslåtte verktøyene for å overvåke AI-systemer var AI selv, som kunne hjelpe med å gi automatiske rapporter om hvordan en AI oppfører seg. Det er også mulig at flere AI-enheter kunne overvåke hverandre.

“For å håndtere risikoene, bør regulatorer fokusere spesielt på kontinuerlig overvåking og risikovurdering, og mindre på planlegging for fremtidige algoritme-endringer,” sa forfatterne av artikkelen.

Forfatterne av artikkelen anbefaler også at regulatorer skal fokusere på å utvikle nye metoder for å identifisere, overvåke, vurdere og håndtere risikoer. Artikkelen anvender mange av teknikken som FDA har brukt til å regulere andre former for medisinsk teknologi.

Som forfatterne av artikkelen forklarte:

“Vårt mål er å understreke risikoene som kan oppstå fra uventede endringer i hvordan medisinske AI/ML-systemer reagerer eller tilpasser seg sine omgivelser. Subtile, ofte uerkjente parametrisk oppdateringer eller nye typer data kan forårsake store og kostbare feil.”