Artikel undersøger, hvordan man kan reducere risikoen ved brug af AI i medicin

Kunstig intelligens-programmer er i stand til at forbedre sundhedsplejen på en række forskellige måder. For eksempel kan AI-applikationer bruge computer vision til at hjælpe læger med at diagnostisere tilstande fra røntgenbilleder og FMRIs. Maskinlæringsalgoritmer kan også bruges til at hjælpe med at reducere falsk-positive rater ved at udtrække subtile mønstre fra data, som mennesker måske ikke kan finde i medicinske data. Men med mulighederne kommer nye udfordringer, og for nylig blev der offentliggjort en ny artikel i Science, der undersøgte mulige risici og reguleringstrategier for medicinske maskinlærings-teknikker i et forsøg på at minimere eventuelle negative sideeffekter af at anvende AI i en medicinsk kontekst.

Udvidede anvendelser for AI i sundhedsplejen

AI ser sine anvendelser i det medicinske felt udvide sig hurtigt. Recente udviklinger i sundhedssektoren, drevet af AI, omfatter oprettelsen af et nyt lægemiddelsselskab, der har til formål at bruge AI til at oprette nye lægemidler, oprettelsen af AI-drevne fjernhelse-sensorer og computer vision-applikationer, der analyserer CT-scans og røntgenbilleder.

For at være mere præcis er Genesis Therapeutics et startup, der har til formål at bruge AI til at accelerere processen med opdagelse af lægemidler, i håb om at oprette lægemidler, der kan reducere sværheden af debilitere sygdomme. Genesis Therapeutics er kun ét af næsten 170 forskellige virksomheder, der bruger AI til at forskere i nye lægemiddelformuleringer. Imens, i forhold til sundheds-overvågningsenheder, bruger iRhythm og den franske AI-startup Cardiologs AI-algoritmer til at analysere EEG-data og overvåge sundheden af personer, der har hjerteproblemer og er i risiko for komplikationer. Softwaren, der er designet af virksomhederne, kan detektere hjertemumre, en tilstand forårsaget af turbulent blodstrøm.

Til sidst fandt en recient undersøgelse, der undersøgte, hvordan computer vision kan anvendes på medicinske billeder, at computer vision-systemer præsterer mindst lige så godt eller bedre end ekspertradiologer, når de undersøger CT-scans for at finde små blødninger. Algoritmernes, der blev brugt i undersøgelsen, kunne give forudsigelser efter at have undersøgt CT-scans i blot ét sekund. Computer vision-systemerne kunne også lokalisere blødningen inden for hjernen.

Så selvom de potentielle fordele ved at bruge AI i sundhedsplejen er klare, er det mindre klart, hvilke nye udfordringer og risici, der vil opstå som en sideeffekt af at anvende AI inden for sundhedssektoren.

Regulering af et udvidende felt

Som TechXplore rapporterede, for at vurdere potentielle ulemper ved at bruge AI i sundhedsplejen, offentliggjorde en gruppe forskere for nylig en artikel i Science, der havde til formål at aflede svar på, hvordan man kan forudse potentielle problemer med AI og udvikle løsninger på disse problemer. Problemer, der kan opstå fra brug af AI i sundhedssektoren, omfatter urigtig anbefaling af behandlinger, der resulterer i skade, bekymringer omkring privatliv og algoritme-bias/ulighed.

FDA har kun godkendt medicinsk AI, der bruger “låste algoritmer”, algoritmer, der pålideligt producerer det samme resultat hver gang de køres. Men meget af AI’s potentiale ligger i dets evne til at lære og reagere på nye typer af input. For at aktivere “adaptiver algoritmer” til at se mere brug og få godkendelse fra FDA, tog forfatterne af artiklen en dybdegående kig på, hvordan risiciene relateret til opdatering af algoritmer kan minimiseres.

Forfatterne anbefaler, at maskinlæringsingeniører og forskere skal fokusere på kontinuerlig overvågning af modeller over deres levetid. Blandt de foreslåede værktøjer til at overvåge AI-systemer var AI selv, der kunne hjælpe med at give automatiserede rapporter om, hvordan et AI-system opfører sig. Det er også muligt, at multiple AI-enheder kan overvåge hinanden.

“For at håndtere risiciene, skal reguleringerne fokusere særligt på kontinuerlig overvågning og risikovurdering, og mindre på planlægning af fremtidige algoritmeændringer,” sagde forfatterne af artiklen.

Forfatterne af artiklen anbefaler også, at reguleringerne fokuserer på at udvikle nye metoder til at identificere, overvåge, vurderer og håndtere risici. Artiklen anvender mange af de teknikker, som FDA har brugt til at regulere andre former for medicinsk teknologi.

Som forfatterne af artiklen forklarede:

“Vores mål er at understrege de risici, der kan opstå fra uventede ændringer i, hvordan medicinske AI/ML-systemer reagerer eller tilpasser sig deres omgivelser. Subtile, ofte ikke-genkendte parametrisk opdateringer eller nye typer af data kan forårsage store og kostbare fejl.”