Artikel undersøger, hvordan man kan reducere risikoen ved brug af AI i medicin

Kunstig intelligens-programmer er i stand til at forbedre sundhedspleje på en række forskellige måder. For eksempel kan AI-programmer bruge computer vision til at hjælpe læger med at diagnostisere tilstande fra røntgenbilleder og FMRIs. Maskinlæringsalgoritmer kan også bruges til at hjælpe med at reducere falsk-positive rater ved at udtrække subtile mønstre fra data, som mennesker måske ikke kan finde i medicinske data. Men med mulighederne kommer nye udfordringer, og for nylig blev der offentliggjort en ny artikel i Science, der undersøgte mulige risici og regulatoriske strategier for medicinske maskinlærings-teknikker i et forsøg på at minimere eventuelle negative sideeffekter af at anvende AI i en medicinsk kontekst.

Udvidede anvendelser for AI i sundhedspleje

AI ser sine anvendelser i det medicinske felt udvide sig hurtigt. Recente udviklinger i sundhedssektoren, drevet af AI, omfatter oprettelsen af et nyt lægemiddelsselskab, der har til formål at bruge AI til at udvikle nye lægemidler, oprettelsen af AI-drevne fjern sundheds sensorer og computer vision-applikationer, der analyserer CT-scans og røntgenbilleder.

For at være mere præcis er Genesis Therapeutics et startup-selskab, der har til formål at bruge AI til at accelerere procesen med at opdage nye lægemidler, i håb om at skabe lægemidler, der kan reducere sværheden af invalidiserende sygdomme. Genesis Therapeutics er kun ét af næsten 170 forskellige virksomheder, der bruger AI til at forskere i nye lægemiddel-formuleringer. Imens bruger iRhythm (IRTC ) og den franske AI-startup Cardiologs AI-algoritmer til at analysere EEG-data og overvåge sundheden af personer, der har hjerteproblemer og er i risiko for komplikationer. Softwaren, der er designet af virksomhederne, kan detektere hjertemumre, en tilstand forårsaget af turbulent blodstrøm.

Til sidst fandt en recents studie, der undersøgte, hvordan computer vision kan anvendes på medicinske billeder, at computer vision-systemer opfører sig mindst lige så godt eller bedre end ekspertradiologer, når de undersøger CT-scans for at finde små blødninger. Algoritmernes, der blev brugt i studiet, kunne give forudsigelser efter at have undersøgt CT-scans i blot ét sekund. Computer vision-systemerne kunne også lokalisere blødningen inden for hjernen.

Så selvom de potentielle fordele ved at bruge AI i sundhedspleje er klare, er det mindre klart, hvilke nye udfordringer og risici, der vil opstå som en sideeffekt af at anvende AI inden for sundhedssektoren.

Regulering af et udvidende felt

Som TechXplore rapporterede, offentliggjorde en gruppe forskere for nylig en artikel i Science, der havde til formål at aflede svar på, hvordan man kan forudse potentielle problemer med AI og udvikle potentielle løsninger på disse problemer. Problemer, der kan opstå fra brug af AI i sundhedssektoren, omfatter ugyldige anbefalinger af behandlinger, der resulterer i skader, bekymringer om privatliv og algoritme-bias/ulighed.

FDA har kun godkendt medicinsk AI, der bruger “låste algoritmer”, algoritmer, der pålideligt producerer det samme resultat hver gang de køres. Men meget af AI’s potentiale ligger i dets evne til at lære og reagere på nye typer af input. For at aktivere “tilpasningsalgoritmer” til at se mere brug og få godkendelse fra FDA, tog artiklens forfattere en dybdegående kig på, hvordan risiciene relateret til opdatering af algoritmer kan minimiseres.

Forfatterne anbefaler, at maskinlæringsingeniører og forskere skal fokusere på kontinuerlig overvågning af modeller over deres levetid. Blandt de foreslåede værktøjer til at overvåge AI-systemer var AI selv, der kunne hjælpe med at give automatiserede rapporter om, hvordan en AI opfører sig. Det er også muligt, at multiple AI-enheder kunne overvåge hinanden.

“For at styre risiciene, skal regulatorer fokusere særligt på kontinuerlig overvågning og risikovurdering, og mindre på planlægning af fremtidige algoritmeændringer,” sagde artiklens forfattere.

Artiklens forfattere anbefaler også, at regulatorer skal fokusere på at udvikle nye metoder til at identificere, overvåge, vurderer og styre risici. Artiklen anvender mange af de teknikker, som FDA har brugt til at regulere andre former for medicinsk teknologi.

Som artiklens forfattere forklarede:

“Vores mål er at understrege de risici, der kan opstå fra uventede ændringer i, hvordan medicinske AI/ML-systemer reagerer eller tilpasser sig deres omgivelser. Subtile, ofte ikke-genkendte parametrisk opdateringer eller nye typer af data kan forårsage store og dyre fejl.”