Studie undersöker hur man kan minska risken med att använda AI inom medicin

Artificiella intelligensprogram är kapabla till att förbättra hälsovården på en mängd olika sätt. Till exempel kan AI-applikationer använda datorseende för att hjälpa läkare att diagnostisera tillstånd från röntgenbilder och FMRIs. Maskinläringsalgoritmer kan också användas för att hjälpa till att minska falska positiva rater genom att extrahera subtila mönster från data som människor kanske inte kan hitta i medicinska data. Men med möjligheterna kommer nya utmaningar, och nyligen publicerades en ny artikel i Science som undersökte möjliga risker och regulatoriska strategier för medicinska maskinlärningstekniker i ett försök att minimera eventuella negativa bieffekter av att använda AI i ett medicinskt sammanhang.

Utvidgade applikationer för AI inom hälsovården

AI ser sina applikationer inom det medicinska fältet expandera snabbt. Nya utvecklingar inom hälsovården, driven av AI, inkluderar skapandet av ett nytt läkemedelsföretag som syftar till att använda AI för att skapa nya läkemedel, skapandet av AI-drivna fjärrhälso sensorer och datorseendeappar som analyserar CT-skanningar och röntgenbilder.

För att vara mer exakt är Genesis Therapeutics ett startup-företag som syftar till att använda AI för att påskynda processen för läkemedelsupptäckt, i hopp om att skapa läkemedel som kan minska svårighetsgraden av funktionshindrande sjukdomar. Genesis Therapeutics är bara ett av nästan 170 olika företag som använder AI för att forska om nya läkemedelsformuleringar. Medan, i termer av hälsövervakningsenheter, använder iRhythm och det franska AI-startup-företaget Cardiologs AI-algoritmer för att analysera EEG-data och övervaka hälsan hos de som har hjärtsjukdomar och som är i riskzonen för komplikationer. Programvaran som utvecklats av företagen kan upptäcka hjärtmumlingar, ett tillstånd som orsakas av turbulent blodflöde.

Slutligen fann en nylig studie som undersökte hur datorseende kan tillämpas på medicinska bilder att datorseendesystem fungerar minst lika bra eller bättre än expertradiologer när de undersöker CT-skanningar för att hitta små blödningar. Algoritmerna som användes i studien kunde ge förutsägelser efter att ha undersökt CT-skanningar i bara en sekund. Datorseendesystemen kunde också lokalisera blödningen inom hjärnan.

Så medan de potentiella fördelarna med att använda AI inom hälsovården är tydliga, är det mindre tydligt vad nya utmaningar och risker som kan uppstå som en bieffekt av att använda AI inom hälsovårdsfältet.

Reglering av ett expanderande fält

Som TechXplore rapporterade, för att bedöma potentiella nackdelar med att använda AI inom hälsovården, publicerade en grupp forskare nyligen en artikel i Science, i syfte att få svar på förväntade problem med AI och undersöka potentiella lösningar på dessa problem. Problem som kan uppstå från att använda AI inom hälsovårdsfältet inkluderar olämplig rekommendation av behandlingar som resulterar i skada, sekretessproblem och algoritmisk bias/ojämlikhet.

FDA har endast godkänt medicinsk AI som använder “låsta algoritmer”, algoritmer som tillförlitligt producerar samma resultat varje gång de körs. Men mycket av AI:s potential ligger i dess förmåga att lära sig och svara på nya typer av indata. För att möjliggöra “adaptiva algoritmer” för att se mer användning och få godkännande från FDA, undersökte artikelförfattarna hur riskerna relaterade till uppdatering av algoritmer kan minskas.

Författarna förespråkar att maskinläringsingenjörer och forskare bör fokusera på kontinuerlig övervakning av modeller under deras livstid. Bland de föreslagna verktygen för att övervaka AI-system var AI själv, som kunde hjälpa till att ge automatiserade rapporter om hur ett AI-system beter sig. Det är också möjligt att flera AI-enheter kan övervaka varandra.

“För att hantera riskerna bör regulatorer fokusera särskilt på kontinuerlig övervakning och riskbedömning, och mindre på planering för framtida algoritmiska förändringar”, sade artikelförfattarna.

Artikelförfattarna rekommenderar också att regulatorer fokuserar på att utveckla nya metoder för att identifiera, övervaka, bedöma och hantera risker. Artikeln tillämpar många av de tekniker som FDA har använt för att reglera andra former av medicinsk teknik.

Som artikelförfattarna förklarade:

“Vårt mål är att betona de risker som kan uppstå från oförutsedda förändringar i hur medicinska AI/ML-system reagerar eller anpassar sig till sin miljö. Subtila, ofta ouppmärksammade parametriska uppdateringar eller nya typer av data kan orsaka stora och kostsamma misstag.”