Artikel undersöker hur man minskar risken med att använda AI inom medicin

Artificiell intelligensprogram är kapabla att förbättra hälsovården på en mängd olika sätt. Till exempel kan AI-applikationer använda datorseende för att hjälpa läkare att diagnostisera tillstånd från röntgenbilder och FMRI. Maskinläringsalgoritmer kan också användas för att hjälpa till att minska falska positiva rater genom att extrahera subtila mönster från data som människor kanske inte kan hitta i medicinska data. Men med möjligheterna kommer också nya utmaningar, och nyligen publicerades en ny artikel i Science som undersökte möjliga risker och regulatoriska strategier för medicinska maskinlärningstekniker i ett försök att minimera eventuella negativa bieffekter av att använda AI i ett medicinskt sammanhang.

Utvidgade applikationer för AI inom hälsovården

AI ser sina applikationer inom det medicinska området expandera snabbt. Nya utvecklingar inom hälsovården, drivna av AI, inkluderar skapandet av ett nytt läkemedelsföretag som syftar till att använda AI för att skapa nya läkemedel, skapandet av AI-styrda fjärrhälso sensorer och datorseendeappar som analyserar CT-skanningar och röntgenbilder.

För att vara mer exakt är Genesis Therapeutics ett startup-företag som syftar till att använda AI för att påskynda processen för läkemedelsupptäckt, i hopp om att skapa läkemedel som kan minska svårighetsgraden av funktionshindrande sjukdomar. Genesis Therapeutics är bara ett av nästan 170 olika företag som använder AI för att forska om nya läkemedelsformuleringar. Medan i fråga om hälsoövervakningsenheter använder iRhythm (IRTC ) och den franska AI-startuppen Cardiologs AI-algoritmer för att analysera EEG-data och övervaka hälsan hos de som har hjärtsjukdomar och är i riskzonen för komplikationer. Programvaran som utvecklats av företagen kan upptäcka hjärtmumlar, ett tillstånd som orsakas av turbulent blodflöde.

Slutligen fann en nylig studie som undersökte hur datorseende kan tillämpas på medicinska bilder att datorseende system presterar minst lika bra eller bättre än expert-radiologer när de undersöker CT-skanningar för att hitta små blödningar. Algoritmerna som användes i studien kunde göra förutsägelser efter att ha undersökt CT-skanningar i bara en sekund. Datorseende systemen kunde också lokalisera blödningen inom hjärnan.

Så medan de potentiella fördelarna med att använda AI inom hälsovården är tydliga, är det mindre tydligt vilka nya utmaningar och risker som kan uppstå som en bieffekt av att använda AI inom hälsovården.

Reglering av ett utvidgat område

Som TechXplore rapporterade, i syfte att bedöma potentiella nackdelar med att använda AI inom hälsovården, publicerade en grupp forskare nyligen en artikel i Science, i syfte att få svar på att förutse potentiella problem med AI och undersöka potentiella lösningar på dessa problem. Problem som kan uppstå från att använda AI inom hälsovården inkluderar olämpliga behandlingsrekommendationer som resulterar i skada, sekretessproblem och algoritmisk bias/ ojämlikhet.

FDA har endast godkänt medicinsk AI som använder “låsta algoritmer”, algoritmer som tillförlitligt producerar samma resultat varje gång de körs. Men mycket av AI:s potential ligger i dess förmåga att lära sig och svara på nya typer av indata. För att möjliggöra “adaptiva algoritmer” för att se mer användning och få godkännande från FDA, undersökte artikelförfattarna hur riskerna relaterade till uppdatering av algoritmer kan minskas.

Författarna förespråkar att maskinläringsingenjörer och forskare bör fokusera på kontinuerlig övervakning av modeller under hela deras distributionslivslängd. Bland de föreslagna verktygen för att övervaka AI-system var AI själv, som kunde hjälpa till att ge automatiserade rapporter om hur en AI beter sig. Det är också möjligt att flera AI-enheter kan övervaka varandra.

“För att hantera riskerna bör regulatorer fokusera särskilt på kontinuerlig övervakning och riskbedömning, och mindre på planering för framtida algoritmiska förändringar”, sade artikelförfattarna.

Artikelförfattarna rekommenderar också att regulatorer bör fokusera på att utveckla nya metoder för att identifiera, övervaka, bedöma och hantera risker. Artikeln tillämpar många av de tekniker som FDA har använt för att reglera andra former av medicinsk teknik.

Som artikelförfattarna förklarade:

“Vårt mål är att betona de risker som kan uppstå från oförutsedda förändringar i hur medicinska AI/ML-system reagerar eller anpassar sig till sina miljöer. Subtila, ofta ouppmärksammade parametriska uppdateringar eller nya typer av data kan orsaka stora och kostsamma misstag.”