Artificiell intelligens inom hälso- och sjukvården kan medföra risker tillsammans med möjligheter

AI har en enorm potential när det gäller hälso- och sjukvårdsområdet, med förmåga att förbättra diagnoser och hitta nya, mer effektiva läkemedel. Men, som en artikel i Scientific American nyligen diskuterade, öppnar den snabba tillströmningen av AI till hälso- och sjukvårdsområdet också upp många nya utmaningar och risker.

Under de senaste fem åren har den amerikanska livsmedels- och läkemedelsmyndigheten (FDA) godkänt över 40 olika AI-produkter. Men, som Scientific American rapporterade, har ingen av de produkter som godkänts för försäljning i USA genomgått en utvärdering av sin prestanda i randomiserade kontrollerade kliniska studier. Många AI-medicala verktyg kräver inte ens godkännande från FDA.

Evan Topol, författare till “Deep Medicine: Hur artificiell intelligens kan göra hälso- och sjukvården mer mänsklig”, sa till Scientific American att många av de AI-produkter som påstår sig vara effektiva vid uppgifter som att diagnostisera sjukdomar faktiskt har testats rigoröst, med den första stora randomiserade studien av en AI-detektions- och diagnostikverktyg som genomfördes i oktober förra året. Dessutom publicerar få tech-startups sina forskningsartiklar i peer-review-tidskrifter, där deras arbete kommer att analyseras av forskare.

När de testas och kontrolleras ordentligt kan AI-system vara kraftfulla verktyg som kan hjälpa medicinska yrkespersoner att upptäcka symtom som annars inte hade upptäckts, vilket förbättrar hälsoutfallet.

Exempelvis testades ett AI-verktyg för att upptäcka diabetessjukdom i ögonen på hundratals patienter och visade sig vara tillförlitligt. Företaget som ansvarade för testet arbetade i samarbete med FDA i över åtta år för att förfinansiera produkten. Testet, IDx-DR, är på väg att införas i primärvården, där det potentiellt kan hjälpa till att upptäcka tidiga tecken på diabetisk retinopati och remittera patienter till ögonspecialister om misstänkta symtom upptäcks.

Om de inte testas noggrant kan AI-system som medicinska yrkespersoner använder för att vägleda sin diagnos och behandling skapa skada i stället för att undvika den.

Artikeln i Scientific American beskriver ett potentiellt problem med att förlita sig på AI för att diagnostisera åkommor, med hänvisning till exemplet med en AI som är avsedd att analysera bröst-röntgenbilder och upptäcka vilka patienter som kan utveckla lunginflammation. Medan systemet visade sig vara exakt när det testades på Mount Sinai-sjukhuset i New York, misslyckades det när det testades på bilder tagna på andra sjukhus. Forskarna fann att AI skilde mellan bilder skapade av bärbara röntgenapparater och de som skapades i en radiologisk avdelning. Läkare använder bärbara bröst-röntgenapparater på patienter som ofta är för sjuka för att lämna sina sängar, och dessa patienter löper större risk att utveckla lunginflammation.

Falska larm är också en oro. DeepMind skapade en AI-mobilapp som kan förutsäga akut njursvikt hos hospitaliserade patienter upp till 48 timmar i förväg. Men systemet rapporterades också ha gett två falska larm för varje njursvikt som framgångsrikt förutsagts. Falska positiva kan vara skadliga eftersom de kan uppmuntra läkare att spendera onödig tid och resurser på att beställa fler tester eller ändra föreskrivna behandlingar.

I ett annat fall drog ett AI-system felaktiga slutsatser om att patienter som hade lunginflammation var mer benägna att överleva om de hade astma, vilket kunde få läkare att ändra behandlingar för patienter med astma.

AI-system som utvecklas för ett sjukhus fungerar ofta dåligt när de används på ett annat sjukhus. Det finns flera orsaker till detta. En av dem är att AI-system ofta tränas på elektroniska journaler, men många elektroniska journaler är ofta ofullständiga eller felaktiga eftersom deras primära syfte ofta är fakturering och inte patientvård. Till exempel fann en utredning som genomfördes av KHN att det ibland fanns livshotande fel i patienternas journaler, som läkemedelslistor som innehöll olämpliga läkemedel. Utöver detta är sjukdomar ofta mer komplicerade och hälso- och sjukvårdssystemet mer komplext än vad som kan förutses av AI-ingenjörer och forskare.

När AI blir alltmer utbrett kommer det att vara viktigt för AI-utvecklare att arbeta tillsammans med hälso- och sjukvårdsmyndigheter för att säkerställa att deras AI-system är ordentligt testade och för att tillsynsmyndigheter säkerställer att standarder är fastställda och följs för tillförlitligheten hos AI-diagnostikverktyg.