Kunstig Intelligens i Sundhedssektoren kan bringe Risici samt Muligheder

Kunstig intelligens har enorm potentiale inden for sundhedssektoren, da det kan forbedre diagnoser og finde nye, mere effektive lægemidler. Imidlertid, som en artikel i Scientific American nylig diskuterede, åbner hastigheden, hvormed kunstig intelligens trænger ind i sundhedssektoren, også op for mange nye udfordringer og risici.

Over de sidste fem år har den amerikanske sundhedsmyndighed, FDA, godkendt over 40 forskellige kunstig intelligens-produkter. Imidlertid, som Scientific American har rapporteret, er ingen af disse produkter, der er godkendt til salg i USA, blevet testet i randomiserede kliniske forsøg. Mange kunstig intelligens-værktøjer til sundhedssektoren kræver ikke engang godkendelse fra FDA.

Evan Topol, forfatteren til “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”, udtalte til Scientific American, at mange af de kunstig intelligens-produkter, der påstår at være effektive til opgaver som diagnose af sygdomme, faktisk ikke er blevet testet på en sådan måde, og at den første store randomiserede prøve af en kunstig intelligens-værktøj til diagnose og detektering blev udført for nylig. Desuden offentliggør meget få teknologi-virksomheder deres forskningsrapporter i peer-review-tidsskrifter, hvor deres arbejde vil blive analyseret af videnskabsmænd.

Når de er ordentligt testet og kontrolleret, kan kunstig intelligens-systemer være kraftfulde værktøjer, der kan hjælpe sundhedsprofessionelle med at opdage symptomer, der ellers ville være gået ubemærket hen, og forbedre sundhedsresultaterne.

Som eksempel blev et kunstig intelligens-værktøj til at diagnosticere sukkersyge-øjenlidelse testet på hundredvis af patienter og syntes at være pålideligt. Virksomheden bag testen arbejdede sammen med FDA i over otte år for at forfine produktet. Testen, IDx-DR, er på vej til primær sundhedspleje-klinikker, hvor det potentielt kan hjælpe med at diagnosticere tidlige tegn på sukkersyge-retinopati og henvise patienter til øjen-specialister, hvis der er mistanke om symptomer.

Hvis de ikke testes omhyggeligt, kan kunstig intelligens-systemer, der bruges af sundhedsprofessionelle til at vejlede deres diagnose og behandling, potentielt skabe skade i stedet for at undgå den.

Scientific American-artiklen beskriver et muligt problem med at afhænge af kunstig intelligens til at diagnosticere sygdomme, og peger på eksemplet med et kunstig intelligens-system, der er designet til at analysere bryst-røntgenbilleder og diagnosticere, hvilke patienter der kan udvikle lungebetændelse. Selv om systemet viste sig at være nøjagtigt, da det blev testet på Mount Sinai Hospital i New York, fungerede det ikke, da det blev testet på billeder taget på andre hospitaler. Forskerne fandt ud af, at kunstig intelligens-systemet kunne skelne mellem billeder, der var lavet med bærbare røntgen-systemer, og billeder, der var lavet i en radiologisk afdeling. Læger bruger bærbare bryst-røntgen-systemer på patienter, der ofte er for syge til at forlade deres senge, og disse patienter er i større risiko for at udvikle lungebetændelse.

Falske alarmer er også en bekymring. DeepMind skabte en kunstig intelligens-mobilapp, der kan forudsige akut nyresvigt hos indlagte patienter op til 48 timer i forvejen. Imidlertid gjorde systemet ifølge rapporten også to falske alarmer for hver nyresvigt, der blev korrekt forudsagt. Falske positiver kan være skadelige, da de kan få læger til at bruge unødvendig tid og ressourcer på at bestille yderligere tests eller ændre foreskrevne behandlinger.

I et andet tilfælde konkluderede et kunstig intelligens-system fejlagtigt, at patienter, der havde lungebetændelse, var mere sandsynlige for at overleve, hvis de havde astma, hvilket kunne få læger til at ændre behandlinger for patienter med astma.

Kunstig intelligens-systemer, der er udviklet til et hospital, kan underprestere, når de bruges på et andet hospital. Der er flere årsager til dette. For det første er kunstig intelligens-systemer ofte trænet på elektroniske patientjournaler, men mange elektroniske patientjournaler er ofte ufuldstændige eller forkerte, da deres primære formål ofte er fakturering og ikke patientpleje. For eksempel fandt en undersøgelse, der blev gennemført af KHN, at der af og til var livstruende fejl i patienternes medicinske journaler, som liste over medicin, der indeholdt forkert medicin. Ud over dette er sygdomme ofte mere komplekse, og sundhedsystemet mere komplekst, end det ofte kan forudses af kunstig intelligens-ingeniører og videnskabsmænd.

Når kunstig intelligens bliver mere og mere udbredt, vil det være vigtigt for kunstig intelligens-udviklere at arbejde sammen med sundhedsmyndigheder for at sikre, at deres kunstig intelligens-systemer er grundigt testet, og for reguleringer at sikre, at standarder er fastsat og overholdt for pålideligheden af kunstig intelligens-diagnostiske værktøjer.