Decenniergamla anonymiserade medicinska data kan nu orsaka AI‑missdiagnoser

Enligt ett nytt forskningssamarbete mellan Tyskland och Storbritannien kan anonymiserade patientjournaler som inkluderades i medicinska datamängder för decennier sedan få AI‑system som tränats på dem att känna igen den verkliga patientens egenskaper år senare – och behandla en patient år 2026 som om det fortfarande var 2012 (eller vilket år deras anonymiserade patientdata först inkluderades i datamängden/erna).

Detta kan till exempel innebära att en patient som för 20 år sedan registrerades som under cancerbehandling, och som därefter gick in i långvarig remission, nu kan behandlas av AI‑systemet i kontexten av deras äldre, cancerdrabbade jag – vilket logiskt sett även ökar risken för en falsk återfallsdignos.

Omvänt, om 2012‑versionen av den patientens data visade perfekt hälsa i rutinundersökningar, skulle detta optimistiska perspektiv potentiellt kunna påföras den äldre, nuvarande version av patienten, vilket maskerar upptäckten av nya tillstånd eller problem som kan behöva behandlas.

Från den nya artikeln, en illustration av hur memoriseringsbias kan påverka en återkommande patient. En modell som tränats på Alices tidigare friska EKG:n ger bara 15 % sannolikhet för hennes senare hjärtattack, jämfört med 73 % för en modell som aldrig sett hennes historiska journaler. Källa

Begränsning av ”Dataimmigration”

Scenariot blir mer sannolikt genom olika nationella och regionala direktiv som rekommenderar att patientdata för sådana ändamål helst bör hämtas från det land där systemen som bygger på dem avses användas, vilket ”lokaliserar” patientpopulationen i datamängderna och avsevärt ökar risken för denna typ av oidentifierad deanonymiseringshändelse.

Genom slutsats innebär begränsning av den tillgängliga datamängden till endast en nationell datamängd en ökad risk för memorering – möjligheten att modellen ser samma data så många gånger under träning att den blir ”fixerad” på dessa överinlärda mönster. Omvänt, ju större och mer diversifierad en datamängd är, desto mer sannolikt är det att den kommer att generaliseras till osedda data efter träning, i stället för att memorera specifika datapunkter eller konfigurationer.

Att lägga till ”utländska” medicinska data riskerar dock att introducera bevis på nationella hälsotrender och idiosynkrasier som inte skulle gälla i det land där den tränade modellen implementeras; i detta avseende medger den nya artikeln att en viss mängd memorering är lämplig och användbar, eftersom den hjälper modellen att verka inom de mest sannolika allmänna medicinska egenskaperna för en viss population.

Artikeln konstaterar*:

‘[When]‑modeller distribueras prospectivt, memorering skapar en specifik och undervärderad risk. Eftersom en patients journaler är mycket självliknande över tid kan en framtida journal fungera som en partiell ledtråd till en memoriserad historisk journal, vilket förskjuter modellens förutsägelser mot patientens tidigare hälsotillstånd.

Detta är inte ett hypotetiskt scenario. Medicinska AI‑modeller distribueras rutinmässigt på samma population som deras träningsdata härrör från.

‘Till exempel Tysklands nationella bröstcancerscreening program använder en AI‑modell tränad på 1,2 miljon mammogram som hämtats från samma screeningspopulation som den nu betjänar.

‘Jämförbar implementering pågår på andra håll, inklusive nationella bröstcancerscreeningsprogram i Storbritannien och Sverige.

‘Regulatorisk vägledning uppmuntrar aktivt detta, med EU AI Act som kräver att träningsdata speglar den geografiska och kontextuella miljön för avsedd användning (Art. 10(4)), och liknande internationella riktlinjer för medicinsk AI‑utveckling som kräver att den avsedda patientpopulationen är tillräckligt representerad i modellens träningsdatamängd.’

Bestående historisk katastrof..?

Även om artikeln inte behandlar frågan verkar det statistiskt logiskt att patienter som inte regelbundet genomgår medicinska kontroller under hela livet, och vars anonymiserade journaler periodiskt har matats in i AI‑datastreamen, sannolikt dyker upp i anonymiserade patientdata nästan uteslutande vid tidpunkter då de behövde behandling – vilket tenderar att öka risken för att ”projicera” ett länge botat tillstånd på samma patient nu, eftersom journalerna saknar någon ”god hälsa”-balans.

Detta bekräftas av tidigare forskning om ‘informerad närvarobias’ i elektroniska patientjournaler, som visar att medicinska datamängder oproportionerligt representerar perioder då patienter är sjuka och interagerar med vårdtjänster.

En studie fann att allvarligt sjuka patienter hade 5.05 gånger så många dagar med laboratoriedata och 6.85 gånger så många med läkemedelsordrar som de friskaste patienterna.

2022 rapporterade omkring 76 % av amerikanska vuxna rapporterade att de hade gjort en rutinmässig kontroll under föregående år, definierad av CDC som en allmän fysisk undersökning snarare än behandling för ett specifikt tillstånd; och i Europa visade en multinationell undersökning 2023 att 58 % deltog i åtminstone någon förebyggande kontroll; men endast 15 % deltog i alla förebyggande möten som ansågs relevanta för dem.

Effektens omfattning

Studien testade effekten över fyra stora medicinska dataset, som omfattade EKG-inspelningar, bröströntgenbilder och elektroniska patientjournaler; nämligen MIMIC-CXR chest X-ray database och MIMIC-IV-ED akutsjukvårdsregister, tillsammans med MIMIC-ECG och den mycket större HEEDB-samlingen av EKG. Datasets varierade i storlek från tiotals tusen patienter till mer än 1.8 miljoner personer.

Författarna noterar att den beräknade effekten varierar avsevärt, med förändringar i förutsagd sannolikhet som överstiger 70 procentenheter i vissa fall:

Resultat som visar hur historiska patientdata förändrar senare förutsägelser. Övre paneler jämför frekvensen och storleken på dessa förändringar över de fyra dataseten; de nedre panelerna visar hur effekten förändras med tiden sedan patientens senaste träningspost. Signifikanta effekter blir mindre vanliga över tid, men förblir detekterbara årtionden senare.

Som kontroll delade forskarna slumpmässigt modellerna i grupper och upprepade jämförelsen, men detta gav inga signifikanta förändringar i framtida förutsägelser.

Effekten, noterar artikeln, kan också bestå i årtionden. Även om den generellt blev svagare och mindre vanlig när intervallet mellan poster ökade, visade HEEDB-datasetet, som innehåller EKG insamlade från 1980-talet till 2025, signifikanta förändringar i förutsägelser mer än 25 år efter patientens senaste träningspost.

Diagnostisk skada

Forskarna i den nya artikeln – med titeln Memorisation bias in medical AI – simulerade sedan hur memorering kan påverka diagnostisk noggrannhet när patienter senare möter en modell som tränats på deras tidigare journaler.

Framtida fall delades in beroende på om patienten hade utvecklat ett nytt tillstånd; som saknades i deras historiska träningsdata; eller om de återvände med i princip samma hälsotillstånd.

För nya tillstånd visade sig effekten konsekvent negativ, där modeller som tidigare sett patientens historiska journaler uppvisade lägre känslighet över ett spektrum av diagnoser som representerades i de fyra dataseten. Detta inkluderade infarcter och andra EKG-avvikelser; lungsjukdomar; samt bredare kritiska utfall.

I praktiska termer producerade modellerna fler falska negativa när patientens hälsa hade förändrats; men när patientens hälsa inte hade förändrats, gjorde modellens minne av deras tidigare journaler det mer sannolikt att leverera rätt diagnos. Både känslighet och specificitet ökade eftersom patientens nuvarande tillstånd liknade det tillstånd som redan fanns representerat i träningsdata.

Författarna noterar att detta kan göra sådana system svåra att bedöma exakt: om de flesta återkommande patienter fortfarande har samma tillstånd, kommer modellen att prestera bättre på dem, vilket potentiellt döljer dess lägre känslighet för patienter som utvecklat nya tillstånd.

Åtgärder

Som ett möjligt skyddstestade forskarna differential privacy (som begränsar hur mycket information om något enskilt träningsexempel som kan behållas av en modell) under träning.

Även om skydd av individuella journaler minskade memoreringseffekten, eliminerade den den inte, även vid den starkaste testade inställningen. Att tillämpa skyddet på patientnivå, som omfattar alla journaler som tillhör samma person, var mycket mer effektivt och nästan eliminerade effekten.

Det bör dock observeras att om ett dataset har anonymiserats oåterkalleligt, kan patientens data inte avgränsas på ett sätt som möjliggör sådana metoder; och forskarna noterar att om datasetet inte tränas med differential privacy aktiverat, medlemskapsinferensattacker blir en risk; om det är det, ökar de resurser som krävs för träning avsevärt.

Slutsats

Författarna avslutar med att observera att även om de oroande incidenterna för närvarande sker med relativt låg frekvens, kan detta förändras i framtiden*:

‘Det finns skäl att förvänta att antalet missade diagnoser som kan hänföras till memoriseringsbias kommer att öka i framtiden, även om vi inte testar detta direkt. Tidigare forskning har visat att andelen träningsdata som en modell memoriserar ökar med modellens kapacitet [6, 7, 9, 10, 40].’

‘Detta är oroande, med tanke på att den nuvarande utvecklingen av AI-modeller styrs av ”skalningslagar” [41], vilka driver en snabb tillväxt i både modell- och datasetstorlekar i jakten på bättre prestanda.’

‘När större AI-modeller tränas på historiska data som hämtas från allt större patientpopulationer, är det sannolikt att det absoluta antalet individer som drabbas av memoriseringsbias ökar kraftigt, vilket förvärrar de risker vi identifierar här.’

* Min konvertering av författarnas inline-citat till hyperlänkar, med viss tolkning där exakt återgivning inte är möjlig eller hjälpsam.

Först publicerad fredag 18 september 2026. Ändrad 18:17 EET för korrigering av hyperlänkar.