Decenniergamla anonymiserade medicinska data kan nu orsaka AI-missdiagnoser

Enligt ett nytt forskningssamarbete mellan Tyskland och Storbritannien kan anonymiserade patientjournaler som inkluderades i medicinska datamängder redan för decennier sedan göra att AI‑system som tränas på dem kan känna igen den verkliga patientens egenskaper år senare – och behandla en patient år 2026 som om det fortfarande var 2012 (eller vilket år deras anonymiserade patientdata först inkluderades i datamängden/‑erna).

Detta skulle till exempel kunna innebära att en patient som för 20 år sedan registrerades ha genomgått cancerbehandling och därefter gick in i långvarig remission, nu kan behandlas av AI‑systemet i kontexten av deras äldre, cancerdrabbade jag – vilket logiskt sett även kan öka risken för en falsk återfallsdiagnos.

Omvänt, om 2012‑versionen av den patientens data visade perfekt hälsa vid rutinundersökningar, skulle detta optimistiska perspektiv potentiellt kunna påföras den äldre, nuvarande versionen av patienten, vilket kan dölja upptäckten av nya tillstånd eller problem som kan behöva behandlas.

Från den nya artikeln, en illustration av hur memoriseringsbias kan påverka en återkommande patient. En modell som tränats på Alices tidigare friska EKG:n tilldelar bara 15 % sannolikhet för hennes senare hjärtinfarkt, jämfört med 73 % för en modell som aldrig sett hennes historiska register. Källa

Begränsning av ‘Dataimmigration’

Scenariot blir mer sannolikt genom olika nationella och regionala direktiv som rekommenderar att patientdata för sådana ändamål i idealfallet bör tas från det land där systemen som härstammar från dem är avsedda att användas, vilket ‘lokaliserar’ patientpopulationen i datamängderna och avsevärt ökar risken för denna typ av oupptäckt deanonymiseringshändelse.

Genom slutsatsen ökar begränsning av mängden data till endast en nationell datamängd risken för memorisering – möjligheten att modellen ser samma data så många gånger under träning att den blir ‘fixerad’ på dessa överinlärda mönster. Omvänt, ju större och mer diversifierad en datamängd är, desto mer sannolikt är det att den generaliserar till osedda data efter träning, istället för att memorera specifika datapunkter eller konfigurationer.

Att lägga till ‘främmande’ medicinska data riskerar dock att introducera bevis på nationella hälsotrender och särdrag som inte skulle gälla i det land där den tränade modellen implementeras; i detta avseende, som den nya artikeln medger, är en viss mängd memorisering lämplig och användbar, eftersom den hjälper modellen att verka inom de mest sannolika generella medicinska egenskaperna för en viss population.

Artikeln säger*:

‘[When] modeller distribueras prospectivt, memorisering skapar en specifik och underskattad risk. Eftersom en patients journaler är mycket självliknande över tid, kan en framtida journal fungera som en partiell ledtråd till en memoriserad historisk journal, vilket förskjuter modellens förutsägelser mot patientens tidigare hälsotillstånd.

Detta är inte ett hypotetiskt scenario. Medicinska AI‑modeller distribueras rutinmässigt på samma population som deras träningsdata härrör från.

‘Till exempel, Tysklands nationella bröstcancerscreeningsprogram använder en AI‑modell tränad på 1,2 miljon mammogram hämtade från samma screeningspopulation som den nu betjänar.

‘Jämförbar implementering pågår på andra håll, inklusive nationella bröstcancerscreeningsprogram in the United Kingdom och Sweden.

‘Reglerande vägledning uppmuntrar detta aktivt, med EU AI Act som kräver att träningsdata speglar den geografiska och kontextuella miljön för avsedd användning (Art. 10(4)), och liknande internationella riktlinjer för medicinsk AI‑utveckling som kräver att den avsedda patientpopulationen är tillräckligt representerad i modellens träningsdatamängd.’

Bestående historisk katastrof..?

Även om artikeln inte behandlar frågan verkar det statistiskt logiskt att patienter som inte regelbundet går på medicinska kontroller under hela livet, och vars anonymiserade journaler periodiskt kom in i AI‑datastreamen, sannolikt dyker upp i anonymiserade patientdata nästan uteslutande vid tillfällen då de behövde behandling – vilket skulle öka risken för att ‘projicera’ ett länge botat tillstånd på samma patient nu, eftersom journalerna saknar en ‘god hälsa’-balans.

Detta bekräftas av tidigare forskning om ‘informed presence bias’ i elektroniska patientjournaler, som visar att medicinska datamängder oproportionerligt representerar perioder då patienter är sjuka och interagerar med vårdtjänster.

En studie fann att allvarligt sjuka patienter hade 5,05 gånger så många dagar med laboratoriedata och 6,85 gånger så många med läkemedelsordrar som de friskaste patienterna.

År 2022 rapporterade omkring 76 % av amerikanska vuxna att de hade gjort en rutinmässig kontroll under det föregående året, vilket CDC definierar som en allmän fysisk undersökning snarare än behandling för ett specifikt tillstånd; och i Europa visade en flernationell undersökning från 2023 att 58 % deltog i åtminstone någon förebyggande kontroll, men endast 15 % deltog i alla förebyggande besök som ansågs relevanta för dem.

Effektens omfattning

Studien testade effekten över fyra stora medicinska datamängder som omfattar EKG‑inspelningar, bröst‑röntgenbilder och elektroniska patientjournaler; närmare bestämt MIMIC-CXR chest X-ray database och MIMIC-IV-ED för akutsjukvård, samt MIMIC-ECG och den mycket större HEEDB-samlingen av EKG. Datamängderna varierade i storlek från tiotals tusen patienter till över 1,8 miljoner personer.

Författarna noterar att den beräknade effekten varierar avsevärt, med förändringar i den förutsagda sannolikheten som överstiger 70 procentenheter i vissa fall:

Resultat som visar hur historiska patientdata förändrar senare förutsägelser. De övre panelerna jämför frekvensen och storleken på dessa förändringar över de fyra datamängderna; de nedre panelerna visar hur effekten förändras med tiden sedan patientens senaste träningspost. Signifikanta effekter blir mindre vanliga över tid, men förblir detekterbara årtionden senare.

Som en kontroll delade forskarna slumpmässigt modellerna i grupper och upprepade jämförelsen, men detta gav inga signifikanta förändringar i framtida förutsägelser.

Effekten, noterar artikeln, kan också bestå i årtionden. Även om den generellt blev svagare och mindre vanlig när intervallet mellan poster ökade, visade HEEDB‑datamängden, som innehåller EKG‑inspelningar från 1980‑talen till 2025, signifikanta förändringar i förutsägelser mer än 25 år efter patientens senaste träningspost.

Diagnostisk skada

Forskarna i den nya artikeln – med titeln Memorisation bias in medical AI – simulerade sedan hur memorering kan påverka diagnostisk noggrannhet när patienter senare möter en modell som tränats på deras tidigare journaler.

Framtida fall delades in beroende på om patienten hade utvecklat ett nytt tillstånd; som saknades i deras historiska träningsdata; eller om de återkom med i princip samma hälsotillstånd.

För nya tillstånd visade sig effekten konsekvent negativ, där modeller som tidigare hade sett patientens historiska journaler uppvisade lägre sensitivitet över ett spektrum av diagnoser som återfinns i de fyra datamängderna. Detta inkluderade infarcter och andra EKG‑avvikelser; lungsjukdomar; samt bredare kritiska utfall.

I praktiska termer genererade modellerna fler falska negativa när patientens hälsa hade förändrats; men när patientens hälsa inte hade förändrats, gjorde modellens minne av deras tidigare journaler det mer sannolikt att ge rätt diagnos. Både sensitivitet och specificitet ökade eftersom patientens nuvarande tillstånd liknade det tillstånd som redan fanns representerat i träningsdata.

Författarna påpekar att detta kan göra sådana system svåra att bedöma exakt: om de flesta återkommande patienter fortfarande har samma tillstånd kommer modellen att prestera bättre på dem, vilket potentiellt döljer dess lägre sensitivitet för patienter som har utvecklat nya tillstånd.

Åtgärder

Som ett möjligt skyddstestade forskarna differential privacy (som begränsar hur mycket information om ett enskilt träningsexempel som kan behållas av en modell) under träningen.

Även om skyddet av individuella journaler minskade memoreringseffekten, eliminerade det den inte, inte ens vid den starkaste testade inställningen. Att tillämpa skyddet på patientnivå, som omfattar alla poster som tillhör samma person, var mycket mer effektivt och nästan eliminerade effekten.

Det bör dock observeras att om en datamängd har anonymiserats oåterkalleligt, kan patientens data inte avgränsas på ett sätt som möjliggör sådana metoder; och forskarna noterar att om datamängden inte tränas med aktiverad differential privacy, membership inference attacks blir en risk; om den gör det, ökar de resurser som krävs för träning avsevärt.

Slutsats

Författarna avslutar med att observera att även om de oroande incidenterna för närvarande sker med relativt låg frekvens, kan detta förändras i framtiden*:

‘Det finns skäl att förvänta sig att antalet missade diagnoser som kan hänföras till memoriseringsbias kommer att öka i framtiden, även om vi inte testar detta direkt. Tidigare forskning har visat att andelen träningsdata som en modell memoriserar ökar med modellens kapacitet [6, 7, 9, 10, 40].

‘Detta är oroande, med tanke på att den nuvarande utvecklingen av AI-modeller styrs av ”skalningslagar” [41], vilka driver en snabb tillväxt i både modell- och datasetstorlekar i jakten på förbättrad prestanda.

‘När större AI-modeller tränas på historiska data som hämtas från allt större patientpopulationer, är det sannolikt att det absoluta antalet individer som påverkas av memoriseringsbias ökar kraftigt, vilket förvärrar de risker vi identifierar här.’

* Min konvertering av författarnas inline-citat till hyperlänkar, med viss tolkning där exakt återgivning inte är möjlig eller hjälpsam.

Först publicerad fredag 18 september 2026