Jahrzehnte alte anonymisierte medizinische Daten können jetzt KI-Fehldiagnosen verursachen

Laut einer neuen Forschungskooperation zwischen Deutschland und dem Vereinigten Königreich können anonymisierte Patientenakten, die bereits vor Jahrzehnten in medizinische Datensätze aufgenommen wurden, KI‑Systeme, die damit trainiert wurden, dazu veranlassen, die echten Merkmale des Patienten Jahre später zu erkennen – und einen Patienten im Jahr 2026 so zu behandeln, als wäre es noch 2012 (oder welches Jahr auch immer ihre anonymisierten Patientendaten erstmals in den Datensatz(e) aufgenommen wurden).

Das könnte beispielsweise bedeuten, dass ein Patient, bei dem vor 20 Jahren eine Krebsbehandlung verzeichnet wurde und der anschließend in eine langfristige Remission ging, nun vom KI‑System im Kontext seines früheren, krebsgeplagten Selbst behandelt wird – was logisch die Wahrscheinlichkeit einer falschen Diagnose eines Rückfalls sogar erhöht.

Umgekehrt könnte, wenn die 2012‑Version der Daten dieses Patienten bei routinemäßigen Untersuchungen perfekte Gesundheit zeigte, diese optimistische Sichtweise potenziell auf die ältere, aktuelle Version des Patienten übertragen werden, wodurch die Erkennung neuer Erkrankungen oder Probleme, die einer Behandlung bedürfen, verdeckt würde.

Aus der neuen Studie, eine Darstellung, wie Memorierungsbias einen wiederkehrenden Patienten beeinflussen kann. Ein Modell, das auf Alice’ früheren gesunden EKGs trainiert wurde, weist nur eine Wahrscheinlichkeit von 15 % für ihren späteren Herzinfarkt zu, verglichen mit 73 % für ein Modell, das ihre historischen Aufzeichnungen nie gesehen hat. Quelle

Eindämmung von ‘Datenimmigration’

Das Szenario wird durch verschiedene nationale und regionale Richtlinien wahrscheinlicher, die empfehlen, dass Patientendaten für solche Zwecke idealerweise aus dem Land stammen sollten, in dem die daraus abgeleiteten Systeme eingesetzt werden sollen, wodurch der Patientenpool in den Datensätzen ‘lokalisiert’ wird und die Wahrscheinlichkeit eines solchen unentdeckten De‑Anonymisierungs‑Ereignisses deutlich steigt.

Durch die Folgerung erhöht die Beschränkung der verfügbaren Daten auf nur einen nationalen Datensatz die Wahrscheinlichkeit von Memorisierung – die Möglichkeit, dass das Modell dieselben Daten während des Trainings so oft sieht, dass es auf diese überlernten Muster ‘fixiert’ wird. Umgekehrt gilt: Je größer und vielfältiger ein Datensatz ist, desto wahrscheinlicher ist es, dass er nach dem Training zu verallgemeinern fähig ist, also auf bisher unbekannte Daten anzuwenden, anstatt spezifische Datenpunkte oder Konfigurationen zu memorieren.

Allerdings birgt das Hinzufügen von ‘ausländischen’ medizinischen Daten das Risiko, Evidenz für nationale Gesundheitstrends und Eigenheiten einzuführen, die im Land, in dem das trainierte Modell eingesetzt wird, nicht gelten würden; in dieser Hinsicht erkennt die neue Studie an, dass ein gewisser Grad an Memorisierung angemessen und nützlich ist, da er dem Modell hilft, innerhalb der wahrscheinlichsten allgemeinen medizinischen Merkmale einer bestimmten Bevölkerung zu arbeiten.

Die Studie stellt fest*:

‘[When] Modelle werden prospectiv eingesetzt, Memorisierung schafft ein spezifisches und unterschätztes Risiko. Da die Aufzeichnungen eines Patienten im Laufe der Zeit hochgradig selbstähnlich sind, kann ein zukünftiger Datensatz als partieller Hinweis auf einen memorierten historischen Datensatz dienen und die Vorhersagen des Modells in Richtung des früheren Gesundheitszustands des Patienten verschieben.

Dies ist kein hypothetisches Szenario. Medizinische KI‑Modelle werden routinemäßig bei derselben Population eingesetzt, aus der ihre Trainingsdaten stammen.

‘Zum Beispiel verwendet das nationale Brustkrebsscreening Programm verwendet ein KI‑Modell, das auf 1,2 Millionen Mammogrammen trainiert wurde, die aus derselben Screening‑Population stammen, die es jetzt bedient.

‘Ähnliche Einsätze finden auch anderswo statt, einschließlich nationaler Brustkrebsscreening‑Programme im Vereinigten Königreich und Schweden.

‘Regulatorische Leitlinien fördern dies aktiv, wobei der EU AI Act verlangt, dass Trainingsdaten das geografische und kontextuelle Umfeld der beabsichtigten Nutzung widerspiegeln (Art. 10(4)), und ähnliche internationale Leitlinien für die Entwicklung medizinischer KI fordern, dass die beabsichtigte Patient*innenpopulation ausreichend im Trainingsdatensatz eines Modells vertreten ist.’

Anhaltende historische Katastrophe..?

Obwohl die Studie das Thema nicht behandelt, erscheint es statistisch logisch, dass Patienten, die im Laufe ihres Lebens (oder früher) nicht regelmäßig medizinische Vorsorgeuntersuchungen wahrgenommen haben und deren anonymisierte Aufzeichnungen periodisch in den KI‑Datenstrom gelangt sind, wahrscheinlich in anonymisierten Patientendaten fast ausschließlich zu Zeitpunkten erscheinen, an denen sie Behandlung benötigten – was die Wahrscheinlichkeit erhöht, dass ein längst geheilter Zustand jetzt auf denselben Patienten ‘projiziert’ wird, da die Aufzeichnungen keinen Gegenpol von ‘guter Gesundheit’ besitzen.

Dies wird durch vorherige Forschung zu ‘informed presence bias’ in elektronischen Gesundheitsakten bestätigt, die zeigt, dass medizinische Datensätze überproportional Perioden repräsentieren, in denen Patienten krank sind und mit Gesundheitsdiensten interagieren.

Eine Studie fand, dass schwerkranke Patienten 5.05‑mal so viele Tage mit Labordaten und 6.85‑mal so viele mit Medikamentenbestellungen hatten wie die gesündesten Patienten.

Im Jahr 2022 gaben etwa 76 % der US‑Erwachsenen meldeten, dass sie im vergangenen Jahr eine Routineuntersuchung hatten, definiert von den CDC als allgemeine körperliche Untersuchung, anstatt einer Behandlung einer spezifischen Erkrankung; und in Europa ergab eine multinationale Umfrage aus dem Jahr 2023 ergab, dass 58 % zumindest einige Vorsorgeuntersuchungen wahrnahmen; jedoch nahmen nur 15 % alle für sie relevanten Vorsorgetermine wahr.

Das Ausmaß des Effekts

Die Studie testete den Effekt über vier große medizinische Datensätze, die EKG‑Aufzeichnungen, Thorax‑Röntgenbilder und elektronische Gesundheitsakten umfassen; nämlich die MIMIC-CXR chest X-ray database und die MIMIC-IV-ED-Notfallversorgungsdatensätze, zusammen mit MIMIC-ECG und der deutlich größeren HEEDB-Sammlung von EKGs. Die Datensätze reichten in ihrer Größe von zehntausenden Patienten bis zu mehr als 1.8 million Menschen.

Die Autoren stellen fest, dass der berechnete Effekt erheblich variiert, wobei Änderungen der vorhergesagten Wahrscheinlichkeit in einigen Fällen 70 Prozentpunkte überschreiten:

Ergebnisse, die zeigen, wie historische Patientendaten spätere Vorhersagen verändern. Die oberen Panels vergleichen die Häufigkeit und das Ausmaß dieser Änderungen über die vier Datensätze hinweg; die unteren Panels zeigen, wie sich der Effekt im Laufe der Zeit seit dem letzten Trainingsdatensatz des Patienten verändert. Signifikante Effekte werden im Laufe der Zeit seltener, bleiben jedoch über Jahrzehnte hinweg nachweisbar.

Als Kontrolle teilten die Forschenden die Modelle zufällig in Gruppen ein und wiederholten den Vergleich, wobei dies keine signifikanten Änderungen in zukünftigen Vorhersagen erzeugte.

Der Effekt, so das Papier, kann ebenfalls über Jahrzehnte hinweg bestehen bleiben. Obwohl er im Allgemeinen schwächer und seltener wurde, je größer das Intervall zwischen den Aufzeichnungen war, zeigte der HEEDB‑Datensatz, der EKGs aus den 1980er‑Jahren bis 2025 enthält, signifikante Änderungen in den Vorhersagen mehr als 25 Jahre nach dem zuletzt trainierten Datensatz des Patienten.

Diagnostischer Schaden

Die Forschenden des neuen Papiers – betitelt Memorisierungsbias in der medizinischen KI – simulierten anschließend, wie das Erinnern die diagnostische Genauigkeit beeinflussen könnte, wenn Patienten später einem Modell begegnen, das auf ihren früheren Aufzeichnungen trainiert wurde.

Zukünftige Fälle wurden danach aufgeteilt, ob der Patient eine neue Erkrankung entwickelt hatte; ob diese in den historischen Trainingsdaten fehlte; oder ob er mit im Wesentlichen demselben Gesundheitszustand zurückkehrte.

Bei neuen Erkrankungen erwies sich der Effekt durchweg negativ, wobei Modelle, die zuvor die historischen Aufzeichnungen des Patienten gesehen hatten, eine geringere Sensitivität über ein Spektrum von Diagnosen, die in den vier Datensätzen vertreten sind, zeigten. Dazu gehörten Infarkte und andere EKG‑Abnormalitäten; Lungenerkrankungen; sowie breitere kritische Ergebnisse.

In praktischen Begriffen erzeugten die Modelle mehr Fehlnegative, wenn sich der Gesundheitszustand des Patienten geändert hatte; aber wenn der Gesundheitszustand des Patienten nicht geändert hatte, erhöhte das Gedächtnis des Modells an deren frühere Aufzeichnungen die Wahrscheinlichkeit, die richtige Diagnose zu stellen. Sowohl Sensitivität als auch Spezifität stiegen, weil der aktuelle Zustand des Patienten dem bereits in den Trainingsdaten vertretenen Zustand ähnelte.

Die Autoren weisen darauf hin, dass dies solche Systeme schwer genau zu beurteilen machen könnte: Wenn die meisten zurückkehrenden Patienten noch dieselben Erkrankungen haben, wird das Modell bei ihnen besser abschneiden, wodurch seine geringere Sensitivität gegenüber Patienten, die neue Erkrankungen entwickelt haben, möglicherweise verborgen bleibt.

Lösungen

Als mögliche Schutzmaßnahme testeten die Forschenden differentielle Privatsphäre (die begrenzt, wie viele Informationen über ein individuelles Trainingsbeispiel von einem Modell behalten werden können) während des Trainings.

Obwohl der Schutz individueller Aufzeichnungen den Memorisationseffekt reduzierte, eliminierte ihn nicht, selbst bei der stärksten getesteten Einstellung. Der Schutz auf Patientenebene, der alle Aufzeichnungen derselben Person umfasst, war deutlich wirksamer und nahezu eliminierte den Effekt.

Es sollte jedoch beachtet werden, dass, wenn ein Datensatz irreversibel anonymisiert wurde, die Patientendaten nicht so abgegrenzt werden können, dass solche Methoden möglich sind; und die Forschenden stellen fest, dass, wenn der Datensatz nicht mit aktivierter differentielle Privatsphäre trainiert wird, Mitgliedschaftsinferenz‑Angriffe zu einem Risiko werden; wenn dies der Fall ist, steigen die für das Training erforderlichen Ressourcen deutlich.

Fazit

Die Autoren schließen mit der Beobachtung, dass, obwohl die besorgniserregenden Vorfälle derzeit mit relativ niedriger Rate auftreten, sich dies in Zukunft ändern könnte*:

‘Es gibt Grund zu der Annahme, dass die Zahl der Fehldiagnosen, die auf Memorierungsbias zurückzuführen sind, in Zukunft zunehmen wird, obwohl wir dies nicht direkt testen. Frühere Forschungen haben gezeigt, dass der Anteil der Trainingsdaten, den ein Modell auswendig lernt, mit zunehmender Modellkapazität steigt [6, 7, 9, 10, 40].’

‘Das ist besorgniserregend, da die aktuelle KI‑Modellentwicklung von „Scaling Laws“ [41] geleitet wird, die ein rasches Wachstum sowohl der Modell‑ als auch der Datensatzgrößen vorantreiben, um die Leistung zu verbessern.’

‘Da größere KI‑Modelle mit historischen Daten aus immer größeren Patientengruppen trainiert werden, wird die absolute Zahl der von Memorierungsbias betroffenen Personen voraussichtlich drastisch steigen, was die hier identifizierten Risiken verschärft.’

* Meine Umwandlung der Inline‑Zitate der Autoren in Hyperlinks, mit einiger Interpretation, wo eine exakte Replikation nicht möglich oder sinnvoll ist.

Erstveröffentlichung Freitag, 18. September 2026. Korrigiert um 18:17 EET für die Hyperlink‑Korrektur.