Δεκαετιών Παλιά Ανώνυμα Ιατρικά Δεδομένα Μπορεί Να Προκαλέσουν Λανθασμένες Διαγνώσεις AI Τώρα

Σύμφωνα με μια νέα ερευνητική συνεργασία μεταξύ της Γερμανίας και του Ηνωμένου Βασιλείου, τα ανώνυμα αρχεία ασθενών που συμπεριλήφθηκαν σε ιατρικά σύνολα δεδομένων ακόμη και πριν από δεκαετίες μπορεί να προκαλέσουν τα συστήματα AI που εκπαιδεύονται πάνω τους να αναγνωρίζουν τα πραγματικά χαρακτηριστικά του ασθενούς χρόνια αργότερα – και να αντιμετωπίζουν έναν ασθενή του 2026 σαν να ήταν ακόμη το 2012 (ή οποιοδήποτε έτος τα ανώνυμα δεδομένα του ασθενούς ενσωματώθηκαν για πρώτη φορά στο/στα σύνολο(α) δεδομένων).

Αυτό θα μπορούσε, για παράδειγμα, να σημαίνει ότι ένας ασθενής που καταγράφηκε ως υποβάλλοντας θεραπεία κατά του καρκίνου πριν από 20 χρόνια, και ο οποίος στη συνέχεια έφτασε σε μακροπρόθεσμη ύπαρξη, θα μπορούσε τώρα να αντιμετωπιστεί από το σύστημα AI στο πλαίσιο της παλαιότερης, καρκίνο‑επηρεαζόμενης εκδοχής του – λογικά αυξάνοντας ακόμη τις πιθανότητες λανθασμένης διάγνωσης υποτροπής.

Αντίστροφα, εάν η έκδοση του 2012 των δεδομένων εκείνου του ασθενούς αντικατοπτριζε τέλεια υγεία σε ρουτίνες ελέγχων, αυτή η αισιόδοξη προσέγγιση θα μπορούσε ενδεχομένως να επιβληθεί στην παλαιότερη, τρέχουσα έκδοση του ασθενούς, κρύβοντας τον εντοπισμό νέων καταστάσεων ή προβλημάτων που ίσως χρειάζονται θεραπεία.

Από το νέο άρθρο, μια εικονογράφηση του πώς η προκατάληψη μνήμης μπορεί να επηρεάσει έναν επανερχόμενο ασθενή. Ένα μοντέλο που εκπαιδεύτηκε στα πρώιμα υγιή ΗΚΓ της Alice εκχωρεί μόνο 15 % πιθανότητα σε μετέπειτα καρδιακή προσβολή της, σε σύγκριση με 73 % για ένα μοντέλο που ποτέ δεν είδε τα ιστορικά της αρχεία. Πηγή

Περιορίζοντας την «Μετανάστευση Δεδομένων»

Το σενάριο γίνεται πιο πιθανό λόγω διαφόρων εθνικών και περιφερειακών οδηγίων που συνιστούν ότι τα δεδομένα ασθενών για τέτοιους σκοπούς θα πρέπει ιδανικά να λαμβάνονται από τη χώρα στην οποία προορίζονται τα συστήματα που προέρχονται από αυτά, γεγονός που «τοπικοποιεί» την ομάδα ασθενών στα σύνολα δεδομένων και αυξάνει σημαντικά την πιθανότητα τέτοιου μη εντοπισμένου γεγονότος αποανωνυμοποίησης.

Κατά συνέπεια, ο περιορισμός της ποσότητας των διαθέσιμων δεδομένων σε ένα μόνο εθνικό σύνολο αυξάνει την πιθανότητα απομνημόνευσης – της δυνατότητας το μοντέλο να δει τα ίδια δεδομένα τόσες φορές κατά την εκπαίδευση ώστε να «εγκατασταθεί» σε αυτά τα υπερ‑εκπαιδευμένα μοτίβα. Αντίστροφα, όσο μεγαλύτερο και πιο διαφοροποιημένο είναι ένα σύνολο δεδομένων, τόσο πιο πιθανό είναι να γενικεύσει σε αόρατα δεδομένα μετά την εκπαίδευση, αντί να απομνημονεύει συγκεκριμένα σημεία ή διαμορφώσεις.

Ωστόσο, η προσθήκη «ξένων» ιατρικών δεδομένων ενέχει κίνδυνο να εισάγει αποδείξεις εθνικών τάσεων υγείας και ιδιαιτεροτήτων που δεν θα ισχύουν στη χώρα όπου το εκπαιδευμένο μοντέλο θα εφαρμοστεί· σε αυτό το πλαίσιο, όπως παραδέχεται το νέο άρθρο, ένα ορισμένο ποσό απομνημόνευσης είναι κατάλληλο και χρήσιμο, καθώς βοηθά το μοντέλο να λειτουργεί εντός των πιο πιθανών γενικών ιατρικών χαρακτηριστικών ενός συγκεκριμένου πληθυσμού.

Το άρθρο δηλώνει*:

‘[When] μοντέλα αναπτύσσονται προοπτικά, η απομνημόνευση δημιουργεί έναν συγκεκριμένο και υποεκτιμημένο κίνδυνο. Επειδή τα αρχεία ενός ασθενούς είναι εξαιρετικά αυτοσυμπίπτοντα με την πάροδο του χρόνου, ένα μελλοντικό αρχείο μπορεί να λειτουργήσει ως μερική ένδειξη για ένα απομνημονευμένο ιστορικό αρχείο, μετατοπίζοντας τις προβλέψεις του μοντέλου προς την προηγούμενη κατάσταση υγείας του ασθενούς.

Αυτό δεν είναι ένα υποθετικό σενάριο. Τα ιατρικά μοντέλα AI εφαρμόζονται τακτικά στον ίδιο πληθυσμό από τον οποίο προήλθαν τα δεδομένα εκπαίδευσής τους.

‘Για παράδειγμα, το εθνικό πρόγραμμα σιγμοσκόπησης του καρκίνου του μαστού της Γερμανίας πρόγραμμα χρησιμοποιεί ένα μοντέλο AI εκπαιδευμένο σε 1,2 εκατομμύρια μαστογραφίες που προέρχονται από τον ίδιο πληθυσμό σίγασης που εξυπηρετεί τώρα.

‘Σύγκριτη υλοποίηση βρίσκεται σε εξέλιξη αλλού, συμπεριλαμβανομένων εθνικών προγραμμάτων σιγμοσκόπησης του καρκίνου του μαστού στο Ηνωμένο Βασίλειο και Σουηδία.

‘Η κανονιστική καθοδήγηση ενθαρρύνει ενεργά αυτό, με το EU AI Act να απαιτεί τα δεδομένα εκπαίδευσης να αντικατοπτρίζουν τη γεωγραφική και συμφραζόμενη κατάσταση της προοριζόμενης χρήσης (Άρθρο 10(4)), και παρόμοιες διεθνείς οδηγίες για την ανάπτυξη ιατρικής AI που ζητούν η επιθυμητός πληθυσμός ασθενών να εκπροσωπείται επαρκώς στο σύνολο δεδομένων εκπαίδευσης του μοντέλου.’

Μόνιμη Ιστορική Καταστροφή..;

Αν και το άρθρο δεν εξετάζει το θέμα, φαίνεται στατιστικά λογικό ότι οι ασθενείς που δεν (ή δεν) επισκέπτονταν τακτικά ιατρικούς ελέγχους καθ’ όλη τη διάρκεια της ζωής τους, και των οποίων τα ανώνυμα αρχεία εισήχθησαν περιοδικά στη ροή δεδομένων AI, είναι πιθανό να εμφανίζονται στα ανώνυμα δεδομένα ασθενών σχεδόν αποκλειστικά τις φορές που χρειάστηκε θεραπεία – κάτι που θα αυξήσει την πιθανότητα «προβολής» μιας μακροχρόνιας θεραπευμένης κατάστασης στον ίδιο ασθενή τώρα, καθώς τα αρχεία δεν έχουν αντιστάθμιση «καλής υγείας».

Αυτό επιβεβαιώνεται από προηγούμενη έρευνα σχετικά με ‘informed presence bias’ στα ηλεκτρονικά αρχεία υγείας, που διαπιστώνει ότι τα ιατρικά σύνολα δεδομένων αντιπροσωπεύουν δυσανάλογα τις περιόδους που οι ασθενείς είναι άρρωστοι και αλληλεπιδρούν με τις υπηρεσίες υγειονομικής περίθαλψης.

Μία μελέτη διαπίστωσε ότι οι σοβαρά άρρωστοι ασθενείς είχαν 5,05 φορές περισσότερες ημέρες με εργαστηριακά δεδομένα και 6,85 φορές περισσότερες με εντολές φαρμακευτικής αγωγής σε σύγκριση με τους πιο υγιείς ασθενείς.

Το 2022, περίπου το 76 % των ενηλίκων των ΗΠΑ αναφέρουν ότι υπέστησαν προληπτικό έλεγχο εντός του προηγούμενου έτους, όπως ορίζεται από το CDC ως γενική σωματική εξέταση, αντί για θεραπεία συγκεκριμένης πάθησης· και στην Ευρώπη, μια πολυεθνική έρευνα του 2023 διαπίστωσε ότι το 58 % παρακολούθησε τουλάχιστον κάποιους προληπτικούς ελέγχους· αλλά μόνο το 15 % παρακολούθησε όλα τα προληπτικά ραντεβού που θεωρούνται σχετικοί με αυτούς.

Η έκταση της επίπτωσης

Η μελέτη έπεισε την επίδραση σε τέσσερα μεγάλα ιατρικά σύνολα δεδομένων, καλύπτοντας ηχογραφήσεις ECG, θωρακικές ακτινογραφίες και ηλεκτρονικά αρχεία υγείας· συγκεκριμένα, τη βάση δεδομένων θωρακικών ακτινογραφιών MIMIC-CXR και τα εγχειρητικά αρχεία MIMIC-IV-ED, μαζί με το MIMIC-ECG και τη πολύ μεγαλύτερη συλλογή ECG HEEDB. Τα σύνολα δεδομένων κυμαίνονταν σε μέγεθος από δεκάδες χιλιάδες ασθενείς έως πάνω από 1,8 εκατομμύρια άτομα.

Οι συγγραφείς σημειώνουν ότι το υπολογισμένο αποτέλεσμα διαφέρει σημαντικά, με αλλαγές στην προβλεπόμενη πιθανότητα να υπερβαίνουν τα 70 ποσοστικά σημεία σε ορισμένες περιπτώσεις:

Αποτελέσματα που δείχνουν πώς τα ιστορικά δεδομένα ασθενών αλλάζουν τις μελλοντικές προβλέψεις. Τα άνω πάνελ συγκρίνουν τη συχνότητα και το μέγεθος αυτών των αλλαγών στα τέσσερα σύνολα δεδομένων· τα κάτω πάνελ δείχνουν πώς η επίδραση μεταβάλλεται με το χρόνο από την τελευταία εγγραφή εκπαίδευσης του ασθενούς. Οι σημαντικές επιδράσεις γίνονται λιγότερο συχνές με την πάροδο του χρόνου, αλλά παραμένουν ανιχνεύσιμες δεκαετίες αργότερα.

Ως έλεγχος, οι ερευνητές διαίρυσαν τυχαία τα μοντέλα σε ομάδες και επανέλαβαν τη σύγκριση, αν και αυτό δεν παρήγαγε σημαντικές αλλαγές στις μελλοντικές προβλέψεις.

Το αποτέλεσμα, σημειώνει το άρθρο, μπορεί επίσης να διαρκέσει δεκαετίες. Αν και γενικά εξασθενούσε και γινόταν λιγότερο συχνό καθώς αυξανόταν το διάστημα μεταξύ των εγγραφών, το σύνολο δεδομένων HEEDB, που περιλαμβάνει ECG που συλλέχθηκαν από τη δεκαετία του 1980 έως το 2025, παρουσίασε σημαντικές αλλαγές στις προβλέψεις περισσότερο από 25 χρόνια μετά την πιο πρόσφατη εγγραφή εκπαίδευσης του ασθενούς.

Διάγνωση Βλάβης

Οι ερευνητές του νέου άρθρου – με τίτλο Μεροληψία μνήμης στην ιατρική AI – προσομοίσαν επόμενα πώς η απομνημόνευση θα μπορούσε να επηρεάσει την ακρίβεια διάγνωσης όταν οι ασθενείς αργότερα αντιμετωπίζουν ένα μοντέλο που έχει εκπαιδευτεί με τα προηγούμενα αρχεία τους.

Οι μελλοντικές περιπτώσεις χωρίστηκαν ανάλογα με το αν ο ασθενής είχε αναπτύξει νέα κατάσταση· απουσίασε από τα ιστορικά δεδομένα εκπαίδευσης· ή αν επέστρεφε με ουσιαστικά την ίδια κατάσταση υγείας.

Για νέες καταστάσεις, το αποτέλεσμα αποδείχθηκε σταθερά αρνητικό, με μοντέλα που είχαν προηγουμένως δει τα ιστορικά αρχεία του ασθενούς να παρουσιάζουν χαμηλότερη ευαισθησία σε ένα φάσμα διαγνώσεων που αντιπροσωπεύονται στα τέσσερα σύνολα δεδομένων. Αυτό περιλάμβανε εμφράγματα και άλλες ανωμαλίες ECG· παθήσεις του πνεύμονα· και ευρύτερα κρίσιμα αποτελέσματα.

Σε πρακτικό επίπεδο, τα μοντέλα παρήγαγαν περισσότερα ψευδώς αρνητικά όταν η υγεία του ασθενούς είχε αλλάξει· αλλά όταν η υγεία του ασθενούς δεν είχε αλλάξει, η μνήμη του μοντέλου για τα προηγούμενα αρχεία του έκανε πιο πιθανή την παραγωγή της σωστής διάγνωσης. Και η ευαισθησία και η ειδικότητα αυξήθηκαν επειδή η τρέχουσα κατάσταση του ασθενούς μοιάζει με την κατάσταση που ήδη αντιπροσωπεύεται στα δεδομένα εκπαίδευσης.

Οι συγγραφείς σημειώνουν ότι αυτό θα μπορούσε να κάνει τέτοια συστήματα δύσκολα στην ακριβή αξιολόγηση: εάν οι περισσότεροι επανερχόμενοι ασθενείς διατηρούν τις ίδιες καταστάσεις, το μοντέλο θα αποδίδει καλύτερα σε αυτούς, ενδεχομένως κρύβοντας τη χαμηλότερη ευαισθησία του προς ασθενείς που έχουν αναπτύξει νέες καταστάσεις.

Λύσεις

Ως πιθανό μέτρο προστασίας, οι ερευνητές δοκίμασαν διαφορική ιδιωτικότητα (η οποία περιορίζει το πόσες πληροφορίες για οποιοδήποτε μεμονωμένο παράδειγμα εκπαίδευσης μπορεί να διατηρηθεί από ένα μοντέλο) κατά την εκπαίδευση.

Αν και η προστασία των ατομικών αρχείων μείωσε το φαινόμενο απομνημόνευσης, δεν το εξάλειψε, ακόμη και στην ισχυρότερη δοκιμασμένη ρύθμιση. Η εφαρμογή της προστασίας σε επίπεδο ασθενούς, καλύπτοντας όλα τα αρχεία που ανήκουν στο ίδιο άτομο, ήταν πολύ πιο αποτελεσματική και σχεδόν εξάλειψε το φαινόμενο.

Πρέπει, ωστόσο, να παρατηρηθεί ότι εάν ένα σύνολο δεδομένων έχει ανώνυμο με αμετάκλητο τρόπο, τα δεδομένα του ασθενούς δεν μπορούν να περιοριστούν με τρόπο που να επιτρέπει τέτοιες μεθόδους· και, όπως παρατηρούν οι ερευνητές, εάν το σύνολο δεδομένων δεν εκπαιδεύεται με ενεργοποιημένη διαφορική ιδιωτικότητα, επιθέσεις ανάκτησης μέλους γίνονται κίνδυνος; εάν είναι, οι απαιτούμενοι πόροι για την εκπαίδευση αυξάνονται σημαντικά.

Συμπέρασμα

Οι συγγραφείς κλείνουν παρατηρώντας ότι ενώ τα ανησυχητικά περιστατικά συμβαίνουν επί του παρόντος σε σχετικά χαμηλό ρυθμό, αυτό μπορεί να αλλάξει στο μέλλον*:

‘Υπάρχει λόγος να αναμένουμε ότι ο αριθμός των λανθασμένων διαγνώσεων που αποδίδονται στην προκατάληψη μνήμης θα αυξηθεί στο μέλλον, αν και δεν το δοκιμάζουμε άμεσα. Προηγούμενη έρευνα έχει δείξει ότι το ποσοστό των δεδομένων εκπαίδευσης που αποθηκεύει ένα μοντέλο αυξάνεται με την ικανότητα του μοντέλου [6, 7, 9, 10, 40].’

‘Αυτό είναι ανησυχητικό, δεδομένου ότι η τρέχουσα ανάπτυξη μοντέλων AI καθοδηγείται από τις «νόμους κλιμάκωσης» [41], οι οποίοι προωθούν ταχεία αύξηση τόσο του μεγέθους των μοντέλων όσο και των συνόλων δεδομένων με στόχο τη βελτιωμένη απόδοση.’

‘Καθώς μεγαλύτερα μοντέλα AI εκπαιδεύονται σε ιστορικά δεδομένα που προέρχονται από ολοένα και μεγαλύτερους πληθυσμούς ασθενών, ο απόλυτος αριθμός των ατόμων που επηρεάζονται από την προκατάληψη μνήμης πιθανότατα θα αυξηθεί δραστικά, εντείνοντας τους κινδύνους που εντοπίζουμε εδώ.’

* Η μετατροπή των ενσωματωμένων παραπομπών των συγγραφέων σε υπερσυνδέσμους, με κάποια ερμηνεία όπου η ακριβής αναπαραγωγή δεν είναι δυνατή ή χρήσιμη.

Πρώτη δημοσίευση Παρασκευή, 18 Σεπτεμβρίου 2026. Τροποποιήθηκε στις 18:17 EET για διόρθωση υπερσυνδέσμου.