Δεκαετίες-Παλαιά Ανώνυμα Ιατρικά Δεδομένα Μπορεί Να Προκαλέσουν Λάθος Διαγνώσεις AI Τώρα

Σύμφωνα με μια νέα ερευνητική συνεργασία μεταξύ της Γερμανίας και του Ηνωμένου Βασιλείου, τα ανώνυμα αρχεία ασθενών που συμπεριλήφθηκαν σε ιατρικά σύνολα δεδομένων ακόμη και πριν από δεκαετίες, μπορεί να προκαλέσουν στα συστήματα AI που εκπαιδεύονται σε αυτά να αναγνωρίζουν τα πραγματικά χαρακτηριστικά του ασθενούς χρόνια αργότερα – και να αντιμετωπίζουν έναν ασθενή του 2026 σαν να ήταν ακόμη το 2012 (ή οποιοδήποτε έτος τα ανώνυμα δεδομένα του ασθενούς ενσωματώθηκαν για πρώτη φορά στο σύνολο δεδομένων).

Αυτό θα μπορούσε, για παράδειγμα, να σημαίνει ότι ένας ασθενής που καταγράφηκε ότι έπαιρνε θεραπεία για καρκίνο πριν από 20 χρόνια, και που στη συνέχεια εισήλθε σε μακροπρόθεσμη ύφεση, θα μπορούσε τώρα να αντιμετωπιστεί από το σύστημα AI στο πλαίσιο του παλαιότερου, καρκίνο-επηρεασμένου εαυτού του – λογικά αυξάνοντας ακόμη τις πιθανότητες λανθασμένης διάγνωσης υποτροπής.

Αντίθετα, εάν η έκδοση του 2012 των δεδομένων αυτού του ασθενούς αντικατόπτριζε τέλεια υγεία στις τακτικές εξετάσεις, αυτή η αισιόδοξη προοπτική θα μπορούσε ενδεχομένως να επιβληθεί στην παλαιότερη, τρέχουσα έκδοση του ασθενούς, κρύβοντας την ανίχνευση νέων καταστάσεων ή προβλημάτων που ενδέχεται να χρειάζονται θεραπεία.

Από το νέο άρθρο, μια εικονογράφηση του πώς η προκατάληψη μνήμης μπορεί να επηρεάσει έναν επανερχόμενο ασθενή. Ένα μοντέλο εκπαιδευμένο στα πρώιμα υγιή ΗΚΓ της Alice αποδίδει μόλις 15% πιθανότητα για την επακόλουθη καρδιακή της προσβολή, σε σύγκριση με 73% για ένα μοντέλο που δεν είχε δει τα ιστορικά της αρχεία. Πηγή

Περιορισμός της «Μετανάστευσης Δεδομένων»

Το σενάριο καθίσταται πιο πιθανό λόγω διαφόρων εθνικών και περιφερειακών οδηγίων που συνιστούν ότι τα δεδομένα ασθενών για τέτοιους σκοπούς θα πρέπει ιδανικά να λαμβάνονται από τη χώρα στην οποία προορίζονται τα συστήματα που προέρχονται από αυτά, κάτι που «τοπικοποιεί» την ομάδα ασθενών στα σύνολα δεδομένων, και αυξάνει σημαντικά την πιθανότητα τέτοιου ανιχνεύσιμου γεγονότος αποανωνυμοποίησης.

Με την παραξήγηση, ο περιορισμός της ποσότητας των διαθέσιμων δεδομένων σε μόνο ένα εθνικό σύνολο δεδομένων αυξάνει την πιθανότητα απομνημόνευσης – της δυνατότητας το μοντέλο να δει τα ίδια δεδομένα τόσες φορές κατά την εκπαίδευση ώστε να «εμποτιστεί» σε αυτά τα υπερ-μαθημένα πρότυπα. Αντίθετα, όσο μεγαλύτερο και πιο διαφοροποιημένο είναι ένα σύνολο δεδομένων, τόσο πιο πιθανό είναι να γενικεύσει σε αόρατα δεδομένα μετά την εκπαίδευση, αντί να απομνημονεύει συγκεκριμένα σημεία ή διαμορφώσεις.

Ωστόσο, η προσθήκη «ξένων» ιατρικών δεδομένων ενέχει κίνδυνο να εισάγει αποδείξεις εθνικών τάσεων υγείας και ιδιαιτεροτήτων που δεν θα ισχύουν στη χώρα όπου το εκπαιδευμένο μοντέλο θα εφαρμοστεί· σε αυτό το πλαίσιο, όπως παραδέχεται το νέο άρθρο, ένα ορισμένο επίπεδο απομνημόνευσης είναι κατάλληλο και χρήσιμο, καθώς βοηθά το μοντέλο να λειτουργεί εντός των πιο πιθανολογημένων γενικών ιατρικών χαρακτηριστικών ενός συγκεκριμένου πληθυσμού.

Το άρθρο δηλώνει*:

‘[When] μοντέλα αναπτύσσονται προοπτικά, η απομνημόνευση δημιουργεί έναν συγκεκριμένο και υποεκτιμημένο κίνδυνο. Επειδή τα αρχεία ενός ασθενούς είναι εξαιρετικά αυτοσυγγενή με την πάροδο του χρόνου, ένα μελλοντικό αρχείο μπορεί να λειτουργήσει ως μερική υπόδειξη για ένα απομνημονευμένο ιστορικό αρχείο, μετατοπίζοντας τις προβλέψεις του μοντέλου προς την προηγούμενη κατάσταση υγείας του ασθενούς.

Αυτό δεν είναι ένα υποθετικό σενάριο. Τα ιατρικά μοντέλα AI αναπτύσσονται τακτικά στον ίδιο πληθυσμό από τον οποίο προήλθαν τα δεδομένα εκπαίδευσής τους.

‘Για παράδειγμα, το εθνικό πρόγραμμα σιγμοσκόπησης του μαστού της Γερμανίας πρόγραμμα χρησιμοποιεί ένα μοντέλο AI εκπαιδευμένο σε 1,2 εκατομμύρια mammograms που προέρχονται από τον ίδιο πληθυσμό σιγμοσκόπησης που εξυπηρετεί τώρα.

‘Αντίστοιχη υλοποίηση βρίσκεται σε εξέλιξη αλλού, συμπεριλαμβανομένων των εθνικών προγραμμάτων σιγμοσκόπησης του μαστού στο Ηνωμένο Βασίλειο και Σουηδία.

‘Οι κανονιστικές οδηγίες ενθαρρύνουν ενεργά αυτό, με το EU AI Act να απαιτεί τα δεδομένα εκπαίδευσης να αντανακλούν τη γεωγραφική και συμφραζόμενη κατάσταση της προοριζόμενης χρήσης (Άρ. 10(4)), και παρόμοιες διεθνείς κατευθυντήριες οδηγίες για την ανάπτυξη ιατρικής AI που ζητούν ο επιθυμητός πληθυσμός ασθενών να εκπροσωπείται επαρκώς στο σύνολο δεδομένων εκπαίδευσης ενός μοντέλου.’

Επίμονη Ιστορική Καταστροφή..;

Παρόλο που το άρθρο δεν εξετάζει το θέμα, φαίνεται στατιστικά λογικό ότι οι ασθενείς που δεν (ή δεν) παρακολουθούν τακτικά ιατρικές εξετάσεις καθ’ όλη τη διάρκεια της ζωής τους, και των οποίων τα ανώνυμα αρχεία εισήχθησαν περιοδικά στη ροή δεδομένων AI, είναι πιθανό να εμφανίζονται στα ανώνυμα δεδομένα ασθενών σχεδόν αποκλειστικά τις φορές που χρειάστηκαν θεραπεία – κάτι που θα αυξήσει την πιθανότητα «προβολής» μιας μακροχρόνιας θεραπευμένης κατάστασης στον ίδιο ασθενή τώρα, καθώς τα αρχεία δεν έχουν αντιστάθμιση «καλής υγείας».

Αυτό επιβεβαιώνεται από προηγούμενη έρευνα σχετικά με ‘informed presence bias’ στα ηλεκτρονικά αρχεία υγείας, που διαπιστώνει ότι τα ιατρικά σύνολα δεδομένων αντιπροσωπεύουν δυσανάλογα τις περιόδους που οι ασθενείς είναι άρρωστοι και αλληλεπιδρούν με τις υπηρεσίες υγειονομικής περίθαλψης.

Μία μελέτη διαπίστωσε ότι οι σοβαρά άρρωστοι ασθενείς είχαν 5.05 φορές περισσότερες ημέρες με εργαστηριακά δεδομένα και 6.85 φορές περισσότερες με εντολές φαρμακευτικής αγωγής σε σύγκριση με τους πιο υγιείς ασθενείς.

Το 2022, περίπου το 76% των ενηλίκων των ΗΠΑ αναφέρθηκε ότι υπέστησαν μια προγραμματισμένη ιατρική εξέταση εντός του προηγούμενου έτους, όπως ορίζεται από το CDC ως γενική σωματική εξέταση, αντί για θεραπεία για συγκεκριμένη κατάσταση· και στην Ευρώπη, μια πολυεθνική έρευνα του 2023 διαπίστωσε ότι το 58% συμμετείχε σε τουλάχιστον κάποιες προληπτικές εξετάσεις· αλλά μόνο το 15% παρακολούθησε όλες τις προληπτικές επισκέψεις που θεωρούνταν σχετικές για αυτούς.

Η έκταση του αποτελέσματος

Η μελέτη έδωσε δοκιμή στο φαινόμενο σε τέσσερα μεγάλα ιατρικά σύνολα δεδομένων, καλύπτοντας εγγραφές ECG, θώρακες ακτινογραφίες και ηλεκτρονικά αρχεία υγείας· συγκεκριμένα, τη βάση δεδομένων θώρακων ακτινογραφιών MIMIC-CXR και τα εγγραφές επειγόντων περιστατικών MIMIC-IV-ED, μαζί με το MIMIC-ECG και τη πολύ μεγαλύτερη συλλογή ECG HEEDB. Τα σύνολα δεδομένων κυμαίνονταν σε μέγεθος από δεκάδες χιλιάδες ασθενείς έως περισσότερους από 1.8 εκατομμύρια ανθρώπους.

Οι συγγραφείς σημειώνουν ότι το υπολογισμένο αποτέλεσμα διαφέρει σημαντικά, με αλλαγές στην προβλεπόμενη πιθανότητα να υπερβαίνουν τα 70 ποσοστικά σημεία σε ορισμένες περιπτώσεις:

Αποτελέσματα που δείχνουν πώς τα ιστορικά δεδομένα ασθενών μεταβάλλουν τις μελλοντικές προβλέψεις. Τα άνω πάνελ συγκρίνουν τη συχνότητα και το μέγεθος αυτών των αλλαγών στα τέσσερα σύνολα δεδομένων· τα κάτω πάνελ δείχνουν πώς το φαινόμενο μεταβάλλεται με το χρόνο από την τελευταία εγγραφή εκπαίδευσης του ασθενούς. Οι σημαντικές επιδράσεις γίνονται λιγότερο συχνές με την πάροδο του χρόνου, αλλά παραμένουν ανιχνεύσιμες δεκαετίες αργότερα.

Ως έλεγχος, οι ερευνητές διαίρυσαν τυχαία τα μοντέλα σε ομάδες και επανέλαβαν τη σύγκριση, αν και αυτό δεν παρήγαγε σημαντικές αλλαγές στις μελλοντικές προβλέψεις.

Το αποτέλεσμα, όπως σημειώνει το άρθρο, μπορεί επίσης να διαρκέσει δεκαετίες. Αν και γενικά εξασθενεί και γίνεται λιγότερο συχνό καθώς αυξάνεται το διάστημα μεταξύ των εγγραφών, το σύνολο δεδομένων HEEDB, που περιλαμβάνει ECGs συλλεγμένα από τη δεκαετία του 1980 έως το 2025, παρουσίασε σημαντικές αλλαγές στις προβλέψεις περισσότερα από 25 χρόνια μετά την πιο πρόσφατη εγγραφή εκπαίδευσης του ασθενούς.

Διάγνωση βλάβης

Οι ερευνητές του νέου άρθρου – με τίτλο Προκατάληψη μνήμης στην ιατρική AI – προσομοίσανε στη συνέχεια πώς η μνήμη θα μπορούσε να επηρεάσει την ακρίβεια διάγνωσης όταν οι ασθενείς αργότερα αντιμετωπίζουν ένα μοντέλο που έχει εκπαιδευτεί στα προηγούμενα δεδομένα τους.

Οι μελλοντικές περιπτώσεις χωρίστηκαν ανάλογα με το αν ο ασθενής είχε αναπτύξει νέα κατάσταση· απουσίαζε από τα ιστορικά δεδομένα εκπαίδευσης· ή αν επέστρεφε με ουσιαστικά την ίδια κατάσταση υγείας.

Για νέες καταστάσεις, το φαινόμενο αποδείχθηκε σταθερά αρνητικό, με μοντέλα που είχαν προηγουμένως δει τα ιστορικά δεδομένα του ασθενούς να παρουσιάζουν χαμηλότερη ευαισθησία σε ένα φάσμα διαγνώσεων που αντιπροσωπεύονται στα τέσσερα σύνολα δεδομένων. Αυτό περιλάμβανε εμφράγματα και άλλες ανωμαλίες ECG· πνευμονικές καταστάσεις· και ευρύτερα κρίσιμα αποτελέσματα.

Σε πρακτικούς όρους, τα μοντέλα παρήγαγαν περισσότερα ψευδώς αρνητικά όταν η υγεία του ασθενούς είχε αλλάξει· αλλά όταν η υγεία του ασθενούς δεν άλλαξε, η μνήμη του μοντέλου για τα προηγούμενα αρχεία του έκανε πιο πιθανό να παραγάγει τη σωστή διάγνωση. Και η ευαισθησία και η ειδικότητα αυξήθηκαν επειδή η τρέχουσα κατάσταση του ασθενούς συμφωνούσε με την κατάσταση που ήδη εκπροσωπείται στα δεδομένα εκπαίδευσης.

Οι συγγραφείς σημειώνουν ότι αυτό θα μπορούσε να κάνει τέτοια συστήματα δύσκολα στην ακριβή αξιολόγηση: εάν οι περισσότεροι επιστρέφοντες ασθενείς διατηρούν τις ίδιες παθήσεις, το μοντέλο θα αποδίδει καλύτερα σε αυτούς, ενδεχομένως κρύβοντας τη χαμηλότερη ευαισθησία του σε ασθενείς που έχουν αναπτύξει νέες παθήσεις.

Λύσεις

Ως πιθανό μέτρο προστασίας, οι ερευνητές δοκίμασαν τη διαφορική ιδιωτικότητα (η οποία περιορίζει το πόση πληροφορία για οποιοδήποτε μεμονωμένο παράδειγμα εκπαίδευσης μπορεί να διατηρηθεί από ένα μοντέλο) κατά τη διάρκεια της εκπαίδευσης.

Αν και η προστασία των ατομικών εγγραφών μείωσε το φαινόμενο μνήμης, δεν το εξάλειψε, ακόμη και στη πιο ισχυρή ρύθμιση που δοκιμάστηκε. Η εφαρμογή της προστασίας σε επίπεδο ασθενούς, καλύπτοντας όλες τις εγγραφές που ανήκουν στο ίδιο άτομο, ήταν πολύ πιο αποτελεσματική και σχεδόν εξάλειψε το φαινόμενο.

Πρέπει να παρατηρηθεί, ωστόσο, ότι εάν ένα σύνολο δεδομένων έχει ανώνυμες αμετάκλητα, τα δεδομένα του ασθενούς δεν μπορούν να περιοριστούν με τρόπο που να επιτρέπει τέτοιες μεθόδους· και, όπως παρατηρούν οι ερευνητές, εάν το σύνολο δεδομένων δεν εκπαιδεύεται με ενεργοποιημένη διαφορική ιδιωτικότητα, οι επιθέσεις εξαγωγής μέλους γίνονται κίνδυνος· εάν το κάνει, οι απαιτούμενοι πόροι για την εκπαίδευση αυξάνονται σημαντικά.

Συμπέρασμα

Οι συγγραφείς κλείνουν παρατηρώντας ότι ενώ τα ανησυχητικά περιστατικά συμβαίνουν επί του παρόντος σε σχετικά χαμηλό ρυθμό, αυτό μπορεί να αλλάξει στο μέλλον*:

‘Υπάρχει λόγος να αναμένουμε ότι ο αριθμός των λανθασμένων διαγνώσεων που αποδίδονται στην προκατάληψη μνήμης θα αυξηθεί στο μέλλον, αν και δεν το δοκιμάζουμε άμεσα. Προηγούμενη έρευνα έχει δείξει ότι το ποσοστό των δεδομένων εκπαίδευσης που αποθηκεύει ένα μοντέλο αυξάνεται με την ικανότητα του μοντέλου [6, 7, 9, 10, 40].’

‘Αυτό είναι ανησυχητικό, δεδομένου ότι η τρέχουσα ανάπτυξη μοντέλων AI καθοδηγείται από τις «νόμους κλιμάκωσης» [41], οι οποίοι οδηγούν σε ταχεία αύξηση τόσο των μεγεθών των μοντέλων όσο και των συνόλων δεδομένων, με στόχο τη βελτιωμένη απόδοση.’

‘Καθώς μεγαλύτερα μοντέλα AI εκπαιδεύονται σε ιστορικά δεδομένα που προέρχονται από ολοένα και μεγαλύτερους πληθυσμούς ασθενών, ο απόλυτος αριθμός των ατόμων που επηρεάζονται από την προκατάληψη μνήμης πιθανότατα θα αυξηθεί δραστικά, εντείνοντας τους κινδύνους που εντοπίζουμε εδώ.’

* Η μετατροπή των ενσωματωμένων παραπομπών των συγγραφέων σε υπερσυνδέσμους, με κάποια ερμηνεία όπου η ακριβής αναπαραγωγή δεν είναι δυνατή ή χρήσιμη.

Πρώτη δημοσίευση Παρασκευή, 18 Σεπτεμβρίου 2026