Date medicale anonimizate de decenii pot provoca diagnosticări greșite ale IA acum

Conform unei noi colaborări de cercetare între Germania și Regatul Unit, înregistrările anonimizați ale pacienților incluse în seturi de date medicale chiar și cu decenii în urmă pot determina sistemele IA antrenate pe acestea să recunoască caracteristicile real ale pacientului ani mai târziu – și să trateze un pacient din 2026 ca și cum ar fi încă în 2012 (sau în anul în care datele anonimizate ale pacientului au fost incluse pentru prima dată în setul de date).

Acest lucru ar putea însemna, de exemplu, că un pacient care a fost înregistrat că urmează tratament pentru cancer în urmă cu 20 de ani și care ulterior a intrat într-o remisie pe termen lung, ar putea fi acum tratat de sistemul IA în contextul sinelui său mai vechi, afectat de cancer – ceea ce logic ar crește șansele unui diagnostic fals de recurență.

În schimb, dacă versiunea din 2012 a datelor acelui pacient reflecta o sănătate perfectă în controalele de rutină, această perspectivă optimistă ar putea fi impusă asupra versiunea mai veche și actuală a pacientului, mascând detectarea unor condiții noi sau probleme care ar necesita tratament.

Din noul articol, o ilustrație a modului în care biasul de memorare poate afecta un pacient revenit. Un model antrenat pe ECG-urile sănătoase anterioare ale lui Alice atribuie doar o probabilitate de 15% infarctului ei ulterior, comparativ cu 73% pentru un model care nu a văzut niciodată înregistrările ei istorice. Sursă

Împiedicarea ‘Imigrarea de date’

Scenariul devine mai probabil datorită diferitelor directive naționale și regionale care recomandă ca datele pacienților pentru astfel de scopuri să fie, ideal, prelevate din țara în care sistemele derivate din ele urmează să fie utilizate, ceea ce „localizează” grupul de pacienți în seturile de date și crește semnificativ șansa unui astfel de eveniment de de-anonimizare nedetectat.

Prin inferență, limitarea cantității de date disponibile la un singur set de date național crește șansa de memorare – posibilitatea ca modelul să vadă aceleași date de atâtea ori în timpul antrenamentului încât să devină „fixat” pe aceste tipare supraînvățate. În schimb, cu cât un set de date este mai mare și mai divers, cu atât este mai probabil să generalizeze la date nevăzute după antrenament, în loc să memoreze puncte de date sau configurații specifice.

Totuși, adăugarea de date medicale „străine” riscă să introducă dovezi ale tendințelor de sănătate naționale și ale idiosincraziilor care nu s-ar aplica în țara în care modelul antrenat este implementat; în acest sens, așa cum recunoaște nou articol, o anumită cantitate de memorare este adecvată și utilă, deoarece ajută modelul să funcționeze în cadrul celor mai probabile caracteristici medicale generale ale unei anumite populații.

Articolul afirmă*:

‘[When] modelele sunt implementate prospectiv, memorarea creează un risc specific și subapreciat. Deoarece înregistrările unui pacient sunt foarte similare în timp, o înregistrare viitoare poate acționa ca un indiciu parțial pentru o înregistrare istorică memorată, deplasând predicțiile modelului spre starea de sănătate anterioară a pacientului.

Acesta nu este un scenariu ipotetic. Modelele de IA medicală sunt în mod obișnuit implementate pe aceeași populație din care au fost prelevate datele lor de antrenament.

‘De exemplu, programul național de screening pentru cancer de sân al Germaniei program folosește un model IA antrenat pe 1,2 milioane de mamograme prelevate din aceeași populație de screening pe care o deservește acum.

‘Implementarea comparabilă este în curs în alte părți, inclusiv programe naționale de screening pentru cancer de sân în Regatul Unit și Suedia.

‘Ghidurile de reglementare încurajează activ acest lucru, cu EU AI Act care impune ca datele de antrenament să reflecte contextul geografic și contextual al utilizării preconizate (Art. 10(4)), și ghiduri internaționale similare pentru dezvoltarea IA medicală care solicită ca populația de pacienți vizată să fie reprezentată în mod adecvat în setul de date de antrenament al modelului.’

Calamitate istorică persistentă..?

Deși articolul nu abordează subiectul, pare logic din punct de vedere statistic că pacienții care nu (sau nu au) efectuat în mod regulat controale medicale pe parcursul vieții și ale căror înregistrări anonimizate au intrat periodic în fluxul de date AI, apar probabil în datele anonimizate ale pacienților aproape exclusiv în momentele când aveau nevoie de tratament – ceea ce ar crește șansa de a „proiecta” o afecțiune vindecată de mult asupra aceluiași pacient în prezent, deoarece înregistrările nu au un contrabalans „sănătate bună”.

Acest lucru este susținut de cercetări anterioare privind ‘biasul de prezență informat’ în dosarele electronice de sănătate, care arată că seturile de date medicale reprezintă disproporționat perioadele în care pacienții sunt bolnavi și interacționează cu serviciile de sănătate.

Un studiu a constatat că pacienții grav bolnavi aveau de 5,05 ori mai multe zile cu date de laborator și de 6,85 ori mai multe cu comenzi de medicamente decât pacienții cei mai sănătoși.

În 2022, aproximativ 76 % dintre adulții din SUA au raportat că au avut un control de rutină în anul precedent, definit de CDC ca o examinare fizică generală, mai degrabă decât un tratament pentru o afecțiune specifică; iar în Europa, un sondaj multinațional din 2023 a constatat că 58 % au participat la cel puțin unele controale preventive, dar doar 15 % au participat la toate programările preventive considerate relevante pentru ei.

Mărimea efectului

Studiul a testat efectul pe patru seturi mari de date medicale, cu înregistrări ECG, radiografii toracice și dosare electronice de sănătate; respectiv, baza de date MIMIC-CXR pentru radiografii toracice și MIMIC-IV-ED pentru înregistrări de îngrijire de urgență, alături de MIMIC-ECG și colecția mult mai mare HEEDB de ECG-uri. Dimensiunile seturilor variau de la zeci de mii de pacienți la peste 1,8 milioane de persoane.

Autorii observă că efectul calculat variază considerabil, cu modificări ale probabilității prezise ce depășesc 70 de puncte procentuale în unele cazuri:

Rezultate care arată cum datele istorice ale pacientului modifică predicțiile ulterioare. Panourile de sus compară frecvența și amplitudinea acestor modificări în cele patru seturi de date; panourile de jos arată cum efectul se modifică în funcție de timpul scurs de la ultima înregistrare de antrenament a pacientului. Efectele semnificative devin mai puțin frecvente în timp, dar rămân detectabile decenii mai târziu.

Ca grup de control, cercetătorii au împărțit aleatoriu modelele în grupuri și au repetat comparația, deși aceasta nu a produs modificări semnificative în predicțiile viitoare.

Efectul, notează lucrarea, poate persista și pentru decenii. Deși în general s-a slăbit și a devenit mai puțin frecvent pe măsură ce intervalul dintre înregistrări a crescut, setul de date HEEDB, care conține ECG-uri colectate din anii 1980 până în 2025, a arătat modificări semnificative în predicții mai mult de 25 de ani după cea mai recentă înregistrare de antrenament a pacientului.

Dăunarea diagnostică

Cercetătorii lucrării noi – intitulată Memorisation bias in medical AI – au simulat apoi cum memorarea ar putea afecta acuratețea diagnostică atunci când pacienții întâlnesc ulterior un model antrenat pe înregistrările lor anterioare.

Cazurile viitoare au fost împărțite în funcție de faptul dacă pacientul a dezvoltat o nouă afecțiune; absentă din datele istorice de antrenament; sau dacă s-a întors cu practic același stadiu de sănătate.

Pentru noi afecțiuni, efectul s-a dovedit constant negativ, modelele care văzuseră anterior înregistrările istorice ale pacientului prezentând o sensibilitate mai scăzută pe o gamă de diagnostice reprezentate în cele patru seturi de date. Aceasta a inclus infarcte și alte anomalii ECG; afecțiuni pulmonare; și rezultate critice mai largi.

În termeni practici, modelele au produs mai multe rezultate fals negative când starea de sănătate a pacientului s-a schimbat; dar când starea de sănătate a pacientului nu s-a schimbat, memoria modelului asupra înregistrărilor anterioare a făcut mai probabil să producă diagnosticul corect. Atât sensibilitatea, cât și specificitatea au crescut deoarece condiția actuală a pacientului asemena condiției deja reprezentate în datele de antrenament.

Autorii subliniază că acest lucru ar putea face sistemele de acest tip dificil de evaluat cu acuratețe: dacă majoritatea pacienților reveniți au în continuare aceleași afecțiuni, modelul va performa mai bine pe ei, ascunzând posibil sensibilitatea redusă la pacienții care au dezvoltat noi afecțiuni.

Remedii

Ca posibilă măsură de protecție, cercetătorii au testat confidențialitatea diferențială (care limitează cantitatea de informație despre orice exemplu individual de antrenament ce poate fi reținută de un model) în timpul antrenamentului.

Deși protejarea înregistrărilor individuale a redus efectul de memorare, nu l-a eliminat, nici măcar la cea mai puternică setare testată. Aplicarea protecției la nivel de pacient, acoperind toate înregistrările aparținând aceleiași persoane, a fost mult mai eficientă și a aproape eliminat efectul.

Totuși, trebuie observat că, dacă un set de date a fost anonimizat iremediabil, datele pacientului nu pot fi izolate în mod care să permită astfel de metode; și, cercetătorii observă, dacă setul de date nu este antrenat cu confidențialitatea diferențială activată, atacurile de inferență a apartenenței devin un risc; dacă este, resursele necesare pentru antrenament cresc considerabil.

Concluzie

Autorii încheie observând că, deși incidentele îngrijorătoare apar în prezent la o rată relativ scăzută, acest lucru ar putea să se schimbe în viitor*:

‘Există motive să ne așteptăm ca numărul de diagnostice ratate atribuibile biasului de memorare să crească în viitor, deși nu testăm acest lucru direct. Cercetările anterioare au arătat că proporția de date de antrenament pe care un model le memorează crește odată cu capacitatea modelului [6, 7, 9, 10, 40].

‘Este îngrijorător, având în vedere că dezvoltarea actuală a modelelor AI este ghidată de „legile de scalare” [41], care impulsionează creșterea rapidă atât a dimensiunii modelelor, cât și a seturilor de date în căutarea unei performanțe îmbunătățite.

‘Pe măsură ce modelele AI mai mari sunt antrenate pe date istorice provenite din populații de pacienți din ce în ce mai mari, numărul absolut de persoane afectate de biasul de memorare este probabil să crească drastic, amplificând riscurile pe care le identificăm aici.’

* Conversia mea a citărilor în linie ale autorilor în hyperlinkuri, cu unele interpretări acolo unde replicarea exactă nu este posibilă sau utilă.

Publicat inițial vineri, 18 septembrie 2026. Modificat la 18:17 EET pentru corectarea hyperlinkului.