Date medicale anonimizate de zeci de ani pot provoca diagnosticări greșite ale inteligenței artificiale acum

Potrivit unei noi colaborări de cercetare între Germania și Regatul Unit, înregistrările anonimizate ale pacienților care au fost incluse în seturi de date medicale chiar și cu decenii în urmă pot determina sistemele AI antrenate pe acestea să recunoască caracteristicile reale ale pacientului la ani distanță – și să trateze un pacient din 2026 ca și cum ar fi încă în 2012 (sau în anul în care datele lor anonimizate au fost incluse pentru prima dată în setul de date).

Acest lucru ar putea însemna, de exemplu, că un pacient care a fost înregistrat ca urmand tratament pentru cancer în urmă cu 20 de ani și care ulterior a intrat într-o remisie pe termen lung, ar putea fi acum tratat de sistemul AI în contextul versiunii sale anterioare, afectate de cancer – crescând logic șansele unei diagnostice false de recurență.

În sens invers, dacă versiunea din 2012 a datelor acelui pacient reflecta o stare de sănătate perfectă în controalele de rutină, această perspectivă optimistă ar putea fi impusă versiunii actuale, mai în vârstă a pacientului, mascând detectarea unor condiții noi sau probleme care ar necesita tratament.

Din noul articol, o ilustrare a modului în care biasul de memorare poate afecta un pacient revenit. Un model antrenat pe electrocardiogramele sănătoase anterioare ale lui Alice atribuie doar o probabilitate de 15 % pentru infarctul ei ulterior, comparativ cu 73 % pentru un model care nu a văzut niciodată înregistrările sale istorice. Sursă

Împiedicarea „imigrației de date”

Scenariul devine mai probabil datorită diferitelor directive naționale și regionale care recomandă ca datele pacienților pentru astfel de scopuri să fie, ideal, preluate din țara în care sistemele derivate din ele urmează să fie utilizate, ceea ce „localizează” grupul de pacienți din seturile de date și crește în mod semnificativ șansa unui astfel de eveniment de de-anonimizare nedetectat.

Prin inferență, limitarea cantității de date disponibile la un singur set de date național crește șansa de memorare – posibilitatea ca modelul să vadă aceleași date de atâtea ori în timpul antrenamentului încât să devină „fixat” pe aceste tipare supraînvățate. În schimb, cu cât un set de date este mai mare și mai divers, cu atât este mai probabil să generalizeze la date nevăzute după antrenament, în loc să memoreze puncte de date sau configurații specifice.

Totuși, adăugarea de date medicale „străine” riscă să introducă dovezi ale tendințelor de sănătate naționale și idiosincrazii care nu s-ar aplica în țara în care modelul antrenat este implementat; în acest sens, așa cum recunoaște noul articol, o anumită cantitate de memorare este adecvată și utilă, deoarece ajută modelul să funcționeze în cadrul celor mai probabile caracteristici medicale generale ale unei anumite populații.

Articolul afirmă*:

‘[When] modelele sunt implementate prospectiv, memorarea creează un risc specific și subapreciat. Deoarece înregistrările unui pacient sunt extrem de auto-similae în timp, o înregistrare viitoare poate acționa ca un indiciu parțial pentru o înregistrare istorică memorată, deplasând predicțiile modelului spre starea de sănătate anterioară a pacientului.’

Acesta nu este un scenariu ipotetic. Modelele AI medicale sunt implementate în mod obișnuit pe aceeași populație din care au fost prelevate datele lor de antrenament.

‘De exemplu, programul național de screening pentru cancer de sân al Germaniei folosește un model AI antrenat pe 1,2 milioane de mamograme prelevate din aceeași populație de screening pe care o deservește acum.

‘Implementarea comparabilă este în curs în alte locuri, inclusiv programele naționale de screening pentru cancer de sân în Regatul Unit și Suedia.

‘Ghidurile de reglementare încurajează activ acest lucru, cu EU AI Act  cerând ca datele de antrenament să reflecte contextul geografic și contextual al utilizării intenționate (Art. 10(4)), și ghiduri internaționale similare pentru dezvoltarea AI medicală solicitând ca populația de pacienți vizată să fie suficient reprezentată în setul de date de antrenament al modelului.’

Calamitate istorică persistentă..?

Deși articolul nu abordează subiectul, pare logic din punct de vedere statistic că pacienții care nu (sau nu au) efectuat în mod regulat controale medicale pe parcursul vieții și ale căror înregistrări anonimizate au intrat periodic în fluxul de date AI, apar probabil în datele anonimizate ale pacienților aproape exclusiv în momentele când aveau nevoie de tratament – ceea ce ar crește șansa de a „proiecta” o afecțiune vindecată de mult asupra aceluiași pacient în prezent, deoarece înregistrările nu au un contrabalans „stare bună de sănătate”.

Acest lucru este confirmat de cercetări anterioare privind ‘biasul prezenței informate’ în dosarele electronice de sănătate, constatănd că seturile de date medicale reprezintă disproporționat perioadele în care pacienții sunt bolnavi și interacționează cu serviciile de sănătate.

Un studiu a constatat că pacienții grav bolnavi aveau de 5.05 ori mai multe zile cu date de laborator și de 6.85 ori mai multe cu comenzi de medicamente decât pacienții cei mai sănătoși.

În 2022, aproximativ 76% dintre adulții din SUA au raportat că au avut un control de rutină în anul precedent, definit de CDC ca o examinare fizică generală, mai degrabă decât un tratament pentru o afecțiune specifică; iar în Europa, un sondaj multinațional din 2023 a constatat că 58% au participat la cel puțin unele controale preventive; dar doar 15% au participat la toate programările preventive considerate relevante pentru ei.

Măsura efectului

Studiul a testat efectul pe patru seturi mari de date medicale, cu înregistrări ECG, radiografii toracice și dosare electronice de sănătate; și anume, MIMIC-CXR chest X-ray database și MIMIC-IV-ED înregistrări de îngrijire de urgență, alături de MIMIC-ECG și colecția mult mai mare HEEDB de ECG-uri. Seturile de date variau în dimensiune de la zeci de mii de pacienți la peste 1.8 milioane de persoane.

Autorii observă că efectul calculat variază considerabil, cu modificări ale probabilității prezise care depășesc 70 de puncte procentuale în unele cazuri:

Rezultate care arată cum datele istorice ale pacientului modifică predicțiile ulterioare. Panourile de sus compară frecvența și dimensiunea acestor modificări în cele patru seturi de date; panourile de jos arată cum efectul se modifică în funcție de timpul scurs de la ultima înregistrare de antrenament a pacientului. Efectele semnificative devin mai puțin frecvente în timp, dar rămân detectabile decenii mai târziu.

Ca grup de control, cercetătorii au împărțit aleator modelele în grupuri și au repetat comparația, deși aceasta nu a produs modificări semnificative în predicțiile viitoare.

Efectul, notează lucrarea, poate persista și el pentru decenii. Deși în general a devenit mai slab și mai puțin frecvent pe măsură ce intervalul dintre înregistrări a crescut, setul de date HEEDB, care conține ECG-uri colectate din anii 1980 până în 2025, a arătat modificări semnificative în predicții peste 25 de ani după cea mai recentă înregistrare de antrenament a pacientului.

Daune diagnostice

Cercetătorii lucrării noi – intitulată Bias de memorare în AI medical – au simulat apoi cum memorarea ar putea afecta acuratețea diagnostică atunci când pacienții întâlnesc ulterior un model antrenat pe înregistrările lor anterioare.

Cazurile viitoare au fost împărțite în funcție de faptul dacă pacientul dezvoltase o nouă afecțiune; absentă din datele lor istorice de antrenament; sau dacă se întorcea cu practic același statut de sănătate.

Pentru noi afecțiuni, efectul s-a dovedit constant negativ, modelele care văzuseră anterior înregistrările istorice ale pacientului prezentând o sensibilitate mai scăzută pe o gamă de diagnostice reprezentate în cele patru seturi de date. Aceasta a inclus infarcte și alte anomalii ECG; afecțiuni pulmonare; și rezultate critice mai largi.

În termeni practici, modelele au generat mai multe fals negative când starea de sănătate a pacientului s-a schimbat; dar când starea de sănătate a pacientului nu s-a schimbat, memoria modelului asupra înregistrărilor anterioare a crescut probabilitatea de a produce diagnosticul corect. Atât sensibilitatea, cât și specificitatea au crescut deoarece starea actuală a pacientului se asemăna cu condiția deja reprezentată în datele de antrenament.

Autorii observă că acest lucru ar putea face ca astfel de sisteme să fie dificil de evaluat cu acuratețe: dacă majoritatea pacienților care revin au în continuare aceleași afecțiuni, modelul va performa mai bine pe ei, ascunzând potențial sensibilitatea sa scăzută față de pacienții care au dezvoltat noi afecțiuni.

Remedii

Ca posibilă măsură de protecție, cercetătorii au testat confidențialitatea diferențială (care limitează cantitatea de informații despre orice exemplu individual de antrenament ce poate fi reținută de un model) în timpul antrenamentului.

Deși protejarea înregistrărilor individuale a redus efectul de memorare, nu l-a eliminat, chiar și la cea mai puternică setare testată. Aplicarea protecției la nivel de pacient, acoperind toate înregistrările aparținând aceleiași persoane, a fost mult mai eficientă și a aproape eliminat efectul.

Trebuie observat, totuși, că dacă un set de date a fost anonimizat iremediabil, datele pacientului nu pot fi izolate într-un mod care să permită astfel de metode; și, observă cercetătorii, dacă setul de date nu este antrenat cu confidențialitatea diferențială activată, atacurile de inferență a apartenenței devin un risc; dacă este, resursele necesare pentru antrenament cresc considerabil.

Concluzie

Autorii încheie observând că, deși incidentele îngrijorătoare apar în prezent la o rată relativ scăzută, acest lucru s-ar putea schimba în viitor*:

‘Există motive să ne așteptăm ca numărul de diagnostice ratate atribuite biasului de memorare să crească în viitor, deși nu testăm acest lucru direct. Cercetările anterioare au arătat că proporția de date de antrenament pe care un model le memorează crește odată cu capacitatea modelului [6, 7, 9, 10, 40].

‘Este îngrijorător, având în vedere că dezvoltarea actuală a modelelor AI este ghidată de „legile de scalare” [41], care determină o creștere rapidă atât a dimensiunii modelelor, cât și a dimensiunii seturilor de date, în căutarea unei performanțe îmbunătățite.

‘Pe măsură ce modelele AI mai mari sunt antrenate pe date istorice provenite din populații de pacienți tot mai mari, numărul absolut de persoane afectate de biasul de memorare este probabil să crească drastic, amplificând riscurile pe care le identificăm aici.’

* Conversia mea a citărilor în linie ale autorilor în hyperlinkuri, cu unele interpretări acolo unde replicarea exactă nu este posibilă sau utilă.

Publicat prima dată vineri, 18 septembrie 2026