Vuosikymmeniä vanhat anonymisoidut lääketieteelliset tiedot voivat aiheuttaa AI:n virheellisiä diagnooseja nyt

Saksan ja Ison-Britannian välinen uusi tutkimusyhteistyö osoittaa, että vuosikymmeniä sitten lääketieteellisiin tietoaineistoihin sisällytetyt anonymisoidut potilastiedot voivat aiheuttaa sen, että niiden perusteella koulutetut AI-järjestelmät tunnistavat todellisen potilaan ominaisuudet vuosien kuluttua – ja kohtelevat vuonna 2026 olevaa potilasta ikään kuin olisi edelleen vuosi 2012 (tai mikä tahansa vuosi, jolloin anonymisoidut potilastiedot alun perin lisättiin tietoaineistoon/aineistoihin).

Tämä voisi tarkoittaa esimerkiksi sitä, että potilas, josta on kirjattu syöpähoito 20 vuotta sitten ja joka sen jälkeen on mennyt pitkäaikaiseen remissioon, voitaisiin nyt AI-järjestelmän vanhemmassa, syöpään sairastuneessa tilanteessaan hoitaa – mikä loogisesti voi jopa lisätä väärän uusiutumisdiagnoosin todennäköisyyttä.

Vastaavasti, jos vuoden 2012 versio kyseisen potilaan tiedoista heijasti täydellistä terveyttä rutiinitarkastuksissa, tämä optimistinen näkemys voitaisiin mahdollisesti siirtää potilaan vanhempaan, nykyiseen versioon, peittäen uusien sairauksien tai hoitoa vaativien ongelmien havaitsemisen.

Uudesta artikkelista, kuvaus siitä, miten muistiharha voi vaikuttaa palaavaan potilaaseen. Malli, joka on koulutettu Alicen aikaisemmista terveistä EKG-tuloksista, antaa vain 15 % todennäköisyyden hänen myöhemmälle sydänkohtaukselleen, verrattuna 73 % malliin, joka ei ole koskaan nähnyt hänen historiallisia tietojaan. Lähde

‘Dataimmigraation’ hillitseminen

Tilannetta tekee todennäköisemmäksi useat kansalliset ja alueelliset ohjeistukset, jotka suosittelevat, että potilastiedot tällaisiin tarkoituksiin tulisi mieluiten kerätä siitä maasta, jossa niistä johdetut järjestelmät on tarkoitus ottaa käyttöön; tämä ‘lokalisoi’ potilaskannan tietoaineistoissa ja merkittävästi lisää tämänkaltaisen havaitsemattoman de-anonymisointitapahtuman todennäköisyyttä.

Päätelmänä, jos datan määrä rajoitetaan vain kansalliseen tietoaineistoon, se lisää muistaminen – mahdollisuutta, että malli näkee saman datan niin monta kertaa koulutuksen aikana, että se ‘jää kiinni’ näihin yliopittuihin kuvioihin. Vastaavasti, mitä suurempi ja monimuotoisempi tietoaineisto on, sitä todennäköisemmin se yleistää näkemättömään dataan koulutuksen jälkeen sen sijaan, että se muistaa tiettyjä datapisteitä tai kokoonpanoja.

Kuitenkin ‘ulkomaisen’ lääketieteellisen datan lisääminen voi tuoda mukanaan kansallisten terveystrendien ja erityispiirteiden todisteita, jotka eivät päde maassa, jossa koulutettu malli otetaan käyttöön; tässä suhteessa, kuten uusi artikkeli myöntää, tietty määrä muistamista on sopivaa ja hyödyllistä, koska se auttaa mallia toimimaan todennäköisimpien yleisten lääketieteellisten ominaisuuksien puitteissa tietyssä väestössä.

Artikkeli toteaa*:

‘[When] -mallit otetaan käyttöön ennakoivasti, muistaminen luo erityisen ja aliarvioidun riskin. Koska potilaan tiedot ovat ajan myötä erittäin samankaltaisia, tuleva tietue voi toimia osittaisena vihjeenä muistettuun historialliseen tietueeseen, siirtäen mallin ennusteet potilaan aiempaan terveydentilaan.

Tämä ei ole hypoteettinen skenaario. Lääketieteellisiä AI-malleja otetaan säännöllisesti käyttöön samassa väestössä, josta niiden koulutusdata on peräisin.

‘Esimerkiksi Saksan kansallinen rintasyövän seulonnan ohjelma käyttää AI-mallia, joka on koulutettu 1,2 miljoonasta mammografiasta, jotka on peräisin samasta seulontaväestöstä, jota se nyt palvelee.

‘Vastaavaa käyttöönottoa on käynnissä muualla, mukaan lukien kansalliset rintasyövän seulontaohjelmat Yhdistyneessä kuningaskunnassa ja Ruotsissa.

‘Sääntelyohjeistus kannustaa tätä aktiivisesti, sillä EU AI Act vaatii, että koulutusdata heijastaa kohdekäytön maantieteellistä ja kontekstuaalista ympäristöä (Art. 10(4)), ja samankaltaiset kansainväliset ohjeistukset lääketieteellisen AI-kehityksen osalta edellyttävät, että kohdepotilasväestö on riittävästi edustettuna mallin koulutusaineistossa.’

Pysyvä historiallinen katastrofi..?

Vaikka artikkeli ei käsittele asiaa, on tilastollisesti loogista, että potilaat, jotka eivät (tai eivät) käyneet säännöllisesti lääkärintarkastuksissa koko elämänsä ajan, ja joiden anonymisoidut tiedot päätyivät AI:n datavirtaan ajoittain, todennäköisesti ilmestyvät anonymisoituihin potilastietoihin lähinnä silloin kun he tarvitsivat hoitoa – mikä todennäköisesti lisää ‘projektoinnin’ mahdollisuutta pitkään parantuneen tilan siirtämisestä samalle potilaalle nyt, koska tiedoissa ei ole ‘hyvän terveyden’ tasapainoa.

Tämä käy ilmi aiemmasta tutkimuksesta, jossa tarkasteltiin ‘informoitua läsnäoloharhaa’ sähköisissä potilastiedoissa, ja havaittiin, että lääketieteelliset tietoaineistot edustavat suhteettomasti ajanjaksoja, jolloin potilaat ovat sairaana ja ovat vuorovaikutuksessa terveydenhuollon palveluiden kanssa.

Yksi tutkimus havaitsi, että vakavasti sairailla potilailla oli 5.05‑kertainen määrä päiviä, joilla oli laboratoriotietoja, ja 6.85‑kertainen määrä päiviä, joilla oli lääkitys­tilauksia, verrattuna terveimpiin potilaisiin.

Vuonna 2022 noin 76 % Yhdysvaltain aikuisista raportoi käyneensä rutiinitarkastuksessa viimeisen vuoden aikana, jonka CDC määrittelee yleiseksi fyysiseksi tutkimukseksi, eikä tietyn sairauden hoitona; ja Euroopassa vuonna 2023 toteutetussa monikansallisessa kyselyssä havaitsi, että 58 % osallistui ainakin joihinkin ennaltaehkäiseviin tarkastuksiin; mutta vain 15 % osallistui kaikkiin heidän kannaltaan merkittäviin ennaltaehkäiseviin tapaamisiin.

Vaikutuksen laajuus

Tutkimus testasi vaikutusta neljässä suuressa lääketieteellisessä tietoaineistossa, jotka kattavat EKG-tallenteet, rintakehän röntgenkuvat ja sähköiset potilastiedot; nimittäin MIMIC-CXR chest X-ray database ja MIMIC-IV-ED ensiapuhoitotietueet, sekä MIMIC-ECG ja paljon suurempi HEEDB-kokoelma EKG:itä. Tietoaineistojen koko vaihteli kymmenistä tuhansista potilaista yli 1,8 miljoonaan henkilöön.

Tekijät huomauttavat, että laskettu vaikutus vaihtelee merkittävästi, ja ennustetun todennäköisyyden muutokset ylittävät joissakin tapauksissa 70 prosenttiyksikköä:

Tulokset, jotka osoittavat, miten historialliset potilastiedot muuttavat myöhempiä ennusteita. Yläpaneelit vertaavat näiden muutosten tiheyttä ja suuruutta neljässä tietoaineistossa; alaosat näyttävät, miten vaikutus muuttuu ajan myötä potilaan viimeisestä koulutustietueesta. Merkittävät vaikutukset muuttuvat harvemmiksi ajan myötä, mutta pysyvät havaittavina vuosikymmeniä myöhemmin.

Kontrollina tutkijat jakoivat mallit satunnaisesti ryhmiin ja toistivat vertailun, vaikka tämä ei aiheuttanut merkittäviä muutoksia tuleviin ennusteisiin.

Vaikutus, kuten artikkeli toteaa, voi myös jatkua vuosikymmeniä. Vaikka se yleensä heikkeni ja väheni yleisyyttään, kun tietueiden välinen aika kasvoi, HEEDB‑tietoaineisto, joka sisältää 1980‑lukuja–2025‑vuoteen kerättyjä EKG‑tietoja, osoitti merkittäviä ennustemuutoksia yli 25 vuotta potilaan viimeisimmän koulutustietueen jälkeen.

Diagnostinen haitta

Uuden artikkelin tutkijat – otsikkoinen Muistamisvinouma lääketieteellisessä tekoälyssä – simuloivat seuraavaksi, miten muistin käyttö voisi vaikuttaa diagnostiseen tarkkuuteen, kun potilaat myöhemmin kohtaavat mallin, joka on koulutettu heidän aikaisemmista tietueistaan.

Tulevat tapaukset jaettiin sen mukaan, oliko potilaalla kehittynyt uusi sairaus; puuttuiko se hänen historiallisista koulutustiedoistaan; tai palaako potilas käytännössä samaan terveydentilaan.

Uusien sairauksien osalta vaikutus osoittautui johdonmukaisesti negatiiviseksi, sillä mallit, jotka olivat aiemmin nähneet potilaan historialliset tiedot, osoittivat alhaisempaa herkkyyttä neljässä tietoaineistossa edustettujen diagnoosien joukossa. Tämä sisälsi infarkteja ja muita EKG-poikkeavuuksia; keuhkosairauksia; ja laajempia kriittisiä tuloksia.

Käytännön tasolla mallit tuottivat enemmän vääriä negatiivisia, kun potilaan terveydentila oli muuttunut; mutta kun potilaan terveydentila ei ollut muuttunut, mallin muisti aikaisemmista tiedoista teki siitä todennäköisemmän tuottaa oikean diagnoosin. Sekä herkkyys että spesifisyys kasvoivat, koska potilaan nykyinen tila vastasi koulutustiedoissa jo edustettua tilaa.

Tekijät huomauttavat, että tämä voi tehdä tällaisten järjestelmien tarkastelusta vaikeaa: jos suurin osa palaavista potilaista edelleen kärsii samoista sairauksista, malli suoriutuu niissä paremmin, mikä saattaa piilottaa sen heikomman herkkyyden potilaille, joilla on kehittynyt uusia sairauksia.

Korjaavat toimenpiteet

Mahdollisena suojautumiskeinona tutkijat testasivat differentiaalista yksityisyyttä (joka rajoittaa, kuinka paljon tietoa yksittäisestä koulutusesimerkistä malli voi säilyttää) koulutuksen aikana.

Vaikka yksittäisten tietueiden suojaaminen vähensi muistamisvaikutusta, se ei poistanut sitä, edes testatuimmassa vahvimmassa asetuksessa. Suojauksen soveltaminen potilastasolla, kattaen kaikki saman henkilön tietueet, oli paljon tehokkaampaa, ja lähes poisti vaikutuksen.

On kuitenkin huomattava, että jos tietoaineisto on pysyvästi anonymisoitu, potilaan tietoja ei voida eristää tavalla, joka mahdollistaisi tällaiset menetelmät; ja tutkijat havainnoivat, että jos tietoaineistoa ei kouluteta differentiaalista yksityisyyttä käyttäen, jäsenyyden inferenssihyökkäykset tulevat riskiksi; jos se on, tarvittavat resurssit koulutukseen kasvavat merkittävästi.

Johtopäätös

Tekijät päättävät huomauttaen, että vaikka huolestuttavat tapaukset tällä hetkellä tapahtuvat melko harvoin, tämä saattaa muuttua tulevaisuudessa*:

‘On syytä odottaa, että tulevaisuudessa muistamissyrjinnän aiheuttamien hylättyjen diagnoosien määrä kasvaa, vaikka emme testaa tätä suoraan. Aikaisemmat tutkimukset ovat osoittaneet, että mallin muistaman koulutusdatan osuus kasvaa mallin kapasiteetin mukana [6, 7, 9, 10, 40].’

‘Tämä on huolestuttavaa, kun otetaan huomioon, että nykyistä tekoälymallien kehitystä ohjaavat “skaalauslait” [41], jotka edistävät nopeaa kasvua sekä mallien että aineistojen koossa pyrkimyksenä parantaa suorituskykyä.’

‘Kun suurempia tekoälymalleja koulutetaan historiallisella datalla, joka on peräisin yhä laajemmista potilasjoukoista, muistamissyrjinnän vaikutuksen alaisena olevien henkilöiden absoluuttinen määrä todennäköisesti nousee dramaattisesti, pahentaen tässä havaitsemiamme riskejä.’

* Tekijöiden sisäisten viitteiden muuntamiseni hyperlinkeiksi, joissakin tapauksissa tulkintaa, kun tarkka toisto ei ole mahdollinen tai hyödyllinen.

Ensimmäinen julkaisu perjantaina 18. syyskuuta 2026. Muokattu 18:17 EET hyperlinkkien korjaamista varten.