Vuosikymmeniä vanhat anonymisoidut lääketieteelliset tiedot voivat aiheuttaa tekoälyn virheellisiä diagnooseja nyt

Saksan ja Ison-Britannian välisen uuden tutkimusyhteistyön mukaan anonymisoidut potilastiedot, jotka sisällytettiin lääketieteellisiin tietoaineistoihin jo vuosikymmeniä sitten, voivat saada niillä koulutetut tekoälyjärjestelmät tunnistamaan todellisen potilaan ominaisuuksia vuosia myöhemmin – ja hoitamaan vuoden 2026 potilasta ikään kuin se olisi edelleen vuodelta 2012 (tai miltä tahansa vuodelta, jolloin heidän anonymisoitu potilastietonsa lisättiin tietoaineistoon).

Tämä voisi tarkoittaa esimerkiksi, että potilas, josta kirjattiin syöpähoito 20 vuotta sitten ja joka sen jälkeen siirtyi pitkäaikaiseen remissioon, voitaisiin nyt hoitaa tekoälyjärjestelmän vanhemmassa, syöpää sairastaneessa itsessään – mikä loogisesti voi jopa lisätä väärän uusiutumisdiagnoosin todennäköisyyttä.

Vastaavasti, jos potilaan vuoden 2012 tiedot osoittivat täydellistä terveyttä rutiinitarkastuksissa, tämä optimistinen näkökulma voitaisiin mahdollisesti asettaa vanhempana, nykyisenä versiona potilaalle, peittäen uusien sairauksien tai hoitoa vaativien ongelmien havaitsemisen.

Uudesta artikkelista, kuvaus siitä, miten muistiharha voi vaikuttaa palaavaan potilaaseen. Malli, joka on koulutettu Alicen aikaisemmista terveistä EKG:stä, antaa vain 15 % todennäköisyyden hänen myöhemmälle sydänkohtaukselle, verrattuna 73 %:iin mallissa, joka ei koskaan nähnyt hänen historiallisia tietojaan. Lähde

‘Data Immigration’ -ilmiön hillitseminen

Tilannetta todennäköisempänä tekee useat kansalliset ja alueelliset ohjeistukset, jotka suosittelevat, että potilastiedot tällaiseen käyttöön tulisi mieluiten kerätä maasta, jossa niistä johdetut järjestelmät on tarkoitus ottaa käyttöön, mikä ‘lokalisoi’ potilasjoukon tietoaineistoissa ja lisää merkittävästi tämänkaltaisen havaitsemattoman anonymisoinnin tapahtuman todennäköisyyttä.

Päätelmänä, datan määrän rajoittaminen vain kansalliseen tietoaineistoon lisää muistiminen – mahdollisuuden, että malli näkee saman datan niin monta kertaa koulutuksen aikana, että siitä tulee ‘kiinnittynyt’ näihin ylikoulutettuihin kuvioihin. Vastaavasti, mitä suurempi ja monipuolisempi tietoaineisto on, sitä todennäköisempää on, että se yleistää näkemättömään dataan koulutuksen jälkeen sen sijaan, että se muistaisi yksittäisiä datapisteitä tai konfiguraatioita.

Kuitenkin, ‘ulkomaisen’ lääketieteellisen datan lisääminen voi tuoda mukanaan kansallisten terveystrendien ja omaperäisyyksien todisteita, jotka eivät päde maassa, jossa koulutettua mallia otetaan käyttöön; tässä mielessä, kuten uusi artikkeli myöntää, tietty määrä muistimista on sopivaa ja hyödyllistä, koska se auttaa mallia toimimaan todennäköisimpien yleisten lääketieteellisten ominaisuuksien puitteissa tietyssä väestössä.

Artikkeli toteaa*:

‘[When] malleja otetaan käyttöön ennakoivasti, muistiminen luo erityisen ja aliarvioidun riskin. Koska potilaan tiedot ovat ajan myötä erittäin itse-samanlaisia, tuleva tietue voi toimia osittaisena vihjeenä muistettuun historialliseen tietueeseen, siirtäen mallin ennusteet potilaan aiempaan terveydentilaan.

Tämä ei ole hypoteettinen skenaario. Lääketieteellisiä tekoälymalleja otetaan säännöllisesti käyttöön samassa väestössä, josta niiden koulutusdata on peräisin.

‘Esimerkiksi Saksan kansallinen rintasyöpäseulonnan ohjelma käyttää tekoälymallia, joka on koulutettu 1,2 miljoonasta mammografiasta, jotka on peräisin samasta seulontaväestöstä, jota se nyt palvelee.

‘Vastaavan käyttöönoton ollaan toteuttamassa muuallakin, mukaan lukien kansalliset rintasyöpäseulonnan Yhdistyneessä kuningaskunnassa ja Ruotsissa.

‘Sääntelyohjeistus kannustaa tätä aktiivisesti, EU AI Act vaatii, että koulutusdata heijastaa kohdekäytön maantieteellistä ja kontekstuaalista ympäristöä (Art. 10(4)), ja samankaltaiset kansainväliset ohjeistukset lääketieteellisen tekoälyn kehittämiseen vaativat, että kohdepotilasväestö on riittävästi edustettuna mallin koulutusdatassa.’

Kestävä historiallinen katastrofi..?

Vaikka artikkeli ei käsittele asiaa, on tilastollisesti loogista, että potilaat, jotka eivät säännöllisesti käyvät lääkärintarkastuksissa läpi elämänsä ja joiden anonymisoidut tiedot ovat ajoittain päätyneet tekoälyn datavirtaan, todennäköisesti ilmestyvät anonymisoituun potilastietoon lähinnä silloin kun he tarvitsivat hoitoa – mikä puolestaan lisäisi mahdollisuutta ‘projisoida’ pitkään parantunut tila samalle potilaalle nyt, koska tiedoissa ei ole ‘hyvän terveyden’ vastapainoa.

Tämä on vahvistettu aiemman tutkimuksen perusteella ‘informoitu läsnäoloharha’ sähköisissä potilastietueissa, jonka mukaan lääketieteelliset tietoaineistot edustavat suhteettomasti ajanjaksoja, jolloin potilaat ovat sairaana ja ovat vuorovaikutuksessa terveydenhuollon palveluiden kanssa.

Yksi tutkimus havaitsi, että vakavasti sairailla potilailla oli 5,05‑kertainen määrä laboratoriotietopäiviä ja 6,85‑kertainen määrä lääkitys­tilauksia verrattuna terveimpiin potilaisiin.

Vuonna 2022 noin 76 % Yhdysvaltain aikuisista ilmoitti tehneensä rutiinitarkastuksen edellisen vuoden aikana, jonka CDC määrittelee yleiseksi fyysiseksi tutkimukseksi eikä tietyn sairauden hoitona; ja Euroopassa vuonna 2023 toteutetussa monikansallisessa kyselyssä todettiin, että 58 % osallistui vähintään joihinkin ennaltaehkäiseviin tarkastuksiin, mutta vain 15 % kävi kaikissa heille merkityksellisiksi katsotuissa ennaltaehkäisevissä tapaamisissa.

Vaikutuksen laajuus

Tutkimus testasi vaikutusta neljässä suuressa lääketieteellisessä tietoaineistossa, jotka kattavat EKG-tallenteet, rintakehän röntgenkuvat ja sähköiset potilastiedot; nimittäin MIMIC-CXR rintakehän röntgenkuvatietokanta ja MIMIC-IV-ED ensiaputietueet, sekä MIMIC-ECG ja paljon suurempi HEEDB-kokoelma EKG-tallenteita. Aineistojen koko vaihteli kymmenistä tuhansista potilaista yli 1,8 miljoonaan ihmiseen.

Kirjoittajat huomauttavat, että laskettu vaikutus vaihtelee merkittävästi, ja ennustetun todennäköisyyden muutokset ylittävät joissakin tapauksissa 70 prosenttiyksikköä:

Tulokset, jotka osoittavat, miten historialliset potilastiedot muuttavat myöhempiä ennusteita. Yläpaneelit vertailevat näiden muutosten yleisyyttä ja suuruutta neljän tietoaineiston välillä; alaosassa näytetään, miten vaikutus muuttuu ajan myötä potilaan viimeisestä koulutustietueesta. Merkittävät vaikutukset vähenvät ajan myötä, mutta ovat edelleen havaittavissa vuosikymmeniä myöhemmin.

Kontrollina tutkijat jakoivat mallit satunnaisesti ryhmiin ja toistivat vertailun, vaikka tämä ei tuottanut merkittäviä muutoksia tuleviin ennusteisiin.

Kirjoitus toteaa, että vaikutus voi myös jatkua vuosikymmeniä. Vaikka se yleensä heikkeni ja väheni yleisyydeltään, kun tietueiden välinen aika kasvoi, HEEDB‑tietoaineisto, joka sisältää 1980‑luvun ja 2025‑vuoden välisenä aikana kerättyjä EKG‑tallenteita, osoitti merkittäviä ennustemuutoksia yli 25 vuotta potilaan viimeisimmän koulutustietueen jälkeen.

Diagnostinen haitta

Uuden artikkelin tutkijat – otsikolla Memorisation bias in medical AI – simuloivat seuraavaksi, miten muistin bias voi vaikuttaa diagnostiseen tarkkuuteen, kun potilaat myöhemmin kohtaavat aikaisemmista tiedoistaan koulutetun mallin.

Tulevat tapaukset jaettiin sen mukaan, olivatko potilaalla kehittyneet uudet sairaudet; puuttuivatko ne historiallisesta koulutusdatasta; vai palasivatko he olennaisesti samassa terveydentilassa.

Uusien sairauksien osalta vaikutus oli johdonmukaisesti negatiivinen, sillä mallit, jotka olivat aiemmin nähneet potilaan historialliset tiedot, osoittivat alhaisempaa herkkyyttä neljän tietoaineiston kattamissa diagnoosien joukossa. Tämä sisälsi infarkteja ja muita EKG‑poikkeavuuksia; keuhkosairauksia; sekä laajempia kriittisiä tuloksia.

Käytännössä mallit tuottivat enemmän vääriä negatiivisia, kun potilaan terveydentila oli muuttunut; mutta kun potilaan terveydentila ei ollut muuttunut, mallin muisti aikaisemmista tiedoista lisäsi todennäköisyyttä antaa oikea diagnoosi. Sekä herkkyys että spesifisyys kasvoivat, koska potilaan nykyinen tila vastasi koulutusdatassa jo edustettua tilaa.

Kirjoittajat huomauttavat, että tämä voi tehdä järjestelmien tarkasta arvioinnista vaikeaa: jos suurin osa palaavista potilaista edelleen kärsii samoista sairauksista, malli suoriutuu niissä paremmin, mikä saattaa piilottaa sen heikomman herkkyyden potilaille, joilla on kehittynyt uusia sairauksia.

Korjaavat toimenpiteet

Mahdollisena suojatoimenpiteenä tutkijat testasivat differential privacy -menetelmää (joka rajoittaa, kuinka paljon tietoa yksittäisestä koulutusesimerkistä malli voi säilyttää) koulutuksen aikana.

Vaikka yksittäisten tietueiden suojaaminen vähensi muistin biasia, se ei poistanut sitä, edes testatuimmassa vahvimmassa asetuksessa. Suojauksen soveltaminen potilastasolla, kattaen kaikki saman henkilön tietueet, oli paljon tehokkaampaa ja lähes poisti vaikutuksen.

On kuitenkin huomattava, että jos tietoaineisto on peruuttamattomasti anonymisoitu, potilaan tietoja ei voida eristää tavalla, joka mahdollistaisi tällaiset menetelmät; ja tutkijat toteavat, että jos aineistoa ei kouluteta differential privacy -asetuksella, membership inference attacks tulevat riskiksi; jos se on käytössä, koulutukseen tarvittavat resurssit kasvavat merkittävästi.

Päätelmä

Kirjoittajat päättävät huomautukseen, että vaikka huolestuttavat tapaukset tapahtuvat tällä hetkellä melko harvoin, tämä saattaa muuttua tulevaisuudessa*:

‘On syytä odottaa, että tulevaisuudessa muistamissyrjinnän aiheuttamien hylättyjen diagnoosien määrä kasvaa, vaikka emme testaa tätä suoraan. Aikaisempi tutkimus on osoittanut, että mallin muistaman koulutusdatan osuus kasvaa mallin kapasiteetin myötä [6, 7, 9, 10, 40].

‘Tämä on huolestuttavaa, kun otetaan huomioon, että nykyistä tekoälymallien kehitystä ohjaavat “skaalauslait” [41], jotka aiheuttavat nopeaa kasvua sekä mallien että aineistojen koossa pyrkimyksenä parantaa suorituskykyä.

‘Kun suurempia tekoälymalleja koulutetaan historiallisilla tiedoilla, jotka on kerätty yhä laajemmista potilaspopulaatioista, muistamissyrjinnän kohteena olevien henkilöiden kokonaismäärän todennäköisesti nousee dramaattisesti, pahentaen tässä esitettyjä riskejä.’

* Muuntamani tekijöiden sisäiset viitteet hyperlinkeiksi, joissakin tapauksissa tulkiten, kun tarkka toisto ei ole mahdollista tai hyödyllistä.

Ensimmäisen kerran julkaistu perjantaina 18. syyskuuta 2026