数十年前に匿名化された医療データが、今AIの誤診を招く可能性

ドイツと英国の新たな研究協力によると、数十年前に医療データセットに含まれた匿名化患者記録が、そこから学習したAIシステムに対し、数年後に実際の患者の特徴を認識させ、2026年の患者をまるで2012年（あるいは匿名化患者データが初めてデータセットに含まれた年）であるかのように扱う可能性があります。

例えば、20年前にがん治療を受けたと記録され、その後長期寛解に入った患者が、現在AIシステムによって過去のがん罹患状態の文脈で扱われる可能性があり、結果として再発の誤診の可能性が高まります。

逆に、2012年版のその患者データが定期健診で完全な健康状態を示していた場合、この楽観的な見方が患者の年齢を重ねた現在のバージョンに適用され、新たな疾患や治療が必要な問題の検出が隠蔽される恐れがあります。

新しい論文から、記憶バイアスが再来患者にどのように影響するかの例示です。Aliceの以前の健康な心電図で学習したモデルは、後の心臓発作に対してわずか15％の確率を割り当てますが、過去の記録を一切見ていないモデルは73％です。 出典

データ移民の抑制

このシナリオは、患者データを理想的にはそのシステムが使用される国から取得すべきだと推奨する各国や地域の指令により、データセット内の患者プールが「ローカライズ」され、未検出の再匿名化事象が起こる可能性が顕著に高まることで、より起こりやすくなります。

推論すると、データを国内データセットのみに限定することで、記憶化の可能性、すなわちモデルが訓練中に同じデータを何度も見て過学習したパターンに『固執』してしまうリスクが高まります。逆に、データセットが大規模かつ多様であるほど、訓練後に未見データへ一般化できる可能性が高く、特定のデータポイントや構成に記憶することは少なくなります。

しかし、‘外国’の医療データを追加すると、訓練されたモデルが展開される国に当てはまらない国内の健康傾向や特有性の証拠が混入するリスクがあります。この点に関して、新しい論文は、ある程度の記憶化は適切で有用であると認めています。なぜなら、モデルが特定集団の最も一般的な医療特性の中で機能するのに役立つからです。

論文は次のように述べています*：

‘[When]モデルは将来的に展開され、記憶化は特有で過小評価されたリスクを生み出す。患者の記録は時間とともに高度に自己類似的であるため、将来の記録が記憶された過去の記録への部分的手がかりとなり、モデルの予測を患者の過去の健康状態へとシフトさせる。

これは仮説的なシナリオではありません。医療AIモデルは、訓練データが取得されたのと同じ集団に対して日常的に展開されています。

‘例えば、ドイツの国立乳がんスクリーニングプログラムは、同じスクリーニング対象集団から取得した120万件のマンモグラムで訓練されたAIモデルを使用しています。

‘同様の展開が他国でも進行中で、国立乳がんスクリーニングプログラムは英国で、スウェーデンで実施されています。

‘規制当局の指針はこれを積極的に推奨しており、EU AI Actは訓練データが使用意図の地理的・文脈的設定を反映することを要求しています（第10条第4項）。また、医療AI開発に関する類似の国際的ガイドラインも、対象患者集団がモデルの訓練データセットに十分に代表されることを求めています。’

永続的な歴史的災害..？

しかし、論文はこの点に触れていませんが、統計的に考えると、生涯を通じて定期的に健康診断を受けず、匿名化記録が断続的にAIデータストリームに流入した患者は、治療が必要な時にほぼ限定的に匿名化患者データに現れる傾向があり、これにより『長期間治癒した状態』が現在の同一患者に投影される可能性が高まります。

これは、先行研究が電子健康記録における‘情報的出現バイアス’を調査し、医療データセットが患者が病気で医療サービスとやり取りしている期間を過度に代表していることを発見したことと一致しています。

ある研究は、重症患者が健康な患者に比べ、検査データがある日数が5.05倍、投薬指示がある日数が6.85倍多いことを明らかにした。

2022年、米国成人の約76％が定期健診を受けたと報告しており、CDCが定義する一般的な身体検査であり、特定の疾患の治療ではないとされています。また、ヨーロッパでは2023年の多国間調査で58％が少なくとも一部の予防健診を受けたことが判明しましたが、関連性があると考えられる予防的診療をすべて受診したのはわずか15％にとどまりました。

効果の範囲

この研究は、ECG記録、胸部X線、電子健康記録を含む4つの大規模医療データセットで効果を検証しました。具体的には、MIMIC-CXR胸部X線データベースとMIMIC-IV-ED救急医療記録、さらにMIMIC-ECG、そしてはるかに大規模なHEEDB ECGコレクションです。データセットの規模は数万人から1.8百万人以上に及びました。

著者らは、算出された効果はかなり変動し、予測確率の変化がケースによっては70ポイント以上に達することを指摘しています。

過去の患者データが後続の予測にどのように影響するかを示す結果。上部パネルは4つのデータセット間での変化の頻度と規模を比較し、下部パネルは患者の最終トレーニング記録からの経過時間に伴う効果の変化を示しています。顕著な効果は時間とともに減少しますが、数十年後でも検出可能です。

対照として、研究者はモデルをランダムにグループ分けし比較を再実施しましたが、将来の予測に有意な変化は見られませんでした。

論文は、この効果が数十年にわたって持続する可能性があると指摘しています。記録間の間隔が広がるにつれて一般的に弱まり頻度も減少しますが、1980年代から2025年まで収集されたECGを含むHEEDBデータセットは、患者の最新トレーニング記録から25年以上経過した後でも予測に顕著な変化を示しました。

診断上の危害

新しい論文の研究者らは、タイトルを医療AIにおける記憶バイアスとし、患者が後に自分の過去の記録で訓練されたモデルに遭遇した際、記憶が診断精度にどのように影響するかをシミュレーションしました。

将来の症例は、患者が新たな疾患を発症したか、過去のトレーニングデータに存在しなかったか、あるいは基本的に同じ健康状態で再来したかのいずれかに分類されました。

新たな疾患に対しては、効果は一貫して負の方向に働き、患者の過去記録を学習したモデルは、4つのデータセットに含まれる診断群全体で感度が低下しました。これには心筋梗塞やその他のECG異常、肺疾患、そして広範な重篤な転帰が含まれます。

実務上、患者の健康状態が変化した場合、モデルは偽陰性が増加しましたが、患者の健康状態が変化していない場合、過去の記録を記憶していることで正確な診断を出す可能性が高まりました。感度と特異度の両方が向上したのは、患者の現在の状態がトレーニングデータに既に含まれる状態と類似していたためです。

著者らは、これによりシステムの正確な評価が困難になる可能性があると指摘しています。再来患者の大半が同じ疾患を抱えている場合、モデルはそれらで高い性能を示すため、新たな疾患を発症した患者に対する感度低下が隠れてしまう恐れがあります。

対策

可能な安全策として、研究者は訓練時に差分プライバシー（個々のトレーニング例に関する情報がモデルに保持される量を制限する）をテストしました。

個別の記録を保護することで記憶効果は減少しましたが、テストした最も強力な設定でも完全には排除できませんでした。患者単位で保護を適用し、同一人物のすべての記録を対象とすることで、はるかに効果的で、ほぼ効果を除去できました。

ただし、データセットが不可逆的に匿名化されている場合、患者データをこのような手法で保護することはできません。また、研究者は、データセットが差分プライバシーを有効にして訓練されていない場合、メンバーシップ推測攻撃がリスクとなることを指摘しています。差分プライバシーを適用すれば、訓練に必要なリソースは顕著に増加します。

結論

著者らは、現在懸念される事象は比較的低頻度で発生しているものの、将来的には変化する可能性があると指摘して締めくくります*：

‘将来的に記憶バイアスに起因する見逃し診断の数が増加すると予測できる根拠がありますが、これを直接検証したわけではありません。先行研究では、モデルの容量が大きくなるにつれて、モデルが記憶する訓練データの割合が増加することが示されています [6, 7, 9, 10, 40].’

‘これは懸念すべきことです。現在のAIモデル開発が「スケーリング法則」[41]に導かれており、性能向上を目指してモデルとデータセットの規模が急速に拡大しているためです。’

‘より大規模なAIモデルが、ますます大きな患者集団から得られた過去データで学習されるにつれ、記憶バイアスの影響を受ける個人の絶対数は急激に増加し、ここで指摘したリスクがさらに悪化する可能性があります。’

* 著者のインライン引用をハイパーリンクに変換したものです。正確な再現が不可能または有益でない場合には、一部解釈を加えています。

初版掲載日：2026年9月18日金曜日。ハイパーリンク修正のため18:17 EETに改訂。