Data Medis Anonim Berusia Puluhan Tahun Dapat Menyebabkan Kesalahan Diagnosis AI Sekarang

Menurut kolaborasi riset baru antara Jerman dan Inggris, catatan pasien anonim yang dimasukkan ke dalam dataset medis bahkan puluhan tahun lalu dapat menyebabkan sistem AI yang dilatih dengan data tersebut mengenali karakteristik pasien yang sebenarnya bertahun‑tahun kemudian – dan memperlakukan pasien pada tahun 2026 seolah‑olah masih tahun 2012 (atau tahun apa pun ketika data pasien anonim mereka pertama kali dimasukkan ke dalam dataset).

Ini dapat berarti, misalnya, bahwa seorang pasien yang tercatat menjalani perawatan kanker 20 tahun yang lalu, dan kemudian masuk ke remisi jangka panjang, kini dapat diperlakukan oleh sistem AI dalam konteks diri mereka yang lebih tua dan pernah terkena kanker – secara logis bahkan meningkatkan peluang diagnosis kelanjutan yang keliru.

Sebaliknya, jika versi data pasien tersebut pada tahun 2012 mencerminkan kesehatan sempurna dalam pemeriksaan rutin, pandangan optimis ini berpotensi diterapkan pada versi yang lebih tua dan saat ini dari pasien, menyamarkan deteksi kondisi atau masalah baru yang mungkin memerlukan perawatan.

Dari makalah baru, ilustrasi tentang bagaimana bias memorisasi dapat memengaruhi pasien yang kembali. Model yang dilatih pada ECG sehat sebelumnya milik Alice memberikan probabilitas hanya 15% untuk serangan jantungnya kemudian, dibandingkan 73% untuk model yang tidak pernah melihat catatan historisnya. Sumber

Membatasi ‘Imigrasi Data’

Skenario ini menjadi lebih mungkin karena berbagai kebijakan nasional dan regional yang merekomendasikan bahwa data pasien untuk tujuan tersebut sebaiknya diambil dari negara tempat sistem yang dihasilkan akan digunakan, yang ‘melokalisasi’ kumpulan pasien dalam dataset, dan secara signifikan meningkatkan peluang terjadinya peristiwa de‑anonimisasi yang tidak terdeteksi seperti ini.

Dengan inferensi, membatasi jumlah data yang tersedia hanya pada dataset nasional meningkatkan peluang memorisasi – kemungkinan model akan melihat data yang sama begitu sering selama pelatihan sehingga menjadi ‘terfiksasi’ pada pola‑pola yang dipelajari berlebihan. Sebaliknya, semakin besar dan beragam dataset, semakin besar kemungkinannya untuk menggeneralisasi ke data yang belum pernah dilihat setelah pelatihan, alih‑alih menghafal titik data atau konfigurasi spesifik.

Namun, menambahkan data medis ‘asing’ berisiko memperkenalkan bukti tren kesehatan nasional dan keunikan yang tidak berlaku di negara tempat model yang dilatih akan diterapkan; dalam hal ini, sebagaimana makalah baru mengakui, sejumlah memorisasi yang tertentu memang tepat dan berguna, karena membantu model bekerja dalam karakteristik medis umum yang paling mungkin dari populasi tertentu.

Makalah tersebut menyatakan*:

‘[When] model diterapkan secara prospektif, memorisasi menciptakan risiko spesifik yang kurang dihargai. Karena catatan pasien sangat mirip sendiri seiring waktu, catatan di masa depan dapat berfungsi sebagai isyarat parsial untuk catatan historis yang dihafal, menggeser prediksi model menuju kondisi kesehatan pasien sebelumnya.

Ini bukan skenario hipotetis. Model AI medis secara rutin diterapkan pada populasi yang sama dari mana data pelatihan mereka diambil.

‘Sebagai contoh, skrining kanker payudara nasional Jerman program menggunakan model AI yang dilatih pada 1,2 juta mamogram yang bersumber dari populasi skrining yang sama yang kini dilayaninya.

‘Penerapan serupa sedang berlangsung di tempat lain, termasuk program skrining kanker payudara nasional di Britania Raya dan Swedia.

‘Panduan regulasi secara aktif mendorong hal ini, dengan EU AI Act yang mengharuskan data pelatihan mencerminkan setting geografis dan kontekstual dari penggunaan yang dimaksud (Art. 10(4)), dan pedoman internasional serupa untuk pengembangan AI medis yang meminta populasi pasien yang dituju untuk terwakili secara memadai dalam dataset pelatihan model.’

Bencana Historis yang Berlanjut..?

Meskipun makalah tersebut tidak membahas hal ini, secara statistik tampak logis bahwa pasien yang tidak secara rutin menjalani pemeriksaan medis sepanjang hidup mereka, dan yang catatan anonimnya masuk ke aliran data AI secara berkala, cenderung muncul dalam data pasien anonim hampir secara eksklusif pada saat mereka membutuhkan perawatan – yang cenderung meningkatkan peluang ‘memproyeksikan’ kondisi yang telah lama disembuhkan pada pasien yang sama sekarang, karena catatan tersebut tidak memiliki penyeimbang ‘kesehatan baik’.

Hal ini dibuktikan oleh penelitian sebelumnya tentang ‘bias kehadiran terinformasi’ dalam catatan kesehatan elektronik, yang menemukan bahwa dataset medis secara tidak proporsional mewakili periode ketika pasien sakit dan berinteraksi dengan layanan kesehatan.

Sebuah studi menemukan bahwa pasien yang sangat sakit memiliki 5,05 kali lebih banyak hari dengan data laboratorium dan 6,85 kali lebih banyak hari dengan perintah obat dibandingkan pasien yang paling sehat.

Pada tahun 2022, sekitar 76% orang dewasa AS melaporkan melakukan pemeriksaan rutin dalam setahun terakhir, yang didefinisikan oleh CDC sebagai pemeriksaan fisik umum, bukan perawatan untuk kondisi tertentu; dan di Eropa, survei multi‑negara tahun 2023 menemukan bahwa 58% menghadiri setidaknya beberapa pemeriksaan pencegahan; namun hanya 15% yang menghadiri semua janji pencegahan yang dianggap relevan bagi mereka.

Sejauh Mana Pengaruh

Studi ini menguji efek pada empat dataset medis besar, mencakup rekaman ECG, foto dada, dan catatan kesehatan elektronik; yaitu, MIMIC-CXR chest X-ray database dan MIMIC-IV-ED catatan perawatan darurat, bersama MIMIC-ECG dan koleksi HEEDB yang jauh lebih besar berisi ECG. Dataset tersebut berukuran dari puluhan ribu pasien hingga lebih dari 1,8 juta orang.

Penulis mencatat bahwa efek yang dihitung sangat bervariasi, dengan perubahan probabilitas yang diprediksi melebihi 70 poin persentase dalam beberapa kasus:

Hasil yang menunjukkan bagaimana data pasien historis mengubah prediksi selanjutnya. Panel atas membandingkan frekuensi dan ukuran perubahan ini di keempat dataset; panel bawah menunjukkan bagaimana efek berubah seiring waktu sejak catatan pelatihan terakhir pasien. Efek signifikan menjadi kurang umum seiring waktu, tetapi tetap terdeteksi puluhan tahun kemudian.

Sebagai kontrol, peneliti secara acak membagi model menjadi grup dan mengulangi perbandingan, meskipun hal ini tidak menghasilkan perubahan signifikan pada prediksi di masa depan.

Penulis mencatat bahwa efek tersebut mungkin juga bertahan selama puluhan tahun. Meskipun umumnya menjadi lebih lemah dan kurang umum seiring interval antara catatan meningkat, dataset HEEDB, yang berisi ECG yang dikumpulkan dari tahun 1980 hingga 2025, menunjukkan perubahan signifikan dalam prediksi lebih dari 25 tahun setelah catatan pelatihan terakhir pasien.

Kerugian Diagnostik

Peneliti dalam makalah baru – berjudul Bias memorisasi dalam AI medis – selanjutnya mensimulasikan bagaimana memorisasi dapat memengaruhi akurasi diagnostik ketika pasien kemudian berhadapan dengan model yang dilatih pada catatan mereka sebelumnya.

Kasus di masa depan dibagi berdasarkan apakah pasien mengembangkan kondisi baru; tidak ada dalam data pelatihan historis mereka; atau apakah mereka kembali dengan keadaan kesehatan yang pada dasarnya sama.

Untuk kondisi baru, efek terbukti secara konsisten negatif, dengan model yang sebelumnya melihat catatan historis pasien menunjukkan sensitivitas lebih rendah pada berbagai diagnosis yang terwakili dalam keempat dataset. Ini mencakup infark dan abnormalitas ECG lainnya; kondisi paru; serta hasil kritis yang lebih luas.

Dalam istilah praktis, model menghasilkan lebih banyak negatif palsu ketika kondisi kesehatan pasien berubah; tetapi ketika kondisi kesehatan pasien tidak berubah, ingatan model tentang catatan mereka sebelumnya membuatnya lebih mungkin menghasilkan diagnosis yang tepat. Baik sensitivitas maupun spesifisitas meningkat karena kondisi pasien saat ini mirip dengan kondisi yang sudah terwakili dalam data pelatihan.

Penulis mencatat bahwa hal ini dapat membuat sistem semacam itu sulit untuk dinilai secara akurat: jika kebanyakan pasien yang kembali masih memiliki kondisi yang sama, model akan tampil lebih baik pada mereka, berpotensi menyembunyikan sensitivitas yang lebih rendah terhadap pasien yang mengembangkan kondisi baru.

Solusi

Sebagai langkah pengamanan yang mungkin, peneliti menguji privasi diferensial (yang membatasi seberapa banyak informasi tentang contoh pelatihan individu yang dapat dipertahankan oleh model) selama pelatihan.

Meskipun melindungi catatan individu mengurangi efek memorisasi, hal itu tidak menghilangkannya, bahkan pada pengaturan terkuat yang diuji. Menerapkan perlindungan pada tingkat pasien, mencakup semua catatan milik orang yang sama, jauh lebih efektif, dan hampir menghilangkan efek tersebut.

Namun perlu dicatat, bahwa jika sebuah dataset telah dianonimkan secara tidak dapat dipulihkan, data pasien tidak dapat dipisahkan dengan cara yang memungkinkan metode tersebut; dan, peneliti mengamati, jika dataset tidak dilatih dengan privasi diferensial diaktifkan, serangan inferensi keanggotaan menjadi risiko; jika diaktifkan, sumber daya yang diperlukan untuk pelatihan meningkat secara signifikan.

Kesimpulan

Penulis menutup dengan mengamati bahwa meskipun insiden mengkhawatirkan saat ini terjadi pada tingkat yang relatif rendah, hal ini dapat berubah di masa depan*:

‘Ada alasan untuk mengharapkan jumlah diagnosis yang terlewat akibat bias menghafal akan meningkat di masa depan, meskipun kami tidak mengujinya secara langsung. Penelitian sebelumnya telah menunjukkan bahwa proporsi data pelatihan yang dihafal oleh model meningkat seiring dengan kapasitas model [6, 7, 9, 10, 40]’

‘Ini mengkhawatirkan, mengingat bahwa pengembangan model AI saat ini dipandu oleh “hukum skala” [41], yang mendorong pertumbuhan cepat baik pada ukuran model maupun dataset dalam upaya meningkatkan kinerja.’

‘Seiring model AI yang lebih besar dilatih pada data historis yang diambil dari populasi pasien yang semakin besar, jumlah absolut individu yang terkena bias menghafal kemungkinan akan meningkat secara drastis, memperburuk risiko yang kami identifikasi di sini.’

* Konversi saya atas sitasi inline penulis menjadi tautan hiper, dengan beberapa interpretasi bila replikasi tepat tidak memungkinkan atau tidak membantu.

Diterbitkan pertama kali Jumat, 18 September 2026. Diubah pada 18:17 EET untuk koreksi tautan hiper.