Mengapa Model AI Tidak Menyelesaikan Masalah Inti Radiologi

Sebagian besar pekerjaan AI di radiologi saat ini berfokus pada model diagnostik. Perhatian terletak pada meningkatkan akurasi dengan melatih lebih banyak data dan memperbaiki model. Pendekatan ini memperlakukan radiologi terutama sebagai tugas pengenalan visual, di mana deteksi yang lebih baik diharapkan dapat meningkatkan seluruh sistem. Pada pandangan pertama, ini tampak masuk akal: jika deteksi membaik, kualitas diagnostik seharusnya juga membaik. Namun, pandangan ini melewatkan masalah utama.

Masalah inti di radiologi adalah bagaimana diagnosis itu sendiri terstruktur. Ini bukanlah keterbatasan pengenalan pola, melainkan bagaimana pekerjaan diatur dan keputusan dihasilkan. Dan memperbaiki model tidak memperbaiki hal itu. Di bawah, kita melihat mengapa hal ini terjadi dan apa yang perlu diubah di luar akurasi model.

Masalahnya Adalah Struktural

Model CV membantu dalam mengenali pola pada gambar. Dalam studi yang terkendali, mereka dapat mencapai kinerja yang setara dengan radiolog, dengan AUC sering di atas 0,90 dan, dalam beberapa pengaturan skrining, mencapai atau melebihi kinerja spesialis. Dalam banyak domain, kemampuan untuk mendeteksi temuan tidak lagi menjadi kendala utama.

Di saat yang sama, mereka hanya bekerja dengan data gambar. Mereka menyoroti temuan yang mungkin, tetapi tidak mengambil bagian dalam proses diagnostik itu sendiri. Mereka tidak menggabungkan input yang berbeda menjadi satu diagnosis atau membimbing bagaimana keputusan dibuat. Dalam banyak domain, kemampuan untuk mendeteksi temuan tidak lagi menjadi kendala utama. Mereka dirancang untuk mengenali pola, bukan untuk berpartisipasi dalam diagnosis sebagai proses.

Dalam praktek, ini berarti struktur tidak berubah. Radiolog tetap bertanggung jawab untuk meninjau hasil dan membuat keputusan akhir, dan output AI sering memerlukan verifikasi tambahan. Tanggung jawab tetap berada pada dokter. Alur kerja tidak berubah. Botol leher tetap ada. Setiap studi masih ditugaskan kepada satu radiolog yang diharapkan untuk meninjau, menafsirkan, memvalidasi, dan melaporkan. Studi menunjukkan bahwa kinerja klinisi masih sangat bergantung pada bagaimana kesalahan AI ditangani, dan output yang salah dapat mempengaruhi pengambilan keputusan.

Model tidak dapat mengunjungi kembali keputusannya sendiri. Jika model membuat kesalahan, tidak ada cara untuk mempertimbangkan kembali kasus dengan konteks tambahan. Hasil tetap statis, sementara diagnostik nyata memerlukan penyesuaian terus-menerus. Output mereka statis, sementara penalaran klinis secara inheren iteratif.

Sebagai hasilnya, botol leher tetap ada, variabilitas bertahan, dan proses terus bergantung pada satu radiolog. Ketika volume pencitraan tumbuh, sistem yang dibangun di sekitar satu spesialis per kasus pasti mencapai batasnya.

Krisis Kepercayaan

AI di radiologi juga menimbulkan masalah kepercayaan.

Seorang radiolog tidak hanya mempertanyakan output model. Mereka mempertanyakan sistem di baliknya, terutama ketika AI disajikan sebagai pengganti bukan sebagai alat yang dapat mereka kendalikan. Kepercayaan pada model tidak stabil. Dokter yang kurang berpengalaman mungkin terlalu bergantung padanya dan melewatkan kesalahan. Dokter yang lebih berpengalaman, setelah satu kesalahan, mungkin berhenti menggunakannya. Dua pola ini — ketergantungan berlebihan dan pengunduran diri — keduanya memperkenalkan risiko baru daripada menguranginya.

Setelah kesalahan, model sering kali keluar dari proses pengambilan keputusan. Ini tidak lagi digunakan sebagai alat, tetapi diabaikan saja. Ini memutuskan kontinuitas dan membatasi nilai praktisnya. Dalam praktek, ini menyebabkan penggunaan yang tidak konsisten daripada integrasi yang stabil ke dalam alur kerja.

Ini mencerminkan konflik yang lebih dalam dengan cara kerja kedokteran. Seorang radiolog tidak dapat memindahkan tanggung jawab untuk diagnosis ke sistem. Tanggung jawab klinis dan hukum tetap berada pada dokter. Mengobati AI sebagai pengganti bertentangan dengan struktur praktek kedokteran.

Ini menciptakan konflik struktural di mana model menyarankan tetapi dokter harus memverifikasi. Pengenalan dapat diotomatisasi. Tanggung jawab tidak dapat. Dan selama tanggung jawab tidak dapat dipindahkan, setiap output model harus diperiksa, membatasi kemampuannya untuk mengurangi beban kerja.

Ilusi Efisiensi

AI tidak menghilangkan pekerjaan dari radiolog. Ini menambahkan lapisan kontrol. Dokter masih menafsirkan studi dan juga harus memverifikasi output model. Ini menciptakan pekerjaan ganda daripada menghemat waktu. Sebagai gantinya menghilangkan upaya, AI sering meng redistribusi upaya ke dalam langkah-langkah verifikasi dan koreksi tambahan.

Sistem mungkin tampak lebih cepat, tetapi dalam praktek waktu bergeser ke dalam pemeriksaan tambahan daripada dikurangi. Dalam jangka panjang, akumulasi alat ini meningkatkan beban operasional tanpa secara fundamental memperbaiki bagaimana diagnosis dihasilkan.

AI juga memperkenalkan fragmentasi. Sebagian besar model dibangun untuk tugas yang sempit: satu wilayah anatomi, modalitas, atau patologi. Untuk menutupi kebutuhan klinis nyata, klinik harus menggunakan beberapa model. Sebagai gantinya sebuah sistem terintegrasi, ini menyebabkan serangkaian alat yang terfragmentasi.

Setiap model membawa antarmuka, integrasi, dan persyaratan pemeliharaan sendiri. Ini meningkatkan kompleksitas sistem dan menambahkan lebih banyak titik interaksi.

Sebagai hasilnya, sistem menjadi lebih sulit untuk dikelola, sementara proses diagnostik inti tetap tidak berubah.

Batasan Penskalaan AI

Dengan setiap versi baru dari model, kepercayaan harus dibangun kembali. Alur kerja mulai menyesuaikan diri dengan model, bukan mendukung dokter. Ini lebih memindahkan fokus menjauh dari memperbaiki sistem itu sendiri menuju penyesuaian dengan alat individu.

Ini diperburuk oleh fokus yang sempit dari sebagian besar model. Setiap model dirancang untuk tugas atau wilayah anatomi tertentu. Dalam praktek, ini berarti klinik memerlukan beberapa model sekaligus, masing-masing dengan keterbatasan, integrasi, dan biaya sendiri. Sistem menjadi lebih sulit untuk dioperasikan.

Pada saat yang sama, menjadi jelas di mana AI memiliki dampak terbesar saat ini. Bukan dalam menafsirkan gambar, tetapi dalam memperbaiki sistem di sekitarnya — mengarahkan studi, mengelola antrian, menugaskan kasus ke spesialis yang tepat, dan memperkirakan beban kerja. Area ini mendapat manfaat dari koordinasi daripada prediksi yang terisolasi.

Apa yang Terjadi dalam Praktek

Di jaringan klinik kami, dengan lebih dari satu juta studi MRI dan CT yang dilakukan setiap tahun di lebih dari 40 klinik di tiga negara, kami mengimplementasikan beberapa model AI, termasuk solusi yang disetujui FDA. Pengaturan sederhana: model menganalisis studi pencitraan, menghasilkan laporan, dan radiolog meninjau dan mengkonfirmasi. Hasil yang diharapkan adalah waktu putar yang lebih cepat dan kesalahan yang lebih sedikit.

Dalam praktek, radiolog yang berpengalaman terus menafsirkan setiap studi mereka sendiri sebelum melihat output model. Bekerja dengan teks yang dihasilkan sering kali memerlukan upaya lebih daripada menulis dari awal, karena tidak sesuai dengan gaya pelaporan mereka. Proses tidak dipercepat dan dalam banyak kasus menjadi lebih lambat. Dalam beberapa kasus, berinteraksi dengan model menambahkan lebih banyak gesekan daripada nilai.

Perilaku pengguna juga menciptakan risiko. Ketika model membuat kesalahan, radiolog yang berpengalaman cenderung kehilangan kepercayaan dan berhenti menggunakannya. Dokter yang kurang berpengalaman lebih cenderung bergantung pada sistem, meningkatkan kemungkinan melewatkan kesalahan dan paparan klinis dan hukum yang terkait.

Pengamatan ini menunjukkan masalah yang lebih dalam. Memperbaiki alat individu tidak mengubah bagaimana sistem bekerja. Botol leher terletak pada alur kerja yang dibangun di sekitar satu radiolog yang menangani studi dari awal hingga akhir. Keterbatasan ini membuatnya sulit untuk memperbaiki sistem dengan menambahkan alat saja.

Di DICO, kami mendekatinya secara berbeda. Sebagai gantinya menambahkan AI ke alur kerja yang ada, kami fokus pada struktur itu sendiri. Kasus dapat dipecah menjadi bagian-bagian, dengan setiap bagian ditangani oleh spesialis yang relevan yang bekerja langsung dalam data pencitraan. Laporan akhir disusun dari input ini, dengan AI mendukung koordinasi. Diagnosis, dalam model ini, tidak lagi ditulis oleh satu orang — tetapi disusun dari kontribusi multiple.

Ini bukanlah masalah kualitas model. Ini adalah masalah struktur.

Memikirkan Kembali Sistem Diagnostik

Radiologi modern dibangun di atas satu asumsi. Satu studi, satu radiolog. Ini menciptakan botol leher, variabilitas, dan keterbatasan skalabilitas. Masalah utama bukanlah bahwa model membuat kesalahan. Sistem tidak dibangun untuk bekerja dengan mereka. Ini dibangun di atas fondasi yang tidak dapat diskalakan.

Alat non-iteratif ditempatkan ke dalam proses yang bergantung pada iterasi. Dalam praktek klinis, radiologi bukanlah keputusan satu langkah. Studi menunjukkan bahwa ketidaksetujuan antara interpretasi awal dan kedua terjadi pada ~30% kasus, dan kesalahan klinis yang signifikan dapat mempengaruhi pengelolaan pada ~18-20% kasus. Pendapat kedua bukanlah pengecualian, tetapi bagian rutin dari pekerjaan diagnostik.

Lebih luas, di seluruh kedokteran, pendapat kedua menyebabkan perubahan diagnosis pada 10-62% kasus, tergantung pada pengaturan.

Tanpa kemampuan untuk merevisi, mengkoordinasikan, dan mengevaluasi kembali dengan konteks, output model tetap statis, sementara diagnostik nyata memerlukan penyesuaian terus-menerus.

Langkah berikutnya bukanlah model yang lebih akurat. Ini adalah perancangan ulang sistem diagnostik.

Perubahan ini dari alat AI terpisah ke cara terintegrasi untuk mengelola diagnostik — di mana diagnosis bukanlah keputusan tunggal, tetapi proses yang diarahkan dan ditafsirkan melalui beberapa langkah. Keterbatasan bukanlah kurangnya model cerdas, tetapi ketiadaan sistem yang dapat mengkoordinasikan pekerjaan diagnostik sebagai proses.