Kesulitan AI Mengenali Kiri dan Kanan dalam Pemindaian Medis

Sebuah studi baru menemukan bahwa model citra AI seperti ChatGPT dapat salah membaca anatomi yang diputar atau diputar, meningkatkan risiko kesalahan berbahaya dalam diagnosis, dengan tes yang menunjukkan bahwa mereka sering gagal dalam alasan spasial dasar dalam pemindaian medis – tebakan di mana organ harus berada, bukan benar-benar melihat gambar. Mungkin lebih menarik, penelitian ini menunjukkan bahwa model-model ini mungkin tidak membaca PDF yang diunggah atau melihat gambar Anda sama sekali.

Siapa pun yang pernah secara teratur mengunggah data, seperti konten PDF, ke model bahasa terkemuka seperti ChatGPT akan tahu bahwa LLM tidak selalu membaca atau memeriksa apa yang Anda sajikan kepada mereka; mereka sering membuat asumsi tentang materi, berdasarkan apa yang Anda tulis tentangnya dalam prompt saat Anda mengunggahnya.

Itu bisa menjadi sulit untuk membuat model bahasa mengakui bahwa jawabannya didasarkan pada pengetahuan sebelumnya, metadata, atau asumsi umum, bukan dari konten yang diberikan. Source: https://chatgpt.com

Salah satu alasan untuk ini adalah untuk meningkatkan kecepatan jawaban dengan mempertimbangkan materi yang diunggah ‘redundan’, dan mengandalkan prompt teks untuk mengambil pengetahuan sebelumnya dari sistem – menghindari unggahan sama sekali, dan dalam prosesnya meminimalkan lalu lintas jaringan.

Lainnya adalah konservasi sumber daya (meskipun penyedia tampaknya tidak mungkin mengungkapkan ini, jika benar), di mana metadata yang ada yang diambil dari pertukaran sebelumnya dalam obrolan digunakan sebagai dasar untuk jawaban lebih lanjut, bahkan ketika pertukaran dan metadata tersebut tidak mengandung informasi yang cukup untuk tujuan ini.

Kiri. Kanan?

Apa pun alasan untuk perhatian yang bervariasi dan kemampuan fokus generasi LLM saat ini, ada situasi dan konteks di mana tebakan sangat berbahaya. Salah satunya adalah ketika AI yang bersangkutan diminta untuk menyediakan layanan medis seperti skrining atau estimasi risiko bahan radiologi.

Minggu ini, peneliti dari Jerman dan AS merilis studi penelitian baru yang memeriksa efikasi empat model visi-bahasa terkemuka, termasuk ChatGPT-4o, ketika diminta untuk mengidentifikasi lokasi organ dalam pemindaian medis.

Secara mengejutkan, meskipun mewakili negara seni dalam hal ini, model dasar mencapai tingkat keberhasilan yang tidak lebih tinggi dari kebetulan sebagian besar waktu – tampaknya karena mereka tidak dapat melepaskan pengetahuan anatomi yang dilatih dengan cukup, dan sebenarnya melihat gambar yang disajikan kepada mereka, bukan mencapai prioritas yang mudah dilatih dari data pelatihan mereka.

Peneliti menemukan bahwa LLM yang diuji memiliki performa yang jauh lebih baik ketika bagian yang dipertimbangkan ditandai dengan indikator lain (seperti titik dan urutan alfanumerik) serta dinamai – dan terbaik dari semua ketika tidak ada penyebutan organ atau anatomi dalam pertanyaan sama sekali:

Tingkat keberhasilan yang bervariasi, meningkat seiring dengan kemampuan model untuk mengandalkan data yang dilatih diminimalkan, dan dipaksa untuk fokus pada data di depannya. Source: https://wolfda95.github.io/your_other_left/

Makalah ini mengamati*:

‘Model visi-bahasa negara seni sudah memiliki pengetahuan anatomi sebelumnya yang kuat yang tertanam dalam komponen bahasa mereka. Dengan kata lain, mereka “tahu” di mana struktur anatomi biasanya terletak dalam anatomi manusia standar.

‘Kami menghipotesiskan bahwa VLM sering membasiskan jawaban mereka pada pengetahuan sebelumnya ini daripada menganalisis konten gambar yang sebenarnya. Misalnya, ketika ditanya apakah hati berada di sebelah kanan perut, model mungkin menjawab positif tanpa memeriksa gambar, hanya mengandalkan norma yang dipelajari bahwa hati biasanya terletak di sebelah kanan perut.

‘Perilaku seperti ini dapat menyebabkan diagnosis yang salah dalam kasus di mana posisi sebenarnya menyimpang dari pola anatomi yang khas, seperti dalam situs inversus, perubahan pasca operasi, atau perpindahan tumor.’

Untuk memitigasi masalah ini dalam upaya masa depan, penulis telah mengembangkan dataset yang dirancang untuk menangani masalah ini.

Temuan makalah ini mungkin mengejutkan bagi banyak pembaca yang telah mengikuti perkembangan AI medis, karena radiografi telah ditandai sangat awal sebagai salah satu pekerjaan yang paling berisiko diotomasi melalui pembelajaran mesin.

Karya baru ini disebut Your other Left! Vision-Language Models Fail to Identify Relative Positions in Medical Images, dan berasal dari tujuh peneliti di dua fakultas di Universitas Ulm, dan Axiom Bio di AS.

Metode dan Data

Peneliti bertujuan untuk menjawab empat masalah: apakah model visi-bahasa negara seni dapat menentukan posisi relatif dalam gambar radiologi; apakah penggunaan penanda visual dapat meningkatkan kinerja mereka dalam tugas ini; apakah mereka lebih mengandalkan pengetahuan anatomi sebelumnya daripada konten gambar yang sebenarnya; dan bagaimana mereka menangani tugas penempatan relatif ketika dipisahkan dari konteks medis.

Untuk ini, mereka mengkurasi dataset Medical Imaging Relative Positioning (MIRP).

Meskipun sebagian besar benchmark pertanyaan visual untuk irisan CT atau MRI termasuk tugas anatomi dan lokalasi, koleksi yang lebih lama ini mengabaikan tantangan inti menentukan posisi relatif, meninggalkan banyak tugas yang dapat diselesaikan menggunakan pengetahuan medis sebelumnya saja.

MIRP dirancang untuk menangani ini dengan menguji pertanyaan posisi relatif antara struktur anatomi, menilai dampak penanda visual, dan menerapkan rotasi dan flip acak untuk memblokir ketergantungan pada norma yang dipelajari. Dataset ini fokus pada irisan CT abdominal, karena kompleksitas dan prevalensinya dalam radiologi.

MIRP berisi jumlah yang sama dari ya dan tidak jawaban, dengan struktur anatomi dalam setiap pertanyaan opsional ditandai untuk kejelasan.

Tiga jenis penanda visual diuji: angka hitam dalam kotak putih; huruf hitam dalam kotak putih; dan titik merah dan biru:

Berbagai penanda visual yang digunakan dalam MIRP. Source: https://arxiv.org/pdf/2508.00549

Koleksi ini bersumber dari dataset Beyond the Cranial Vault (BTCV) dan Abdominal Multi-Organ Segmentation (AMOS) yang ada.

Irisan yang diberi anotasi dari dataset AMOS. Source: https://arxiv.org/pdf/2206.08023

Proyek TotalSegmentator digunakan untuk mengekstrak gambar anatomi datar dari data volumetrik:

Beberapa struktur anatomi yang tersedia di TotalSegmentator. Source: https://arxiv.org/pdf/2208.05868

Irisan gambar aksial kemudian diperoleh dengan kerangka kerja SimpleITK.

Lokasi gambar ‘tantangan’ harus setidaknya 50px terpisah, dan memiliki ukuran setidaknya dua kali lipat dari penanda, untuk menghasilkan pasangan pertanyaan/jawaban.

Uji

Empat model visi-bahasa yang diuji adalah GPT-4o; Llama3.2; Pixtral; dan JanusPro dari DeepSeek.

Peneliti menguji setiap dari empat pertanyaan penelitian mereka, dengan yang pertama (Q1) adalah ‘Apakah model visi-bahasa terkemuka saat ini dapat menentukan posisi relatif dalam gambar radiologi dengan akurat? Untuk pertanyaan ini, peneliti menguji model pada irisan CT polos, diputar, atau diputar menggunakan format pertanyaan standar, seperti Apakah ginjal kiri berada di bawah perut?.

Hasil (ditunjukkan di bawah) menunjukkan akurasi dekat 50 persen di semua model, menunjukkan kinerja pada tingkat kebetulan, dan ketidakmampuan untuk secara andal menilai posisi relatif tanpa penanda visual:

Akurasi rata-rata untuk semua eksperimen menggunakan evaluasi berbasis gambar pada benchmark MIRP (RQ1–RQ3) dan dataset ablasi (AS).

Untuk menguji apakah penanda visual dapat membantu model visi-bahasa menentukan posisi relatif dalam gambar radiologi, studi ini mengulangi eksperimen menggunakan irisan CT yang diberi anotasi dengan huruf, angka, atau titik merah dan biru; dan di sini, format pertanyaan disesuaikan untuk merujuk pada penanda ini – misalnya, Apakah ginjal kiri (A) berada di bawah perut (B)? atau Apakah ginjal kiri (merah) berada di bawah perut (biru)?.

Hasil menunjukkan peningkatan akurasi kecil untuk GPT-4o dan Pixtral ketika penanda huruf atau angka digunakan, sedangkan JanusPro dan Llama3.2 tidak menunjukkan manfaat yang signifikan, menunjukkan bahwa penanda saja mungkin tidak cukup untuk meningkatkan kinerja secara signifikan.

Akurasi untuk semua eksperimen menggunakan evaluasi berbasis gambar. Untuk RQ2, RQ3, dan AS, hasil ditunjukkan dengan jenis penanda terbaik untuk setiap model: huruf untuk GPT-4o, dan titik merah-biru untuk Pixtral, JanusPro, dan Llama3.4.

Untuk mengatasi pertanyaan ketiga, Apakah VLM mengutamakan pengetahuan anatomi sebelumnya daripada input visual saat menentukan posisi relatif dalam gambar radiologi?, penulis mengeksaminasi apakah model visi-bahasa mengandalkan pengetahuan anatomi sebelumnya daripada bukti visual saat menentukan posisi relatif dalam gambar radiologi.

Ketika diuji pada irisan CT yang diputar atau diputar, GPT-4o dan Pixtral sering menghasilkan jawaban yang konsisten dengan posisi anatomi standar, bukan mencerminkan apa yang ditunjukkan dalam gambar, dengan GPT-4o mencapai akurasi lebih dari 75 persen pada evaluasi berbasis anatomi, tetapi hanya kinerja pada tingkat kebetulan pada evaluasi berbasis gambar.

Menghilangkan istilah anatomi dari prompt dan hanya menggunakan penanda visual memaksa model untuk bergantung pada konten gambar, menghasilkan peningkatan yang signifikan, dengan GPT-4o melebihi 85 persen akurasi dengan penanda huruf, dan Pixtral lebih dari 75 persen dengan titik.

Perbandingan dari empat model visi-bahasa dalam menentukan posisi relatif struktur anatomi dalam gambar medis – persyaratan kunci untuk penggunaan klinis. Kinerja berada pada tingkat kebetulan dengan gambar polos (RQ1) dan menunjukkan peningkatan kecil dengan penanda visual (RQ2). Ketika nama anatomi dihilangkan dan model harus bergantung sepenuhnya pada penanda, GPT-4o dan Pixtral mencapai peningkatan akurasi yang signifikan (RQ3). Hasil ditunjukkan menggunakan jenis penanda terbaik untuk setiap model.

Hal ini menunjukkan bahwa meskipun keduanya dapat melakukan tugas menggunakan data gambar, mereka cenderung beralih ke prioritas anatomi yang dipelajari ketika diberikan nama anatomi – pola yang tidak jelas teramati pada JanusPro atau Llama3.2.

Penulis mengamati bahwa GPT-4o berkinerja terbaik dengan penanda huruf, sedangkan Pixtral, JanusPro, dan Llama3.2 mencapai skor yang lebih tinggi dengan titik merah-biru. GPT-4o adalah pemain terbaik secara keseluruhan, dengan Pixtral memimpin di antara model sumber terbuka.

Kesimpulan

Secara pribadi, makalah ini menarik perhatian saya tidak hanya karena signifikansi medisnya, tetapi karena menyoroti salah satu kelemahan paling tidak dilaporkan dan mendasar dari gelombang LLM saat ini – bahwa, jika tugas dapat dihindari, dan kecuali Anda menyajikan materi dengan hati-hati, mereka tidak akan membaca teks yang Anda unggah atau memeriksa gambar yang Anda sajikan kepada mereka.

Lebih lanjut, studi ini menunjukkan bahwa jika prompt teks Anda dalam cara apa pun menjelaskan apa yang menjadi materi sekunder yang dikirim, LLM akan cenderung memperlakukannya sebagai contoh ‘teleologis’, dan akan menganggap/mengasumsikan banyak hal tentangnya berdasarkan pengetahuan sebelumnya, bukan mempelajari dan mempertimbangkan apa yang Anda kirimkan.

Secara efektif, pada keadaan ini, VLM akan memiliki kesulitan besar dalam mengidentifikasi materi ‘aberran’ – salah satu keterampilan paling penting dalam diagnosis medis. Sementara memungkinkan untuk membalik logika dan memiliki sistem yang mencari outlier bukan hasil dalam distribusi, model tersebut akan memerlukan kurasi yang luar biasa untuk menghindari menghanyutkan sinyal dengan contoh yang tidak relevan atau palsu.

* Referensi inline dihilangkan, karena tidak ada cara yang elegan untuk memasukkannya sebagai tautan. Silakan merujuk ke makalah sumber.

Dipublikasikan pertama kali pada hari Senin, 4 Agustus 2025