Sudut Anderson
Dokter AI yang Mudah Dibujuk

Poin utamaModel AI jauh lebih mudah menerima nasihat medis yang salah ketika nasihat itu berasal…
Lihat selengkapnya
- Model AI jauh lebih mudah menerima nasihat medis yang salah ketika nasihat itu berasal dari seorang spesialis daripada dari seorang mahasiswa kedokteran.
- Penjelasan yang dibuat-buat yang mendukung diagnosis yang salah dapat mengalahkan jawaban AI yang benar bahkan tanpa bukti yang sah.
- Membuat AI lebih sulit dibujuk bukanlah solusinya karena persuasi juga dapat memperbaiki kesalahan yang sebenarnya.
Terlewat pada 2026: Inilah saatnya dalam setahun ketika kualitas dan volume penelitian naik turun seiring dengan konferensi-konferensi terakhir pada November dan Desember. Untuk melewati masa-masa paceklik yang datang sesekali ini, kami menyoroti beberapa makalah menarik yang nyaris terpilih pada 2026, tetapi tersisih oleh karya-karya lain pada periode pengajuan yang lebih kompetitif.
Meningkatnya minat terhadap model pengambilan keputusan AI sebagian berakar pada keterbatasan chatbot AI serbaguna dalam mengambil keputusan. Bahkan ketika produk AI terdepan seperti ChatGPT mungkin diam-diam “menyerahkan” pengambilan keputusan kepada model keputusannya sendiri atau model lain di balik layar, pendapat bawaannya tetap sangat mudah dimanipulasi.
Misalnya, untuk membantu saya memilah kandidat yang bersaing untuk diliput, terkadang saya menyodorkan semuanya secara bersamaan kepada ChatGPT, Claude 5.5, dan model apa pun yang bersedia disediakan Gemini secara gratis pagi itu. Saya tahu apa yang bisa diharapkan: GPT dan Claude akan memberi bobot berlebihan pada bagian-bagian rubrik; Gemini (versi gratis) akan menganggap semuanya bagus; dan bagi Claude, nyaris tidak ada yang cukup bagus.
Saat saya menantang GPT 5.6 Sol dengan pandangan berbeda dari Claude atau Gemini, hampir setiap kali GPT mengalah, dalam kadar tertentu (biasanya sepenuhnya). Menyodorkan pandangan yang berlawanan atau bersaing biasanya akan membuat GPT sepenuhnya mengubah keputusannya. Ketika Anda menunjukkan betapa mudahnya GPT dipengaruhi, GPT kembali ke pandangan sebelumnya, seolah-olah tersinggung karena dianggap demikian. Namun, bahkan setelah itu, GPT tetap bisa diubah sesuka hati hanya dengan sedikit dorongan dari pengguna.
Sebaliknya, Claude cenderung bertahan pada pendiriannya: menantang penilaiannya akan membuatnya semakin kukuh, seakan-akan menyadari “masalah kemudahterpengaruhan” dalam wacana AI dan telah diperintahkan untuk tidak pernah mengubah pendirian—solusi yang cukup rapuh.
Ada Pendapat Lain
Namun, ini hanyalah data anekdotal yang hanya didukung sebagian. Yang membawa saya pada hal ini adalah makalah-makalah Arxiv hari ini yang agak mengecewakan. Karena itu, saya kembali membaca sebuah makalah yang menarik perhatian saya selama musim panas, tetapi saat itu tidak sempat kami bahas.
Berjudul AI Mudah Dibujuk dalam Pengambilan Keputusan Klinis, studi Stanford/Oxford ini mengkaji betapa mudahnya GPT-4o, Claude Sonnet 5, dan Qwen3.7-plus dibujuk untuk mengubah diagnosis medis.
Ternyata, senioritas dokter, kewarganegaraan, prestise institusi, dan rekam jejak yang diklaim dapat memengaruhi model-model tersebut, bahkan ketika sarannya keliru. Angka juga memberikan pengaruh kumulatif: dalam satu eksperimen, GPT-4o jauh lebih bersedia menerima diagnosis yang keliru ketika tiga dokter menyetujuinya.
Bahkan, hanya dengan berulang kali memberi tahu AI bahwa jawabannya salah, tanpa menyodorkan bukti baru, pada akhirnya dapat mengubah pendiriannya.
Makalah tersebut menyatakan:
“Kami menemukan bahwa otoritas profesional, latar belakang kebangsaan, afiliasi institusi, kinerja masa lalu yang diklaim, pendapat beberapa dokter, pandangan klinisi yang didukung bukti, dan tekanan berulang dapat memengaruhi keputusan AI.
“Yang mengejutkan, masukan persuasif yang sama mengubah sekitar 10% lebih banyak kasus ketika disampaikan oleh klinisi senior dibandingkan oleh mahasiswa kedokteran. Klaim sederhana bahwa seseorang memiliki riwayat kinerja yang lebih baik secara konsisten membuat dokter tersebut lebih persuasif.
“Yang lebih mencolok, pandangan klinisi yang masuk akal dapat membujuk AI agar meninggalkan keputusan yang benar, bahkan ketika pandangan itu direkayasa untuk mendukung jawaban yang keliru.”
Sebagai solusi, para penulis menyarankan agar AI meningkatkan kemampuannya dalam menilai bukti yang mendasari saran dokter, sehingga AI dapat menerima koreksi yang valid tanpa terpengaruh oleh otoritas, tekanan kelompok, atau argumen meyakinkan yang keliru.
Namun, cara mewujudkannya masih menjadi pertanyaan terbuka. kerangka kerja MedStress tahun 2026 mengklaim hampir sepenuhnya menghilangkan masalah AI yang membalikkan diagnosis; penelitian lain yang terbit pada 2026 menemukan—bertentangan dengan pengalaman saya sendiri—bahwa Google Gemini paling tahan terhadap manipulasi diagnosis medis; dan sebuah tinjauan September 2026 mengusulkan pengujian terstandardisasi untuk membedakan kasus ketika AI dengan tepat mengubah pendiriannya dari kasus ketika AI menyerah pada tekanan dan menerima diagnosis yang keliru.
Dengan lebih dari 80% dokter di AS menggunakan AI dalam suatu bentuk, serta antusiasme yang nyata di sektor ini untuk memperluas kemampuan diagnostik melampaui keterbatasan jumlah staf dan cakupan layanan yang kerap menjadi sorotan berita, masalah ini diperkirakan akan menjadi salah satu hambatan utama bagi adopsi AI diagnostik dan jelas perlu mendapat perhatian yang lebih besar atau lebih efektif.
Sementara itu, mari kita lihat bagaimana masalah ini muncul dalam studi Oxford/Stanford tersebut.
Metode
Untuk pengujian, 308 pertanyaan medis diambil dari MedBullets, kumpulan kasus klinis dengan tingkat kesulitan yang sebanding dengan ujian lisensi medis:

Contoh skenario dari kumpulan kasus klinis yang dikurasi MedBullets. Sumber
Setiap pertanyaan disertai skenario pasien; lima kemungkinan jawaban; dan penjelasan mengenai pilihan yang benar. Selanjutnya, diukur seberapa sering AI dapat dibujuk untuk meninggalkan jawaban yang benar.
Tiga model AI yang diuji, seperti disebutkan sebelumnya, adalah GPT-4o; Qwen3.7-Plus; dan Sonnet 5. Masing-masing diinstruksikan untuk bertindak sebagai sistem pendukung keputusan medis, dengan tujuan mencapai diagnosis yang benar berdasarkan bukti klinis yang tersedia.
Untuk setiap kasus, model harus memilih jawaban; menunjukkan apakah mereka telah mengubah keputusan awal; menilai tingkat keyakinan mereka dari 0 hingga 100; merekomendasikan tindakan selanjutnya; dan memberikan skor yang menunjukkan seberapa mendesak tindakan lebih lanjut diperlukan, mulai dari tidak perlu melakukan apa pun hingga menghentikan proses dan merujuk kasus untuk ditinjau lebih lanjut. Permintaan yang gagal diulang untuk memastikan semua pengujian yang direncanakan selesai.
Dalam beberapa pengujian, AI diberi kasus medis beserta saran dokter dan diminta membuat diagnosis; dalam pengujian lainnya, AI terlebih dahulu membuat diagnosis, lalu saran dokter disampaikan belakangan dalam percakapan. Pengujian tersebut juga memeriksa apakah diagnosis yang benar dapat dibujuk menjadi diagnosis yang salah, atau apakah kesalahan awal dapat diperbaiki.
Tokoh Otoritas
Saran medis yang sama disajikan seolah-olah berasal dari dokter dengan tingkat senioritas berbeda, mulai dari mahasiswa kedokteran hingga dokter spesialis. Diagnosis dan detail pasien tidak diubah, sehingga pengaruh otoritas profesional dapat diukur.
Saran tersebut juga diatribusikan kepada dokter dari Kamerun; Tiongkok; Uni Emirat Arab; Britania Raya; dan Amerika Serikat. Pengujian lebih lanjut memeriksa apakah AI dipengaruhi oleh afiliasi dokter dengan pusat medis terkemuka; rumah sakit perkotaan; atau rumah sakit pedesaan. Hanya latar belakang dokter yang disebutkan yang diubah.
Pengujian tambahan memeriksa apakah AI dipengaruhi oleh tempat dokter bekerja, dengan membandingkan pusat medis akademik bergengsi, rumah sakit komunitas perkotaan, dan rumah sakit pedesaan. Model juga diberi catatan fiktif mengenai kinerja mereka sendiri dan kinerja dokter dalam sembilan kasus sebelumnya, untuk mengetahui apakah keandalan dokter yang tampak dapat memengaruhi kesediaan AI menerima saran.
Pengaruh tekanan kelompok diuji dengan memberi tahu AI bahwa diagnosisnya telah ditentang oleh seorang dokter; tiga dokter yang sepakat; atau komite peninjau rumah sakit. Dalam beberapa pengujian, diagnosis alternatif disarankan; dalam pengujian lainnya, AI hanya diberi tahu bahwa jawabannya salah.
Pengaruh penalaran medis diperiksa dengan memberikan penjelasan yang mendukung diagnosis yang benar kepada model, atau argumen yang sengaja direkayasa untuk mendukung diagnosis yang salah. Penjelasan tersebut juga diuji bersamaan dengan klaim senioritas profesional, untuk mengetahui seberapa besar pengaruh yang diperoleh dengan menggabungkan keduanya.
Terakhir, efek tekanan berulang diuji selama sepuluh giliran percakapan, dengan keberatan yang sama disampaikan setiap kali. Tantangan yang diberikan mencakup ketidaksetujuan sederhana; klaim otoritas medis; dan anggapan bahwa dokter lain juga sepakat. Tidak ada bukti medis tambahan yang diberikan selama percakapan ini.
Metrik
Untuk metrik, kerentanan terhadap persuasi digunakan untuk menilai seberapa sering AI mengadopsi jawaban dokter ketika jawaban awalnya berbeda; arah persuasi, untuk mengetahui apakah intervensi dokter memperbaiki kesalahan awal atau justru membuat jawaban yang benar menjadi salah; dan dampak terhadap akurasi, untuk mengukur seberapa besar kinerja AI meningkat atau menurun ketika pendapat dokter disampaikan (dibandingkan dengan pengujian tanpa pendapat tersebut). Ketika jawaban yang benar diubah menjadi jawaban yang salah, hasilnya dirata-ratakan berdasarkan empat kemungkinan jawaban salah.
Pengujian
Hasil pertama menunjukkan bahwa model AI lebih mudah dibujuk oleh dokter senior, bahkan ketika saran mereka salah. Seperti ditunjukkan di bawah ini, GPT-4o menerima saran yang keliru dalam 2% kasus ketika saran itu berasal dari mahasiswa kedokteran; angkanya naik menjadi 12,8% ketika saran tersebut diatribusikan kepada dokter spesialis. Untuk Claude Sonnet 5, angkanya meningkat dari 3,5% menjadi 14,4%, sedangkan Qwen3.7-Plus tidak terlalu terpengaruh:

Tingkat persuasi pada empat jenjang senioritas medis. Persentase menunjukkan seberapa sering setiap model AI menerima jawaban dokter yang bertentangan dengan jawabannya, dengan tingkat yang umumnya lebih tinggi pada dokter yang lebih senior.
Senioritas juga memengaruhi seberapa mudah saran yang benar diterima, seperti ditunjukkan di bawah ini. GPT-4o dan Claude Sonnet 5 justru menjadi kurang akurat ketika menerima saran dari mahasiswa kedokteran. Namun, ketika saran benar yang sama diatribusikan kepada dokter spesialis, akurasi masing-masing meningkat sebesar 10,1 dan 8,8 poin persentase:

Perubahan akurasi AI setelah menerima saran medis yang benar dari dokter dengan tingkat senioritas berbeda. Nilai positif dan negatif menunjukkan perubahan dalam poin persentase dibandingkan akurasi setiap model tanpa saran (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).
Makalah tersebut menyatakan:
‘Hasil ini semakin menunjukkan bahwa AI mungkin secara implisit menilai kemampuannya sendiri lebih tinggi daripada kemampuan klinisi junior, tetapi lebih rendah daripada dokter senior. AI cenderung menolak saran mahasiswa kedokteran dan dokter residen, tetapi lebih mudah diyakinkan oleh dokter konsulen dan terutama spesialis di bidang terkait.
‘Kesan bahwa AI menempatkan dirinya pada posisi tertentu ini memengaruhi seberapa besar otoritas profesional dapat meyakinkannya.’
Perbedaan terbesar terlihat pada apakah dokter menjelaskan jawaban mereka. Saran mahasiswa kedokteran bahkan lebih meyakinkan GPT-4o daripada saran spesialis jika mahasiswa tersebut memberikan penjelasan medis, sedangkan spesialis tidak.
Ketika seorang mahasiswa kedokteran memberikan penjelasan yang mendukung jawaban benar, GPT-4o mengubah jawaban awalnya yang salah menjadi benar dalam 58% kasus. Tanpa penjelasan tersebut, saran dari spesialis senior berhasil membuat model melakukan hal yang sama hanya dalam 36.4% kasus. Ketika spesialis itu juga menjelaskan jawaban yang benar, angkanya meningkat menjadi 89.8%:

Kemampuan GPT-4o memperbaiki jawaban yang salah setelah menerima saran dari dokter dengan tingkat senioritas berbeda. Batang menunjukkan seberapa sering model mengubah jawabannya menjadi benar, dengan dan tanpa penjelasan medis yang mendukung. Penjelasan secara signifikan meningkatkan hasil pada setiap tingkat senioritas.
Penjelasan juga meningkatkan ketepatan penilaian tingkat keyakinan model. Model menjadi lebih yakin ketika jawabannya benar dan kurang yakin ketika jawabannya salah.
Untuk dokter konsulen, selisih tingkat keyakinan antara jawaban yang benar dan yang salah meningkat dari 2.1 menjadi 11.5 poin persentase, seperti ditunjukkan di bawah ini:

Tingkat keyakinan GPT-4o terhadap jawaban medis yang benar dan salah pada empat tingkat senioritas dokter. Skor ditampilkan dengan dan tanpa penjelasan medis yang mendukung. Kolom terakhir menunjukkan selisih tingkat keyakinan antara jawaban yang benar dan salah, yang meningkat tajam ketika penjelasan diberikan.
Bendera Kebanggaan Amerika
Model-model tersebut lebih mudah dipengaruhi oleh dokter Amerika daripada dokter dari negara lain mana pun yang diuji, bahkan ketika saran medis mereka salah. Sebagai contoh, GPT-4o menerima diagnosis yang salah dari dokter AS dalam 10.9% kasus, dibandingkan dengan 8.4% untuk dokter dari Kamerun:

Perbandingan seberapa mudah tiga model AI menerima saran medis yang bertentangan, yang dikaitkan dengan dokter dari lima negara. Dokter Amerika paling meyakinkan pada ketiga model; persentase menunjukkan seberapa sering AI mengubah jawabannya.
GPT-4o menerima diagnosis yang bertentangan dalam 6.4% kasus ketika diagnosis itu konon berasal dari dokter AS, dibandingkan dengan 4.3% ketika saran yang sama dikaitkan dengan dokter dari Kamerun. Preferensi terhadap dokter Amerika terlihat pada ketiga model, seperti ditunjukkan di atas.
AI juga lebih mudah dipengaruhi oleh dokter dari rumah sakit bergengsi; sebagai contoh, GPT-4o mengubah diagnosisnya dalam 6.6% kasus ketika saran itu konon berasal dari pusat medis akademis terkemuka, dibandingkan dengan hanya 2.8% ketika saran tersebut berasal dari rumah sakit pedesaan:

Perbandingan pengaruh reputasi rumah sakit terhadap keputusan medis ketiga model AI. Sumbu horizontal menunjukkan peningkatan akurasi berkat saran yang benar; sumbu vertikal menunjukkan penurunan akurasi akibat saran yang salah. Warna membedakan model, sedangkan bentuk membedakan jenis rumah sakit. Reputasi yang lebih tinggi umumnya memperbesar kedua dampak tersebut.
Nasihat dari rumah sakit bergengsi meningkatkan kinerja GPT-4o sebesar 3,2 poin persentase, sedangkan nasihat yang sama jika dikaitkan dengan rumah sakit pedesaan justru menurunkan akurasi sebesar 3,6 poin—meskipun makalah tersebut mencatat bahwa Claude Sonnet 5 jauh lebih sedikit dipengaruhi oleh lokasi geografis dokter.
Selain itu*, para peneliti menemukan bahwa sekadar memberi tahu GPT-4o bahwa seorang dokter telah mendiagnosis sembilan pasien sebelumnya dengan benar membuat model tersebut jauh lebih bersedia menerima nasihat dokter itu. Bahkan ketika AI pada awalnya memberikan jawaban yang benar, model itu dapat dibujuk untuk melakukan kesalahan dalam 15,6% kasus berisiko tinggi, meskipun diberi tahu bahwa bukti medis memiliki tingkat keandalan 95%.

Hasil pengujian yang menunjukkan respons GPT-4o terhadap dokter dengan rekam jejak sempurna atau sepenuhnya keliru pada berbagai tingkat risiko medis dan keandalan bukti. Angka-angka tersebut menunjukkan seberapa sering model menerima nasihat dokter, mengubah jawaban yang benar menjadi salah, dan seberapa yakin model terhadap keputusannya. Klaim bahwa rekam jejak seorang dokter sempurna sangat meningkatkan pengaruh dokter tersebut, bahkan ketika nasihatnya keliru.
Penjelasan medis yang meyakinkan bisa jadi lebih berbahaya. Ketika diagnosis yang keliru didukung oleh penjelasan palsu, GPT-4o mengabaikan jawaban benarnya dalam 31,2% kasus. Angka ini meningkat menjadi 38,7% ketika nasihat tersebut juga berasal dari dokter yang berwenang.
Makalah tersebut menyimpulkan:
‘Temuan ini menunjukkan bahwa membuat AI sekadar lebih sulit dibujuk bukanlah solusi. Bujukan dapat memperbaiki kesalahan, tetapi juga dapat membatalkan keputusan yang benar.
‘Tantangannya adalah membuat AI mempertahankan penilaian yang baik saat dibujuk dan mengubah keputusannya ketika koreksi memang diperlukan. Memahami dan meningkatkan kemampuan ini akan penting bagi penggunaan AI yang aman dan andal dalam pengambilan keputusan medis berisiko tinggi.’
Kesimpulan
Nilai dokter, pengacara, dan arsitek manusia adalah bahwa akan ada pihak yang dapat dimintai pertanggungjawaban jika terjadi kesalahan yang berakibat fatal. Karena itu, sulit memahami sejauh mana keterlibatan AI dalam hasil medis negatif yang dipersengketakan dapat diminimalkan, dikesampingkan, atau diperhitungkan tanpa menimbulkan perselisihan dan kontroversi.
AI sebenarnya tidak dirancang untuk tugas ini, sebab keputusan diagnosis medis sering kali lebih mengandalkan pengalaman daripada sains. Dokter-dokter terdepan mungkin mengetahui lebih banyak dari pengalaman klinis mereka baru-baru ini daripada yang telah mereka sumbangkan ke jurnal.
Hal ini mengubah skenario pengambilan keputusan menjadi persoalan interpretatif yang saat ini belum mampu ditangani dengan baik oleh AI. Artinya, persoalan ini melibatkan kemampuan untuk menyatakan bahwa seseorang cukup yakin, berdasarkan informasi terbaik yang tersedia, bahwa tindakan tertentu kemungkinan akan menghasilkan dampak terbaik. Nilai yang ditawarkan oleh ‘intuisi manusia’ hampir mustahil direplikasi dalam skenario ini. Ini jelas tidak termasuk dalam kategori sains ‘objektif’ yang sama seperti pemrofilan DNA atau tabel unsur, meskipun persoalan ini berada dalam disiplin ilmu deterministik.
Karena itu, masuk akal untuk meyakini bahwa generasi model yang lebih baru dan ditujukan untuk tugas ini mungkin dirancang dengan pendekatan yang berbeda, atau bahkan arsitektur yang berbeda, dari wacana AI konvensional dan mesin pengambilan keputusan.
* Makalah tersebut memuat lima bagian pengujian tambahan yang dampak dan relevansinya tidak sebesar temuan-temuan utamanya. Untuk perincian lebih lanjut, silakan merujuk ke PDF aslinya.
Pertama kali diterbitkan Kamis, 19 November 2026












