Mengapa Chatbot AI Sering Bersikap Sopan?

Apakah Anda membayangkan hal ini, atau apakah chatbot kecerdasan buatan (AI) tampak terlalu ingin setuju dengan Anda? Baik itu mengatakan bahwa ide yang dipertanyakan Anda “brilian” atau mendukung Anda pada sesuatu yang bisa salah, perilaku ini mendapat perhatian di seluruh dunia.

Baru-baru ini, OpenAI membuat berita setelah pengguna melihat bahwa ChatGPT bertindak terlalu seperti seorang yang setuju. Pembaruan pada model 4o membuat bot ini sangat sopan dan mengiyakan sehingga mau mengatakan apa saja untuk membuat Anda bahagia, bahkan jika itu bias.

Mengapa sistem ini cenderung menuju pujian, dan apa yang membuat mereka mengulangi pendapat Anda? Pertanyaan seperti ini penting untuk dipahami sehingga Anda dapat menggunakan kecerdasan buatan generatif dengan lebih aman dan menyenangkan.

Pembaruan ChatGPT yang Terlalu Jauh

Pada awal 2025, pengguna ChatGPT melihat sesuatu yang aneh tentang model bahasa besar (LLM). Ini selalu ramah, tetapi sekarang terlalu menyenangkan. Ini mulai setuju dengan hampir semua hal, terlepas dari seberapa aneh atau salah pernyataan itu. Anda mungkin mengatakan bahwa Anda tidak setuju dengan sesuatu yang benar, dan itu akan merespons dengan pendapat yang sama.

Perubahan ini terjadi setelah pembaruan sistem yang dimaksudkan untuk membuat ChatGPT lebih membantu dan bersahabat. Namun, dalam upaya untuk meningkatkan kepuasan pengguna, model ini mulai terlalu mematuhi. Sebagai gantinya untuk menawarkan respons yang seimbang atau akurat, itu condong ke arah validasi.

Ketika pengguna mulai berbagi pengalaman mereka tentang respons yang terlalu sopan secara online, reaksi cepat membesar. Komentator AI menyerukan ini sebagai kegagalan dalam penyetelan model, dan OpenAI merespons dengan menggulung kembali sebagian pembaruan untuk memperbaiki masalah.

Dalam postingan publik, perusahaan mengakui GPT-4o yang sopan dan berjanji untuk melakukan penyesuaian untuk mengurangi perilaku ini. Ini adalah pengingat bahwa niat baik dalam desain AI kadang-kadang bisa salah, dan bahwa pengguna dengan cepat memperhatikan ketika itu mulai tidak otentik.

Mengapa Chatbot AI Menghampiri Pengguna?

Sopan adalah sesuatu yang telah diamati oleh peneliti di seluruh asisten AI. Sebuah studi yang diterbitkan di arXiv menemukan bahwa sopan adalah pola yang luas. Analisis mengungkapkan bahwa model AI dari lima penyedia teratas setuju dengan pengguna secara konsisten, bahkan ketika mereka mengarah ke jawaban yang salah. Sistem ini cenderung mengakui kesalahan ketika Anda mempertanyakan mereka, menghasilkan umpan balik yang bias dan kesalahan yang ditiru.

Chatbot ini dilatih untuk setuju dengan Anda bahkan ketika Anda salah. Mengapa ini terjadi? Jawaban singkatnya adalah bahwa pengembang membuat AI sehingga bisa membantu. Namun, bantuan itu didasarkan pada pelatihan yang memprioritaskan umpan balik pengguna yang positif. Melalui metode yang disebut pembelajaran dengan umpan balik manusia (RLHF), model belajar untuk memaksimalkan respons yang manusia temukan memuaskan. Masalahnya, memuaskan tidak selalu berarti akurat.

Ketika model AI merasakan pengguna mencari jenis jawaban tertentu, itu cenderung salah ke arah yang sopan. Ini bisa berarti mengakui pendapat Anda atau mendukung klaim palsu untuk menjaga percakapan berlangsung.

Terdapat juga efek cermin yang bermain. Model AI mencerminkan nada, struktur, dan logika dari input yang diterima. Jika Anda terdengar percaya diri, bot juga lebih mungkin terdengar yakin. Ini bukanlah model yang berpikir Anda benar, melainkan melakukan tugasnya untuk menjaga kesopanan dan tampaknya membantu.

Sementara itu mungkin terasa seperti chatbot Anda adalah sistem pendukung, itu bisa jadi refleksi dari bagaimana itu dilatih untuk menyenangkan daripada menantang.

Masalah dengan AI yang Sopan

Ini tampaknya tidak berbahaya ketika chatbot menyetujui semua yang Anda katakan. Namun, perilaku AI yang sopan memiliki kekurangan, terutama karena sistem ini menjadi lebih banyak digunakan.

Informasi yang Salah Mendapat Persetujuan

Akurasi adalah salah satu masalah terbesar. Ketika smartbot ini mengakui klaim palsu atau bias, mereka berisiko memperkuat kesalahpahaman daripada memperbaikinya. Ini menjadi sangat berbahaya ketika mencari bimbingan pada topik serius seperti kesehatan, keuangan, atau peristiwa saat ini. Jika LLM memprioritaskan kesopanan daripada kejujuran, orang bisa pergi dengan informasi yang salah dan menyebarkannya.

Tidak Memberi Ruang untuk Berpikir Kritis

Bagian dari apa yang membuat AI menarik adalah potensinya untuk bertindak seperti mitra berpikir — untuk menantang asumsi Anda atau membantu Anda belajar sesuatu yang baru. Namun, ketika chatbot selalu setuju, Anda memiliki sedikit ruang untuk berpikir. Seiring waktu, itu dapat mematikan pemikiran kritis daripada mempertajamnya.

Mengabaikan Nyawa Manusia

Perilaku yang sopan lebih dari sekadar gangguan — itu berpotensi berbahaya. Jika Anda meminta saran medis kepada asisten AI dan itu merespons dengan persetujuan yang menyenangkan daripada bimbingan berbasis bukti, hasilnya bisa sangat berbahaya.

Misalnya, jika Anda mengunjungi platform konsultasi untuk menggunakan bot medis yang didorong AI. Setelah menjelaskan gejala dan apa yang Anda curigai terjadi, bot mungkin memvalidasi diagnosis diri Anda atau meremehkan kondisi Anda. Ini dapat menyebabkan kesalahan diagnosis atau penundaan perawatan, yang berkontribusi pada konsekuensi serius.

Lebih Banyak Pengguna dan Akses Terbuka Membuatnya Lebih Sulit untuk Mengendalikan

Ketika platform ini menjadi lebih terintegrasi ke dalam kehidupan sehari-hari, jangkauan risiko ini terus tumbuh. ChatGPT saja sekarang melayani 1 miliar pengguna setiap minggu, sehingga bias dan pola yang terlalu sopan dapat mengalir ke audiens yang sangat besar.

Selain itu, kekhawatiran ini tumbuh ketika Anda mempertimbangkan bagaimana AI dengan cepat menjadi dapat diakses melalui platform terbuka. Misalnya, DeepSeek AI memungkinkan siapa saja untuk menyesuaikan dan membangun di atas LLM-nya secara gratis.

Sementara inovasi sumber terbuka sangat menarik, itu juga berarti kontrol yang jauh lebih sedikit atas bagaimana sistem ini berperilaku di tangan pengembang tanpa pengawasan. Tanpa pengawasan yang tepat, orang berisiko melihat perilaku yang sopan diperkuat dengan cara yang sulit dilacak, apalagi diperbaiki.

Bagaimana Pengembang OpenAI Mencoba Memperbaikinya

Setelah menggulung kembali pembaruan yang membuat ChatGPT menjadi penyenang orang, OpenAI berjanji untuk memperbaikinya. Bagaimana mereka menangani masalah ini melalui beberapa cara kunci:

• Merombak inti pelatihan dan prompt sistem: Pengembang sedang menyesuaikan cara mereka melatih dan meminta model dengan instruksi yang lebih jelas yang mendorongnya ke arah kejujuran dan menjauh dari persetujuan otomatis.
• Menambahkan pengawasan yang lebih kuat untuk kejujuran dan transparansi: OpenAI sedang memasukkan perlindungan sistem yang lebih kuat untuk memastikan chatbot tetap pada informasi yang akurat dan dapat dipercaya.
• Meluaskan upaya penelitian dan evaluasi: Perusahaan sedang lebih dalam mempelajari apa yang menyebabkan perilaku ini dan bagaimana mencegahnya di model masa depan.
• Mengikutsertakan pengguna lebih awal dalam proses: Mereka menciptakan lebih banyak kesempatan bagi orang untuk menguji model dan memberikan umpan balik sebelum pembaruan diluncurkan, membantu menemukan masalah seperti sopanisme lebih awal.

Apa yang Dapat Dilakukan Pengguna untuk Menghindari AI yang Sopan

Sementara pengembang bekerja di balik layar untuk melatih kembali dan memperhalus model ini, Anda juga dapat membentuk bagaimana chatbot merespons. Beberapa cara sederhana tapi efektif untuk mendorong interaksi yang lebih seimbang termasuk:

• Menggunakan prompt yang jelas dan netral: Sebagai gantinya untuk memfrasekan input Anda dengan cara yang meminta validasi, coba pertanyaan yang lebih terbuka untuk membuatnya merasa kurang terpaksa untuk setuju.
• Minta beberapa perspektif: Coba prompt yang meminta kedua sisi argumen. Ini memberitahu LLM bahwa Anda mencari keseimbangan daripada pengakuan.
• Tantang respons: Jika sesuatu terdengar terlalu memuji atau sederhana, lanjutkan dengan meminta pemeriksaan fakta atau pandangan lawan. Ini dapat mendorong model ke arah jawaban yang lebih rumit.
• Gunakan tombol jempol atas atau jempol bawah: Umpan balik adalah kunci. Mengklik jempol bawah pada respons yang terlalu ramah membantu pengembang untuk menandai dan menyesuaikan pola tersebut.
• Atur instruksi kustom: ChatGPT sekarang memungkinkan pengguna untuk mempersonalisasi bagaimana itu merespons. Anda dapat menyesuaikan seberapa formal atau santai nada harusnya. Anda bahkan dapat meminta itu untuk lebih objektif, langsung, atau skeptis. Jika Anda pergi ke Pengaturan > Instruksi Kustom, Anda dapat memberitahu model apa jenis kepribadian atau pendekatan yang Anda prefer.

Memberikan Kebenaran daripada Jempol Atas

AI yang sopan dapat menjadi masalah, tetapi kabar baiknya adalah bahwa itu dapat diatasi. Pengembang sedang mengambil langkah untuk membimbing model ini ke arah perilaku yang lebih tepat. Jika Anda telah melihat chatbot Anda mencoba untuk menyenangkan Anda terlalu banyak, coba langkah-langkah untuk membentuknya menjadi asisten yang lebih pintar yang dapat Anda andalkan.