Mengapa Model Bahasa Besar Mengabaikan Instruksi dan Bagaimana Mengatasi Masalah Ini

Model Bahasa Besar (LLM) telah menjadi alat Kecerdasan Buatan (AI) yang sangat penting, memungkinkan aplikasi dari chatbot dan pembuatan konten hingga bantuan pengkodean. Meskipun kemampuan mereka yang mengesankan, tantangan umum yang dihadapi pengguna adalah bahwa model ini terkadang mengabaikan bagian dari instruksi yang diterima, terutama ketika instruksi tersebut panjang atau melibatkan beberapa langkah. Pengabaian ini menyebabkan output yang tidak lengkap atau tidak akurat, yang dapat menyebabkan kebingungan dan mengurangi kepercayaan pada sistem AI. Memahami mengapa LLM mengabaikan instruksi dan bagaimana mengatasi masalah ini sangat penting bagi pengguna yang mengandalkan model ini untuk hasil yang presisi dan dapat diandalkan.

Mengapa LLM Mengabaikan Instruksi? 

LLM bekerja dengan membaca teks input sebagai urutan token. Token adalah bagian kecil yang menjadi teks. Model ini memproses token-token ini satu per satu, dari awal hingga akhir. Ini berarti bahwa instruksi di awal input cenderung mendapatkan perhatian lebih. Instruksi kemudian mungkin menerima perhatian yang kurang dan dapat diabaikan.

Hal ini terjadi karena LLM memiliki kapasitas perhatian yang terbatas. Perhatian adalah mekanisme yang digunakan model untuk memutuskan bagian mana dari input yang penting saat menghasilkan respons. Ketika input singkat, perhatian bekerja dengan baik. Namun, perhatian menjadi kurang ketika input menjadi lebih panjang atau instruksi menjadi kompleks. Ini melemahkan fokus pada bagian akhir, menyebabkan pengabaian.

Selain itu, banyak instruksi sekaligus meningkatkan kompleksitas. Ketika instruksi tumpang tindih atau bertentangan, model mungkin menjadi bingung. Mereka mungkin mencoba menjawab semua instruksi tetapi menghasilkan respons yang samar atau bertentangan. Ini sering menghasilkan pengabaian beberapa instruksi.

LLM juga memiliki keterbatasan yang mirip dengan manusia. Misalnya, manusia dapat kehilangan fokus ketika membaca teks panjang atau berulang. Demikian pula, LLM dapat mengabaikan instruksi kemudian ketika mereka memproses lebih banyak token. Kehilangan fokus ini adalah bagian dari desain model dan keterbatasannya.

Alasan lain adalah bagaimana LLM dilatih. Mereka melihat banyak contoh instruksi sederhana tetapi lebih sedikit instruksi kompleks, multi-langkah. Karena itu, model cenderung lebih suka mengikuti instruksi sederhana yang lebih umum dalam data pelatihan mereka. Bias ini membuat mereka mengabaikan instruksi kompleks. Selain itu, batas token membatasi jumlah input yang dapat diproses model. Ketika input melebihi batas ini, instruksi di luar batas diabaikan.

Contoh: Misalkan Anda memberikan LLM lima instruksi dalam satu prompt. Model mungkin fokus terutama pada dua instruksi pertama dan sebagian atau sepenuhnya mengabaikan tiga instruksi terakhir. Ini secara langsung mempengaruhi bagaimana model memproses token secara berurutan dan keterbatasan perhatiannya.

Bagaimana LLM Mengelola Instruksi Berurutan Berdasarkan Temuan SIFo 2024

Studi terbaru telah memeriksa secara hati-hati bagaimana LLM mengikuti beberapa instruksi yang diberikan satu per satu. Salah satu studi penting adalah Benchmarks Instruksi Berurutan (SIFo) 2024. Benchmark ini menguji model pada tugas yang memerlukan penyelesaian langkah demi langkah dari instruksi seperti modifikasi teks, menjawab pertanyaan, matematika, dan mengikuti aturan keamanan. Setiap instruksi dalam urutan tersebut bergantung pada penyelesaian instruksi sebelumnya dengan benar. Pendekatan ini membantu memeriksa apakah model telah mengikuti seluruh urutan dengan benar.

Hasil dari SIFo menunjukkan bahwa bahkan LLM terbaik, seperti GPT-4 dan Claude-3, sering mengalami kesulitan untuk menyelesaikan semua instruksi dengan benar. Ini terutama benar ketika instruksi panjang atau rumit. Penelitian tersebut menunjukkan tiga masalah utama yang dihadapi LLM dalam mengikuti instruksi:

Pemahaman: Memahami sepenuhnya apa yang dimaksud oleh setiap instruksi.

Penalaran: Menghubungkan beberapa instruksi secara logis untuk menjaga respons tetap jelas.

Output yang Dapat Diandalkan: Menghasilkan jawaban yang lengkap dan akurat, mencakup semua instruksi yang diberikan.

Teknik seperti rekayasa prompt dan fine-tuning membantu meningkatkan kemampuan model untuk mengikuti instruksi. Namun, metode ini tidak sepenuhnya membantu mengatasi masalah pengabaian instruksi. Menggunakan Pembelajaran Penguatan dengan Umpan Balik Manusia (RLHF) lebih lanjut meningkatkan kemampuan model untuk merespons dengan tepat. Namun, model masih mengalami kesulitan ketika instruksi memerlukan banyak langkah atau sangat kompleks.

Studi tersebut juga menunjukkan bahwa LLM bekerja paling baik ketika instruksi sederhana, terpisah dengan jelas, dan terorganisir dengan baik. Ketika tugas memerlukan rantai penalaran panjang atau banyak langkah, akurasi model menurun. Temuan ini membantu menyarankan cara yang lebih baik untuk menggunakan LLM dan menunjukkan kebutuhan untuk membangun model yang lebih kuat yang dapat benar-benar mengikuti instruksi satu per satu.

Mengapa LLM Mengabaikan Instruksi: Tantangan Teknis dan Pertimbangan Praktis

LLM mungkin mengabaikan instruksi karena beberapa faktor teknis dan praktis yang terkait dengan cara mereka memproses dan mengkodekan teks input.

Perhatian Terbatas dan Pengenceran Informasi

LLM bergantung pada mekanisme perhatian untuk menetapkan pentingnya berbagai bagian input. Ketika prompt singkat, perhatian model terfokus dan efektif. Namun, ketika prompt menjadi lebih panjang atau berulang, perhatian menjadi encer, dan token atau instruksi kemudian menerima perhatian yang kurang, meningkatkan kemungkinan bahwa mereka akan diabaikan. Fenomena ini, yang dikenal sebagai pengenceran informasi, sangat bermasalah untuk instruksi yang muncul terlambat dalam prompt. Selain itu, model memiliki batas token tetap (misalnya, 2048 token); teks di luar batas ini dipotong dan diabaikan, menyebabkan instruksi di akhir diabaikan sepenuhnya.

Kompleksitas Output dan Kekaburan

LLM dapat bergelut dengan menghasilkan respons yang jelas dan lengkap ketika dihadapkan pada instruksi ganda atau bertentangan. Model mungkin menghasilkan jawaban sebagian atau samar untuk menghindari kontradiksi atau kebingungan, secara efektif mengabaikan beberapa instruksi. Kekaburan dalam instruksi yang diberikan juga menimbulkan tantangan: instruksi yang tidak jelas atau tidak tepat membuat model sulit menentukan tindakan yang dimaksud, meningkatkan risiko mengabaikan atau menafsirkan salah bagian input.

Desain dan Sensitivitas Format Prompt

Struktur dan kalimat prompt juga memainkan peran kritis dalam mengikuti instruksi. Penelitian menunjukkan bahwa bahkan perubahan kecil dalam instruksi yang ditulis atau diformat dapat secara signifikan mempengaruhi apakah model mengikuti instruksi tersebut.

Prompt yang tidak terstruktur dengan baik, tanpa pemisahan yang jelas, poin-poin atau penomoran, membuat model sulit untuk membedakan antara langkah-langkah, meningkatkan kemungkinan menggabungkan atau mengabaikan instruksi. Representasi internal model dari prompt sangat sensitif terhadap variasi-variasi ini, yang menjelaskan mengapa rekayasa prompt (menulis ulang atau mengatur ulang prompt) dapat secara signifikan meningkatkan kepatuhan instruksi, bahkan jika konten yang mendasarinya tetap sama.

Bagaimana Mengatasi Pengabaian Instruksi pada LLM

Meningkatkan kemampuan LLM untuk mengikuti instruksi dengan akurat sangat penting untuk menghasilkan hasil yang dapat diandalkan dan presisi. Praktik terbaik berikut harus dipertimbangkan untuk meminimalkan pengabaian instruksi dan meningkatkan kualitas respons AI yang dihasilkan:

Tugas Harus Dibagi Menjadi Bagian yang Lebih Kecil

Prompt panjang atau multi-langkah harus dibagi menjadi segmen yang lebih fokus. Memberikan satu atau dua instruksi sekaligus memungkinkan model untuk mempertahankan perhatian yang lebih baik dan mengurangi kemungkinan melewatkan langkah-langkah.

Contoh

Sebagai gantinya, menggabungkan semua instruksi menjadi satu prompt, seperti “Ringkas teks, daftar poin utama, sarankan perbaikan, dan terjemahkan ke bahasa Prancis,” setiap instruksi harus disajikan secara terpisah atau dalam kelompok kecil.

Instruksi Harus Diformat Menggunakan Daftar Berangka atau Poin

Mengatur instruksi dengan format yang eksplisit, seperti daftar berangka atau poin, membantu menunjukkan bahwa setiap item adalah tugas individu. Klaritas ini meningkatkan kemungkinan bahwa respons akan menangani semua instruksi.

Contoh

• Ringkas teks berikut.
• Daftar poin utama.
• Sarankan perbaikan.

Format seperti ini memberikan petunjuk visual yang membantu model mengenali dan memisahkan tugas-tugas yang berbeda dalam prompt.

Instruksi Harus Jelas dan Tidak Ambigu

Sangat penting bahwa instruksi secara jelas menyatakan kebutuhan untuk menyelesaikan setiap langkah. Bahasa yang samar atau tidak jelas harus dihindari. Prompt harus secara eksplisit menunjukkan bahwa tidak ada langkah yang boleh diabaikan.

Contoh

“Tolong selesaikan semua tiga tugas di bawah ini. Mengabaikan langkah apa pun tidak diterima.”

Pernyataan langsung seperti ini mengurangi kebingungan dan mendorong model untuk memberikan jawaban yang lengkap.

Prompt Terpisah Harus Digunakan untuk Tugas Kritis atau Penting

Setiap instruksi harus disajikan sebagai prompt individu untuk tugas di mana akurasi dan kelengkapan sangat penting. Meskipun pendekatan ini mungkin meningkatkan waktu interaksi, itu secara signifikan meningkatkan kemungkinan mendapatkan output yang lengkap dan presisi. Metode ini memastikan model fokus sepenuhnya pada satu tugas pada satu waktu, mengurangi risiko instruksi yang terlewat.

Strategi Lanjutan untuk Mencapai Keseimbangan Kelengkapan dan Efisiensi

Menunggu respons setelah setiap instruksi tunggal dapat memakan waktu bagi pengguna. Untuk meningkatkan efisiensi sambil mempertahankan kejelasan dan mengurangi instruksi yang diabaikan, teknik prompt lanjutan berikut mungkin efektif:

Menggabungkan Instruksi dengan Format yang Jelas dan Label yang Eksplisit

Beberapa instruksi terkait dapat digabungkan menjadi satu prompt, tetapi setiap instruksi harus dipisahkan menggunakan penomoran atau judul. Prompt juga harus menginstruksikan model untuk merespons semua instruksi sepenuhnya dan dalam urutan.

Contoh Prompt

Tolong selesaikan semua tugas berikut dengan hati-hati tanpa mengabaikan instruksi apa pun:

1. Ringkas teks di bawah.
2. Daftar poin utama dari ringkasan Anda.
3. Sarankan perbaikan berdasarkan poin utama.
4. Terjemahkan teks yang diperbaiki ke dalam bahasa Prancis.

Prompt Gaya Rantai Pemikiran

Prompt gaya rantai pemikiran memandu model untuk berpikir melalui setiap tugas langkah demi langkah sebelum memberikan jawaban. Mendorong model untuk memproses instruksi secara berurutan dalam satu respons membantu memastikan bahwa tidak ada langkah yang terlewat, mengurangi kemungkinan mengabaikan instruksi dan meningkatkan kelengkapan.

Contoh Prompt

Baca teks di bawah dan lakukan tugas-tugas berikut dalam urutan. Tunjukkan pekerjaan Anda dengan jelas:

• Ringkas teks.
• Identifikasi poin utama dari ringkasan Anda.
• Sarankan perbaikan pada teks.
• Terjemahkan teks yang diperbaiki ke dalam bahasa Prancis.

Tolong jawab semua tugas sepenuhnya dan terpisah dalam satu respons.

Tambahkan Instruksi Penyelesaian dan Pengingat

Instruksikan model secara eksplisit untuk:

• “Jawab setiap tugas sepenuhnya.”
• “Jangan mengabaikan instruksi apa pun.”
• “Pisahkan jawaban Anda dengan jelas.”

Pengingat seperti ini membantu model fokus pada kelengkapan ketika beberapa instruksi digabungkan.

Model dan Pengaturan Parameter yang Berbeda Harus Diuji

Tidak semua LLM memiliki kinerja yang sama dalam mengikuti instruksi ganda. Disarankan untuk mengevaluasi berbagai model untuk mengidentifikasi model yang unggul dalam tugas multi-langkah. Selain itu, penyesuaian parameter seperti suhu, token maksimum, dan prompt sistem dapat lebih lanjut meningkatkan fokus dan kelengkapan respons. Pengujian pengaturan ini membantu menyesuaikan perilaku model dengan kebutuhan tugas spesifik.

Penyetelan Model dan Menggunakan Alat Eksternal Harus Dipertimbangkan

Model harus disesuaikan dengan dataset yang mencakup instruksi multi-langkah atau berurutan untuk meningkatkan kepatuhan mereka terhadap prompt yang kompleks. Teknik seperti RLHF dapat lebih lanjut meningkatkan pengikutan instruksi.

Untuk kasus penggunaan lanjutan, integrasi alat eksternal seperti API, plugin khusus tugas, atau Sistem Generasi yang Diperkuat Pencarian (RAG) dapat memberikan konteks dan kontrol tambahan, sehingga meningkatkan keandalan dan akurasi output.

Intinya

LLM adalah alat yang kuat tetapi dapat mengabaikan instruksi ketika prompt panjang atau kompleks. Ini terjadi karena cara mereka membaca input dan memfokuskan perhatian. Instruksi harus jelas, sederhana, dan terorganisir dengan baik untuk hasil yang lebih baik dan lebih dapat diandalkan. Membagi tugas menjadi bagian yang lebih kecil, menggunakan daftar, dan memberikan instruksi langsung membantu model mengikuti langkah-langkah sepenuhnya.

Prompt terpisah dapat meningkatkan akurasi untuk tugas kritis, meskipun mereka memakan waktu lebih lama. Selain itu, metode prompt lanjutan seperti gaya rantai pemikiran dan format yang jelas membantu menyeimbangkan kecepatan dan presisi. Selanjutnya, menguji model yang berbeda dan penyetelan dapat juga meningkatkan hasil. Ide-ide ini akan membantu pengguna mendapatkan jawaban yang konsisten dan lengkap, serta membuat alat AI lebih berguna dalam pekerjaan nyata.