Dalam beberapa tahun terakhir, model bahasa besar (LLM) telah membuat kemajuan yang luar biasa dalam memahami dan menghasilkan teks yang mirip dengan manusia. Model-model ini, seperti OpenAI’s GPT dan Anthropic’s Claude, telah menunjukkan kinerja yang impresif pada berbagai tugas pemrosesan bahasa alami. Namun, ketika datang ke tugas-tugas penalaran yang kompleks yang memerlukan beberapa langkah pemikiran logis, metode prompting tradisional sering kali tidak mencukupi. Inilah di mana Chain-of-Thought (CoT) prompting datang, menawarkan teknik rekayasa prompt yang kuat untuk meningkatkan kemampuan penalaran model bahasa besar.

Pesan Utama

1. CoT prompting meningkatkan kemampuan penalaran dengan menghasilkan langkah-langkah intermediate.
2. Ini memecahkan masalah yang kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola.
3. Manfaatnya termasuk kinerja yang lebih baik, interpretabilitas, dan generalisasi.
4. CoT prompting diterapkan pada penalaran aritmatika, penalaran umum, dan penalaran simbolik.
5. Ini memiliki potensi untuk secara signifikan mempengaruhi AI di berbagai domain.

Apa itu Chain-of-Thought (CoT) Prompting?

Chain-of-Thought prompting adalah teknik yang bertujuan untuk meningkatkan kinerja model bahasa besar pada tugas-tugas penalaran yang kompleks dengan mendorong model untuk menghasilkan langkah-langkah penalaran intermediate. Tidak seperti metode prompting tradisional, yang biasanya memberikan prompt tunggal dan mengharapkan jawaban langsung, CoT prompting memecahkan proses penalaran menjadi serangkaian langkah yang lebih kecil dan saling terkait.

Intinya, CoT prompting melibatkan memberikan prompt pada model bahasa dan kemudian mengarahkannya untuk menghasilkan rantai pemikiran – sebuah urutan langkah-langkah penalaran intermediate yang menuju jawaban akhir. Dengan secara eksplisit memodelkan proses penalaran, CoT prompting memungkinkan model bahasa untuk menangani tugas-tugas penalaran yang kompleks lebih efektif.

Salah satu kelebihan utama CoT prompting adalah bahwa itu memungkinkan model bahasa untuk memecahkan masalah yang kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola. Dengan menghasilkan langkah-langkah penalaran intermediate, model dapat memecahkan tugas penalaran secara lebih terstruktur dan sistematis. Langkah-langkah intermediate memungkinkan model untuk mempertahankan kohesi dan menghindari kehilangan fokus atau menghasilkan informasi yang tidak relevan.

CoT prompting telah menunjukkan hasil yang menjanjikan dalam meningkatkan kinerja model bahasa besar pada berbagai tugas penalaran yang kompleks, termasuk penalaran aritmatika, penalaran umum, dan penalaran simbolik. Dengan memanfaatkan kekuatan langkah-langkah penalaran intermediate, CoT prompting memungkinkan model bahasa untuk menunjukkan pemahaman yang lebih dalam tentang masalah dan menghasilkan jawaban yang lebih akurat dan kohesif.

Standar vs COT prompting (Wei et al., Google Research, Brain Team)

Bagaimana Chain-of-Thought Prompting Bekerja

CoT prompting bekerja dengan menghasilkan serangkaian langkah-langkah penalaran intermediate yang mengarahkan model bahasa melalui proses penalaran. Tidak seperti memberikan prompt tunggal dan mengharapkan jawaban langsung, CoT prompting mendorong model untuk memecahkan masalah menjadi sub-masalah yang lebih kecil dan dapat dikelola.

Prosesnya dimulai dengan memberikan prompt pada model bahasa yang menguraikan tugas penalaran yang kompleks. Prompt ini dapat berupa pertanyaan, pernyataan masalah, atau skenario yang memerlukan pemikiran logis. Setelah prompt diberikan, model menghasilkan urutan langkah-langkah penalaran intermediate yang menuju jawaban akhir.

Setiap langkah penalaran intermediate dalam rantai pemikiran mewakili sub-masalah yang kecil dan terfokus yang perlu dipecahkan oleh model. Dengan menghasilkan langkah-langkah ini, model dapat menangani tugas penalaran secara lebih terstruktur dan sistematis. Langkah-langkah intermediate memungkinkan model untuk mempertahankan kohesi dan menghindari kehilangan fokus atau menghasilkan informasi yang tidak relevan.

Seiring model melalui rantai pemikiran, model membangun pada langkah-langkah penalaran sebelumnya untuk mencapai jawaban akhir. Setiap langkah dalam rantai terkait dengan langkah sebelumnya dan berikutnya, membentuk aliran logis penalaran. Pendekatan langkah demi langkah ini memungkinkan model untuk menangani tugas-tugas penalaran yang kompleks lebih efektif, karena model dapat fokus pada satu sub-masalah pada satu waktu sambil mempertahankan konteks keseluruhan.

Penghasilan langkah-langkah penalaran intermediate dalam CoT prompting biasanya dicapai melalui prompt yang dirancang dengan hati-hati dan teknik pelatihan. Peneliti dan praktisi dapat menggunakan berbagai metode untuk mendorong model menghasilkan rantai pemikiran, seperti memberikan contoh penalaran langkah demi langkah, menggunakan token khusus untuk menandai awal dan akhir setiap langkah penalaran, atau memperbarui model pada dataset yang menunjukkan proses penalaran yang diinginkan.

5-Step COT prompting process

Dengan mengarahkan model bahasa melalui proses penalaran menggunakan langkah-langkah intermediate, CoT prompting memungkinkan model untuk menyelesaikan tugas-tugas penalaran yang kompleks lebih akurat dan efisien. Pemodelan eksplisit proses penalaran juga meningkatkan interpretabilitas output model, karena rantai pemikiran yang dihasilkan memberikan wawasan tentang bagaimana model mencapai jawaban akhir.

Contoh Chain-of-Thought Prompting

CoT prompting telah diterapkan dengan sukses pada berbagai tugas penalaran yang kompleks, menunjukkan efektivitasnya dalam meningkatkan kinerja model bahasa besar.

Mari kita jelajahi beberapa contoh tentang bagaimana CoT prompting dapat digunakan dalam domain yang berbeda.

Penalaran Aritmatika

Salah satu aplikasi paling langsung dari CoT prompting adalah pada tugas-tugas penalaran aritmatika. Dengan menghasilkan langkah-langkah penalaran intermediate, CoT prompting dapat membantu model bahasa menyelesaikan masalah aritmatika multi-langkah lebih akurat.

Contohnya, pertimbangkan masalah berikut:

"Jika John memiliki 5 apel dan Mary memiliki 3 kali lebih banyak apel daripada John, berapa banyak apel yang dimiliki Mary?"

Menggunakan CoT prompting, model bahasa dapat menghasilkan rantai pemikiran seperti ini:

1. John memiliki 5 apel.
2. Mary memiliki 3 kali lebih banyak apel daripada John.
3. Untuk menemukan jumlah apel yang dimiliki Mary, kita perlu mengalikan apel John dengan 3.
4. 5 apel × 3 = 15 apel
5. Oleh karena itu, Mary memiliki 15 apel.

Dengan memecahkan masalah menjadi langkah-langkah yang lebih kecil, CoT prompting memungkinkan model bahasa untuk menyelesaikan masalah aritmatika lebih efektif.

Penalaran Umum

CoT prompting juga menunjukkan janji dalam menangani tugas-tugas penalaran umum, yang memerlukan pemahaman yang dalam tentang pengetahuan sehari-hari dan pemikiran logis.

Contohnya, pertimbangkan pertanyaan berikut:

"Jika seseorang alergi terhadap anjing dan temannya mengundang mereka ke rumah dengan anjing, apa yang harus dilakukan orang tersebut?"

Model bahasa yang menggunakan CoT prompting mungkin menghasilkan rantai pemikiran seperti ini:

1. Orang tersebut alergi terhadap anjing.
2. Rumah temannya memiliki anjing.
3. Berada di sekitar anjing dapat memicu alergi orang tersebut.
4. Untuk menghindari reaksi alergi, orang tersebut harus menolak undangan.
5. Orang tersebut dapat menyarankan lokasi alternatif untuk bertemu temannya.

Dengan menghasilkan langkah-langkah penalaran intermediate, CoT prompting memungkinkan model bahasa untuk menunjukkan pemahaman yang lebih jelas tentang situasi dan memberikan solusi yang logis.

Penalaran Simbolik

CoT prompting juga diterapkan pada tugas-tugas penalaran simbolik, yang melibatkan manipulasi dan penalaran dengan simbol abstrak dan konsep.

Contohnya, pertimbangkan masalah berikut:

"Jika A menyiratkan B, dan B menyiratkan C, apakah A menyiratkan C?"

Menggunakan CoT prompting, model bahasa dapat menghasilkan rantai pemikiran seperti ini:

1. A menyiratkan B berarti bahwa jika A benar, maka B juga harus benar.
2. B menyiratkan C berarti bahwa jika B benar, maka C juga harus benar.
3. Jika A benar, maka B benar (dari langkah 1).
4. Jika B benar, maka C benar (dari langkah 2).
5. Oleh karena itu, jika A benar, maka C juga harus benar.
6. Jadi, A menyiratkan C.

Dengan menghasilkan langkah-langkah penalaran intermediate, CoT prompting memungkinkan model bahasa untuk menangani tugas-tugas penalaran simbolik yang abstrak lebih efektif.

Contoh-contoh ini menunjukkan fleksibilitas dan efektivitas CoT prompting dalam meningkatkan kinerja model bahasa besar pada tugas-tugas penalaran yang kompleks di berbagai domain. Dengan secara eksplisit memodelkan proses penalaran melalui langkah-langkah intermediate, CoT prompting meningkatkan kemampuan model untuk menangani masalah yang menantang dan menghasilkan jawaban yang lebih akurat dan kohesif.

Manfaat Chain-of-Thought Prompting

Chain-of-Thought prompting menawarkan beberapa manfaat signifikan dalam meningkatkan kemampuan penalaran model bahasa besar. Mari kita jelajahi beberapa kelebihan utama:

Penampilan yang Ditingkatkan pada Tugas-Tugas Penalaran yang Kompleks

Salah satu manfaat utama CoT prompting adalah kemampuannya untuk meningkatkan kinerja model bahasa pada tugas-tugas penalaran yang kompleks. Dengan menghasilkan langkah-langkah penalaran intermediate, CoT prompting memungkinkan model untuk memecahkan masalah yang kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola. Pendekatan langkah demi langkah ini memungkinkan model untuk mempertahankan fokus dan kohesi sepanjang proses penalaran, menghasilkan hasil yang lebih akurat dan dapat diandalkan.

Studi telah menunjukkan bahwa model bahasa yang dilatih dengan CoT prompting secara konsisten outperform model yang dilatih dengan metode prompting tradisional pada berbagai tugas penalaran yang kompleks. Pemodelan eksplisit proses penalaran melalui langkah-langkah intermediate telah terbukti sebagai teknik yang kuat untuk meningkatkan kemampuan model untuk menangani masalah yang menantang yang memerlukan penalaran multi-langkah.

Interpretabilitas yang Ditingkatkan dari Proses Penalaran

Manfaat lain dari CoT prompting adalah interpretabilitas yang ditingkatkan dari proses penalaran. Dengan menghasilkan rantai pemikiran, model bahasa memberikan penjelasan yang jelas dan transparan tentang bagaimana model mencapai jawaban akhir. Pembagian langkah demi langkah dari proses penalaran memungkinkan pengguna untuk memahami proses pemikiran model dan menilai validitas kesimpulan.

Interpretabilitas yang ditawarkan oleh CoT prompting sangat berharga dalam domain di mana proses penalaran itu sendiri merupakan minat, seperti dalam pengaturan pendidikan atau dalam sistem yang memerlukan AI yang dapat dijelaskan. Dengan memberikan wawasan tentang proses penalaran model, CoT prompting memfasilitasi kepercayaan dan akuntabilitas dalam penggunaan model bahasa besar.

Potensi untuk Generalisasi ke Berbagai Tugas Penalaran

CoT prompting telah menunjukkan potensinya untuk generalisasi ke berbagai tugas penalaran. Meskipun teknik ini telah diterapkan dengan sukses pada domain spesifik seperti penalaran aritmatika, penalaran umum, dan penalaran simbolik, prinsip-prinsip dasar CoT prompting dapat diperluas ke tugas-tugas penalaran yang kompleks lainnya.

Kemampuan untuk menghasilkan langkah-langkah penalaran intermediate adalah keterampilan dasar yang dapat dimanfaatkan di berbagai domain masalah. Dengan memperbarui model bahasa pada dataset yang menunjukkan proses penalaran yang diinginkan, CoT prompting dapat disesuaikan untuk menangani tugas-tugas penalaran baru, memperluas aplikabilitas dan dampaknya.

Mempromosikan Pengembangan Sistem AI yang Lebih Kuat

CoT prompting memainkan peran kunci dalam mempromosikan pengembangan sistem AI yang lebih kuat dan cerdas. Dengan meningkatkan kemampuan penalaran model bahasa besar, CoT prompting menyumbang pada penciptaan sistem AI yang dapat menangani masalah yang kompleks dan menunjukkan tingkat pemahaman yang lebih tinggi.

Ketika sistem AI menjadi lebih canggih dan diterapkan di berbagai domain, kemampuan untuk melakukan penalaran yang kompleks menjadi semakin penting. CoT prompting memberikan alat yang kuat untuk meningkatkan kemampuan penalaran sistem ini, memungkinkan mereka untuk menangani masalah yang lebih menantang dan membuat keputusan yang lebih informasi.

Ringkasan Cepat

CoT prompting adalah teknik yang kuat yang meningkatkan kemampuan penalaran model bahasa besar dengan menghasilkan langkah-langkah penalaran intermediate. Dengan memecahkan masalah yang kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola, CoT prompting memungkinkan model untuk menangani tugas-tugas penalaran yang kompleks lebih efektif. Pendekatan ini meningkatkan kinerja, interpretabilitas, dan memfasilitasi pengembangan sistem AI yang lebih kuat.

FAQ

Bagaimana Chain-of-Thought prompting (CoT) bekerja?

CoT prompting bekerja dengan menghasilkan serangkaian langkah-langkah penalaran intermediate yang mengarahkan model bahasa melalui proses penalaran, memecahkan masalah yang kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola.

Apa manfaat menggunakan chain-of-thought prompting?

Manfaat CoT prompting termasuk kinerja yang lebih baik pada tugas-tugas penalaran yang kompleks, interpretabilitas yang ditingkatkan dari proses penalaran, potensi untuk generalisasi ke berbagai tugas penalaran, dan mempromosikan pengembangan sistem AI yang lebih kuat.

Apa contoh tugas yang dapat ditingkatkan dengan chain-of-thought prompting?

Contoh tugas yang dapat ditingkatkan dengan CoT prompting termasuk penalaran aritmatika, penalaran umum, penalaran simbolik, dan tugas-tugas penalaran yang kompleks lainnya yang memerlukan beberapa langkah pemikiran logis.