Dalam beberapa tahun terakhir, model bahasa besar (LLM) telah membuat kemajuan luar biasa dalam kemampuan mereka untuk memahami dan menghasilkan teks yang mirip dengan manusia. Model-model ini, seperti GPT dari OpenAI dan Claude dari Anthropic, telah menunjukkan kinerja yang mengesankan pada berbagai tugas pemrosesan bahasa alami. Namun, ketika datang ke tugas penalaran kompleks yang memerlukan beberapa langkah pemikiran logis, metode prompting tradisional seringkali tidak cukup. Inilah di mana Chain-of-Thought (CoT) prompting masuk, menawarkan teknik prompt engineering yang kuat untuk meningkatkan kemampuan penalaran model bahasa besar.

Poin Utama

1. CoT prompting meningkatkan kemampuan penalaran dengan menghasilkan langkah-langkah antara.
2. Ini memecah masalah kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola.
3. Manfaatnya termasuk kinerja yang lebih baik, interpretasi, dan generalisasi.
4. CoT prompting diterapkan pada penalaran aritmatika, penalaran umum, dan penalaran simbolik.
5. Ini memiliki potensi untuk secara signifikan mempengaruhi AI di berbagai domain.

Apa itu Chain-of-Thought (CoT) Prompting?

Chain-of-Thought prompting adalah sebuah teknik yang bertujuan untuk meningkatkan kinerja model bahasa besar pada tugas penalaran kompleks dengan mendorong model untuk menghasilkan langkah-langkah penalaran antara. Tidak seperti metode prompting tradisional, yang biasanya menyediakan satu prompt dan mengharapkan jawaban langsung, CoT prompting memecah proses penalaran menjadi serangkaian langkah-langkah yang lebih kecil dan saling terkait.

Intinya, CoT prompting melibatkan memberikan prompt kepada model bahasa dengan pertanyaan atau masalah dan kemudian memandu model untuk menghasilkan rantai pemikiran – sebuah urutan langkah-langkah penalaran antara yang menuju jawaban akhir. Dengan secara eksplisit memodelkan proses penalaran, CoT prompting memungkinkan model bahasa untuk menangani tugas penalaran kompleks lebih efektif.

Salah satu kelebihan utama CoT prompting adalah bahwa itu memungkinkan model bahasa untuk memecah masalah kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola. Dengan menghasilkan langkah-langkah penalaran antara, model dapat memecah tugas penalaran keseluruhan menjadi langkah-langkah yang lebih fokus. Pendekatan ini membantu model mempertahankan konsistensi dan mengurangi kemungkinan kehilangan jejak proses penalaran.

CoT prompting telah menunjukkan hasil yang menjanjikan dalam meningkatkan kinerja model bahasa besar pada berbagai tugas penalaran kompleks, termasuk penalaran aritmatika, penalaran umum, dan penalaran simbolik. Dengan memanfaatkan kekuatan langkah-langkah penalaran antara, CoT prompting memungkinkan model bahasa untuk menunjukkan pemahaman yang lebih dalam tentang masalah dan menghasilkan jawaban yang lebih akurat dan konsisten.

Standard vs COT prompting (Wei et al., Google Research, Brain Team)

Bagaimana Chain-of-Thought Prompting Bekerja

CoT prompting bekerja dengan menghasilkan serangkaian langkah-langkah penalaran antara yang memandu model bahasa melalui proses penalaran. Alih-alih hanya memberikan prompt dan mengharapkan jawaban langsung, CoT prompting mendorong model untuk memecah masalah menjadi langkah-langkah yang lebih kecil dan dapat dikelola.

Prosesnya dimulai dengan memberikan prompt kepada model bahasa yang menguraikan tugas penalaran kompleks yang harus diselesaikan. Prompt ini dapat berupa pertanyaan, pernyataan masalah, atau skenario yang memerlukan pemikiran logis. Setelah prompt diberikan, model menghasilkan urutan langkah-langkah penalaran antara yang menuju jawaban akhir.

Setiap langkah penalaran antara dalam rantai pemikiran mewakili sub-masalah kecil yang harus diselesaikan model. Dengan menghasilkan langkah-langkah ini, model dapat mendekati tugas penalaran keseluruhan dengan cara yang lebih terstruktur dan sistematis. Langkah-langkah antara memungkinkan model untuk mempertahankan konsistensi dan tidak kehilangan fokus atau menghasilkan informasi yang tidak relevan.

Ketika model melalui rantai pemikiran, model membangun langkah-langkah penalaran sebelumnya untuk mencapai jawaban akhir. Setiap langkah dalam rantai terkait dengan langkah sebelumnya dan berikutnya, membentuk aliran logis penalaran. Pendekatan langkah-demi-langkah ini memungkinkan model untuk menangani tugas penalaran kompleks lebih efektif, karena model dapat fokus pada satu sub-masalah pada satu waktu sambil mempertahankan konteks keseluruhan.

Penghasilan langkah-langkah penalaran antara dalam CoT prompting biasanya dicapai melalui prompt dan teknik pelatihan yang dirancang dengan hati-hati. Peneliti dan praktisi dapat menggunakan berbagai metode untuk mendorong model menghasilkan rantai pemikiran, seperti memberikan contoh penalaran langkah-demi-langkah, menggunakan token khusus untuk menunjukkan awal dan akhir setiap langkah penalaran, atau mempelajari model pada dataset yang menunjukkan proses penalaran yang diinginkan.

5-Step COT prompting process

Dengan memandu model bahasa melalui proses penalaran menggunakan langkah-langkah antara, CoT prompting memungkinkan model untuk menyelesaikan tugas penalaran kompleks lebih akurat dan efisien. Pemodelan eksplisit proses penalaran juga meningkatkan interpretasi output model, karena rantai pemikiran yang dihasilkan memberikan wawasan tentang bagaimana model mencapai jawaban akhir.

Contoh Chain-of-Thought Prompting

CoT prompting telah berhasil diterapkan pada berbagai tugas penalaran kompleks, menunjukkan efektivitasnya dalam meningkatkan kinerja model bahasa besar.

Mari kita jelajahi beberapa contoh tentang bagaimana CoT prompting dapat digunakan dalam domain yang berbeda.

Penalaran Aritmatika

Salah satu aplikasi paling langsung dari CoT prompting adalah pada tugas penalaran aritmatika. Dengan menghasilkan langkah-langkah penalaran antara, CoT prompting dapat membantu model bahasa menyelesaikan masalah aritmatika multi-langkah lebih akurat.

Misalnya, pertimbangkan masalah berikut:

"Jika John memiliki 5 apel dan Mary memiliki 3 kali lebih banyak apel daripada John, berapa banyak apel yang dimiliki Mary?"

Menggunakan CoT prompting, model bahasa dapat menghasilkan rantai pemikiran seperti ini:

1. John memiliki 5 apel.
2. Mary memiliki 3 kali lebih banyak apel daripada John.
3. Untuk menemukan jumlah apel yang dimiliki Mary, kita perlu mengalikan apel John dengan 3.
4. 5 apel × 3 = 15 apel
5. Oleh karena itu, Mary memiliki 15 apel.

Dengan memecah masalah menjadi langkah-langkah yang lebih kecil, CoT prompting memungkinkan model bahasa untuk menyelesaikan masalah aritmatika lebih efektif.

Penalaran Umum

CoT prompting juga menunjukkan janji dalam menangani tugas penalaran umum, yang memerlukan pemahaman yang mendalam tentang pengetahuan sehari-hari dan pemikiran logis.

Misalnya, pertimbangkan pertanyaan berikut:

"Jika seseorang alergi terhadap anjing dan temannya mengundang mereka ke rumah dengan anjing, apa yang harus dilakukan orang tersebut?"

Model bahasa yang menggunakan CoT prompting mungkin menghasilkan rantai pemikiran seperti ini:

1. Orang tersebut alergi terhadap anjing.
2. Rumah temannya memiliki anjing.
3. Berada di sekitar anjing dapat memicu alergi orang tersebut.
4. Untuk menghindari reaksi alergi, orang tersebut harus menolak undangan.
5. Orang tersebut dapat menyarankan lokasi alternatif untuk bertemu temannya.

Dengan menghasilkan langkah-langkah penalaran antara, CoT prompting memungkinkan model bahasa untuk menunjukkan pemahaman yang lebih jelas tentang situasi dan memberikan solusi logis.

Penalaran Simbolik

CoT prompting juga diterapkan pada tugas penalaran simbolik, yang melibatkan manipulasi dan penalaran dengan simbol abstrak dan konsep.

Misalnya, pertimbangkan masalah berikut:

"Jika A mengimplikasikan B, dan B mengimplikasikan C, apakah A mengimplikasikan C?"

Menggunakan CoT prompting, model bahasa dapat menghasilkan rantai pemikiran seperti ini:

1. A mengimplikasikan B berarti bahwa jika A benar, maka B juga harus benar.
2. B mengimplikasikan C berarti bahwa jika B benar, maka C juga harus benar.
3. Jika A benar, maka B benar (dari langkah 1).
4. Jika B benar, maka C benar (dari langkah 2).
5. Oleh karena itu, jika A benar, maka C juga harus benar.
6. Jadi, A mengimplikasikan C.

Dengan menghasilkan langkah-langkah penalaran antara, CoT prompting memungkinkan model bahasa untuk menangani penalaran simbolik abstrak lebih efektif.

Contoh-contoh ini menunjukkan fleksibilitas dan efektivitas CoT prompting dalam meningkatkan kinerja model bahasa besar pada tugas penalaran kompleks di berbagai domain. Dengan secara eksplisit memodelkan proses penalaran melalui langkah-langkah antara, CoT prompting meningkatkan kemampuan model untuk menyelesaikan masalah yang menantang dan menghasilkan jawaban yang lebih akurat dan konsisten.

Manfaat Chain-of-Thought Prompting

Chain-of-Thought prompting menawarkan beberapa manfaat signifikan dalam meningkatkan kemampuan penalaran model bahasa besar. Mari kita jelajahi beberapa kelebihan utama:

Penampilan yang Lebih Baik pada Tugas Penalaran Kompleks

Salah satu manfaat utama CoT prompting adalah kemampuannya untuk meningkatkan kinerja model bahasa pada tugas penalaran kompleks. Dengan menghasilkan langkah-langkah penalaran antara, CoT prompting memungkinkan model untuk memecah masalah kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola. Pendekatan langkah-demi-langkah ini memungkinkan model untuk mempertahankan fokus dan konsistensi sepanjang proses penalaran, menghasilkan hasil yang lebih akurat dan dapat diandalkan.

Studi telah menunjukkan bahwa model bahasa yang dilatih dengan CoT prompting secara konsisten outperform model yang dilatih dengan metode prompting tradisional pada berbagai tugas penalaran kompleks. Pemodelan eksplisit proses penalaran melalui langkah-langkah antara telah terbukti menjadi teknik yang kuat untuk meningkatkan kemampuan model dalam menangani masalah yang menantang yang memerlukan penalaran multi-langkah.

Interpretasi yang Ditingkatkan dari Proses Penalaran

Manfaat lain dari CoT prompting adalah interpretasi yang ditingkatkan dari proses penalaran. Dengan menghasilkan rantai pemikiran, model bahasa memberikan penjelasan yang jelas dan transparan tentang bagaimana model mencapai jawaban akhir. Pemecahan langkah-demi-langkah proses penalaran memungkinkan pengguna untuk memahami proses pemikiran model dan menilai validitas kesimpulan model.

Interpretasi yang ditawarkan oleh CoT prompting sangat berharga dalam domain di mana proses penalaran itu sendiri merupakan minat, seperti dalam pengaturan pendidikan atau sistem yang memerlukan AI yang dapat dijelaskan. Dengan memberikan wawasan tentang proses penalaran model, CoT prompting memfasilitasi kepercayaan dan akuntabilitas dalam penggunaan model bahasa besar.

Potensi untuk Generalisasi ke Berbagai Tugas Penalaran

CoT prompting telah menunjukkan potensinya untuk generalisasi ke berbagai tugas penalaran. Meskipun teknik ini telah berhasil diterapkan pada domain spesifik seperti penalaran aritmatika, penalaran umum, dan penalaran simbolik, prinsip-prinsip dasar CoT prompting dapat diperluas ke tugas penalaran kompleks lainnya.

Kemampuan untuk menghasilkan langkah-langkah penalaran antara adalah keterampilan dasar yang dapat dimanfaatkan di berbagai domain masalah. Dengan mempelajari model bahasa pada dataset yang menunjukkan proses penalaran yang diinginkan, CoT prompting dapat disesuaikan untuk menangani tugas penalaran baru, memperluas aplikabilitas dan dampaknya.

Memfasilitasi Pengembangan Sistem AI yang Lebih Mampu

CoT prompting memainkan peran kunci dalam memfasilitasi pengembangan sistem AI yang lebih mampu dan cerdas. Dengan meningkatkan kemampuan penalaran model bahasa besar, CoT prompting menyumbang pada penciptaan sistem AI yang dapat menangani masalah kompleks dan menunjukkan pemahaman yang lebih tinggi.

Ketika sistem AI menjadi lebih canggih dan diterapkan di berbagai domain, kemampuan untuk melakukan tugas penalaran kompleks menjadi semakin penting. CoT prompting menyediakan alat yang kuat untuk meningkatkan kemampuan penalaran sistem ini, memungkinkan mereka untuk menangani masalah yang lebih menantang dan membuat keputusan yang lebih informasi.

Rangkuman Cepat

CoT prompting adalah teknik yang kuat yang meningkatkan kemampuan penalaran model bahasa besar dengan menghasilkan langkah-langkah penalaran antara. Dengan memecah masalah kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola, CoT prompting memungkinkan model untuk menangani tugas penalaran yang menantang lebih efektif. Pendekatan ini meningkatkan kinerja, interpretasi, dan memfasilitasi pengembangan sistem AI yang lebih mampu.

FAQ

Bagaimana Chain-of-Thought Prompting (CoT) bekerja?

CoT prompting bekerja dengan menghasilkan serangkaian langkah-langkah penalaran antara yang memandu model bahasa melalui proses penalaran, memecah masalah kompleks menjadi sub-masalah yang lebih kecil dan dapat dikelola.

Apa manfaat menggunakan chain-of-thought prompting?

Manfaat CoT prompting termasuk kinerja yang lebih baik pada tugas penalaran kompleks, interpretasi yang ditingkatkan dari proses penalaran, potensi untuk generalisasi ke berbagai tugas penalaran, dan memfasilitasi pengembangan sistem AI yang lebih mampu.

Apa contoh tugas yang dapat ditingkatkan dengan chain-of-thought prompting?

Contoh tugas yang dapat ditingkatkan dengan CoT prompting termasuk penalaran aritmatika, penalaran umum, penalaran simbolik, dan tugas penalaran kompleks lainnya yang memerlukan beberapa langkah pemikiran logis.