LLM Tidak Berpikir — Mereka Hanya Sangat Baik dalam Perencanaan

Model bahasa besar (LLM) seperti OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ), dan DeepSeek’s R1 telah menunjukkan kemajuan yang luar biasa dalam menyelesaikan masalah yang kompleks, menghasilkan teks yang mirip dengan manusia, dan bahkan menulis kode dengan presisi. LLM canggih ini sering disebut sebagai “model berpikir” karena kemampuan mereka yang luar biasa dalam menganalisis dan menyelesaikan masalah yang kompleks. Tapi, apakah model ini benar-benar berpikir, atau mereka hanya sangat baik dalam perencanaan? Perbedaan ini sangat halus namun mendalam, dan memiliki implikasi yang signifikan bagi cara kita memahami kemampuan dan keterbatasan LLM.

Untuk memahami perbedaan ini, mari kita bandingkan dua skenario:

• Berpikir: Seorang detektif yang menyelidiki kejahatan harus mengumpulkan bukti yang bertentangan, menentukan yang salah, dan mencapai kesimpulan berdasarkan bukti yang terbatas. Proses ini melibatkan inferensi, resolusi kontradiksi, dan berpikir abstrak.
• Perencanaan: Seorang pemain catur yang menghitung urutan gerakan terbaik untuk memenangkan lawan.

Sementara kedua proses ini melibatkan beberapa langkah, detektif terlibat dalam berpikir yang mendalam untuk membuat inferensi, mengevaluasi kontradiksi, dan menerapkan prinsip umum pada kasus tertentu. Pemain catur, di sisi lain, terutama terlibat dalam perencanaan, memilih urutan gerakan yang optimal untuk memenangkan permainan. LLM, seperti yang kita lihat, berfungsi lebih seperti pemain catur daripada detektif.

Memahami Perbedaan: Berpikir vs Perencanaan

Untuk menyadari mengapa LLM baik dalam perencanaan daripada berpikir, penting untuk memahami perbedaan antara kedua istilah ini. Berpikir adalah proses menghasilkan kesimpulan baru dari premis yang diberikan menggunakan logika dan inferensi. Ini melibatkan mengidentifikasi dan memperbaiki inkonsistensi, menghasilkan wawasan baru daripada hanya memberikan informasi, membuat keputusan dalam situasi yang ambigu, dan terlibat dalam pemahaman sebab-akibat dan berpikir kontrafaktual seperti “Bagaimana jika” skenario.

Perencanaan, di sisi lain, fokus pada membangun urutan tindakan untuk mencapai tujuan tertentu. Ini bergantung pada memecah tugas yang kompleks menjadi langkah-langkah yang lebih kecil, mengikuti strategi penyelesaian masalah yang dikenal, menyesuaikan pola yang dipelajari sebelumnya dengan masalah yang serupa, dan mengeksekusi urutan yang terstruktur daripada menghasilkan wawasan baru. Sementara berpikir dan perencanaan keduanya melibatkan pemrosesan langkah demi langkah, berpikir memerlukan abstraksi yang lebih dalam dan inferensi, sedangkan perencanaan mengikuti prosedur yang mapan tanpa menghasilkan pengetahuan yang benar-benar baru.

Bagaimana LLM Menggunakan “Berpikir”

LLM modern, seperti OpenAI’s o3 dan DeepSeek-R1, dilengkapi dengan teknik yang disebut Chain-of-Thought (CoT) berpikir, untuk meningkatkan kemampuan penyelesaian masalah mereka. Metode ini mendorong model untuk memecah masalah menjadi langkah-langkah intermediate, meniru cara manusia berpikir secara logis. Untuk melihat bagaimana itu bekerja, pertimbangkan masalah matematika sederhana:

Jika toko menjual apel seharga $2 masing-masing tetapi menawarkan diskon $1 per apel jika Anda membeli lebih dari 5 apel, berapa banyak apel 7 akan dikenakan biaya?

LLM yang menggunakan CoT mungkin menyelesaikannya seperti ini:

1. Menentukan harga biasa: 7 * $2 = $14.
2. Mengidentifikasi bahwa diskon berlaku (karena 7 > 5).
3. Menghitung diskon: 7 * $1 = $7.
4. Mengurangi diskon dari total: $14 – $7 = $7.

Dengan meletakkan langkah-langkah secara eksplisit, model meminimalkan kemungkinan kesalahan yang timbul dari mencoba memprediksi jawaban dalam satu langkah. Sementara pemecahan langkah demi langkah ini membuat LLM tampak seperti berpikir, pada dasarnya ini adalah bentuk penyelesaian masalah yang terstruktur, mirip dengan mengikuti resep langkah demi langkah. Di sisi lain, proses berpikir yang sebenarnya mungkin mengenali aturan umum: Jika diskon berlaku di luar 5 apel, maka setiap apel harganya $1. Manusia dapat menginferensi aturan seperti itu segera, tetapi LLM tidak dapat melakukannya karena hanya mengikuti urutan yang terstruktur dari perhitungan.

Mengapa Chain-of-Thought Adalah Perencanaan, Bukan Berpikir

Sementara Chain-of-Thought (CoT) telah meningkatkan kinerja LLM pada tugas yang berorientasi pada logika seperti masalah kata matematika dan tantangan pengkodean, ini tidak melibatkan berpikir logis yang sebenarnya. Ini karena CoT mengikuti pengetahuan prosedural, bergantung pada langkah-langkah yang terstruktur daripada menghasilkan wawasan baru. Ini kekurangan pemahaman sebenarnya tentang sebab-akibat dan hubungan abstrak, yang berarti model tidak terlibat dalam berpikir kontrafaktual atau mempertimbangkan skenario hipotetis yang memerlukan intuisi di luar data yang dilihat. Selain itu, CoT tidak dapat secara fundamental mengubah pendekatannya di luar pola yang telah dipelajari, membatasi kemampuannya untuk berpikir secara kreatif atau beradaptasi dalam skenario yang tidak biasa.

Apa yang Dibutuhkan LLM untuk Menjadi Mesin Berpikir yang Sebenarnya?

Jadi, apa yang dibutuhkan LLM untuk benar-benar berpikir seperti manusia? Berikut beberapa area kunci di mana mereka memerlukan perbaikan dan pendekatan potensial untuk mencapainya:

1. Pemahaman Simbolik: Manusia berpikir dengan memanipulasi simbol abstrak dan hubungan. LLM, bagaimanapun, kekurangan mekanisme berpikir simbolik yang sebenarnya. Mengintegrasikan AI simbolik atau model hibrida yang menggabungkan jaringan saraf dengan sistem logika formal dapat meningkatkan kemampuan mereka untuk terlibat dalam berpikir yang sebenarnya.
2. Inferensi Sebab-Akibat: Berpikir yang sebenarnya memerlukan pemahaman tentang sebab dan akibat, bukan hanya korelasi statistik. Model yang berpikir harus menginferensi prinsip-prinsip yang mendasar dari data daripada hanya memprediksi token berikutnya. Penelitian tentang AI sebab-akibat, yang secara eksplisit memodelkan hubungan sebab-akibat, dapat membantu LLM beralih dari perencanaan ke berpikir.
3. Refleksi Diri dan Metakognisi: Manusia secara konstan mengevaluasi proses berpikir mereka sendiri dengan bertanya “Apakah kesimpulan ini masuk akal?” LLM, di sisi lain, tidak memiliki mekanisme untuk refleksi diri. Membangun model yang dapat secara kritis mengevaluasi output mereka sendiri akan menjadi langkah menuju berpikir yang sebenarnya.
4. Common Sense dan Intuisi: Meskipun LLM memiliki akses ke sejumlah besar pengetahuan, mereka sering mengalami kesulitan dengan berpikir yang masuk akal. Ini terjadi karena mereka tidak memiliki pengalaman dunia nyata untuk membentuk intuisi mereka, dan mereka tidak dapat dengan mudah mengenali kekonyolan yang akan segera dikenali oleh manusia. Mereka juga kekurangan cara untuk membawa dinamika dunia nyata ke dalam pengambilan keputusan mereka. Salah satu cara untuk memperbaiki ini bisa dengan membangun model dengan mesin common sense, yang mungkin melibatkan integrasi input sensorik dunia nyata atau menggunakan grafik pengetahuan untuk membantu model memahami dunia dengan cara yang sama seperti manusia.
5. Berpikir Kontrafaktual: Berpikir manusia sering melibatkan pertanyaan, “Bagaimana jika hal-hal berbeda?” LLM mengalami kesulitan dengan skenario “bagaimana jika” karena mereka terbatas oleh data yang telah mereka pelajari. Untuk model berpikir lebih seperti manusia dalam situasi ini, mereka perlu mensimulasikan skenario hipotetis dan memahami bagaimana perubahan variabel dapat mempengaruhi hasil. Mereka juga perlu memiliki cara untuk menguji kemungkinan yang berbeda dan menghasilkan wawasan baru, bukan hanya memprediksi berdasarkan apa yang telah mereka lihat. Tanpa kemampuan ini, LLM tidak dapat benar-benar membayangkan masa depan alternatif — mereka hanya dapat bekerja dengan apa yang telah mereka pelajari.

Kesimpulan

Sementara LLM mungkin tampak berpikir, mereka sebenarnya bergantung pada teknik perencanaan untuk menyelesaikan masalah yang kompleks. Baik menyelesaikan masalah matematika atau terlibat dalam deduksi logis, mereka terutama mengatur pola yang dikenal dalam cara yang terstruktur daripada memahami prinsip-prinsip yang mendasarinya. Perbedaan ini sangat penting dalam penelitian AI karena jika kita salah menganggap perencanaan yang canggih sebagai berpikir yang sebenarnya, kita berisiko untuk mengoverestimasi kemampuan AI yang sebenarnya.

Jalan menuju AI berpikir yang sebenarnya akan memerlukan kemajuan yang mendasar di luar prediksi token dan perencanaan probabilistik. Ini akan menuntut kemajuan dalam logika simbolik, pemahaman sebab-akibat, dan metakognisi. Sampai saat itu, LLM akan tetap menjadi alat yang kuat untuk penyelesaian masalah yang terstruktur, tetapi mereka tidak akan benar-benar berpikir seperti manusia.