Munculnya Model Penalaran Kecil: Apakah AI Kompak Dapat Menyaingi Kemampuan Penalaran GPT?

Dalam beberapa tahun terakhir, bidang AI telah terpesona oleh kesuksesan model bahasa besar (LLM). Awalnya dirancang untuk pemrosesan bahasa alami, model-model ini telah berkembang menjadi alat penalaran yang kuat yang mampu menangani masalah kompleks dengan proses berpikir langkah demi langkah seperti manusia. Namun, meskipun kemampuan penalaran mereka yang luar biasa, LLM memiliki kelemahan signifikan, termasuk biaya komputasi yang tinggi dan kecepatan penerapan yang lambat, membuatnya tidak praktis untuk digunakan di lingkungan yang terbatas sumber daya seperti perangkat mobile atau edge computing. Ini telah menyebabkan minat yang meningkat dalam mengembangkan model yang lebih kecil dan lebih efisien yang dapat menawarkan kemampuan penalaran yang serupa sambil meminimalkan biaya dan tuntutan sumber daya. Artikel ini menjelajahi munculnya model penalaran kecil ini, potensi, tantangan, dan implikasinya untuk masa depan AI.

Perubahan Perspektif

Selama sebagian besar sejarah AI baru-baru ini, bidang ini telah mengikuti prinsip “hukum penskalaan,” yang menyatakan bahwa kinerja model meningkat secara dapat diprediksi seiring dengan peningkatan data, daya komputasi, dan ukuran model. Meskipun pendekatan ini telah menghasilkan model yang kuat, juga telah menghasilkan trade-off yang signifikan, termasuk biaya infrastruktur yang tinggi, dampak lingkungan, dan masalah keterlambatan. Tidak semua aplikasi memerlukan kemampuan penuh dari model besar dengan ratusan miliar parameter. Dalam banyak kasus praktis—seperti asisten perangkat, kesehatan, dan pendidikan—model yang lebih kecil dapat mencapai hasil yang serupa, jika mereka dapat menalar secara efektif.

Mengenal Penalaran dalam AI

Penalaran dalam AI merujuk pada kemampuan model untuk mengikuti rantai logis, memahami sebab dan akibat, menduga implikasi, merencanakan langkah dalam proses, dan mengidentifikasi kontradiksi. Untuk model bahasa, ini sering berarti tidak hanya mengambil informasi tetapi juga memanipulasi dan menginferensi informasi melalui pendekatan yang terstruktur, langkah demi langkah. Tingkat penalaran ini biasanya dicapai dengan fine-tuning LLM untuk melakukan penalaran multi-langkah sebelum mencapai jawaban. Meskipun efektif, metode ini memerlukan sumber daya komputasi yang signifikan dan dapat lambat dan mahal untuk diterapkan, menimbulkan kekhawatiran tentang aksesibilitas dan dampak lingkungan.

Mengenal Model Penalaran Kecil

Model penalaran kecil bertujuan untuk mereplikasi kemampuan penalaran model besar tetapi dengan efisiensi yang lebih besar dalam hal daya komputasi, penggunaan memori, dan keterlambatan. Model-model ini sering menggunakan teknik yang disebut penyulingan pengetahuan, di mana model yang lebih kecil (murid) belajar dari model yang lebih besar dan sudah dilatih sebelumnya (guru). Proses penyulingan melibatkan pelatihan model yang lebih kecil pada data yang dihasilkan oleh model yang lebih besar, dengan tujuan untuk mentransfer kemampuan penalaran. Model murid kemudian diperhalus untuk meningkatkan kinerjanya. Dalam beberapa kasus, pembelajaran penguatan dengan fungsi hadiah spesifik domain digunakan untuk lebih meningkatkan kemampuan model untuk melakukan penalaran tugas-spesifik.

Munculnya dan Kemajuan Model Penalaran Kecil

Sebuah tonggak penting dalam pengembangan model penalaran kecil datang dengan rilis DeepSeek-R1. Meskipun dilatih pada klaster GPU yang relatif sederhana, DeepSeek-R1 mencapai kinerja yang setara dengan model yang lebih besar seperti OpenAI’s o1 pada benchmark seperti MMLU dan GSM-8K. Pencapaian ini telah menyebabkan pertimbangan kembali terhadap pendekatan penskalaan tradisional, yang menganggap bahwa model yang lebih besar secara inheren lebih unggul.

Keberhasilan DeepSeek-R1 dapat dikaitkan dengan proses pelatihannya yang inovatif, yang menggabungkan pembelajaran penguatan skala besar tanpa bergantung pada fine-tuning terawasi pada fase awal. Inovasi ini mengarah pada penciptaan DeepSeek-R1-Zero, model yang menunjukkan kemampuan penalaran yang mengesankan, dibandingkan dengan model penalaran besar. Perbaikan lebih lanjut, seperti penggunaan data cold-start, meningkatkan koherensi dan eksekusi tugas model, terutama di bidang matematika dan kode.

Selain itu, teknik penyulingan telah terbukti sangat penting dalam mengembangkan model yang lebih kecil dan lebih efisien dari model yang lebih besar. Sebagai contoh, DeepSeek telah merilis versi penyulingan dari modelnya, dengan ukuran mulai dari 1,5 miliar hingga 70 miliar parameter. Dengan menggunakan model ini, peneliti telah melatih model yang jauh lebih kecil DeepSeek-R1-Distill-Qwen-32B yang telah mengungguli OpenAI’s o1-mini di berbagai benchmark. Model-model ini sekarang dapat diterapkan dengan perangkat keras standar, membuatnya menjadi pilihan yang lebih layak untuk berbagai aplikasi.

Apakah Model Kecil Dapat Menyaingi Kemampuan Penalaran GPT

Untuk menilai apakah model penalaran kecil (SRM) dapat menyaingi kekuatan penalaran model besar (LRM) seperti GPT, penting untuk mengevaluasi kinerja mereka pada benchmark standar. Sebagai contoh, model DeepSeek-R1 mencetak sekitar 0,844 pada tes MMLU, setara dengan model yang lebih besar seperti o1. Pada dataset GSM-8K, yang fokus pada matematika sekolah dasar, model yang disuling DeepSeek-R1 mencapai kinerja tingkat atas, mengungguli baik o1 dan o1-mini.

Dalam tugas pengkodean, seperti yang ada pada LiveCodeBench dan CodeForces, model yang disuling DeepSeek-R1 menunjukkan kinerja yang serupa dengan o1-mini dan GPT-4o, menunjukkan kemampuan penalaran yang kuat dalam pemrograman. Namun, model yang lebih besar masih memiliki keunggulan dalam tugas yang memerlukan pemahaman bahasa yang lebih luas atau menangani jendela konteks yang panjang, karena model yang lebih kecil cenderung lebih spesifik tugas.

Meskipun kekuatan mereka, model kecil dapat bergelut dengan tugas penalaran yang diperpanjang atau ketika dihadapkan pada data yang tidak terdistribusi. Sebagai contoh, dalam simulasi catur LLM, DeepSeek-R1 membuat lebih banyak kesalahan daripada model yang lebih besar, menunjukkan keterbatasan dalam kemampuan untuk mempertahankan fokus dan akurasi selama periode yang lama.

Trade-off dan Implikasi Praktis

Trade-off antara ukuran model dan kinerja sangat kritis ketika membandingkan SRM dengan LRM tingkat GPT. Model yang lebih kecil memerlukan lebih sedikit memori dan daya komputasi, membuatnya ideal untuk perangkat edge, aplikasi mobile, atau situasi di mana inferensi offline diperlukan. Efisiensi ini menghasilkan biaya operasional yang lebih rendah, dengan model seperti DeepSeek-R1 hingga 96% lebih murah untuk dijalankan daripada model yang lebih besar seperti o1.

Namun, keuntungan efisiensi ini datang dengan beberapa kompromi. Model yang lebih kecil biasanya diperhalus untuk tugas spesifik, yang dapat membatasi fleksibilitas mereka dibandingkan dengan model yang lebih besar. Sebagai contoh, meskipun DeepSeek-R1 unggul dalam matematika dan pengkodean, ia kekurangan kemampuan multimodal, seperti kemampuan untuk menafsirkan gambar, yang model yang lebih besar seperti GPT-4o dapat menangani.

Meskipun keterbatasan ini, aplikasi praktis dari model penalaran kecil sangat luas. Dalam kesehatan, mereka dapat memuat alat diagnostik yang menganalisis data medis pada server rumah sakit standar. Dalam pendidikan, mereka dapat digunakan untuk mengembangkan sistem tutor pribadi, memberikan umpan balik langkah demi langkah kepada siswa. Dalam penelitian ilmiah, mereka dapat membantu dengan analisis data dan pengujian hipotesis di bidang seperti matematika dan fisika. Sifat open-source dari model seperti DeepSeek-R1 juga memfasilitasi kolaborasi dan mendemokratisasikan akses ke AI, memungkinkan organisasi yang lebih kecil untuk memanfaatkan teknologi canggih.

Intinya

Evolusi model bahasa menjadi model penalaran kecil merupakan kemajuan signifikan dalam AI. Meskipun model ini mungkin belum sepenuhnya menyaingi kemampuan luas model bahasa besar, mereka menawarkan keuntungan kunci dalam efisiensi, efisiensi biaya, dan aksesibilitas. Dengan menyeimbangkan kekuatan penalaran dan efisiensi sumber daya, model yang lebih kecil diposisikan untuk memainkan peran kunci di berbagai aplikasi, membuat AI lebih praktis dan berkelanjutan untuk penggunaan dunia nyata.