Munculnya Model Penalaran Kecil: Dapatkah Model AI Kompak Menyaingi Kemampuan Penalaran GPT?

Dalam beberapa tahun terakhir, bidang AI telah dibuat terkesan oleh keberhasilan model bahasa besar (LLM). Awalnya dirancang untuk pemrosesan bahasa alami, model-model ini telah berkembang menjadi alat penalaran yang kuat yang mampu menangani masalah kompleks dengan proses berpikir langkah demi langkah seperti manusia. Namun, meskipun kemampuan penalaran mereka yang luar biasa, LLM memiliki kelemahan signifikan, termasuk biaya komputasi yang tinggi dan kecepatan penerapan yang lambat, membuat mereka tidak praktis untuk digunakan dalam lingkungan yang terbatas sumber daya seperti perangkat mobile atau komputasi tepi. Hal ini telah menyebabkan minat yang meningkat dalam mengembangkan model yang lebih kecil dan lebih efisien yang dapat menawarkan kemampuan penalaran yang serupa sambil meminimalkan biaya dan tuntutan sumber daya. Artikel ini menjelajahi munculnya model penalaran kecil ini, potensi, tantangan, dan implikasinya untuk masa depan AI.

Perubahan Perspektif

Selama sebagian besar sejarah AI baru-baru ini, bidang ini telah mengikuti prinsip “hukum penskalaan”, yang menyatakan bahwa kinerja model meningkat secara dapat diprediksi seiring dengan peningkatan data, daya komputasi, dan ukuran model. Meskipun pendekatan ini telah menghasilkan model yang kuat, hal ini juga telah menghasilkan trade-off yang signifikan, termasuk biaya infrastruktur yang tinggi, dampak lingkungan, dan masalah keterlambatan. Tidak semua aplikasi memerlukan kemampuan penuh dari model besar dengan ratusan miliar parameter. Dalam banyak kasus praktis – seperti asisten perangkat, kesehatan, dan pendidikan – model yang lebih kecil dapat mencapai hasil yang serupa, jika mereka dapat menalar secara efektif.

Mengerti Penalaran dalam AI

Penalaran dalam AI merujuk pada kemampuan model untuk mengikuti rantai logis, memahami sebab dan akibat, menyimpulkan implikasi, merencanakan langkah dalam proses, dan mengidentifikasi kontradiksi. Untuk model bahasa, ini sering berarti tidak hanya mengambil informasi tetapi juga memanipulasi dan menyimpulkan informasi melalui pendekatan yang terstruktur dan langkah demi langkah. Tingkat penalaran ini biasanya dicapai dengan fine-tuning LLM untuk melakukan penalaran multi-langkah sebelum mencapai jawaban. Meskipun efektif, metode ini menuntut sumber daya komputasi yang signifikan dan dapat lambat dan mahal untuk diterapkan, menimbulkan kekhawatiran tentang aksesibilitas dan dampak lingkungan.

Mengerti Model Penalaran Kecil

Model penalaran kecil bertujuan untuk meniru kemampuan penalaran model besar tetapi dengan efisiensi yang lebih besar dalam hal daya komputasi, penggunaan memori, dan keterlambatan. Model-model ini sering menggunakan teknik yang disebut penyulingan pengetahuan, di mana model yang lebih kecil (siswa) belajar dari model yang lebih besar dan sudah dilatih sebelumnya (guru). Proses penyulingan melibatkan pelatihan model yang lebih kecil pada data yang dihasilkan oleh model yang lebih besar, dengan tujuan mentransfer kemampuan penalaran. Model siswa kemudian diperbaiki untuk meningkatkan kinerjanya. Dalam beberapa kasus, pembelajaran penguatan dengan fungsi hadiah domain-spesifik yang dikhususkan diterapkan untuk lebih meningkatkan kemampuan model untuk melakukan penalaran tugas-spesifik.

Munculnya dan Kemajuan Model Penalaran Kecil

Sebuah tonggak penting dalam pengembangan model penalaran kecil datang dengan dirilisnya DeepSeek-R1. Meskipun dilatih pada cluster GPU yang relatif sederhana, DeepSeek-R1 mencapai kinerja yang setara dengan model yang lebih besar seperti o1 pada benchmark seperti MMLU dan GSM-8K. Pencapaian ini telah menyebabkan peninjauan kembali pendekatan penskalaan tradisional, yang menganggap model yang lebih besar secara inheren lebih unggul.

Keberhasilan DeepSeek-R1 dapat dikaitkan dengan proses pelatihannya yang inovatif, yang menggabungkan pembelajaran penguatan skala besar tanpa mengandalkan fine-tuning terawasi pada fase awal. Inovasi ini mengarah pada penciptaan DeepSeek-R1-Zero, model yang menunjukkan kemampuan penalaran yang mengesankan dibandingkan dengan model penalaran besar. Perbaikan lebih lanjut, seperti penggunaan data cold-start, meningkatkan koherensi dan eksekusi tugas model, terutama dalam bidang seperti matematika dan kode.

Selain itu, teknik penyulingan telah terbukti sangat penting dalam mengembangkan model yang lebih kecil dan lebih efisien dari model yang lebih besar. Misalnya, DeepSeek telah merilis versi penyulingan dari modelnya, dengan ukuran mulai dari 1,5 miliar hingga 70 miliar parameter. Dengan menggunakan model ini, peneliti telah melatih model yang jauh lebih kecil DeepSeek-R1-Distill-Qwen-32B yang telah mengungguli OpenAI’s o1-mini di berbagai benchmark. Model-model ini sekarang dapat diterapkan dengan perangkat keras standar, membuatnya menjadi pilihan yang lebih layak untuk berbagai aplikasi.

Dapatkah Model Kecil Menyaingi Kemampuan Penalaran GPT?

Untuk menilai apakah model penalaran kecil (SRM) dapat menyaingi kemampuan penalaran model besar (LRM) seperti GPT, penting untuk mengevaluasi kinerja mereka pada benchmark standar. Misalnya, model DeepSeek-R1 mencetak sekitar 0,844 pada tes MMLU, setara dengan model yang lebih besar seperti o1. Pada dataset GSM-8K, yang fokus pada matematika sekolah dasar, model DeepSeek-R1 yang disuling mencapai kinerja tingkat atas, mengungguli baik o1 dan o1-mini.

Dalam tugas pengkodean, seperti yang ada pada LiveCodeBench dan CodeForces, model DeepSeek-R1 yang disuling berkinerja serupa dengan o1-mini dan GPT-4o, menunjukkan kemampuan penalaran yang kuat dalam pemrograman. Namun, model yang lebih besar masih memiliki keunggulan dalam tugas yang memerlukan pemahaman bahasa yang lebih luas atau menangani jendela konteks yang panjang, karena model yang lebih kecil cenderung lebih spesifik tugas.

Meskipun kekuatan mereka, model kecil dapat bergelut dengan tugas penalaran yang diperpanjang atau ketika dihadapkan pada data yang tidak terdistribusi. Misalnya, dalam simulasi catur LLM, DeepSeek-R1 membuat lebih banyak kesalahan daripada model yang lebih besar, menunjukkan keterbatasan dalam kemampuannya untuk mempertahankan fokus dan akurasi selama periode yang lama.

Trade-off dan Implikasi Praktis

Trade-off antara ukuran model dan kinerja sangat kritis ketika membandingkan SRM dengan LRM tingkat GPT. Model yang lebih kecil memerlukan memori dan daya komputasi yang lebih sedikit, membuatnya ideal untuk perangkat tepi, aplikasi mobile, atau situasi di mana inferensi offline diperlukan. Efisiensi ini menghasilkan biaya operasional yang lebih rendah, dengan model seperti DeepSeek-R1 yang dapat menjadi hingga 96% lebih murah untuk dijalankan daripada model yang lebih besar seperti o1.

Namun, keuntungan efisiensi ini datang dengan beberapa kompromi. Model yang lebih kecil biasanya diperbaiki untuk tugas tertentu, yang dapat membatasi fleksibilitas mereka dibandingkan dengan model yang lebih besar. Misalnya, sementara DeepSeek-R1 unggul dalam matematika dan pengkodean, ia kekurangan kemampuan multimodal, seperti kemampuan untuk menafsirkan gambar, yang model yang lebih besar seperti GPT-4o dapat menangani.

Meskipun keterbatasan ini, aplikasi praktis dari model penalaran kecil sangat luas. Dalam kesehatan, mereka dapat memungkinkan alat diagnostik yang menganalisis data medis pada server rumah sakit standar. Dalam pendidikan, mereka dapat digunakan untuk mengembangkan sistem tutor pribadi, memberikan umpan balik langkah demi langkah kepada siswa. Dalam penelitian ilmiah, mereka dapat membantu dengan analisis data dan pengujian hipotesis dalam bidang seperti matematika dan fisika. Sifat open-source dari model seperti DeepSeek-R1 juga memfasilitasi kolaborasi dan mendemokratisasi akses ke AI, memungkinkan organisasi yang lebih kecil untuk mendapat manfaat dari teknologi canggih.

Ringkasan

Evolusi model bahasa menjadi model penalaran kecil merupakan kemajuan yang signifikan dalam AI. Meskipun model ini mungkin belum sepenuhnya menyaingi kemampuan model bahasa besar, mereka menawarkan keuntungan kunci dalam efisiensi, biaya-efektifitas, dan aksesibilitas. Dengan menyeimbangkan kemampuan penalaran dan efisiensi sumber daya, model yang lebih kecil diposisikan untuk memainkan peran kunci di berbagai aplikasi, membuat AI lebih praktis dan berkelanjutan untuk penggunaan dunia nyata.