Google Membuat Pelatihan AI 28% Lebih Cepat dengan Menggunakan SLM sebagai Guru

Melatih model bahasa besar (LLM) telah menjadi tidak terjangkau bagi sebagian besar organisasi. Dengan biaya yang mencapai jutaan dan persyaratan komputasi yang akan membuat superkomputer berkeringat, pengembangan AI telah tetap terkunci di balik pintu raksasa teknologi. Tapi Google (GOOGL ) baru saja membalik cerita ini dengan pendekatan yang sangat sederhana sehingga membuat Anda bertanya-tanya mengapa tidak ada yang memikirkannya sebelumnya: menggunakan model AI yang lebih kecil sebagai guru.

Bagaimana SALT Bekerja: Pendekatan Baru untuk Melatih Model AI

Dalam sebuah makalah penelitian terbaru yang berjudul “A Little Help Goes a Long Way: Efficient LLM Training by Leveraging Small LMs,” Google Research dan DeepMind memperkenalkan SALT (Small model Aided Large model Training). Ini adalah metode baru yang menantang pendekatan tradisional kita untuk melatih LLM.

Mengapa penelitian ini signifikan? Saat ini, melatih model AI besar seperti mencoba mengajar seseorang semua yang mereka butuhkan tahu tentang subjek sekaligus – itu tidak efisien, mahal, dan sering terbatas pada organisasi dengan sumber daya komputasi yang besar. SALT mengambil jalur yang berbeda, memperkenalkan proses pelatihan dua tahap yang inovatif dan praktis.

Memecah Bagaimana SALT Sebenarnya Bekerja:

Tahap 1: Penyulingan Pengetahuan

• Model bahasa yang lebih kecil (SLM) bertindak sebagai guru, berbagi pemahamannya dengan model yang lebih besar
• Model yang lebih kecil fokus pada mentransfer “pengetahuan yang dipelajari” melalui apa yang disebut peneliti sebagai “label lembut”
• Bayangkan seperti asisten pengajar yang menangani konsep dasar sebelum siswa pindah ke topik lanjutan
• Tahap ini sangat efektif dalam “wilayah mudah” pembelajaran – area di mana model yang lebih kecil memiliki kepercayaan prediktif yang kuat

Tahap 2: Pembelajaran Mandiri

• Model yang lebih besar beralih ke pembelajaran mandiri
• Fokus pada menguasai pola kompleks dan tugas yang menantang
• Ini adalah di mana model mengembangkan kemampuan di luar apa yang bisa disediakan oleh “guru” yang lebih kecil
• Transisi antara tahap menggunakan strategi yang dirancang dengan hati-hati, termasuk penurunan linier dan penurunan rasio linier dari bobot penyulingan

Dalam istilah non-teknis, bayangkan model AI yang lebih kecil seperti tutor yang membantu yang memandu model yang lebih besar pada tahap awal pelatihan. Tutor ini menyediakan informasi tambahan bersama dengan jawabannya, menunjukkan seberapa yakin mereka tentang setiap jawaban. Informasi tambahan ini, yang disebut “label lembut,” membantu model yang lebih besar belajar lebih cepat dan efektif.

• Penurunan Linier: Ini seperti perlahan-lahan menurunkan volume suara tutor. Bimbingan tutor menjadi kurang menonjol dengan setiap langkah, memungkinkan model yang lebih besar untuk fokus lebih pada belajar dari data mentah itu sendiri.
• Penurunan Rasio Linier: Ini seperti menyesuaikan keseimbangan antara saran tutor dan tugas asli. Seiring kemajuan pelatihan, penekanan bergeser lebih ke arah tugas asli, sementara input tutor menjadi kurang dominan.

Hasilnya sangat mengesankan. Ketika peneliti Google menguji SALT menggunakan model bahasa 1,5 miliar parameter sebagai guru untuk melatih model bahasa 2,8 miliar parameter pada dataset Pile, mereka melihat:

• Pengurangan waktu pelatihan sebesar 28% dibandingkan dengan metode tradisional
• Peningkatan kinerja yang signifikan setelah fine-tuning:
  • Akurasi masalah matematika melompat ke 34,87% (dibandingkan dengan 31,84% baseline)
  • Pemahaman membaca mencapai akurasi 67% (naik dari 63,7%)

Tapi apa yang membuat SALT benar-benar inovatif adalah kerangka teoretisnya. Peneliti menemukan bahwa bahkan model “guru” yang lebih lemah dapat meningkatkan kinerja model yang lebih besar dengan mencapai apa yang mereka sebut “pertukaran bias-varians yang menguntungkan.” Dalam istilah yang lebih sederhana, model yang lebih kecil membantu model yang lebih besar belajar pola dasar lebih efisien, menciptakan fondasi yang lebih kuat untuk pembelajaran lanjutan.

Mengapa SALT Dapat Mengubah Lapangan Permainan Pengembangan AI

Ingat ketika komputasi awan mengubah siapa yang bisa memulai perusahaan teknologi? SALT mungkin saja melakukan hal yang sama untuk pengembangan AI.

Saya telah mengikuti inovasi pelatihan AI selama bertahun-tahun, dan sebagian besar kemajuan telah terutama menguntungkan raksasa teknologi. Tapi SALT berbeda.

Ini Adalah Apa yang Bisa Berarti untuk Masa Depan:

Bagi Organisasi dengan Sumber Daya Terbatas:

• Anda mungkin tidak perlu lagi memiliki infrastruktur komputasi besar untuk mengembangkan model AI yang mampu
• Laboratorium penelitian yang lebih kecil dan perusahaan bisa bereksperimen dengan pengembangan model kustom
• Pengurangan 28% waktu pelatihan berarti biaya komputasi yang lebih rendah
• Lebih penting lagi, Anda bisa memulai dengan sumber daya komputasi yang modest dan masih mencapai hasil profesional

Bagi Lanskap Pengembangan AI:

• Lebih banyak pemain bisa memasuki lapangan, mengarah ke solusi AI yang lebih beragam dan spesialis
• Universitas dan lembaga penelitian bisa menjalankan lebih banyak eksperimen dengan sumber daya yang ada
• Hambatan untuk memasuki penelitian AI menurun secara signifikan
• Kita mungkin melihat aplikasi baru di bidang yang sebelumnya tidak bisa membiayai pengembangan AI

Apa yang Ini Berarti untuk Masa Depan

Dengan menggunakan model yang lebih kecil sebagai guru, kita tidak hanya membuat pelatihan AI lebih efisien – kita juga mengubah secara fundamental siapa yang bisa berpartisipasi dalam pengembangan AI. Implikasinya jauh melampaui perbaikan teknis saja.

Poin Penting untuk Diingat:

• Pengurangan waktu pelatihan sebesar 28% adalah perbedaan antara memulai proyek AI atau menganggapnya tidak terjangkau
• Peningkatan kinerja (34,87% pada matematika, 67% pada tugas membaca) menunjukkan bahwa aksesibilitas tidak selalu berarti mengorbankan kualitas
• Pendekatan SALT membuktikan bahwa terkadang solusi terbaik datang dari memikirkan kembali dasar-dasar rather than hanya menambahkan kekuatan komputasi

Apa yang Perlu Diperhatikan:

1. Perhatikan organisasi yang lebih kecil yang mulai mengembangkan model AI kustom
2. Perhatikan aplikasi baru di bidang yang sebelumnya tidak bisa membiayai pengembangan AI
3. Cari inovasi dalam cara model yang lebih kecil digunakan untuk tugas khusus

Ingat: Nilai sebenarnya dari SALT terletak pada bagaimana ia mungkin mengubah siapa yang bisa berinovasi dalam AI. Apakah Anda menjalankan laboratorium penelitian, mengelola tim teknis, atau hanya tertarik dengan pengembangan AI, ini adalah jenis kemajuan yang bisa membuat ide besar Anda berikutnya menjadi mungkin.

Mungkin mulailah memikirkan tentang proyek AI yang Anda pikir tidak terjangkau. Ini mungkin lebih memungkinkan daripada yang Anda bayangkan.