Google Memperkenalkan Gemma 2: Meningkatkan Kinerja AI, Kecepatan, dan Aksesibilitas untuk Pengembang

Google (GOOGL ) telah memperkenalkan Gemma 2, iterasi terbaru dari model bahasa ringan sumber terbuka, yang tersedia dalam ukuran parameter 9 miliar (9B) dan 27 miliar (27B). Versi baru ini menjanjikan kinerja yang ditingkatkan dan inferensi yang lebih cepat dibandingkan dengan pendahulunya, model Gemma. Gemma 2, yang berasal dari model Gemini Google, dirancang untuk lebih mudah diakses oleh peneliti dan pengembang, menawarkan peningkatan yang signifikan dalam kecepatan dan efisiensi. Tidak seperti model Gemini yang multimodal dan multibahasa, Gemma 2 hanya fokus pada pemrosesan bahasa. Dalam artikel ini, kita akan membahas fitur dan kemajuan Gemma 2, membandingkannya dengan pendahulunya dan pesaing di bidang ini, menyoroti kasus penggunaan dan tantangannya.

Membangun Gemma 2

Seperti pendahulunya, model Gemma 2 didasarkan pada arsitektur transformer decoder-only. Varian 27B dilatih pada 13 triliun token data terutama bahasa Inggris, sedangkan model 9B menggunakan 8 triliun token, dan model 2,6B dilatih pada 2 triliun token. Token-token ini berasal dari berbagai sumber, termasuk dokumen web, kode, dan artikel ilmiah. Model ini menggunakan tokenizer yang sama dengan Gemma 1 dan Gemini, memastikan konsistensi dalam pemrosesan data.

Gemma 2 dilatih menggunakan metode yang disebut penyulingan pengetahuan, di mana ia belajar dari probabilitas keluaran model yang lebih besar dan telah dilatih sebelumnya. Setelah pelatihan awal, model-model ini diperhalus melalui proses yang disebut penyempurnaan instruksi. Ini dimulai dengan penyempurnaan terawasi (SFT) pada campuran teks sintetis dan respons pasangan prompt-respons yang dihasilkan manusia. Setelah itu, pembelajaran penguatan dengan umpan balik manusia (RLHF) diterapkan untuk meningkatkan kinerja secara keseluruhan.

Gemma 2: Kinerja dan Efisiensi yang Ditingkatkan di Berbagai Perangkat Keras

Gemma 2 tidak hanya mengungguli Gemma 1 dalam kinerja tetapi juga bersaing efektif dengan model yang dua kali lebih besar. Ini dirancang untuk beroperasi secara efisien di berbagai konfigurasi perangkat keras, termasuk laptop, desktop, perangkat IoT, dan platform mobile. Secara khusus dioptimalkan untuk GPU tunggal dan TPU, Gemma 2 meningkatkan efisiensi pendahulunya, terutama pada perangkat dengan sumber daya terbatas. Misalnya, model 27B unggul dalam menjalankan inferensi pada satu NVIDIA H100 Tensor Core GPU (NVDA ) atau TPU host, membuatnya menjadi pilihan yang hemat biaya untuk pengembang yang memerlukan kinerja tinggi tanpa harus berinvestasi besar dalam perangkat keras.

Selain itu, Gemma 2 menawarkan kemampuan penyempurnaan yang ditingkatkan bagi pengembang di berbagai platform dan alat. Baik menggunakan solusi berbasis cloud seperti Google Cloud atau platform populer seperti Axolotl, Gemma 2 menyediakan opsi penyempurnaan yang luas. Integrasi dengan platform seperti Hugging Face, NVIDIA TensorRT-LLM, dan Google’s JAX dan Keras memungkinkan peneliti dan pengembang untuk mencapai kinerja optimal dan penerapan yang efisien di berbagai konfigurasi perangkat keras.

Gemma 2 vs. Llama 3 70B

Ketika membandingkan Gemma 2 dengan Llama 3 70B, kedua model ini menonjol dalam kategori model bahasa sumber terbuka. Peneliti Google mengklaim bahwa Gemma 2 27B menyediakan kinerja yang setara dengan Llama 3 70B meskipun ukurannya jauh lebih kecil. Selain itu, Gemma 2 9B secara konsisten mengungguli Llama 3 8B dalam berbagai benchmark seperti pemahaman bahasa, pengkodean, dan pemecahan masalah matematika.

Salah satu keunggulan Gemma 2 atas Llama 3 Meta adalah penanganan bahasa Indik. Gemma 2 unggul karena tokenizernya yang dirancang khusus untuk bahasa-bahasa ini dan memiliki kosakata besar sebesar 256k token untuk menangkap nuansa linguistik. Di sisi lain, Llama 3, meskipun mendukung banyak bahasa, mengalami kesulitan dengan tokenisasi untuk skrip Indik karena keterbatasan kosakata dan data pelatihan. Ini memberikan Gemma 2 keunggulan dalam tugas yang melibatkan bahasa Indik, membuatnya menjadi pilihan yang lebih baik bagi pengembang dan peneliti yang bekerja di bidang ini.

Kasus Penggunaan

Berdasarkan karakteristik khusus model Gemma 2 dan kinerjanya dalam benchmark, kita telah mengidentifikasi beberapa kasus penggunaan praktis untuk model ini.

• Asisten Multibahasa: Tokenizer Gemma 2 yang dirancang khusus untuk berbagai bahasa, terutama bahasa Indik, membuatnya menjadi alat yang efektif untuk mengembangkan asisten multibahasa yang disesuaikan dengan pengguna bahasa tersebut. Apakah mencari informasi dalam bahasa Hindi, membuat materi pendidikan dalam bahasa Urdu, konten pemasaran dalam bahasa Arab, atau artikel penelitian dalam bahasa Bengali, Gemma 2 memberdayakan kreator dengan alat generasi bahasa yang efektif. Contoh nyata dari kasus penggunaan ini adalah Navarasa, asisten multibahasa yang dibangun di atas Gemma yang mendukung sembilan bahasa India. Pengguna dapat dengan mudah menghasilkan konten yang sesuai dengan audiens regional sambil mematuhi norma dan nuansa linguistik khusus.
• Alat Pendidikan: Dengan kemampuan untuk memecahkan masalah matematika dan memahami kueri bahasa yang kompleks, Gemma 2 dapat digunakan untuk membuat sistem pembelajaran cerdas dan aplikasi pendidikan yang menyediakan pengalaman belajar yang dipersonalisasi.
• Pengkodean dan Bantuan Kode: Kemampuan Gemma 2 dalam benchmark pengkodean menunjukkan potensinya sebagai alat yang kuat untuk generasi kode, deteksi bug, dan tinjauan kode otomatis. Kemampuannya untuk berkinerja baik pada perangkat dengan sumber daya terbatas memungkinkan pengembang untuk mengintegrasikannya secara mulus ke dalam lingkungan pengembangan mereka.
• Generasi yang Ditingkatkan dengan Pencarian (RAG): Kinerja Gemma 2 yang kuat dalam benchmark inferensi berbasis teks membuatnya sangat sesuai untuk mengembangkan sistem RAG di berbagai domain. Ini mendukung aplikasi kesehatan dengan mensintesis informasi klinis, membantu sistem AI hukum dalam memberikan saran hukum, memungkinkan pengembangan chatbot pintar untuk dukungan pelanggan, dan memfasilitasi pembuatan alat pendidikan yang dipersonalisasi.

Batasan dan Tantangan

Meskipun Gemma 2 menunjukkan kemajuan yang signifikan, ia juga menghadapi batasan dan tantangan yang sebagian besar terkait dengan kualitas dan keragaman data pelatihannya. Meskipun tokenizernya mendukung berbagai bahasa, Gemma 2 kekurangan pelatihan khusus untuk kemampuan multibahasa dan memerlukan penyempurnaan untuk menangani bahasa lain secara efektif. Model ini berkinerja baik dengan prompt yang jelas dan terstruktur tetapi mengalami kesulitan dengan tugas yang terbuka atau kompleks dan nuansa bahasa halus seperti sarkasme atau ekspresi figuratif. Akurasi faktualnya tidak selalu dapat diandalkan, berpotensi menghasilkan informasi yang sudah ketinggalan zaman atau salah, dan mungkin kekurangan penalaran umum dalam konteks tertentu. Meskipun upaya telah dilakukan untuk mengatasi halusinasi, terutama dalam skenario yang sensitif seperti medis atau CBRN, masih ada risiko menghasilkan informasi yang tidak akurat dalam domain yang kurang halus seperti keuangan. Selain itu, meskipun ada kontrol untuk mencegah generasi konten yang tidak etis seperti ucapan kebencian atau ancaman keamanan siber, masih ada risiko penyalahgunaan di domain lain. Terakhir, Gemma 2 hanya berbasis teks dan tidak mendukung pemrosesan data multimodal.

Ringkasan

Gemma 2 memperkenalkan kemajuan yang signifikan dalam model bahasa sumber terbuka, meningkatkan kinerja dan kecepatan inferensi dibandingkan dengan pendahulunya. Ini sangat sesuai untuk berbagai konfigurasi perangkat keras, membuatnya dapat diakses tanpa investasi perangkat keras yang signifikan. Namun, tantangan tetap ada dalam menangani tugas bahasa yang kompleks dan memastikan akurasi dalam skenario yang sensitif. Meskipun bermanfaat untuk aplikasi seperti saran hukum dan alat pendidikan, pengembang harus menyadari batasannya dalam kemampuan multibahasa dan potensi masalah dengan akurasi faktual dalam konteks yang sensitif. Meskipun pertimbangan ini, Gemma 2 tetap menjadi pilihan yang berharga bagi pengembang yang mencari solusi pemrosesan bahasa yang dapat diandalkan.