Kekuatan Berukuran Saku: Mengungkap Microsoft Phi-3, Model Bahasa yang Muat di Ponsel Anda

Dalam bidang kecerdasan buatan yang berkembang pesat, sementara tren seringkali condong ke arah model yang lebih besar dan lebih kompleks, Microsoft (MSFT ) mengadopsi pendekatan yang berbeda dengan Phi-3 Mininya. Model bahasa kecil (SLM) ini, yang sekarang sudah memasuki generasi ketiga, mengemas kemampuan yang kuat dari model yang lebih besar ke dalam kerangka yang sesuai dengan keterbatasan sumber daya yang ketat pada smartphone. Dengan 3,8 miliar parameter, Phi-3 Mini mencapai kinerja yang sama dengan model bahasa besar (LLM) dalam berbagai tugas, termasuk pemrosesan bahasa, penalaran, pengkodean, dan matematika, dan dirancang untuk beroperasi secara efisien pada perangkat mobile melalui kuantisasi.

Tantangan Model Bahasa Besar

Pengembangan SLM Phi oleh Microsoft merupakan respons terhadap tantangan signifikan yang ditimbulkan oleh LLM, yang memerlukan lebih banyak daya komputasi daripada yang biasanya tersedia pada perangkat konsumen. Kebutuhan tinggi ini mempersulit penggunaannya pada komputer standar dan perangkat mobile, menimbulkan kekhawatiran lingkungan karena konsumsi energi selama pelatihan dan operasi, dan berisiko memperkuat bias dengan dataset pelatihan yang besar dan kompleks. Faktor-faktor ini juga dapat mengganggu responsifitas model dalam aplikasi waktu nyata dan membuat pembaruan lebih menantang.

Phi-3 Mini: Mengalirkan AI pada Perangkat Pribadi untuk Meningkatkan Privasi dan Efisiensi

Phi-3 Mini dirancang secara strategis untuk menawarkan alternatif yang efektif biaya dan efisien untuk mengintegrasikan AI canggih langsung ke perangkat pribadi seperti ponsel dan laptop. Desain ini memfasilitasi respons yang lebih cepat dan lebih langsung, meningkatkan interaksi pengguna dengan teknologi dalam skenario sehari-hari.

Phi-3 Mini memungkinkan fungsionalitas AI yang canggih untuk diproses langsung pada perangkat mobile, yang mengurangi ketergantungan pada layanan cloud dan meningkatkan pengolahan data waktu nyata. Kapasitas ini sangat penting untuk aplikasi yang memerlukan pengolahan data segera, seperti perawatan kesehatan mobile, terjemahan bahasa waktu nyata, dan pendidikan yang dipersonalisasi, memfasilitasi kemajuan dalam bidang-bidang ini. Biaya-efisiensi model ini tidak hanya mengurangi biaya operasional tetapi juga memperluas potensi integrasi AI di berbagai industri, termasuk pasar yang muncul seperti teknologi wearable dan otomasi rumah. Phi-3 Mini memungkinkan pengolahan data langsung pada perangkat lokal, yang meningkatkan privasi pengguna. Ini bisa sangat penting untuk mengelola informasi sensitif dalam bidang seperti kesehatan pribadi dan layanan keuangan. Selain itu, kebutuhan energi yang rendah dari model ini berkontribusi pada operasi AI yang berkelanjutan secara lingkungan, sejalan dengan upaya keberlanjutan global.

Filsafat Desain dan Evolusi Phi

Filsafat desain Phi didasarkan pada konsep curriculum learning, yang mengambil inspirasi dari pendekatan pendidikan di mana anak-anak belajar melalui contoh yang semakin menantang. Ide utama adalah memulai pelatihan AI dengan contoh yang lebih mudah dan secara bertahap meningkatkan kompleksitas data pelatihan seiring proses pembelajaran. Microsoft telah menerapkan strategi pendidikan ini dengan membangun dataset dari buku pelajaran, seperti yang dijelaskan dalam studi mereka “Textbooks Are All You Need.” Seri Phi diluncurkan pada Juni 2023, dimulai dengan Phi-1, model kompak dengan 1,3 miliar parameter. Model ini dengan cepat menunjukkan efikasinya, terutama dalam tugas pengkodean Python, di mana ia mengungguli model yang lebih besar dan lebih kompleks. Membangun pada kesuksesan ini, Microsoft kemudian mengembangkan Phi-1.5, yang mempertahankan jumlah parameter yang sama tetapi memperluas kemampuannya dalam bidang seperti penalaran umum dan pemahaman bahasa. Seri ini bersinar dengan dirilisnya Phi-2 pada Desember 2023. Dengan 2,7 miliar parameter, Phi-2 menunjukkan keterampilan yang mengesankan dalam penalaran dan pemahaman bahasa, memposisikannya sebagai pesaing kuat melawan model yang jauh lebih besar.

Phi-3 vs. Model Bahasa Kecil Lainnya

Membangun pada kemajuan pendahulunya, Phi-3 Mini memperluas kemajuan Phi-2 dengan mengungguli SLM lainnya, seperti Gemma dari Google (GOOGL ), Mistral dari Mistral, Llama3-Instruct dari Meta, dan GPT 3.5, dalam berbagai aplikasi industri. Aplikasi ini termasuk pemahaman bahasa dan inferensi, pengetahuan umum, penalaran umum, masalah matematika kata, dan menjawab pertanyaan medis, menunjukkan kinerja yang unggul dibandingkan dengan model-model ini. Phi-3 Mini juga telah menjalani pengujian offline pada iPhone 14 untuk berbagai tugas, termasuk pembuatan konten dan memberikan saran kegiatan yang disesuaikan dengan lokasi tertentu. Untuk tujuan ini, Phi-3 Mini telah dikompresi menjadi 1,8GB menggunakan proses yang disebut kuantisasi, yang mengoptimalkan model untuk perangkat dengan sumber daya terbatas dengan mengubah data numerik model dari angka floating-point 32-bit ke format yang lebih kompak seperti integer 4-bit. Ini tidak hanya mengurangi jejak memori model tetapi juga meningkatkan kecepatan pemrosesan dan efisiensi daya, yang sangat penting untuk perangkat mobile. Pengembang biasanya menggunakan kerangka kerja seperti TensorFlow Lite atau PyTorch Mobile, yang mengintegrasikan alat kuantisasi bawaan untuk mengautomasi dan memperbaiki proses ini.

Perbandingan Fitur: Phi-3 Mini vs. Phi-2 Mini

Di bawah ini, kami membandingkan beberapa fitur dari Phi-3 dengan pendahulunya Phi-2.

• Arsitektur Model: Phi-2 beroperasi pada arsitektur berbasis transformer yang dirancang untuk memprediksi kata berikutnya. Phi-3 Mini juga menggunakan arsitektur decoder transformer tetapi lebih sejalan dengan struktur model Llama-2, menggunakan tokenizer yang sama dengan ukuran kosakata 320.641. Kompatibilitas ini memastikan bahwa alat yang dikembangkan untuk Llama-2 dapat dengan mudah disesuaikan untuk digunakan dengan Phi-3 Mini.
• Panjang Konteks: Phi-3 Mini mendukung panjang konteks 8.000 token, yang jauh lebih besar daripada 2.048 token Phi-2. Peningkatan ini memungkinkan Phi-3 Mini untuk mengelola interaksi yang lebih rinci dan memproses teks yang lebih panjang.
• Berjalan Lokal pada Perangkat Mobile: Phi-3 Mini dapat dikompresi menjadi 4-bit, mengisi sekitar 1,8GB memori, serupa dengan Phi-2. Ini diuji berjalan offline pada iPhone 14 dengan chip A16 Bionic, di mana mencapai kecepatan pemrosesan lebih dari 12 token per detik, mencapai kinerja Phi-2 di bawah kondisi yang sama.
• Ukuran Model: Dengan 3,8 miliar parameter, Phi-3 Mini memiliki skala yang lebih besar daripada Phi-2, yang memiliki 2,7 miliar parameter. Ini mencerminkan kemampuan yang ditingkatkan.
• Data Pelatihan: Tidak seperti Phi-2, yang dilatih pada 1,4 triliun token, Phi-3 Mini telah dilatih pada set yang jauh lebih besar yaitu 3,3 triliun token, memungkinkan untuk mencapai pemahaman yang lebih baik tentang pola bahasa yang kompleks.

Mengatasi Keterbatasan Phi-3 Mini

Meskipun Phi-3 Mini menunjukkan kemajuan signifikan dalam bidang model bahasa kecil, ini tidak tanpa keterbatasannya. Keterbatasan utama Phi-3 Mini, mengingat ukurannya yang lebih kecil dibandingkan dengan model bahasa besar, adalah kapasitas terbatas untuk menyimpan pengetahuan faktual yang luas. Ini dapat mempengaruhi kemampuannya untuk menangani pertanyaan yang memerlukan kedalaman pengetahuan faktual spesifik atau pengetahuan ahli secara mandiri. Namun, ini dapat dimitigasi dengan mengintegrasikan Phi-3 Mini dengan mesin pencari. Dengan cara ini, model dapat mengakses berbagai informasi dalam waktu nyata, secara efektif mengkompensasi keterbatasan pengetahuan bawaannya. Integrasi ini memungkinkan Phi-3 Mini untuk berfungsi seperti seorang pembicara yang sangat kompeten yang, meskipun memiliki pemahaman bahasa dan konteks yang komprehensif, terkadang perlu “mencari” informasi untuk memberikan respons yang akurat dan mutakhir.

Ketersediaan

Phi-3 sekarang tersedia di beberapa platform, termasuk Microsoft Azure AI Studio, Hugging Face, dan Ollama. Pada Azure AI, model ini mengintegrasikan alur kerja deploy-evaluate-finetune, dan pada Ollama, dapat dijalankan secara lokal pada laptop. Model ini telah disesuaikan untuk ONNX Runtime dan mendukung Windows DirectML, memastikan bahwa model ini bekerja dengan baik di berbagai jenis perangkat keras seperti GPU, CPU, dan perangkat mobile. Selain itu, Phi-3 ditawarkan sebagai layanan mikro melalui NVIDIA NIM (NVDA ), dilengkapi dengan API standar untuk penerapan yang mudah di berbagai lingkungan dan dioptimalkan khusus untuk GPU NVIDIA. Microsoft berencana untuk lebih memperluas seri Phi-3 di masa depan dengan menambahkan model Phi-3-kecil (7B) dan Phi-3-medium (14B), memberikan pengguna dengan pilihan tambahan untuk menyeimbangkan kualitas dan biaya.

Ringkasan

Phi-3 Mini dari Microsoft membuat kemajuan signifikan dalam bidang kecerdasan buatan dengan mengadaptasi kekuatan model bahasa besar untuk penggunaan mobile. Model ini meningkatkan interaksi pengguna dengan perangkat melalui pemrosesan waktu nyata yang lebih cepat dan fitur privasi yang ditingkatkan. Ini meminimalkan kebutuhan akan layanan berbasis cloud, mengurangi biaya operasional, dan memperluas cakupan aplikasi AI di bidang seperti perawatan kesehatan dan otomasi rumah. Dengan fokus pada mengurangi bias melalui pembelajaran kurikulum dan mempertahankan kinerja yang kompetitif, Phi-3 Mini berkembang menjadi alat kunci untuk AI mobile yang efisien dan berkelanjutan, secara halus mengubah cara kita berinteraksi dengan teknologi sehari-hari.