گوگل تقدم Gemma 2: تعزيز الأداء والسرعة والوصول للمطورين

أعلنت شركة Google (GOOGL ) عن Gemma 2، الإصدار الأخير من نماذج اللغة الخفيفة مفتوحة المصدر، المتاحة في أحجام 9 مليار (9B) و 27 مليار (27B) معلمة. هذا الإصدار الجديد ي promis يعد بتحسين الأداء وزيادة السرعة مقارنة بسابقه، نموذج Gemma. Gemma 2، المشتق من نماذج Gemini التابعة لشركة Google، مصمم ليكون أكثر سهولة للاستخدام من قبل الباحثين والمطورين، مع تحسينات كبيرة في السرعة والكفاءة. على عكس نماذج Gemini المتعددة اللغات والمultimodal، يركز Gemma 2 فقط على معالجة اللغة. في هذه المقالة، سنقوم بدراسة الميزات والتحسينات البارزة لنموذج Gemma 2، ومقارنته مع سابقه والمنافسين في هذا المجال، وتسليط الضوء على حالات الاستخدام والتحديات التي تواجهه.

بناء Gemma 2

مثل سابقه، نموذج Gemma 2 يعتمد على بنية Transformer فقط للفك. يُتدرب نموذج 27B على 13 تريليون رمز من البيانات الأساسية باللغة الإنجليزية، بينما يُستخدم نموذج 9B 8 تريليون رمز، ونموذج 2.6B يُتدرب على 2 تريليون رمز. هذه الرموز تأتي من مجموعة متنوعة من المصادر، بما في ذلك مستندات الويب والكود والمقالات العلمية. يستخدم النموذج نفس tokenizer مثل Gemma 1 وGemini، مما يضمن الاتساق في معالجة البيانات.

Gemma 2 يُتدرب باستخدام طريقة تعرف باسم knowledge distillation، حيث يتعلم من احتمالات الإخراج لنموذج أكبر مسبق التدريب. بعد التدريب الأولي، يتم تعديل النماذج من خلال عملية تعرف باسم instruction tuning. هذا يبدأ مع supervised fine-tuning (SFT) على مزيج من النصوص الإنجليزية المولدة اصطناعيًا والمنشأة بواسطة الإنسان. بعد ذلك، يتم تطبيق reinforcement learning with human feedback (RLHF) لتحسين الأداء العام

Gemma 2: تعزيز الأداء والكفاءة عبر الأجهزة المتنوعة

Gemma 2 لا يتفوق فقط على Gemma 1 في الأداء، بل يتنافس أيضًا بشكل فعال مع نماذج أكبر منه. تم تصميمه للعمل بكفاءة عبر مختلف التكوينات الأجهزة، بما في ذلك الأجهزة المحمولة و أجهزة الكمبيوتر المكتبية وأجهزة IoT والمنصات المحمولة. تم تحسينه بشكل خاص للأجهزة المفردة ووحدات المعالجة التензور، Gemma 2 يزيد من كفاءة سابقه، خاصة على الأجهزة ذات الموارد المحدودة. على سبيل المثال، نموذج 27B يمتاز بالجودة في تشغيل الاستدلال على جهاز NVIDIA H100 Tensor Core GPU (NVDA ) أو جهاز TPU، مما يجعله خيارًا اقتصاديًا للمطورين الذين يحتاجون إلى أداء عالٍ دون الاستثمار الكبير في الأجهزة.

بالإضافة إلى ذلك، Gemma 2 يقدم للمطورين قدرات تعديل محسنة عبر مجموعة واسعة من المنصات والأدوات. سواء كان استخدام حلول سحابية مثل Google Cloud أو منصات شائعة مثل Axolotl، Gemma 2 يوفر خيارات تعديل واسعة. التكامل مع منصات مثل Hugging Face و NVIDIA TensorRT-LLM و Google’s JAX و Keras يسمح للباحثين والمطورين بالحصول على أداء مثالي وتحقيق كفاءة التوزيع عبر تكوينات الأجهزة المتنوعة.

Gemma 2 vs. Llama 3 70B

عند مقارنة Gemma 2 بنموذج Llama 3 70B، يبرز كلا النموذجين في فئة نماذج اللغة مفتوحة المصدر. يزعم باحثو Google أن Gemma 2 27B يوفر أداءً قابلاً للمقارنة مع Llama 3 70B على الرغم من صغر حجمه. بالإضافة إلى ذلك، Gemma 2 9B يتفوق باستمرار على Llama 3 8B في مختلف البنود مثل فهم اللغة وبرمجة الكمبيوتر وحل المشكلات الرياضية،.

ميزة ملحوظة لGemma 2 على Llama 3 من Meta هي معالجته للغات الهندية. Gemma 2 يمتاز بسبب معالجته المخصصة لهذه اللغات، والتي تشمل قاموسًا كبيرًا يحتوي على 256 ألف رمز لالتقاط الدقة اللغوية. من ناحية أخرى، Llama 3، على الرغم من دعمه للغات متعددة، يجد صعوبة في معالجة الرموز للنصوص الهندية بسبب قاموس محدود وبيانات تدريب. هذا يعطي Gemma 2 ميزة في المهام التي تتضمن لغات هندية، مما يجعله خيارًا أفضل للمطورين والباحثين الذين يعملون في هذه المجالات.

حالات الاستخدام

استنادًا إلى الخصائص المحددة لنموذج Gemma 2 وأدائه في البنود، تم تحديد بعض حالات الاستخدام العملية للنموذج.

• المساعدين المتعددين اللغات: معالج Gemma 2 المخصص للغات المختلفة، خاصة اللغات الهندية، يجعل منه أداة فعالة لتطوير مساعدين متعددي اللغات مخصصين لمستخدمي هذه اللغات. سواء كان بحثًا عن معلومات باللغة الهندية، أو إنشاء مواد تعليمية باللغة الأردية، أو مواد تسويقية باللغة العربية، أو مقالات بحثية باللغة البنغالية، Gemma 2 يمنح المبدعين أدوات توليد لغة فعالة. مثال حقيقي لهذه الحالة هو Navarasa، مساعد متعدد اللغات مبني على Gemma يدعم تسع لغات هندية. يمكن للمستخدمين بسهولة إنشاء محتوى يتوافق مع الجماهير الإقليمية مع الالتزام بالمعايير اللغوية وال细يات المحددة.
• أدوات التعليمية: مع قدرته على حل المشكلات الرياضية وفهم الاستفسارات اللغوية المعقدة، Gemma 2 يمكن استخدامه لإنشاء أنظمة تعليمية ذكية وتطبيقات تعليمية توفر تجارب تعلم شخصية.
• برمجة الكمبيوتر ومساعدة الكود: مهارة Gemma 2 في برمجة الكمبيوتر تشير إلى إمكانياته كأداة قوية لإنشاء الكود واكتشاف الأخطاء ومراجعة الكود التلقائية. قدرته على الأداء الجيد على الأجهزة ذات الموارد المحدودة يسمح للمطورين بدمجها بسهولة في بيئات التطوير الخاصة بهم.
• التنمية المعززة بالإرجاع (RAG): أداء Gemma 2 القوي على بنود الاستدلال النصية يجعله مناسبًا لتطوير أنظمة RAG عبر مختلف المجالات. يدعم تطبيقات الرعاية الصحية من خلال合ن المعلومات السريرية، ويساعد أنظمة الذكاء الاصطناعي القانونية في تقديم المشورة القانونية، ويمكنه تمكين تطوير بوتات محادثة ذكية لدعم العملاء، ويسهم في إنشاء أدوات تعليمية شخصية.

القيود والتحديات

على الرغم من التقدّمات البارزة التي يظهرها Gemma 2، إلا أنه يواجه قيودًا وتحديات تتعلق بشكل رئيسي بجودة وتنوع بيانات التدريب. على الرغم من دعم معالجته للغات المختلفة، Gemma 2 يفتقر إلى تدريب محدد للاستخدامات المتعددة اللغات ويتطلب تعديلًا ليعمل بشكل فعال مع لغات أخرى. النموذج يعمل بشكل جيد مع الاستفسارات الواضحة والمهيكلة، لكنه يجد صعوبة في المهام المفتوحة أو المعقدة و الدقة اللغوية مثل السخرية أو التعبيرات المجازية. دقته الحقيقية ليست دائمًا موثوقة، ويمكن أن ينتج معلومات غير صحيحة أو قديمة، ويمكن أن يفتقر إلى التفكير المنطقي الشائع في بعض السياقات. على الرغم من الجهود المبذولة لمواجهة الهلوسة، خاصة في المجالات الحساسة مثل الطب أو المواد الكيميائية والبيولوجية والإشعاعية والنووية، لا يزال هناك خطر من توليد معلومات غير دقيقة في مجالات أقل تحضراً مثل المالية. بالإضافة إلى ذلك، على الرغم من التحكم في منع توليد المحتوى غير الأخلاقي مثل خطاب الكراهية أو التهديدات الأمنية، لا يزال هناك مخاطر مستمرة للاستخدام غير الصحيح في مجالات أخرى. أخيرًا، Gemma 2 يعتمد فقط على البيانات النصية ولا يدعم معالجة البيانات المتعددة الأشكال.

الخلاصة

Gemma 2 يقدم تقدّمات ملحوظة في نماذج اللغة مفتوحة المصدر، مع تحسين الأداء وسرعة الاستدلال مقارنة بسابقه. إنه مناسب للاستخدام على مختلف التكوينات الأجهزة، مما يجعله متاحًا بدون استثمارات كبيرة في الأجهزة. ومع ذلك، لا يزال هناك تحديات في معالجة المهام اللغوية الدقيقة وضمان الدقة في السيناريوهات المعقدة. بينما يمكن استخدامه في تطبيقات مثل المشورة القانونية وأدوات التعليمية، يجب على المطورين أن يكونوا على دراية بقيوده في القدرات المتعددة اللغات ومشاكل الدقة الحقيقية في السياقات الحساسة. على الرغم من هذه الاعتبارات، Gemma 2 يبقى خيارًا قيمًا للمطورين الذين يبحثون عن حلول معالجة لغة موثوقة.