قادة الفكر

كيف ستقدم نماذج اللغة الكبيرة التطبيقات في المستقبل

mm
أضف Unite.AI إلى مصادرك المفضلة على Google

الذكاء الاصطناعي التوليدي وخاصة نكهة اللغة – ChatGPT موجود في كل مكان. ستلعب تقنية نموذج اللغة الكبيرة (LLM) دورًا مهمًا في تطوير التطبيقات المستقبلية. النماذج الكبيرة للغة جيدة جدًا في فهم اللغة بسبب التدريب المسبق الشامل الذي تم إجراؤه على نماذج أساسية تريليونات من الأسطر من النص العام ، بما في ذلك الشفرة. الطرق مثل التعدين الخفيف الخاضع للإشراف و التعلم المعزز بالتعليقات البشرية (RLHF) تجعل هذه النماذج الكبيرة أكثر كفاءة في الإجابة على أسئلة محددة والتحادث مع المستخدمين. عندما ندخل المرحلة التالية من تطبيقات الذكاء الاصطناعي التي تعمل بنماذج اللغة الكبيرة – المكونات الرئيسية التالية سوف تكون حاسمة لتطبيقات الجيل التالي. يظهر الشكل التالي هذا التقدم ، وعندما تتحرك لأعلى السلسلة ، تبني ذكاء وتطبيقًا مستقلًا أكثر في تطبيقاتك. دعونا ننظر إلى هذه المستويات المختلفة.

مكالمات LLM:

هذه هي المكالمات المباشرة إلى نماذج الإكمال أو الدردشة بواسطة مزود LLM مثل Azure OpenAI أو Google PaLM أو Amazon Bedrock. هذه المكالمات لها سؤال أساسي جدًا وغالبًا ما تستخدم الذاكرة الداخلية للنموذج الكبير لإنتاج الإخراج.

مثال: سؤال نموذج أساسي مثل “text-davinci” “روي نكتة”. تعطى سياقًا قليلاً جدًا ويعتمد النموذج على ذاكرته المسبقة المدربة ليتوصل إلى إجابة (محدد باللون الأخضر في الشكل التالي – باستخدام Azure OpenAI).

الاستجابات:

المستوى التالي من الذكاء هو إضافة المزيد والمزيد من السياق إلى الاستجابات. هناك تقنيات للهندسة الاستجابة التي يمكن تطبيقها على النماذج الكبيرة التي يمكن أن تجعلها تعطي استجابات مخصصة. على سبيل المثال ، عند إنشاء بريد إلكتروني إلى مستخدم ، يمكن أن служي بعض السياق حول المستخدم والشراء السابق وأنماط السلوك كاستجابة لتحسين البريد الإلكتروني. المستخدمون الذين يعرفون ChatGPT سوف يعرفون أساليب مختلفة للاستجابة مثل إعطاء أمثلة تستخدمها النماذج الكبيرة لبناء الاستجابة. الاستجابات تعزز الذاكرة الداخلية للنموذج الكبير بالسياق الإضافي. المثال هو أدناه.

الترسيمات:

الترسيمات تأخذ الاستجابات إلى المستوى التالي عن طريق البحث في مخزن المعرفة عن السياق والحصول على هذا السياق وإضافته إلى الاستجابة. هنا ، الخطوة الأولى هي إنشاء مخزن وثائق كبير مع نص غير منظم قابل للبحث عن طريق فهرسة النص وملء قاعدة بيانات متجهة. من أجل ذلك ، يتم استخدام نموذج ترسيم مثل “ada” من OpenAI الذي يأخذ قطعة من النص ويحولها إلى متجه نائي الأبعاد. هذه الترسيمات تلتقط السياق النص ، لذلك الجمل المماثلة سوف يكون لها ترسيمات قريبة من بعضها البعض في فضاء المتجه. عندما يُدخل المستخدم استفسارًا ، يتم تحويل هذا الاستفسار أيضًا إلى ترسيم ويتم مطابقته مع المتجهات في قاعدة البيانات. وبالتالي ، نحصل على أفضل 5 أو 10 قطع نصية مطابقة للاستفسار التي تشكل السياق. الاستفسار والسياق يتمرير إلى النموذج الكبير للإجابة على السؤال بطريقة تشبه الإنسان.

السلاسل:

اليوم السلاسل هي أكثر تقنية ناضجة ومستخدمة على نطاق واسع لبناء تطبيقات النماذج الكبيرة. السلاسل هي محددة حيث سلسلة من مكالمات النماذج الكبيرة يتم ربطها معًا مع إخراج من مكالمة واحدة يتدفق إلى مكالمة واحدة أو أكثر من النماذج الكبيرة. على سبيل المثال ، يمكننا أن يكون لدينا مكالمة نموذج كبير استفسار قاعدة بيانات SQL والحصول على قائمة بريد إلكتروني للعملاء وإرسال هذه القائمة إلى نموذج كبير آخر سوف يولد بريدًا إلكترونيًا مخصصًا للعملاء. يمكن دمج سلاسل النماذج الكبيرة في تدفقات التطبيقات الحالية لتوليد نتائج أكثر قيمة. باستخدام السلاسل ، يمكننا تعزيز مكالمات النماذج الكبيرة بالمدخلات الخارجية مثل مكالمات API والدمج مع الرسومات المعرفية لتوفير السياق. وعلاوة على ذلك ، اليوم مع توفر العديد من مزودي النماذج الكبيرة مثل OpenAI و AWS Bedrock و Google PaLM و MosaicML وغيرهم ، يمكننا مزج ومطابقة مكالمات النماذج الكبيرة في السلاسل. لمكونات السلاسل التي لها ذكاء محدود ، يمكن استخدام نموذج كبير أقل مثل “gpt3.5-turbo” ، بينما يمكن استخدام “gpt4” لمهام أكثر تقدمًا. السلاسل توفر تجريدًا للبيانات والتطبيقات ومكالمات النماذج الكبيرة.

الوكلاء:

الوكلاء هو موضوع العديد من المناقشات على الإنترنت وخاصة فيما يتعلق بالذكاء الاصطناعي العام (AGI). الوكلاء يستخدمون نموذجًا كبيرًا متقدمًا مثل “gpt4” أو “PaLM2” لتخطيط المهام بدلاً من السلاسل المحددة مسبقًا. لذلك ، عندما توجد طلبات المستخدم ، يقرر الوكيل بناءً على الاستفسار ما المجموعة من المهام التي يجب呼ها وينشئ سلسلة ديناميكية. على سبيل المثال ، عندما نُفعل وكيلًا مع أمر مثل “إعلام العملاء عند تغيير سعر الفائدة القائم على تحديث لوائح الحكومة”. إطار الوكيل يجعل مكالمة نموذج كبير لتحديد الخطوات التي يجب اتخاذها أو السلاسل التي يجب بناؤها. هنا سوف يتضمن استدعاء تطبيق يقرص مواقع الويب التنظيمية وينتج معدل الفائدة الأخير ، ثم مكالمة نموذج كبير يبحث قاعدة البيانات وينتج بريد إلكتروني للعملاء المتأثرين وأخيرًا يتم إنشاء بريد إلكتروني لإعلام الجميع.

أفكار نهائية

النماذج الكبيرة للغة هي تقنية متطورة للغاية ، وتُطلق نماذج وتطبيقات أفضل كل أسبوع. النماذج الكبيرة إلى الوكلاء هي سلم الذكاء ، وعندما نتحرك لأعلى ، نبني تطبيقات مستقلة معقدة. سوف تعني النماذج الأفضل وكلاء أكثر فعالية ، وسوف يتم تشغيل التطبيقات الجيل القادم بواسطة هذه. سوف يخبرنا الوقت كيف سيكون التطبيقات الجيل القادم متقدمًا وما هي الأنماط التي سوف يتم تشغيلها بها.

داتاراج راو، رئيس عالم البيانات في Persistent Systems، هو مؤلف كتاب “Keras to Kubernetes: The Journey of a Machine Learning Model to Production.” في Persistent Systems، يقود داتاراج مختبر الأبحاث الإصطناعية الذي يبحث في الخوارزميات الحديثة في رؤية الكمبيوتر، وفهم اللغة الطبيعية، وبرمجة الاحتمالية، وتعلم التعزيز، وشرح الذكاء الاصطناعي، وغيرها، ويتضح تطبيقها في مجالات الرعاية الصحية والخدمات المصرفية والصناعية. لدى داتاراج 11 براءة اختراع في تعلم الآلة ورؤية الكمبيوتر.