قادة الفكر
نقل نموذج اللغة الكبيرة (LLM) إلى تطبيقات الأعمال في العالم الحقيقي
أضف Unite.AI إلى مصادرك المفضلة على Google
نموذج اللغة الكبيرة موجود في كل مكان. كل محادثة مع العملاء أو عرض تقديمي ي涉ل أسئلة حول كيفية جاهزية تكنولوجيا LLM وكيف سيدفع تطبيقات المستقبل. غطيت بعض الأنماط على هذا في مشاركتي السابقة. هنا سأتحدث عن بعض الأنماط في العالم الحقيقي لتطبيق في صناعة الأدوية التي عملت عليها شركة Persistent Systems.
نماذج اللغة الكبيرة والقوة الأساسية
نماذج اللغة الكبيرة جيدة في فهم اللغة، هذا هو قوتها. أكثر الأنماط الشائعة التي نراها مع التطبيقات هي الاسترجاع المعزز بالتوليد (RAG)، حيث يتم تجميع المعرفة من مصادر البيانات وتقديمها في سياق كمحفز للنموذج لتحويل الاستجابة. في هذه الحالة، آليات البحث السريعة مثل قواعد البيانات المتجهة وآلات Elasticsearch تعمل كخط أول للبحث. ثم يتم تجميع نتائج البحث في محفز وترسله إلى نموذج اللغة الكبيرة في الغالب كدعوة واجهة برمجة التطبيقات.
نمط آخر هو توليد استفسار على بيانات منظمات عن طريق تغذية نموذج اللغة الكبيرة بنموذج البيانات كمحفز واستفسار مستخدم معين. يمكن استخدام هذا النمط لتطوير واجهة متقدمة “تحدث مع بياناتك” لقواعد البيانات مثل Snowflake، وكذلك قواعد البيانات الرسومية مثل Neo4j.
استخدام أنماط نموذج اللغة الكبيرة للحصول على رؤى في العالم الحقيقي
قامت شركة Persistent Systems مؤخرًا بفحص نمط لشركة Blast Motion، وهي شركة تيليمترية رياضية (تحليل السباق للبيسبول، الغولف، إلخ)، حيث قمنا بتحليل بيانات زمنية لملخصات اللاعبين للحصول على توصيات.
对于 تطبيقات أكثر تعقيدًا، غالبًا ما نحتاج إلى ربط طلبات نموذج اللغة الكبيرة مع المعالجة بين المكالمات.对于 شركة أدوية، قمنا بتطوير تطبيق 智能 Trails الذي يفرز المرضى للمحاكمات السريرية بناءً على المعايير المستخرجة من وثائق المحاكمة السريرية. هنا استخدمنا نهجًا متسلسلاً لنموذج اللغة الكبيرة. أولاً قمنا بتطوير نموذج اللغة الكبيرة لقراءة وثيقة المحاكمة واستخدام نمط RAG لاستخراج معايير الإدراج والإستبعاد.
من أجل ذلك، تم استخدام نموذج اللغة الكبيرة الأقل تعقيدًا مثل GPT-3.5-Turbo (ChatGPT). ثم قمنا بدمج الكيانات المستخرجة مع نموذج بيانات قاعدة بيانات المرضى في Snowflake، لإنشاء محفز. هذا المحفز يتم تغذية نموذج اللغة الكبيرة الأكثر قوة مثل GPT4، مما يعطينا استفسار SQL لفرز المرضى، جاهز للتشغيل على Snowflake. منذ أن نستخدم سلسلة نموذج اللغة الكبيرة، يمكننا استخدام نماذج اللغة الكبيرة متعددة لكل خطوة في السلسلة، وبالتالي تمكنا من إدارة التكاليف.
حاليًا، قررنا الحفاظ على هذه السلسلة حتمية من أجل التحكم الأفضل. أي قررنا أن يكون هناك المزيد من الذكاء في السلاسل والحفاظ على التنسيق بسيطًا وقابلًا للتنبؤ. كل عنصر في السلسلة هو تطبيق معقد بحد ذاته، والذي سيستغرق بضعة أشهر لتطويره في أيام ما قبل نموذج اللغة الكبيرة.
تشغيل حالات استخدام أكثر تقدمًا
对于 حالة أكثر تقدمًا، يمكننا استخدام وكلاء مثل ReAct لتحفيز نموذج اللغة الكبيرة لإنشاء تعليمات خطوة بخطوة لمتابعة استفسار مستخدم معين. هذا بالطبع سيحتاج إلى نموذج اللغة الكبيرة عالي النهاية مثل GPT4 أو Cohere أو Claude 2. ومع ذلك، ثم هناك خطر أن يتخذ النموذج خطوة خاطئة التي ستحتاج إلى التحقق باستخدام حواجز الأمان. هذا هو التبادل بين نقل الذكاء في روابط السلسلة أو جعل السلسلة كاملة الحتمية.
اليوم، مع اعتيادنا على عصر الذكاء الاصطناعي للغة، بدأت الصناعة في تبني تطبيقات نموذج اللغة الكبيرة مع سلاسل قابلة للتنبؤ. مع نمو هذا التحول، سنبدأ قريباً في تجربة المزيد من الاستقلالية لهذه السلاسل من خلال الوكلاء. هذا هو ما يدور حوله النقاش حول الذكاء الاصطناعي العام، ونحن مهتمون بمعرفة كيف سيطور كل هذا مع مرور الوقت.
