قادة الفكر

نقل نماذج اللغة الكبيرة (LLM) إلى تطبيقات الأعمال الواقعية

Dattaraj Rao
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةاستخدمت شركة بيرسيستنت سيستمز سلسلة نماذج اللغة الكبيرة لتصفية مرضى التجارب السريرية من…
عرض المزيد
  • استخدمت شركة بيرسيستنت سيستمز سلسلة نماذج اللغة الكبيرة لتصفية مرضى التجارب السريرية من المستندات وقاعدة بيانات SQL.
  • يزاوج توليد المعزز بالاسترجاع بين البحث المتجهي ونماذج اللغة الكبيرة لتأسيس الاستجابات على المعرفة الخارجية.
  • تقدم سلاسل نماذج اللغة الكبيرة الحتمية تحكماً وإدارة تكاليف أفضل مقارنةً بالمناهجة القائمة على الوكلاء المستقلة ذات المخاطر العالية.

نماذج اللغة الكبيرة موجودة في كل مكان. كل محادثة مع العملاء أو عرض مقدم للمستثمرين يتضمن أسئلة حول كيفية جاهزية تكنولوجيا LLM وكيف سيدفع تطبيقات المستقبل. غطيت بعض الأنماط على هذا في مشاركتي السابقة. هنا سأتحدث عن بعض الأنماط في العالم الحقيقي لتطبيق في صناعة الأدوية التي عملت عليها شركة Persistent Systems (PERSISTENT.BO ).

نماذج اللغة الكبيرة والقوة الأساسية

نماذج اللغة الكبيرة جيدة في فهم اللغة، هذا هو قوتها. أكثر الأنماط الشائعة التي نراها مع التطبيقات هي التوليد المعزز بالاسترجاع (RAG)، حيث يتم تجميع المعرفة من مصادر البيانات وتقديمها في سياق كمطالبة نصية للنموذج لإعادة صياغة الإجابة. في هذه الحالة، آليات البحث السريعة مثل قواعد البيانات المتجهة وآلات Elasticsearch تعمل كخط أول للبحث. ثم يتم تجميع نتائج البحث في مطالبة نصية وترسله إلى نموذج اللغة الكبيرة في الغالب كاستدعاء لواجهة برمجة التطبيقات.

نمط آخر هو توليد استفسار على بيانات منظمة عن طريق تغذية نموذج اللغة الكبيرة بنموذج البيانات كمطالبة نصية واستفسار مستخدم معين. يمكن استخدام هذا النمط لتطوير واجهة متقدمة “تحدث مع بياناتك” لقواعد بيانات SQL مثل Snowflake، وكذلك قواعد بيانات الرسوم البيانية مثل Neo4j.

استخدام أنماط نموذج اللغة الكبيرة للحصول على رؤى في العالم الحقيقي

قامت شركة Persistent Systems مؤخرًا بفحص نمط لشركة Blast Motion، وهي شركة تيليمترية رياضية (تحليل حركة التأرجح في البيسبول، الغولف، إلخ)، حيث قمنا بتحليل بيانات زمنية لملخصات اللاعبين للحصول على توصيات.

بالنسبة إلى تطبيقات أكثر تعقيدًا، غالبًا ما نحتاج إلى ربط طلبات نموذج اللغة الكبيرة مع المعالجة بين المكالمات.بالنسبة إلى شركة أدوية، قمنا بتطوير تطبيق للتجارب السريرية الذكية الذي يفرز المرضى للتجارب السريرية بناءً على المعايير المستخرجة من وثائق التجربة السريرية. هنا استخدمنا نهجًا متسلسلاً لنموذج اللغة الكبيرة. أولاً قمنا بتطوير نموذج اللغة الكبيرة لقراءة وثيقة التجربة السريرية بصيغة PDF واستخدام نمط RAG لاستخراج معايير الإدراج والإستبعاد.

من أجل ذلك، تم استخدام نموذج اللغة الكبيرة الأقل تعقيدًا مثل GPT-3.5-Turbo (ChatGPT). ثم قمنا بدمج الكيانات المستخرجة مع نموذج بيانات قاعدة بيانات المرضى في Snowflake، لإنشاء محفز. هذه المطالبة النصية يتم تغذية نموذج اللغة الكبيرة الأكثر قوة مثل GPT4، مما يعطينا استفسار SQL لفرز المرضى، جاهز للتشغيل على Snowflake. منذ أن نستخدم سلسلة نموذج اللغة الكبيرة، يمكننا استخدام نماذج اللغة الكبيرة متعددة لكل خطوة في السلسلة، وبالتالي تمكنا من إدارة التكاليف.

حاليًا، قررنا الحفاظ على هذه السلسلة حتمية من أجل التحكم الأفضل. أي قررنا أن يكون هناك المزيد من الذكاء في السلاسل والحفاظ على التنسيق بسيطًا وقابلًا للتنبؤ. كل عنصر في السلسلة هو تطبيق معقد بحد ذاته، والذي سيستغرق بضعة أشهر لتطويره في أيام ما قبل نموذج اللغة الكبيرة.

تشغيل حالات استخدام أكثر تقدمًا

بالنسبة إلى حالة أكثر تقدمًا، يمكننا استخدام وكلاء مثل ReAct لتحفيز نموذج اللغة الكبيرة لإنشاء تعليمات خطوة بخطوة لمتابعة استفسار مستخدم معين. وهذا يتطلب بالطبع إلى نموذج اللغة الكبيرة عالي الإمكانات مثل GPT4 أو Cohere أو Claude 2. ومع ذلك، ثم هناك خطر أن يتخذ النموذج خطوة خاطئة التي ستحتاج إلى التحقق باستخدام حواجز الأمان. هذا هو التبادل بين نقل الذكاء في روابط السلسلة أو جعل السلسلة مستقلة بالكامل.

اليوم، مع اعتيادنا على عصر الذكاء الاصطناعي التوليدي للغة، بدأت الصناعة في تبني تطبيقات نموذج اللغة الكبيرة مع سلاسل قابلة للتنبؤ. مع نمو هذا التحول، سنبدأ قريباً في تجربة المزيد من الاستقلالية لهذه السلاسل من خلال الوكلاء. هذا هو ما يدور حوله النقاش حول الذكاء الاصطناعي العام، ونحن مهتمون بمعرفة كيف سيطور كل هذا مع مرور الوقت.

داتاراج راو، كبير علماء البيانات في Persistent Systems، هو مؤلف كتاب “Keras to Kubernetes: The Journey of a Machine Learning Model to Production.” في Persistent Systems، يقود داتاراج مختبر أبحاث الذكاء الاصطناعي الذي يبحث في الخوارزميات الحديثة في رؤية الكمبيوتر، وفهم اللغة الطبيعية، والبرمجة الاحتمالية، وتعلم التعزيز، والذكاء الاصطناعي القابل للتفسير، وغيرها، ويوضح إمكانية تطبيقها في مجالات الرعاية الصحية والخدمات المصرفية والصناعية. لدى داتاراج 11 براءة اختراع في تعلم الآلة ورؤية الكمبيوتر.