AIOS: نظام التشغيل لوكلاء LLM

على مدار العقود الستة الماضية، تطورت أنظمة التشغيل تدريجيًا، حيث تقدمت من الأنظمة الأساسية إلى أنظمة التشغيل المعقدة والتفاعلية التي تشغل أجهزة اليوم. في البداية، كانت أنظمة التشغيل بمثابة جسر بين الوظائف الثنائية لأجهزة الكمبيوتر، مثل معالجة البوابة، والمهام على مستوى المستخدم. ومع ذلك، فقد تطورت على مر السنين من أنظمة معالجة الوظائف المجمعة البسيطة إلى تقنيات إدارة العمليات الأكثر تطورًا، بما في ذلك تعدد المهام ومشاركة الوقت. مكنت هذه التطورات أنظمة التشغيل الحديثة من إدارة مجموعة واسعة من المهام المعقدة. أدى إدخال واجهات المستخدم الرسومية (GUIs) مثل Windows وMacOS إلى جعل أنظمة التشغيل الحديثة أكثر سهولة في الاستخدام وأكثر تفاعلية، مع توسيع النظام البيئي لنظام التشغيل من خلال مكتبات وقت التشغيل ومجموعة شاملة من أدوات المطورين.

وتشمل الابتكارات الحديثة التكامل والنشر نماذج اللغات الكبيرة (LLMs)، والتي أحدثت ثورة في مختلف الصناعات من خلال فتح إمكانيات جديدة. وفي الآونة الأخيرة، أظهر العملاء الأذكياء المعتمدون على LLM قدرات رائعة، حيث حققوا أداءً شبيهًا بأداء الإنسان في مجموعة واسعة من المهام. ومع ذلك، لا تزال هذه العوامل في المراحل الأولى من التطوير، وتواجه التقنيات الحالية العديد من التحديات التي تؤثر على كفاءتها وفعاليتها. تشمل المشكلات الشائعة الجدولة دون المستوى الأمثل لطلبات الوكيل عبر نموذج اللغة الكبير، والتعقيدات في دمج الوكلاء ذوي التخصصات المختلفة، والحفاظ على السياق أثناء التفاعلات بين LLM والوكيل. غالبًا ما يؤدي التطور السريع والتعقيد المتزايد للوكلاء المعتمدين على LLM إلى اختناقات واستخدام دون المستوى الأمثل للموارد.

ولمواجهة هذه التحديات، ستناقش هذه المقالة AIOS، وهو نظام تشغيل وكيل LLM مصمم لدمج نماذج اللغة الكبيرة باعتبارها "عقل" نظام التشغيل، مما يمنحه "روحًا" بشكل فعال. على وجه التحديد، يهدف إطار عمل AIOS إلى تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتوفير خدمات الأدوات للوكلاء، والحفاظ على التحكم في الوصول، وتمكين التنفيذ المتزامن للوكلاء. سوف نتعمق في إطار عمل AIOS، ونستكشف آلياته ومنهجيته وبنيته، ونقارنه بأطر العمل الحديثة. دعونا نتعمق.

بعد تحقيق نجاح ملحوظ في نماذج اللغات الكبيرة، فإن التركيز التالي لصناعة الذكاء الاصطناعي والتعلم الآلي هو تطوير عوامل ذكاء اصطناعي مستقلة يمكنها العمل بشكل مستقل، واتخاذ القرارات من تلقاء نفسها، وأداء المهام بأقل قدر من التدخلات البشرية أو بدون تدخلات بشرية. تم تصميم هذه العوامل الذكية القائمة على الذكاء الاصطناعي لفهم التعليمات البشرية، ومعالجة المعلومات، واتخاذ القرارات، واتخاذ الإجراءات المناسبة لتحقيق حالة الحكم الذاتي، مع ظهور وتطوير نماذج لغوية كبيرة توفر إمكانيات جديدة لتطوير هذه العوامل المستقلة. أظهرت أطر عمل LLM الحالية بما في ذلك DALL-E وGPT والمزيد قدرات ملحوظة لفهم التعليمات البشرية، وقدرات التفكير وحل المشكلات، والتفاعل مع المستخدمين البشريين جنبًا إلى جنب مع البيئات الخارجية. بناءً على هذه النماذج اللغوية الكبيرة القوية والقادرة، يتمتع الوكلاء المعتمدون على LLM بقدرات قوية على إنجاز المهام في بيئات متنوعة تتراوح من المساعدين الافتراضيين إلى الأنظمة الأكثر تعقيدًا وتطورًا التي تتضمن إنشاء حل المشكلات والاستدلال والتخطيط والتنفيذ. 

يعطي الشكل أعلاه مثالاً مقنعًا لكيفية قيام وكيل مستقل قائم على LLM بحل مهام العالم الحقيقي. يطلب المستخدم من النظام معلومات الرحلة، وبعد ذلك يقوم وكيل السفر بتقسيم المهمة إلى خطوات قابلة للتنفيذ. ثم يقوم الوكيل بتنفيذ الخطوات بشكل تسلسلي، حجز الرحلات الجوية، حجز الفنادق، معالجة المدفوعات، والمزيد. أثناء تنفيذ الخطوات، ما يميز هؤلاء الوكلاء عن تطبيقات البرامج التقليدية هو قدرة الوكلاء على إظهار قدرات اتخاذ القرار، ودمج المنطق في تنفيذ الخطوات. جنبا إلى جنب مع النمو الهائل في نوعية هذه وكلاء مستقلون، شهد الضغط على وظائف نماذج اللغات الكبيرة وأنظمة التشغيل زيادة، ومثال على ذلك هو أن تحديد أولويات وجدولة طلبات الوكلاء في نماذج اللغات الكبيرة المحدودة يشكل تحديًا كبيرًا. علاوة على ذلك، نظرًا لأن عملية إنشاء نماذج اللغة الكبيرة تصبح مهمة تستغرق وقتًا طويلاً عند التعامل مع سياقات طويلة، فمن الممكن للمجدول تعليق عملية الإنشاء الناتجة، مما يثير مشكلة ابتكار آلية لالتقاط نتيجة الجيل الحالي لنموذج اللغة . ونتيجة لذلك، يتم تمكين سلوك الإيقاف المؤقت/الاستئناف عندما لا ينهي نموذج اللغة الكبير عملية إنشاء الاستجابة للطلب الحالي. 

لمواجهة التحديات المذكورة أعلاه، يوفر نظام AIOS، وهو نظام تشغيل نموذجي لغوي كبير، تجميعات وعزلًا للوحدة النمطية لوظائف LLM ونظام التشغيل. يقترح إطار عمل AIOS تصميم نواة خاص بـ LLM في محاولة لتجنب التعارضات المحتملة التي تنشأ بين المهام المرتبطة وغير المرتبطة بنموذج اللغة الكبير. تقوم النواة المقترحة بفصل نظام التشغيل مثل الواجبات، وخاصة تلك التي تشرف على وكلاء LLM، ومجموعات أدوات التطوير، والموارد المقابلة لها. ونتيجة لهذا الفصل، تحاول نواة LLM تعزيز تنسيق وإدارة الأنشطة المتعلقة بـ LLM. 

AIOS: المنهجية والهندسة المعمارية

كما ترون، هناك ست آليات رئيسية تشارك في عمل إطار عمل AIOS. 

• وكيل جدولة: المهمة المسندة إلى برنامج جدولة الوكيل هي جدولة طلبات الوكيل وتحديد أولوياتها في محاولة لتحسين استخدام نموذج اللغة الكبير. 

• مدير السياق: المهمة الموكلة إلى مدير السياق هي دعم اللقطات مع استعادة حالة الجيل المتوسط ​​في نموذج اللغة الكبير، وإدارة نافذة السياق لنموذج اللغة الكبير. 

• مدير الذاكرة: المسؤولية الأساسية لمدير الذاكرة هي توفير ذاكرة قصيرة المدى لسجل التفاعل لكل وكيل. 

• إدارة التخزين: مدير التخزين مسؤول عن الاحتفاظ بسجلات تفاعل الوكلاء للتخزين طويل المدى لاسترجاعها في المستقبل. 

• مدير الأدوات: تقوم آلية إدارة الأدوات بإدارة استدعاء الوكلاء لأدوات واجهة برمجة التطبيقات الخارجية. 

• مدير الوصول: يقوم مدير الوصول بفرض سياسات الخصوصية والتحكم في الوصول بين الوكلاء. 

بالإضافة إلى الآليات المذكورة أعلاه، يتميز إطار عمل AIOS ببنية متعددة الطبقات، وينقسم إلى ثلاث طبقات متميزة: طبقة التطبيق، وطبقة النواة، وطبقة الأجهزة. تضمن بنية الطبقات التي ينفذها إطار عمل AIOS توزيع المسؤوليات بالتساوي عبر النظام، وتلخص الطبقات العليا تعقيدات الطبقات الموجودة تحتها، مما يسمح بالتفاعلات باستخدام وحدات أو واجهات محددة، وتعزيز النمطية، وتبسيط تفاعلات النظام بين طبقات. 

بدءًا من طبقة التطبيق، يتم استخدام هذه الطبقة لتطوير ونشر وكلاء التطبيقات مثل وكلاء الرياضيات أو السفر. في طبقة التطبيق، يوفر إطار عمل AIOS لمجموعة تطوير برامج AIOS (AIOS SDK) تجريدًا أعلى لاستدعاءات النظام مما يبسط عملية التطوير لمطوري الوكلاء. توفر مجموعة أدوات تطوير البرامج التي تقدمها AIOS مجموعة أدوات غنية لتسهيل تطوير تطبيقات الوكلاء عن طريق تجريد تعقيدات وظائف النظام ذات المستوى الأدنى، مما يسمح للمطورين بالتركيز على الوظائف والمنطق الأساسي لعملائهم، مما يؤدي إلى تطوير أكثر كفاءة عملية. 

من الآن فصاعدا، تنقسم طبقة النواة إلى مكونين: نواة LLM، ونواة نظام التشغيل. يخدم كل من نواة نظام التشغيل ونواة LLM المتطلبات الفريدة للعمليات الخاصة بـ LLM وغير LLM، مع التمييز الذي يسمح لـ LLM kernel بالتركيز على المهام المحددة لنموذج اللغة الكبيرة بما في ذلك جدولة الوكيل وإدارة السياق، والأنشطة الضرورية للتعامل مع الأنشطة. المتعلقة بنماذج اللغة الكبيرة. يركز إطار عمل AIOS بشكل أساسي على تحسين نواة نموذج اللغة الكبيرة دون تبديل بنية نواة نظام التشغيل الحالية بشكل كبير. يأتي نواة LLM مجهزة بالعديد من الوحدات الرئيسية بما في ذلك جدولة الوكيل ومدير الذاكرة ومدير السياق ومدير التخزين ومدير الوصول ومدير الأدوات وواجهة استدعاء نظام LLM. تم تصميم المكونات الموجودة داخل طبقة النواة في محاولة لتلبية احتياجات التنفيذ المتنوعة لتطبيقات الوكيل، مما يضمن التنفيذ والإدارة الفعالين ضمن إطار عمل AIOS. 

أخيرًا، لدينا طبقة الأجهزة التي تشتمل على المكونات المادية للنظام بما في ذلك وحدة معالجة الرسومات ووحدة المعالجة المركزية والأجهزة الطرفية والقرص والذاكرة. من الضروري أن نفهم أن نظام نواة LLM لا يمكنه التفاعل مع الأجهزة مباشرة، وتتفاعل هذه الاستدعاءات مع استدعاءات النظام لنظام التشغيل الذي يقوم بدوره بإدارة موارد الأجهزة. هذا التفاعل غير المباشر بين نظام LLM karnel وموارد الأجهزة يخلق طبقة من الأمان والتجريد، مما يسمح لـ LLM kernel بالاستفادة من قدرات موارد الأجهزة دون الحاجة إلى إدارة الأجهزة مباشرة، مما يسهل الحفاظ على سلامة وكفاءة النظام . 

تطبيق

كما ذكر أعلاه، هناك ست آليات رئيسية تشارك في عمل إطار عمل AIOS. تم تصميم برنامج جدولة الوكيل بطريقة تمكنه من إدارة طلبات الوكيل بطريقة فعالة، وله عدة خطوات تنفيذ تتعارض مع نموذج التنفيذ المتسلسل التقليدي الذي يقوم فيه الوكيل بمعالجة المهام بطريقة خطية بالخطوات من نفس النموذج تتم معالجة الوكيل أولاً قبل الانتقال إلى الوكيل التالي، مما يؤدي إلى زيادة أوقات الانتظار للمهام التي تظهر لاحقًا في تسلسل التنفيذ. يستخدم برنامج جدولة الوكيل إستراتيجيات مثل Round Robin وFirst In First Out وخوارزميات الجدولة الأخرى لتحسين العملية. 

تم تصميم مدير السياق بطريقة تجعله مسؤولاً عن إدارة السياق المقدم لنموذج اللغة الكبير، وعملية الإنشاء في ظل سياق معين. يشتمل مدير السياق على مكونين مهمين: لقطة السياق واستعادته، وإدارة نافذة السياق. تساعد لقطة السياق وآلية الاستعادة التي يوفرها إطار عمل AIOS في تخفيف المواقف التي يقوم فيها المجدول بتعليق طلبات الوكيل كما هو موضح في الشكل التالي. 

كما هو موضح في الشكل التالي، تقع على عاتق مدير الذاكرة مسؤولية إدارة الذاكرة قصيرة المدى خلال دورة حياة الوكيل، ويضمن تخزين البيانات والوصول إليها فقط عندما يكون الوكيل نشطًا، إما أثناء وقت التشغيل أو عندما يكون الوكيل في انتظاره للتنفيذ. 

ومن ناحية أخرى، يكون مدير التخزين مسؤولاً عن الحفاظ على البيانات على المدى الطويل، ويشرف على تخزين المعلومات التي يجب الاحتفاظ بها لفترة غير محددة من الزمن، بما يتجاوز عمر نشاط الوكيل الفردي. يحقق إطار عمل AISO تخزينًا دائمًا باستخدام مجموعة متنوعة من الوسائط الدائمة بما في ذلك الحلول المستندة إلى السحابة وقواعد البيانات والملفات المحلية، مما يضمن توفر البيانات وسلامتها. علاوة على ذلك، في إطار عمل AISO، فإن مدير الأدوات هو الذي يدير مجموعة متنوعة من أدوات واجهة برمجة التطبيقات (API) التي تعمل على تحسين وظائف نماذج اللغة الكبيرة، ويلخص الجدول التالي كيفية قيام مدير الأدوات بدمج الأدوات شائعة الاستخدام من الموارد المختلفة، وتصنيفها إلى فئات مختلفة. 

يقوم مدير الوصول بتنظيم عمليات التحكم في الوصول ضمن نطاق متميز عملاء عن طريق إدارة مجموعة امتيازات مخصصة لكل وكيل، ويمنع الوكيل من الوصول إلى موارده إذا تم استبعاده من مجموعة امتيازات الوكيل. بالإضافة إلى ذلك، يكون مدير الوصول مسؤولاً أيضًا عن تجميع سجلات التدقيق والاحتفاظ بها مما يعزز شفافية النظام بشكل أكبر. 

AIOS: التجارب والنتائج

يسترشد تقييم إطار عمل AIOS بسؤالين بحثيين: أولاً، كيف يتم أداء جدولة AIOS في تحسين انتظار الرصيد ووقت الاستجابة، وثانيًا، ما إذا كانت استجابة LLM لطلبات الوكيل متسقة بعد تعليق الوكيل؟

للإجابة على أسئلة الاتساق، يقوم المطورون بتشغيل كل من الوكلاء الثلاثة بشكل فردي، ثم يقومون بعد ذلك بتنفيذ هذه الوكلاء بالتوازي، ومحاولة التقاط مخرجاتهم خلال كل مرحلة. كما هو موضح في الجدول التالي، تحقق درجات BERT وBLEU قيمة 1.0، مما يشير إلى محاذاة مثالية بين المخرجات التي تم إنشاؤها في تكوينات الوكيل الفردي والمتعدد الوكيل. 

للإجابة على أسئلة الكفاءة، يقوم المطورون بإجراء تحليل مقارن بين إطار عمل AIOS الذي يستخدم جدولة FIFO أو First In First Out، والنهج غير المجدول، حيث يعمل الوكلاء بشكل متزامن. في الإعداد غير المجدول، يتم تنفيذ الوكلاء بترتيب تسلسلي محدد مسبقًا: وكيل الرياضيات، ووكيل السرد، ووكيل التسجيل. لتقييم الكفاءة الزمنية، يستخدم إطار عمل AIOS مقياسين: وقت الانتظار، ووقت الاستجابة، وبما أن الوكلاء يرسلون طلبات متعددة إلى نموذج اللغة الكبير، يتم حساب وقت الانتظار ووقت الاستجابة للوكلاء الفرديين كمتوسط وقت الانتظار ووقت الاستجابة لجميع الطلبات. كما هو موضح في الجدول التالي، يعرض النهج غير المجدول أداءً مرضيًا للوكلاء في وقت سابق من التسلسل، ولكنه يعاني من فترات انتظار طويلة وأوقات استجابة للوكلاء لاحقًا في التسلسل. ومن ناحية أخرى، فإن نهج الجدولة الذي يطبقه إطار عمل AIOS ينظم أوقات الانتظار والاستجابة بشكل فعال. 

افكار اخيرة

تحدثنا في هذه المقالة عن AIOS، وهو نظام تشغيل وكيل LLM تم تصميمه في محاولة لتضمين نماذج لغوية كبيرة في نظام التشغيل باعتباره عقل نظام التشغيل، مما يتيح نظام تشغيل له روح. لكي نكون أكثر تحديدًا، تم تصميم إطار عمل AIOS بهدف تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتوفير خدمة الأدوات للوكلاء، والحفاظ على التحكم في الوصول للوكلاء، وتمكين التنفيذ المتزامن للوكلاء. توضح بنية AISO إمكانية تسهيل تطوير ونشر وكلاء مستقلين يعتمدون على نموذج لغة كبير، مما يؤدي إلى نظام بيئي أكثر فعالية وتماسكًا وكفاءة.