AIOS: نظام التشغيل للوكلاء LLM

على مدار ستة عقود الماضية، تطور نظام التشغيل بشكل متزايد، متقدمًا من الأنظمة الأساسية إلى أنظمة التشغيل المعقدة والتفاعلية التي تعمل على أجهزتنا اليوم. في البداية، عمل نظام التشغيل كجسر بين الوظائف الثنائية لأجهزة الكمبيوتر، مثل تحكم البوابات، والمهام على مستوى المستخدم. على مدار السنوات، ومع ذلك، تطور نظام التشغيل من نظام معالجة الوظائف البسيطة إلى تقنيات إدارة العمليات الأكثر تعقيدًا، بما في ذلك التكامل والتقسيم الزمني. هذه التقدمات تمكنت أنظمة التشغيل الحديثة من إدارة مجموعة واسعة من المهام المعقدة. أدخال واجهات المستخدم الرسومية (GUIs) مثل Windows و MacOS جعلت أنظمة التشغيل الحديثة أكثر سهولة في الاستخدام والتفاعل، بالإضافة إلى توسيع نظام التشغيل مع مكتبات وقت التشغيل ومجموعة شاملة من أدوات المطورين.

الابتكارات الحديثة تشمل دمج وتحويل نماذج اللغة الكبيرة (LLMs)، والتي غيرت صناعات متعددة من خلال فتح إمكانيات جديدة. في الآونة الأخيرة، أظهرت الوكلاء الذكية القائمة على LLMs قدرات ملحوظة، حققوا أداءً شبيهًا بالبشر في مجموعة واسعة من المهام. ومع ذلك، لا يزال هؤلاء الوكلاء في مراحل التطوير المبكرة، وتواجه التقنيات الحالية عدة تحديات تؤثر على كفاءتهم وفعاليتها. تشمل القضايا الشائعة جدولة الطلبات غير المثلى للوكيل على نموذج اللغة الكبير، تعقيدات دمج الوكلاء مع التخصصات المختلفة، والحفاظ على السياق أثناء التفاعلات بين LLM والوكيل. يؤدي التطوير السريع والتعقيد المتزايد للوكلاء القائمين على LLMs غالبًا إلى انسدادات واستخدام موارد غير مثالي.

لمواجهة هذه التحديات، سيتم مناقشة AIOS، نظام تشغيل لوكيل LLM مصمم لدمج نماذج اللغة الكبيرة كـ “دماغ” لنظام التشغيل، مما يمنحه “روحًا” فعلاً. على وجه التحديد، يهدف إطار AIOS إلى تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتقديم خدمات أدوات للوكلاء، والحفاظ على سيطرة الوصول، وتمكين تنفيذ الوكلاء المتزامن. سنغوص深ًا في إطار AIOS، مستكشفين آليته وطريقة عمله وهندسته المعمارية، ومقارنته بالإطارات الحالية.

بعد تحقيق نجاح ملحوظ في نماذج اللغة الكبيرة، يركز تركيز صناعة الذكاء الاصطناعي والتعلم الآلي الآن على تطوير وكلاء ذكاء اصطناعي مستقلين يمكنهم العمل بشكل مستقل، اتخاذ القرارات بأنفسهم، وتنفيذ المهام بتدخل بشري ضئيل أو بدون تدخل. تم تصميم هؤلاء الوكلاء الذكية القائمة على الذكاء الاصطناعي لفهم تعليمات الإنسان، ومعالجة المعلومات، واتخاذ القرارات، وتنفيذ الإجراءات المناسبة لتحقيق حالة مستقلة، مع جلب ظهور وتطوير نماذج اللغة الكبيرة إمكانيات جديدة لتطوير هؤلاء الوكلاء المستقلين. أظهرت الإطارات الحالية لنموذج اللغة الكبير، بما في ذلك DALL-E و GPT وغيرها، قدرات ملحوظة لفهم تعليمات الإنسان، والتفكير والقدرة على حل المشكلات، والتفاعل مع مستخدمي الإنسان والبيئات الخارجية. بناءً على هذه النماذج القوية والقادرة للغة الكبيرة، يمتلك وكلاء LLM القدرة القوية على إكمال المهام في بيئات متنوعة، بدءًا من المساعدين الافتراضيين إلى أنظمة أكثر تعقيدًا وتطورًا تتضمن إنشاء حلول للمشكلات والتفكير والتنظيم والتنفيذ.

الصور أعلاه تعطي مثالًا مقنعًا عن كيف يمكن لوكيل مستقل قائم على LLM حل المهام في العالم الحقيقي. يطلب المستخدم من النظام معلومات عن الرحلة، وبعد ذلك يقوم وكيل السفر بتقسيم المهمة إلى خطوات قابلة للتنفيذ. ثم يقوم الوكيل بتنفيذ الخطوات بشكل متسلسل، حجز الرحلات، وحدد الفنادق، ومعالجة المدفوعات، وغيرها. أثناء تنفيذ الخطوات، ما يميز هؤلاء الوكلاء عن التطبيقات البرمجية التقليدية هو قدرتهم على إظهار القدرة على اتخاذ القرارات، ودمج التفكير في تنفيذ الخطوات. مع النمو الأسي في جودة هذه الوكلاء المستقلين، شهدت العبء على وظائف نماذج اللغة الكبيرة ونظام التشغيل زيادة، ومثال على ذلك أن الأولوية وجدولة طلبات الوكيل في نماذج اللغة الكبيرة المحدودة تشكل تحديًا كبيرًا. بالإضافة إلى ذلك،由于 عملية توليد نماذج اللغة الكبيرة تصبح مهمة استهلاكية للزمن عند التعامل مع السياقات الطويلة، فمن الممكن أن يعلق الجدول الناتج، مما يثير مشكلة اختراع آلية لتصوير النتيجة الحالية لتوليد نموذج اللغة.

لمواجهة التحديات المذكورة أعلاه، يوفر AIOS، نظام تشغيل لنموذج اللغة الكبيرة، التجميع والتعزل الوظيفي لنموذج اللغة الكبيرة ونظام التشغيل. يهدف إطار AIOS إلى تقديم تصميم نووي محدد لنموذج اللغة الكبيرة في محاولة لتجنب النزاعات المحتملة بين المهام المرتبطة وغير المرتبطة بنموذج اللغة الكبيرة. يقوم النواة المقترحة بفصل مهام نظام التشغيل، خاصة تلك التي تشرف على وكلاء نموذج اللغة الكبيرة، وأدوات التطوير، والموارد الخاصة بها. ونتيجة لذلك، يحاول نواة نموذج اللغة الكبيرة تحسين التنسيق وإدارة الأنشطة المرتبطة بنماذج اللغة الكبيرة.

AIOS : منهجية وهندسة

كما تلاحظ، هناك ست آليات رئيسية متورطة في عمل إطار AIOS.

• مجدول الوكيل: مهمة جدول الوكيل هي جدولة وتحديد الأولوية لطلبات الوكيل في محاولة لتحسين استخدام نموذج اللغة الكبيرة.

• مدير السياق: مهمة مدير السياق هي دعم الصور والاستعادة الحالة النهائية لتوليد نموذج اللغة الكبيرة، وإدارة نافذة السياق لنموذج اللغة الكبيرة.

• مدير الذاكرة: المسؤولية الرئيسية لمدير الذاكرة هي توفير الذاكرة القصيرة الأمد لسجل التفاعل لكل وكيل.

• مدير التخزين: مدير التخزين مسؤول عن الحفاظ على سجلات التفاعل لوكلاء إلى تخزين طويل الأمد للحصول عليها في المستقبل.

• مدير الأدوات: آلية مدير الأدوات تدير الاتصال بالوكلاء لأدوات API الخارجية.

• مدير الوصول: مدير الوصول يفرض سياسات التحكم في الوصول والخصوصية بين الوكلاء.

بالإضافة إلى الآليات المذكورة أعلاه، يحتوي إطار AIOS على هيكل طبقي، ويتكون من ثلاث طبقات متميزة: طبقة التطبيق، وطبقة النواة، وطبقة الأجهزة. يضمن هيكل الطبقات الذي يطبقه إطار AIOS توزيع المسؤوليات بشكل متساوٍ عبر النظام، وطبقات أعلى تعمل على تجريد تعقيدات الطبقات أدناه، مما يسمح بالتفاعلات باستخدام وحدات أو واجهات محددة، مما يعزز قابلية التوسيع، وتبسيط التفاعلات بين الطبقات.

بدءًا من طبقة التطبيق، يتم استخدام هذه الطبقة لتطوير وتحميل وكلاء تطبيقات مثل وكلاء الرياضيات أو السفر. في طبقة التطبيق، يوفر إطار AIOS حزمة تطوير برمجيات AIOS (AIOS SDK) مع تجريد أعلى للمكالمات النظام التي تسهل عملية التطوير للوكلاء. توفر حزمة التطوير البرمجي المقدمة من AIOS أدوات غنية لتسهيل تطوير تطبيقات الوكيل من خلال تجريد تعقيدات الوظائف النظامية الأدنى، مما يسمح للمطورين بالتركيز على الوظائف والمنطق الأساسي لوكلائهم، مما يؤدي إلى عملية تطوير أكثر كفاءة.

متحركين إلى الأمام، يتم تقسيم طبقة النواة إلى مكونين: نواة نموذج اللغة الكبيرة، ونواة نظام التشغيل. تخدم نواة نظام التشغيل ونواة نموذج اللغة الكبيرة الاحتياجات الفريدة للعمليات المرتبطة وغیر المرتبطة بنموذج اللغة الكبيرة، مع التمييز الذي يسمح لنواة نموذج اللغة الكبيرة بالتركيز على مهام نموذج اللغة الكبيرة، بما في ذلك جدولة الوكيل وإدارة السياق، الأنشطة التي هي ضرورية لمعالجة الأنشطة المرتبطة بنماذج اللغة الكبيرة. يركز إطار AIOS بشكل رئيسي على تعزيز نواة نموذج اللغة الكبيرة دون تغيير هيكل نواة نظام التشغيل الحالية بشكل كبير. تأتي نواة نموذج اللغة الكبيرة مع عدة وحدات رئيسية، بما في ذلك جدول الوكيل، ومدير الذاكرة، ومدير السياق، ومدير التخزين، ومدير الوصول، ومدير الأدوات، وواجهة مكالمة نظام نموذج اللغة الكبيرة. يتم تصميم المكونات داخل طبقة النواة في محاولة لمعالجة احتياجات التنفيذ المتنوعة لتطبيقات الوكيل، مما يضمن التنفيذ الفعال والإدارة داخل إطار AIOS.

أخيرًا، لدينا طبقة الأجهزة التي تتكون من المكونات المادية للنظام، بما في ذلك وحدة المعالجة المركزية، ووحدة المعالجة الرسومية، والأجهزة المحيطية، والقرص، والذاكرة. من المهم أن نفهم أن نظام نواة نموذج اللغة الكبيرة لا يمكنه التفاعل مباشرة مع الأجهزة، وهذه المكالمات تتفاعل مع مكالمات نظام التشغيل الذي يدير الموارد الأجهزة. يخلق هذا التفاعل غير المباشر بين نظام نواة نموذج اللغة الكبيرة والموارد الأجهزة طبقة من الأمان والتجريد، مما يسمح لنواة نموذج اللغة الكبيرة بالاستفادة من قدرات الموارد الأجهزة دون الحاجة إلى إدارة الأجهزة بشكل مباشر، مما يسهل صيانة سلامة وكفاءة النظام.

التطبيق

كما ذكرنا أعلاه، هناك ست آليات رئيسية متورطة في عمل إطار AIOS. يتم تصميم جدول الوكيل بطريقة تمكنه من إدارة طلبات الوكيل بفعالية، ويتم تطبيق استراتيجيات مثل Round Robin و First In First Out وغيرها من خوارزميات الجدولة لتحسين العملية.

تم تصميم مدير السياق بطريقة تمكنه من إدارة السياق المقدم لنموذج اللغة الكبيرة، وعملية التوليد بالنظر إلى السياق المحدد. يتضمن مدير السياق مكونين حاسمين: صورة السياق والاستعادة، وإدارة نافذة السياق. آلية صورة السياق والاستعادة المقدمة من إطار AIOS تساعد في التغلب على الحالات التي يعلق فيها الجدول طلبات الوكيل كما هو موضح في الشكل التالي.

كما هو موضح في الشكل التالي، من مسؤولية مدير الذاكرة إدارة الذاكرة القصيرة الأمد داخل دورة حياة الوكيل، وضمان تخزين البيانات وتوفرها فقط عندما يكون الوكيل نشطًا، إما أثناء التنفيذ أو أثناء انتظار التنفيذ.

من ناحية أخرى، يكون مدير التخزين مسؤولًا عن الحفاظ على البيانات على المدى الطويل، ويشرف على تخزين المعلومات التي تحتاج إلى الاحتفاظ بها لفترة زمنية غير محددة، بعد فترة نشاط الوكيل الفردية. يحقق إطار AIOS التخزين الدائم باستخدام مجموعة من الوسائط الثابتة، بما في ذلك الحلول السحابية، وقواعد البيانات، والملفات المحلية، مما يضمن توافر البيانات وسلامتها. بالإضافة إلى ذلك، في إطار AIOS، يكون مدير الأدوات مسؤولًا عن إدارة مجموعة متنوعة من أدوات API التي تعزز وظائف نموذج اللغة الكبيرة، والجدول التالي يلخص كيف يدمج مدير الأدوات أدوات شائعة من مصادر مختلفة، ويفصلها إلى فئات مختلفة.

يحكم مدير الوصول عمليات التحكم في الوصول داخل وكلاء مختلفين من خلال إدارة مجموعة امتيازات مخصصة لكل وكيل، وينفي الوصول إلى الموارد إذا كانت محظورة من مجموعة امتيازات الوكيل. بالإضافة إلى ذلك، يكون مدير الوصول أيضًا مسؤولًا عن تجميع سجلات التدقيق التي تعزز شفافية النظام.

AIOS : التجارب والنتائج

تتم توجيه تقييم إطار AIOS بواسطة سؤالين بحثيين: أولًا، كيف يكون أداء جدولة AIOS في تحسين التوازن بين وقت الانتظار ووقت الإنجاز، وثانيًا، هل استجابة نموذج اللغة الكبيرة لطلبات الوكيل متسقة بعد تعليق الوكيل؟

لإجابة على أسئلة الاتساق، يقوم المطورون بتشغيل كل من الوكلاء الثلاثة بشكل فردي، ثم ينفذون هذه الوكلاء بشكل متوازي، ويتحاولون التقاط مخرجاتهم خلال كل مرحلة. كما هو موضح في الجدول التالي، يصل إلى قيمة 1.0، مما يشير إلى انسجام مثالي بين المخرجات التي تم توليدها في تكوين الوكيل الفردي وتكوين الوكيل المتعدد.

لإجابة على أسئلة الكفاءة، يقوم المطورون بتحليل مقارن بين إطار AIOS الذي يستخدم جدولة FIFO أو First In First Out، ونهج غير مجدول، حيث ي चलत الوكلاء بشكل متوازي. في الإعداد غير المجدول، يتم تنفيذ الوكلاء في ترتيب مسبق: وكيل الرياضيات، ووكيل السرد، ووكيل الاسترجاع. لتقييم الكفاءة الزمنية، يستخدم إطار AIOS两个 مقياس: وقت الانتظار، ووقت الإنجاز، و由于 أن الوكلاء يرسلون عدة طلبات إلى نموذج اللغة الكبيرة، يتم حساب وقت الانتظار ووقت الإنجاز للوكيل الفردي كمتوسط وقت الانتظار ووقت الإنجاز لجميع الطلبات.

أفكار ختامية

في هذه المقالة، تحدثنا عن AIOS، نظام تشغيل لوكيل LLM مصمم لدمج نماذج اللغة الكبيرة في نظام التشغيل كـ “دماغ” لنظام التشغيل، مما يمنحه “روحًا” فعلاً. بشكل أكثر تحديدًا، يهدف إطار AIOS إلى تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتقديم خدمات أدوات للوكلاء، والحفاظ على سيطرة الوصول، وتمكين تنفيذ الوكلاء المتزامن. يظهر هيكل AIOS إمكاناته في تسهيل تطوير وتنفيذ وكلاء مستقلين قائمين على نموذج اللغة الكبيرة، مما يؤدي إلى نظام أكثر فعالية وتماسكًا وكفاءة في النظام AIOS-الوكيل.