AIOS: نظام تشغيل للوكلاء الذكاء الاصطناعي

على مدار ستة عقود، تطور نظام التشغيل بشكل متزايد، متقدمًا من الأنظمة الأساسية إلى الأنظمة التفاعلية المعقدة التي تعمل على أجهزتنا اليوم. في البداية، كان نظام التشغيل يعمل كجسر بين الوظائف الثنائية لأجهزة الكمبيوتر، مثل تحكم البوابات، والمهام على مستوى المستخدم. ومع مرور السنوات، ومع ذلك، فقد تطور من أنظمة معالجة الوظائف البسيطة إلى تقنيات إدارة العمليات الأكثر تعقيدًا، بما في ذلك إدارة المتعددة و时间 المشترك. وقد مكنت هذه التقدمات من أنظمة التشغيل الحديثة من إدارة مجموعة واسعة من المهام المعقدة. أدخال واجهات المستخدم الرسومية (GUIs) مثل Windows و MacOS جعلت أنظمة التشغيل الحديثة أكثر إ thânًا وتفاعليًا، كما وسعت نظام التشغيل مع مكتبات وقت التشغيل ومجموعة شاملة من أدوات المطورين.

التطورات الحديثة تشمل دمج وتحديث نماذج اللغة الكبيرة (LLMs)، التي قامت بثورة في مختلف الصناعات من خلال فتح إمكانيات جديدة. في الآونة الأخيرة، أظهرت الوكلاء الذكاء الاصطناعي القائمين على LLMs قدرات ملحوظة، وحقق أداء يشبه الإنسان في مجموعة واسعة من المهام. ومع ذلك، لا تزال هذه الوكلاء في مرحلة التطوير المبكرة، وتواجه التقنيات الحالية عدة تحديات تؤثر على كفاءتها وفعاليتها. تشمل القضايا الشائعة جداول غير مثالية لطلبات الوكيل على نموذج اللغة الكبير، و複雑ات في دمج الوكلاء مع التخصصات المختلفة، والحفاظ على السياق خلال التفاعلات بين LLM والوكيل. يمكن أن يؤدي التطوير السريع والتعقيد المتزايد للوكلاء القائمين على LLMs إلى حدوث انسدادات واستخدام موارد غير فعال.

لمواجهة هذه التحديات، سيتم مناقشة AIOS، نظام تشغيل لوكيل LLM مصمم لدمج نماذج اللغة الكبيرة كـ “دماغ” لنظام التشغيل، مما يمنحه “روحًا” فعلا. على وجه التحديد، يهدف إطار AIOS إلى تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتوفير خدمات أدوات للوكلاء، والحفاظ على سيطرة الوصول، وتمكين تنفيذ متزامن للوكلاء. سنغوص深ًا في إطار AIOS، مستكشفين آليته و منهجيته وهيكله، ومقارنته بالإطارات الحديثة. دعونا نغوص.

بعد تحقيق نجاح ملحوظ في نماذج اللغة الكبيرة، يركز صناعة الذكاء الاصطناعي والتعلم الآلي الآن على تطوير وكلاء ذكاء اصطناعي مستقلين يمكنهم العمل بشكل مستقل، واتخاذ القرارات بنفسهم، وتنفيذ المهام بحد أدنى من التدخل البشري. تم تصميم هذه الوكلاء الذكاء الاصطناعي ل理解 الإرشادات البشرية، ومعالجة المعلومات، واتخاذ القرارات، وتنفيذ الإجراءات المناسبة لتحقيق حالة مستقلة، مع أن نظام اللغة الكبيرة يفتح إمكانيات جديدة لتطوير هذه الوكلاء المستقلين. أظهرت الإطارات الحالية لنموذج اللغة الكبيرة، بما في ذلك DALL-E و GPT، قدرات ملحوظة في فهم الإرشادات البشرية، والتفكير والتحليل، والتفاعل مع المستخدمين البشر والبيئات الخارجية. بناءً على هذه النماذج القوية والقادرة، تمتلك وكلاء LLMs القدرة القوية على إكمال المهام في بيئات متنوعة، من المساعدين الافتراضيين إلى أنظمة أكثر تعقيدًا وتعقيدًا.

يوفر الشكل أعلاه مثالًا مقنعًا لطريقة عمل وكيل مستقل قائم على LLMs لحل المهام الواقعية. يطلب المستخدم من النظام معلومات الرحلة، ثم يقوم الوكيل بتقسيم المهمة إلى خطوات قابلة للتنفيذ. ثم ينفذ الوكيل الخطوات بشكل متسلسل، حجز الرحلات، وحدد الفنادق، ومعالجة المدفوعات، وغيرها. أثناء تنفيذ الخطوات، ما يميز هذه الوكلاء عن التطبيقات البرمجية التقليدية هو القدرة على إظهار القدرات على اتخاذ القرارات، ودمج التفكير في تنفيذ الخطوات. بالإضافة إلى النمو الأسي في جودة هذه الوكلاء المستقلين، فإن الضغط على وظائف نماذج اللغة الكبيرة وأنظمة التشغيل قد شهد زيادة، ومثال على ذلك أن الأولوية وجدولة طلبات الوكيل في نماذج اللغة الكبيرة المحدودة تشكل تحديًا كبيرًا. بالإضافة إلى ذلك، نظرًا لأن عملية توليد نماذج اللغة الكبيرة تصبح عملية استهلاك زمني عند التعامل مع السياقات الطويلة، فمن الممكن أن يعلق المجدول الناتج، مما يثير مشكلة وضع آلية لالتقاط نتائج التوليد الحالية لنموذج اللغة.

لمواجهة التحديات المذكورة أعلاه، يوفر AIOS، نظام تشغيل لنموذج اللغة الكبيرة، تجميعًا وفرزًا لنموذج اللغة الكبيرة ووظائف نظام التشغيل. يهدف إطار AIOS إلى تصميم نووي محدد لنموذج اللغة الكبيرة في محاولة لتجنب النزاعات المحتملة بين المهام المرتبطة وغير المرتبطة بنموذج اللغة الكبيرة. يفرز النواة المقترحة مهام نظام التشغيل، خاصة تلك التي تُعنى بالوكلاء، وأدوات التطوير، والموارد الخاصة بهم. ونتيجة لذلك، يحاول نواة نموذج اللغة الكبيرة تحسين التنسيق وإدارة الأنشطة المرتبطة بنموذج اللغة الكبيرة.

AIOS : منهجية وهيكل

كما يمكنك ملاحظة ذلك، هناك ست آليات رئيسية متورطة في عمل إطار AIOS.

• مجدول الوكيل: مهمة مجدول الوكيل هي جدولة وتحديد الأولوية لطلبات الوكيل في محاولة لتحسين استخدام نموذج اللغة الكبيرة.

• مدير السياق: مهمة مدير السياق هي دعم اللقطة مع استعادة حالة التوليد الوسيط في نموذج اللغة الكبيرة، وإدارة نافذة السياق لنموذج اللغة الكبيرة.

• مدير الذاكرة: المسؤولية الرئيسية لمدير الذاكرة هي توفير ذاكرة قصيرة الأمد لسجل التفاعل لكل وكيل.

• مدير التخزين: مسؤولية مدير التخزين هي الحفاظ على سجلات التفاعل للوكلاء في التخزين طويل الأمد من أجل الاسترجاع في المستقبل.

• مدير الأدوات: آلية مدير الأدوات تدير استدعاء الوكلاء لأدوات API الخارجية.

• مدير الوصول: يطبق مدير الوصول سياسات التحكم في الوصول والخصوصية بين الوكلاء.

بالإضافة إلى الآليات المذكورة أعلاه، يحتوي إطار AIOS على هيكل طبقي، ويتكون من ثلاث طبقات متميزة: طبقة التطبيق، وطبقة النواة، وطبقة الأجهزة. يضمن الهيكل الطبقي الذي يطبقه إطار AIOS توزيع المسؤوليات بشكل متساوٍ عبر النظام، وتجريد الطبقات العليا التعقيدات في الطبقات أدناه، مما يسمح بالتفاعلات باستخدام وحدات أو واجهات محددة، ويعزز قابلية التوسيع، ويعمل على تبسيط التفاعلات بين الطبقات.

بدءًا من طبقة التطبيق، يتم استخدام هذه الطبقة لتطوير وتنفيذ وكلاء تطبيقات مثل وكلاء الرياضيات أو السفر. في طبقة التطبيق، يوفر إطار AIOS حزمة تطوير برمجيات AIOS (AIOS SDK) مع تجريد أعلى للمكالمات النظام التي تسهل عملية التطوير للوكلاء. توفر حزمة التطوير التي يقدمها AIOS أدوات غنية لتسهيل تطوير تطبيقات الوكيل من خلال تجريد تعقيدات الوظائف النظامية منخفضة المستوى، مما يسمح للمطورين بالتركيز على الوظائف والمنطق الأساسي لوكلائهم، مما يؤدي إلى عملية تطوير أكثر كفاءة.

متحركًا إلى الأمام، يتم تقسيم طبقة النواة إلى مكونين: نواة نموذج اللغة الكبيرة، ونواة نظام التشغيل. تخدم كل من نواة نظام التشغيل ونواة نموذج اللغة الكبيرة الاحتياجات الفريدة للعمليات المرتبطة بنموذج اللغة الكبيرة وغير المرتبطة بها، مع تمييز يسمح لنواة نموذج اللغة الكبيرة بالتركيز على مهام نموذج اللغة الكبيرة المحددة، بما في ذلك جدولة الوكيل وإدارة السياق، وأنشطة أساسية لتعامل مع أنشطة متعلقة بنموذج اللغة الكبيرة. يركز إطار AIOS بشكل رئيسي على تعزيز نواة نموذج اللغة الكبيرة دون تغيير هيكل نواة نظام التشغيل الحالي بشكل كبير. تأتي نواة نموذج اللغة الكبيرة مع عدة وحدات رئيسية، بما في ذلك مجدول الوكيل، ومدير الذاكرة، ومدير السياق، ومدير التخزين، ومدير الوصول، ومدير الأدوات، وواجهة مكالمة نظام نموذج اللغة الكبيرة. يتم تصميم المكونات داخل طبقة النواة في محاولة للوفاء باحتياجات التنفيذ المتنوعة لتطبيقات الوكيل، مما يضمن التنفيذ الفعال والإدارة داخل إطار AIOS.

أخيرًا، لدينا طبقة الأجهزة التي تتكون من المكونات المادية للنظام، بما في ذلك وحدة المعالجة المركزية، ووحدة المعالجة الرسومية، والأجهزة المحيطية، والقرص، والذاكرة. من المهم أن نفهم أن نظام نواة نموذج اللغة الكبيرة لا يمكنه التفاعل مباشرة مع الأجهزة، وهذه المكالمات تتفاعل مع مكالمات نظام التشغيل التي تدير الموارد الأجهزة بدورها. يخلق هذا التفاعل غير المباشر بين نظام نواة نموذج اللغة الكبيرة والموارد الأجهزة طبقة من الأمان والتجريد، مما يسمح لنواة نموذج اللغة الكبيرة بالاستفادة من قدرات الموارد الأجهزة دون الحاجة إلى إدارة الأجهزة مباشرة، مما يسهل صيانة سلامة وكفاءة النظام.

التطبيق

كما ذكرنا أعلاه، هناك ست آليات رئيسية متورطة في عمل إطار AIOS. يتم تصميم مجدول الوكيل بطريقة تمكنه من إدارة طلبات الوكيل بفعالية، وله عدة خطوات تنفيذية على عكس نمط التنفيذ التسلسلي التقليدي الذي يعالج الوكيل المهام بشكل خطي مع معالجة خطوات الوكيل نفسه أولاً قبل الانتقال إلى الوكيل التالي، مما يؤدي إلى زيادة أوقات الانتظار للمهام التي تظهر لاحقًا في تسلسل التنفيذ. يستخدم مجدول الوكيل استراتيجيات مثل Round Robin و First In First Out و خوارزميات جدولة أخرى لتحسين العملية.

تم تصميم مدير السياق بطريقة تمكنه من إدارة السياق المقدم لنموذج اللغة الكبيرة، وعملية التوليد المعطاة السياق المحدد. يتضمن مدير السياق مكونين حاسمين: لقطة السياق واستعادتها، وإدارة نافذة السياق. يساعد آلية لقطة السياق واستعادتها المقدمة من إطار AIOS في التغلب على الحالات التي يعلق فيها المجدول طلبات الوكيل كما هو موضح في الشكل التالي.

كما هو موضح في الشكل التالي، من مسؤولية مدير الذاكرة إدارة الذاكرة القصيرة الأمد خلال دورة حياة الوكيل، وضمان أن البيانات مخزنة ومتاحة فقط عندما يكون الوكيل نشطًا، سواء أثناء وقت التشغيل أو أثناء انتظار التنفيذ.

من ناحية أخرى، يتحمل مدير التخزين مسؤولية الحفاظ على البيانات على المدى الطويل، ويشرف على تخزين المعلومات التي تحتاج إلى الاحتفاظ بها لفترة زمنية غير محددة، بعد فترة نشاط الوكيل الفردي. يحقق إطار AIOS التخزين الدائم باستخدام مجموعة متنوعة من الوسائط القابلة للتخزين، بما في ذلك الحلول السحابية، وقواعد البيانات، والملفات المحلية، مما يضمن توافر البيانات وسلامتها. بالإضافة إلى ذلك، في إطار AIOS، يدير مدير الأدوات مجموعة متنوعة من أدوات API التي تعزز وظيفة نماذج اللغة الكبيرة، ويتم تلخيص كيفية دمج مدير الأدوات لأدوات شائعة من مصادر مختلفة وتصنيفها في فئات مختلفة في الجدول التالي.

يُنظم مدير الوصول عمليات التحكم في الوصول داخل وكلاء متميزين من خلال إدارة مجموعة امتيازات مخصصة لكل وكيل، وينفي الوصول إلى الموارد إذا كان الوكيل مستثنى من مجموعة الامتيازات. بالإضافة إلى ذلك، يتحمل مدير الوصول أيضًا مسؤولية تجميع وتحديث سجلات التدقيق التي تعزز شفافية النظام.

AIOS : التجارب والنتائج

تتم إvaluation إطار AIOS بواسطة سؤالين بحثيين: أولًا، كيف تكون أداء جدولة AIOS في تحسين توازن وقت الانتظار ووقت الإنهاء، وثانيًا، هل تكون استجابة نموذج اللغة الكبيرة لطلبات الوكيل متسقة بعد تعليق الوكيل؟

لإجابة على أسئلة الاتساق، يقوم المطورون بتشغيل كل من ثلاثة وكلاء بشكل فردي، ثم ينفذون هذه الوكلاء بشكل متوازي، ويتحاولون التقاط مخرجاتهم خلال كل مرحلة. كما هو موضح في الجدول التالي، يصل نمط BERT و BLEU إلى قيمة 1.0، مما يشير إلى انسجام مثالي بين المخرجات التي تم إنشاؤها في تكوين الوكيل الفردي وتكوين الوكيل المتعدد.

لإجابة على أسئلة الكفاءة، يقوم المطورون بدراسة مقارنة بين إطار AIOS الذي يستخدم جدولة FIFO أو First In First Out، ونهج غير مجدول، حيث يتم تشغيل الوكلاء بشكل متوازي. في الإعداد غير المجدول، يتم تنفيذ الوكلاء في ترتيب مسبق: وكيل الرياضيات، ووكيل السرد، ووكيل الاسترجاع. لتقييم الكفاءة الزمنية، يستخدم إطار AIOS两个 مقياس: وقت الانتظار، ووقت الإنهاء، و由于 أن الوكلاء يرسلون عدة طلبات إلى نموذج اللغة الكبيرة، يتم حساب وقت الانتظار ووقت الإنهاء للوكيل الفردي كمتوسط وقت الانتظار ووقت الإنهاء لجميع الطلبات. كما هو موضح في الجدول التالي، يعرض النهج غير المجدول أداءً مرضياً للوكلاء في البداية، لكنه يعاني من أوقات انتظار وإنهاء مطولة للوكلاء في نهاية التسلسل. من ناحية أخرى، يتحكم النهج المجدول الذي يطبقه إطار AIOS في كل من أوقات الانتظار ووقت الإنهاء بشكل فعال.

أفكار ختامية

في هذه المقالة، ناقشنا AIOS، نظام تشغيل لوكيل LLM مصمم لتضمين نماذج اللغة الكبيرة في نظام التشغيل كـ “دماغ” لنظام التشغيل، مما يمنحه “روحًا” فعلا. بشكل أكثر تحديدًا، يهدف إطار AIOS إلى تسهيل تبديل السياق عبر الوكلاء، وتحسين تخصيص الموارد، وتوفير خدمات أدوات للوكلاء، والحفاظ على سيطرة الوصول، وتمكين تنفيذ متزامن للوكلاء. يُظهر هيكل AIOS إمكانية تسهيل تطوير وتنفيذ وكلاء مستقلين قائمين على نموذج اللغة الكبيرة، مما يؤدي إلى نظام AIOS-وكيل أكثر فعالية ومتكاملًا وكفاءة.