باباك هودجات، كبير مسؤولي الذكاء الاصطناعي في Cognizant: محادثة عودة

Babak Hodjat، كبير مسؤولي الذكاء الاصطناعي في Cognizant، يقود مختبرات أبحاث الذكاء الاصطناعي في الشركة، حيث يمتد عمله عبر الذكاء الاصطناعي الوكيل، الحساب التطوري، الذكاء الموزع، وتطوير أنظمة الذكاء الاصطناعي المصممة للنشر على نطاق مؤسسي واسع. باحث ذكاء اصطناعي مخضرم، مخترع، ورائد أعمال، أسس هودجات سابقًا شركة Sentient Technologies، حيث ساهم في بناء أحد أكبر أنظمة الذكاء الاصطناعي الموزعة في العالم، وأسّس سابقًا شركة Dejima، مطورًا لتقنية اللغة الطبيعية الموجهة للوكيل التي ساهمت في أسس Siri من Apple.

عندما تحدثنا سابقًا مع Babak Hodjat، استكشف نقاشنا مسيرته في مجال الذكاء الاصطناعي، النهج التطورية لاتخاذ القرارات المعقدة، عمل Cognizant في تطبيق الذكاء الاصطناعي على تحديات المناخ واستخدام الأراضي، وتزايد ديمقراطية الذكاء الاصطناعي عبر المؤسسة. في هذه المحادثة المتابعة، يتحول التركيز نحو المؤسسة الوكيلة الناشئة بسرعة. مستندًا إلى موضوعات من كتابه الأخير، المؤسسة الوكيلة، يدرس Hodjat لماذا قد تكون الهندسة المعمارية أكثر أهمية من قدرة النموذج، وكيف يمكن للمنظمات تنسيق شبكات متزايدة التعقيد من وكلاء الذكاء الاصطناعي، وأين يتناسب الثقة المركزية والحكم مع الأنظمة اللامركزية للوكيل، وما الذي لا يزال يحتاج إلى تغيير قبل أن تتمكن الأنظمة المستقلة من إدارة الأهداف طويلة الأمد بموثوقية مع تدخل بشري محدود.

تمتد مسيرتك لتشمل بعض أقدم الأعمال على الوكلاء الذكيين، من تقنية اللغة الطبيعية لشركة Dejima التي ساعدت في إلهام Siri إلى بناء أنظمة ذكاء اصطناعي موزعة ضخمة في Sentient والآن شغلك ككبير مسؤولي الذكاء الاصطناعي في Cognizant. كيف تطورت تعريفك لـ “وكيل الذكاء الاصطناعي” على مدار هذه الرحلة، وماذا يمكن للمطورين اليوم أن يتعلموا من تلك الأجيال السابقة من الأنظمة القائمة على الوكيل؟

التعريف ظل كما هو، لكن قدرات الوكلاء اليوم تعني أن العديد من الوظائف الأساسية للوكيل التي كنا نضطر إلى برمجتها في التسعينيات متاحة الآن مباشرةً مع نماذج اللغة الكبيرة. لهذا السبب أصبحت الوكلاء المستندة إلى نماذج اللغة الكبيرة هي المعيار الآن، وعندما يتحدث الناس عن الوكلاء، يفترضون وجود نموذج لغة كبير يدير واجهته وتفكيره.

في كتابك الأخير، المؤسسة الوكيلة، تجادل بأن أنظمة الذكاء الاصطناعي المؤسسية غالبًا ما تنجح أو تفشل بسبب هندستها المعمارية بدلاً من القدرة الخام للنموذج الأساسي. ما الأخطاء التي ترتكبها الشركات عندما تفترض أن ترقية النموذج إلى أكثر قوة ستحل مشاكل الذكاء الاصطناعي الوكيل لديها؟

تمامًا كما يمكن للربطات (أي الأجزاء غير المعتمدة على نموذج اللغة الكبيرة في الوكيل) أن تجعل أو تكسر وكيل البرمجة، فإن هندسة نظام متعدد الوكلاء حاسمة لنجاحه. ذلك لأن الهندسة تعكس السياق الذي يجب أن يعمل فيه الوكلاء – مشابهًا للسقالة التي تمسك المؤسسة الوكيلة معًا. بدونها، يبقى الوكلاء غير مرتبطين بواقع عمليات المؤسسة، البيانات، سير العمل، والعمليات. هذا يشبه إلى حد ما الهيكل التنظيمي للشركة، الذي يتضمن أوصاف الوظائف، تعريفات العمليات، وبروتوكولات التواصل للموظفين.

لقد أكدت أن النظام المحيط، بما في ذلك ضوابط الوصول، والمسائلة، والتنظيم، والرصد، والإشراف، قد يكون أكثر أهمية من النموذج نفسه. ما الذي تحتاجه بنية وكيل جاهزة للإنتاج فعليًا والتي تفتقدها معظم عمليات إثبات المفهوم؟

غالبًا ما تكون إثباتات المفهوم (PoC) غير مرتبطة بالواقع، لذا في البداية نحتاج إلى أن يعمل الوكلاء في بيئة يمكنهم فيها الوصول إلى البيانات الداخلية للشركة وتطبيقاتها. يجب طرح أسئلة هامة، مثل ما هي البيانات والتطبيقات التي نحن مستعدون للسماح للوكلاء بالوصول إليها، وما هي القرارات التي نكون مرتاحين للسماح للوكلاء باتخاذها لضمان أمان النظام وسلامته، مع الحفاظ على الفوائد المتوقعة في الجودة والإنتاجية. من الصعب تحديد إجابة هذه الأسئلة في بيئة PoC. علاوةً على ذلك، لا يمكن أن تكون الضوابط والإشراف ذات معنى إلا عندما يعمل نظام وكيل بالتنسيق مع عمليات بشرية أو وكيلة أخرى داخل الشركة. وبالتالي، فإن إنشاء بيئة معزولة (Sandboxing) يُعد خطوة مهمة في عملية الانتقال الفعّال من إثبات المفهوم إلى النشر.

صفت Cognizant بروز “نظام تشغيل الوكيل” لتنسيق شبكات وكلاء الذكاء الاصطناعي. ما الوظائف التي يجب أن يؤديها هذا الطبق، وهل تتوقع أن يصبح تنظيم الوكلاء في النهاية أساسًا للحوسبة المؤسسية كما هي أنظمة التشغيل ومنصات السحابة اليوم؟

تنسيق الوكلاء مهم: إذا جعلته صلبًا جدًا، يصبح نظامك متدهورًا وهشًا. إذا كان التنسيق مفتوحًا جدًا ومفوضًا بالكامل إلى الوكيل، فإنك تخاطر بجعل مهمة الوكيل معقدة أو محفوفة بالمخاطر. آلية تنسيق جيدة تسمح للوكلاء بتشكيل فرق بشكل عفوي استجابةً لمختلف الحالات، مما ينتج عنه انضباط تنظيمي قوي وسلس. أنا من دعاة التنسيق الموزع. إنه يشبه تمكين منظمة بشرية من مستوى معين من السلطة على نطاق مسؤوليتها. عندما يظهر سياق ما، يتواصل أعضاء المنظمة وينسقون عبر الهيكل التنظيمي لتحديد الأفراد المسؤولين عن معالجة الوضع، ويتم تجميع الاستجابة وتنسيقها وتوحيدها بين عقد المنظمة. الخبر السار هو أن الضوابط الصارمة والضمانات يمكن تطبيقها على الأنظمة الوكيلة بحيث لا يؤدي هذا المرونة إلى سلوك محفوف بالمخاطر.

أعتقد، تمامًا كما أصبح MCP معيارًا غير رسمي للوصول إلى تطبيقات الوكلاء بسرعة، ستظهر بروتوكولات التنسيق أيضًا وتصبح معيارية عبر منصات الوكلاء للسماح بعمليات متعددة الوكلاء عفوية عبر حدود أنظمة الوكلاء. ربما لا تكون أنظمة التشغيل ومنصات السحابة هي التشبيه الأنسب هنا؛ بل سيتعين أن تظهر معايير متفق عليها على نطاق واسع لتعريف الوكلاء وبروتوكولات التنسيق للسماح بانتشار وتطور الوكالة في المؤسسات.

مع انتقال المؤسسات من المساعدين الفرديين إلى شبكات تحتوي على عشرات أو حتى مئات من الوكلاء المتخصصين، كيف ينبغي للمنظمات أن تقرر أي المسؤوليات تعود إلى الوكلاء الفرديين وأيها يجب أن تظل مركزية؟

تمامًا مثل جدار الحماية والآليات الأمنية للإنترنت، يجب أن يكون إنشاء الثقة من خلال التدقيق الحي وفقًا للسياسات وتطبيق الحواجز على الأنظمة الوكيلة وظيفة مركزية داخل الشركة، تُحدَّد وتُحافظ عليها كيان واحد داخل الشركة. يمكن توفير أو تنفيذ جميع الأنظمة الوكيلة الأخرى بطريقة لامركزية، لكن هذه الأنظمة سيتعين عليها التسجيل في نظام الثقة لتُسمح لها بالعمل.

قامت شركة Cognizant بنشر نظام متعدد الوكلاء داخليًا يربط نحو 200 وكيل عبر منظمة تضم حوالي 350,000 موظف. ماذا كشف التشغيل على هذا النطاق عن الذكاء الاصطناعي الوكيل الذي قد يكون من الصعب اكتشافه من خلال تجارب أصغر؟

كان علينا التصميم من أجل القابلية للتوسع، والتمدد، والكفاءة في التكلفة، وأوقات الاستجابة المعقولة. في مشاريع بهذا الحجم، غالبًا ما يتعين عليك اختراع أشياء لا تكون ضرورية في أنظمة الوكلاء الصغيرة والمحدودة التي لديها عدد قليل من المستخدمين. على سبيل المثال، يجب أن تجعل تنسيق الوكلاء بين بعضهم شخصيًا وفعالًا، لتجنب الخطوات الإضافية والتكاليف. كما يجب أن يكون النظام قادرًا على استدعاء التطبيقات المخصصة وكذلك الأنظمة والوكلاء من أطراف ثالثة، لذا فإن القابلية للتشغيل البيني مهمة ويمكن أن توفر الوقت والمال.

عندما يستطيع الوكلاء المستقلون استدعاء واجهات برمجة التطبيقات، والوصول إلى أنظمة المؤسسة، والتواصل مع وكلاء آخرين، واتخاذ إجراءات بسرعة الآلة، يصبح حوكمة الذكاء الاصطناعي التقليدية أصعب بكثير. أين يجب أن يبقى الإشراف البشري إلزاميًا، وأين يمكن للمنظمات السماح للوكلاء بالعمل بشكل مستقل بأمان؟

أعتقد أن المحدد النهائي لمكان الحاجة إلى الإشراف البشري وإلزاميته هو الثقة. كلما أصبحت هذه الأنظمة أكثر موثوقية، سنمنحها مزيدًا من الاستقلالية، وما لم يُفرض قانونيًا (مثل عدم وجود شخصية قانونية للذكاء الاصطناعي)، سنكون مرتاحين لتفويض الوكلاء. لذا فإن قياس الثقة والمخاطر أمر مهم ويمكن أن يساعد في رسم الخط الفاصل بين الاستقلالية والإشراف البشري — خط قد يبدأ في التحرك مع تزايد موثوقية هذه الأنظمة وانخفاض مخاطر تشغيلها بشكل مستقل.

تركز معظم أبحاثك السابقة على الحوسبة التطورية والأنظمة التي تتحسن من خلال الانتقاء والتكيف. كيف يمكن للنهج التطوري أن يكمل نماذج اللغة الكبيرة وتعلم التعزيز بينما نسعى لبناء وكلاء يمكنهم التحسن باستمرار بدلاً من تنفيذ سير عمل محدد مسبقًا؟

التيار السائد في الذكاء الاصطناعي اليوم يهيمن عليه أساليب الانحدار المتدرج، وهي شكل من أشكال البحث الصعودي على التلال التي لا تكون إبداعية كثيرًا. الحوسبة التطورية فعّالة جدًا في استكشاف مساحات بحث معقدة ويمكن أن تكمل الأساليب السائدة. على سبيل المثال، حقق مختبرنا مؤخرًا اختراقًا في هذا الصدد: تمكنا من إظهار أن استراتيجيات التطور تتفوق على تعلم التعزيز في معظم عمليات ما بعد التدريب لنماذج اللغة الكبيرة، مما ينتج نماذج ذات جودة مساوية أو أفضل بتكاليف أقل بكثير. قد تساعد النهج التطورية أيضًا في التدريب أثناء الاختبار، الذي يهدف إلى تمكين نماذج اللغة الكبيرة من التعلم بعد النشر.

استكشفت أبحاث Cognizant بيئات يتفاعل فيها الوكلاء لتطوير التعاون، والتنافس، والمعرفة المشتركة، وحتى استراتيجيات خادعة. مع تعقيد أنظمة الوكلاء المتعددة، هل قد يصبح السلوك الناشئ أحد أكبر التحديات في الحفاظ على توقعات الذكاء الاصطناعي المؤسسي وتوافقه مع أهداف المنظمة؟

هذا هو الحال بالفعل، كما يتضح من الحادثة الأخيرة التي حظيت بالكثير من الإعلام بين OpenAI وHugging Face. قد نعتقد أن الوكلاء، المقيدون بالمطالبات والسياقات الخاصة بهم، والذين يستخدمون نماذج اللغة الكبيرة التي لا تتعلم أثناء التشغيل، سيظلون إلى حد كبير ثابتين في سلوكهم. ومع ذلك، الحقيقة هي أن بيئة الوكيل ودوافعه يمكن أن تتغير، غالبًا نتيجة لأفعال الوكيل نفسه في البيئة، مما يؤدي إلى سلوك غير متوقع. هذا يصبح أكثر احتمالًا عندما يتفاعل عدة وكلاء، لذا من الضروري أن نراقب الوكلاء المستقلين في بيئات رملية آمنة حتى نتمكن من تحديد نطاق وحجم ميولهم الناشئة، وأخذ ذلك في الاعتبار في تصاميمنا وحماياتنا الوكالية. نظامنا المتاح للجمهور، TerraLingua، حيث يمكنك إدخال وكلاء، وقطع أثرية، وحتى انتحال هوية الوكلاء ومراقبة سلوكهم الفردي والجماعي، هو خطوة في هذا الاتجاه.

نظرةً إلى ما بعد موجة الذكاء الاصطناعي الوكائي الحالية، ما هو الاختراق التكنولوجي أو التحول المعماري الذي تعتقد أنه لا يزال مفقودًا قبل أن نتمكن من بناء أنظمة ذكاء اصطناعي قادرة على إدارة أهداف طويلة الأمد ومعقدة بثقة مع الحد الأدنى من التدخل البشري؟

العديد من قيود الوكلاء اليوم تنبع من حدود التقدم الحالي في مجال الذكاء الاصطناعي. نماذج اللغة الكبيرة ثابتة تقريبًا بعد التدريب ولا يمكنها ‘تغيير رأيها’ بشأن الأمور عندما تواجه معلومات جديدة. نماذج اللغة الكبيرة هي كل شيء وكل شخص في آن واحد، لذا تحتاج إلى تمهيد بالسياق والمطالبات وتكون حساسة جدًا لهذا التمهيد. نماذج اللغة الكبيرة لديها نوافذ سياق محدودة وتحتاج إلى إعادة تغذية كل شيء مرة أخرى لكل كلمة تنتجها أو لكل إجراء تتخذه. على مستوى متعدد الوكلاء، أعتقد أننا بحاجة إلى بروتوكولات تنسيق موزعة مقبولة على نطاق واسع، وحواجز ثقة وسياسات، وأنظمة تحكيم المعاملات لكي يحقق المستقبل الوكائي كامل إمكاناته.

شكرًا لك على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد ينبغي عليهم زيارة Cognizant أو المقابلة السابقة.