نماذج ومنصات الذكاء الاصطناعي

عندما يبدأ وكلاء الذكاء الاصطناعي في بناء الذكاء الاصطناعي: انفجار الذكاء العودي الذي لا أحد مستعد له

Dr. Tehseen Zia
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةتقوم وكلاء الذكاء الاصطناعي الآن بتصميم وتحسين أنظمة ذكاء اصطناعي أخرى، مما يخلق حلقات…
عرض المزيد
  • تقوم وكلاء الذكاء الاصطناعي الآن بتصميم وتحسين أنظمة ذكاء اصطناعي أخرى، مما يخلق حلقات تحسين ذاتي متكررة.
  • تنطوي أنظمة الوكلاء المتعددة على خطر ظهور سلوكيات خطيرة حتى عندما تكون الوكلاء الفردية متوافقة مع الأهداف.
  • يتضاءل الإشراف البشري مع عمل دورات تحسين الذكاء الاصطناعي الذاتي بسرعة الآلة.

تقدم الذكاء الاصطناعي لعقود بخطوات حذرة وخطية في معظمها. بنى الباحثون نماذج. حسّن المهندسون الأداء. نشرت المنظمات أنظمة لأتمتة مهام محددة. اعتمد كل تحسين بشكل كبير على التصميم والرقابة البشرية. هذا النمط يتحطم الآن. بصمت ولكن بحسم، أنظمة الذكاء الاصطناعي تعبر عتبة حيث لم تعد مجرد أدوات بنيت من قبل البشر. إنها تتحول إلى جهات تبني الأنظمة بنفسها.

يبدأ وكلاء الذكاء الاصطناعي في تصميم وتقييم ونشر أنظمة ذكاء اصطناعي أخرى. من خلال ذلك، يخلقون حلقات تغذية راجعة يحسن فيها كل جيل الجيل التالي. هذا التحول لا يعلن نفسه مع عناوين رئيسية دراماتيكية. إنه يتحقق من خلال الأوراق البحثية وأدوات المطورين ومنصات الشركات. ومع ذلك، فإن آثاره عميقة. عندما يستطيع الذكاء تحسين نفسه بصورة عودية، لا يعود التقدم ملتزمًا بالجداول الزمنية أو الحدس البشري. إنه يسرع.

تستكشف هذه المقالة كيف وصلنا إلى هذه اللحظة، ولماذا يهم الذكاء العودي، ولماذا المجتمع أقل استعدادًا له بكثير مما ينبغي. انفجار الذكاء، الذي كان فكرة فلسفية، أصبح تحديًا هندسيًا ملموسًا.

تطور انفجار الذكاء

فكرة أن آلة يمكن أن تحسن ذكاءها بنفسها تسبق الحوسبة الحديثة. في أوائل ستينيات القرن الماضي، قدم الرياضي البريطاني آي جاي غود مفهوم «انفجار الذكاء». كان تفكيره على النحو التالي: إذا أصبحت آلة ذكية بما يكفي لتحسين تصميمها، حتى بشكل طفيف، فإن الإصدار المحسن سيكون أفضل في تحسين التالي. يمكن أن تتكرر هذه الدورة بسرعة، مما يؤدي إلى نمو يفوق الفهم أو التحكم البشري. في ذلك الوقت، كانت هذه تجربة فكرية، نوقشت أكثر في النظرية منها في الممارسة.

بعد عدة عقود، اكتسبت الفكرة أساسًا تقنيًا من خلال عمل عالم الحاسوب يورغن شميت هوبير. وصف اقتراحه بشأن آلة غودل نظامًا يمكنه إعادة كتابة أي جزء من كوده الخاص، شريطة أن يكون قادرًا على أن يثبت رسميًا أن التغيير سيعزز أداءه في المستقبل. على عكس أنظمة التعلم التقليدية، التي تضبط المعلمات داخل الهياكل الثابتة، يمكن لآلة غودل تغيير قواعد التعلم الخاصة بها. بينما لا يزال هذا العمل نظريًا، إنه أعاد صياغة انفجار الذكاء كشيء يمكن دراسته وصياغته صوريًا وإنشائه في النهاية.

الانتقال النهائي من النظرية إلى الممارسة جاء مع ظهور وكلاء الذكاء الاصطناعي الحديثين. هذه الأنظمة لا تنتج فقط مخرجات استجابة للمطالبات. إنها تخطط وتعقل وتتحرك وتراقب النتائج وتعدل السلوك مع مرور الوقت. مع ظهور هياكل الوكلاء، انتقل انفجار الذكاء من الفلسفة إلى الهندسة. التجارب المبكرة، مثل مفاهيم آلة داروين غودل، تشير إلى أنظمة تتطور من خلال التحسين الذاتي التكراري. ما يميز هذه اللحظة هو العودية. عندما يمكن لوكيل الذكاء الاصطناعي إنشاء وتحسين وكلاء آخرين، والتعلم من كل تكرار، فإن التحسين يتراكم.

عندما يبدأ وكلاء الذكاء الاصطناعي في بناء الذكاء الاصطناعي

يدفع هذا التحول اتجاهان رئيسيان. الأول هو ظهور أنظمة الذكاء الاصطناعي الوكيلية. هذه الأنظمة تتبع أهدافًا على مدى فترات زمنية طويلة، وتقسم المهام إلى خطوات، وتنسق الأدوات، وتتكيف بناءً على التغذية الراجعة. إنها ليست نماذج ساكنة. إنها عمليات.

الاتجاه الثاني هو التعلم الآلي المؤتمت. توجد أنظمة يمكنها تصميم الهياكل، وضبط المعلمات الفائقة، وإنشاء خطوط أنابيب التدريب، واقتراح خوارزميات جديدة مع مدخلات بشرية ضئيلة. عندما يقترن الاستدلال القائم على الوكلاء مع إنشاء النماذج الآلي، يكتسب الذكاء الاصطناعي القدرة على بناء الذكاء الاصطناعي.

لم يعد هذا سيناريو افتراضيًا. وكلاء مستقلون مثل أوتو جاي بي تي يظهرون كيف يمكن لهدف واحد أن يؤدي إلى دورات التخطيط والتنفيذ والتقييم والمراجعة. في بيئات البحث، تظهر أنظمة مثل ساكانا آي ساينتست-ف 2 وديب مايند ألفا إيفولف وكلاء يصممون تجارب، ويقترحون خوارزميات، ويحسنون الحلول من خلال التغذية الراجعة التكرارية. في بحث هياكل الشبكات العصبية، تكتشف أنظمة الذكاء الاصطناعي بالفعل هياكل نموذجية تتفوق أو تتساوي مع الشبكات المصممة من قبل البشر. هذه الأنظمة لا تحل المشاكل فحسب، بل تحسن الآليات المستخدمة لحل المشاكل. كل دورة تنتج أدوات أفضل، مما يتيح دورات أفضل.

لتوسيع نطاق هذه العملية، يعتمد الباحثون والشركات بشكل متزايد على بنى التنسيق. يتلقى وكيل فوقي مركزي هدفًا على مستوى عال. يفكك المهمة إلى مشاكل فرعية، ويولد وكلاء متخصصين لمعالجتها، ويقيم النتائج باستخدام بيانات العالم الحقيقي، ويدمج أفضل النتائج. يتم التخلص من التصاميم السيئة وتعزيز التصاميم الناجحة. مع مرور الوقت، يصبح المنسق أفضل في تصميم الوكلاء أنفسهم.

رغم أن التوقيت الدقيق لتمكن وكلاء الذكاء الاصطناعي من بناء أنظمة أخرى وتحسينها بالكامل لا يزال غير مؤكد، تشير المسارات البحثية الحالية وتقييمات الباحثين والممارسين الرائدين إلى أن التحول يقترب بشكل أسرع مما يتوقع الكثيرون. تظهر بالفعل إصدارات مبكرة ومحدودة من هذه القدرة في مختبرات البحث وتنفيذ الشركات، حيث يبدأ الوكلاء في تصميم وتقييم وتنقيح أنظمة أخرى مع تدخل بشري محدود.

ظهور صعوبة التنبؤ

يطرح الذكاء العودي تحديات لم تواجهها الأتمتة التقليدية. واحدة من هذه التحديات هي صعوبة التنبؤ على مستوى النظام. عندما يتفاعل العديد من الوكلاء، يمكن أن يختلف سلوكهم الجماعي عن نوايا التصاميم الفردية. تُعرف هذه الظاهرة باسم السلوك الناشئ.

ينشأ السلوك الناشئ ليس من مكون معيب واحد، بل من التفاعلات بين العديد من المكونات الكفؤة. فكر في أنظمة التداول الآلي. قد يتبع كل وكيل تداول قواعد عقلانية مصممة لتعظيم الربح داخل القيود. ومع ذلك، عندما يتفاعل آلاف من هذه الوكلاء بسرعة عالية، يمكن أن تتشكل حلقات التغذية الراجعة. يمكن أن يؤدي رد فعل وكيل واحد إلى استجابة آخر، والتي يمكن أن تؤدي إلى استجابة آخر، حتى يصبح النظام غير مستقر. يمكن أن تحدث انهيارات السوق دون حدوث أي خلل في الوكيل الفردي. هذا الفشل لا تحركه نية خبيثة. إنه نتيجة لعدم التآلف بين التحسين المحلي وأهداف النظام الشامل. يمكن أن تنطبق نفس الديناميات على مجالات أخرى.

أزمة مواءمة الوكلاء المتعددين

ركزت أبحاث مواءمة الذكاء الاصطناعي التقليدية على مواءمة نموذج واحد مع القيم البشرية. السؤال كان بسيطًا: كيف يمكننا ضمان سلوك هذا النظام كما نعتزم؟ يصبح هذا السؤال أصعب بشكل كبير عندما يحتوي النظام على عشرات أو مئات أو آلاف من الوكلاء التفاعليين. لا تضمن مواءمة كل وكيل على حدة توافق سلوك النظام ككل مع القيم والأهداف. حتى عندما يتبع كل مكون قواعده، يمكن أن تكون النتيجة الجماعية ضارة. لا تتوافق الأساليب الحالية للسلامة جيدًا مع اكتشاف أو منع حالات الفشل هذه.

تتضاعف المخاطر الأمنية أيضًا. يمكن لوكيل مخترق في شبكة وكلاء متعددين أن يلوث المعلومات التي يعتمد عليها الوكلاء الآخرون. يمكن لمستودع بيانات فاسد أن ينشر سلوكًا غير متوافق مع الأهداف في النظام بأكمله. يمكن أن تنتشر نقاط الضعف في البنية التحتية التي تهدد وكيلًا واحدًا إلى الأعلى لتهديد النماذج الأساسية. تزيد مساحة الهجوم مع كل وكيل جديد يضاف.

في غضون ذلك، تستمر فجوة الحوكمة في الاتساع. وجد بحث من مايكروسوفت ومنظمات أخرى أن حوالي شركة واحدة من كل عشر شركات لديها استراتيجية واضحة لإدارة هويات وكلاء الذكاء الاصطناعي والصلاحيات. من المتوقع أن توجد أكثر من 40 مليار هوية ذاتية الحكم بحلول نهاية هذا العام. يعمل معظمهم بوصول واسع إلى البيانات والأنظمة دون بروتوكولات أمنية تطبق على المستخدمين البشر. النظم تتقدم بسرعة. آليات الرقابة ليست كذلك.

فقدان الإشراف

أخطر ما يقدمه التحسين الذاتي العودي من مخاطر ليس القدرة المجردة، بل الفقدان التدريجي للإشراف البشري الفعلي. تطور مؤسسات بحثية رائدة أنظمة قادرة على تعديل بنيتها وتحسينها بمشاركة بشرية محدودة أو معدومة. ويتيح كل تحسين للنظام إنتاج أنظمة لاحقة أكثر قدرة، فتتشكل حلقة تغذية راجعة لا تبقى فيها نقطة يستطيع البشر عندها الاحتفاظ بسيطرة موثوقة.

مع تراجع الإشراف الذي يُبقي الإنسان ضمن الحلقة، تصبح التداعيات عميقة. فعندما تجري دورات التحسين بسرعة الآلة، يعجز البشر عن مراجعة كل تغيير وفهم كل قرار تصميمي أو التدخل قبل تراكم الانحرافات الصغيرة إلى مخاطر تشمل النظام بأكمله. ويتحول الإشراف من التحكم المباشر إلى الملاحظة بأثر رجعي. في هذه الظروف يصعب التحقق من مواءمة الأنظمة مع القيم والأهداف ويسهل تآكلها، إذ تضطر إلى حمل أهدافها وقيودها عبر تعديلات ذاتية متعاقبة. ومن دون آليات موثوقة لحفظ القصد عبر هذه الدورات، قد يواصل النظام العمل بفاعلية بينما ينجرف بهدوء خارج نطاق القيم والأولويات والحوكمة البشرية.

الخلاصة

دخل الذكاء الاصطناعي مرحلة يمكن فيها تحسين نفسه من خلال بناء نسخ أفضل من نفسه. يعد الذكاء العودي القائم على الوكلاء بمكاسب استثنائية، ولكنه يطرح أيضًا مخاطر تزيد بشكل أسرع من الإشراف البشري والحوكمة والحدس. التحدي القادم ليس ما إذا كان هذا التحول يمكن إيقافه، بل ما إذا كانت السلامة والمواءمة والمساءلة يمكن أن تتقدم بنفس وتيرة القدرة. إذا لم يكن الأمر كذلك، فإن انفجار الذكاء سيتجاوز قدرتنا على توجيهه.

الدكتور تحسين ضياء أستاذ مشارك مثبت في جامعة كومساتس إسلام آباد، ويحمل دكتوراه في الذكاء الاصطناعي من جامعة فيينا للتكنولوجيا في النمسا. يتخصص في الذكاء الاصطناعي والتعلم الآلي وعلوم البيانات والرؤية الحاسوبية، وقد قدم إسهامات مهمة من خلال أبحاث منشورة في مجلات علمية مرموقة. كما قاد مشروعات صناعية متنوعة بصفته الباحث الرئيسي، وعمل مستشارًا في الذكاء الاصطناعي.