الذكاء يزداد؛ والاتساق يزداد صعوبة

أمضيت مسيرتي المهنية كلها أحاول فهم الذكاء. درست علم الأعصاب لأنني كنت مهتماً بالذكاء الاصطناعي، ورأيت أن تعلّم كيفية عمل الدماغ أولاً طريقة جيدة للبدء. الذكاء أولاً، قبل «الذكاء الاصطناعي». ترك ذلك التدريب لديّ عادة. فعندما تظهر قدرة أو تقنية جديدة، يكون سؤالي الأول عملياً: ما الذي يمكنها فعله حقاً، وما أنواع المشكلات الواقعية التي يمكنها حلها؟

بصفتي متخصصاً في الذكاء الاصطناعي، نادراً ما أتحمس للعناوين الإخبارية عنه. أتجاوز الضجيج لأفهم الاختراقات، وكذلك حدود القدرات الجديدة.

من الأدوات العادية إلى موثوقية على المحك

في عام 2020، حين كان النقاش حول سلامة الذكاء الاصطناعي محتدماً ومشحوناً بالمبالغة، قدمت نصيحة مباشرة: تعاملوا مع الذكاء الاصطناعي بوصفه أداة، أداة قوية، لكنها تظل أداة. التزموا بحالات الاستخدام البسيطة. واعملوا على مستوى المهام، حيث كانت التقنية موثوقة بما يكفي لتقديم المساعدة. وكان تصوري المتفائل عالماً من الأدوات البسيطة والمفيدة.

عندما بدأت موجة الأنظمة الوكيلة بالتصاعد بعد ذلك بعامين تقريباً، نظرت إليها بالمنظور نفسه، ولم أقتنع. فالنظام الوكيلي لا يكون أقوى من المهام التي يتألف منها، ولم أكن قد رأيت بعد موثوقية على مستوى المهام تكفي لفعالية هذه الأنظمة.

لكن المبالغة في التوقعات كانت تتزايد. وعندما حضرت مؤتمر RSA في مطلع العام الماضي، ظل من الصعب تجاهل الفجوة بين الكلام والمضمون. ولم يكن هناك حتى فهم مشترك لمعنى «الأنظمة الوكيلة»؛ إذ كان لكل شخص تعريفه ومنظوره المختلفان. وكنت قلقاً أيضاً بشأن مشكلة بنيوية. لنفترض وجود عشرة وكلاء، تبلغ دقة كل منهم نحو خمسة وتسعين بالمئة، ثم نصلها ببعضها بحيث يصبح ناتج أحدها مدخلات الوكيل الذي يليه. عند نهاية هذه السلسلة، تنخفض الدقة إلى نحو ستين بالمئة. فالموثوقية لا تصمد حين تتراكم بهذه الطريقة. وكنت قد بدأت حينها أفكر في أنظمة مؤلفة من وكلاء، لكن قلقي ظل منصباً على ما إذا كان بالإمكان الوثوق بها كي تعمل وتحدث فرقاً ملموساً.

ثم غيّرت التحسينات السريعة في وكلاء البرمجة رأيي.

في غضون أشهر من مقالي عن هذا الموضوع، أوضح لي التسارع المذهل للتقدم أمراً واحداً: إنها مسألة وقت قبل أن تصبح عدة مهام واقعية موثوقة. فالنماذج الأفضل، المدعومة بأطر هندسية أفضل، كانت ستسد الفجوة التي أقلقتني. وكان السقف الذي كنت أخشى وجوده سيرتفع.

عندها اتضحت المشكلة الحقيقية، ولم تكن المشكلة التي كنت أراقبها. فمتى أمكنك الوثوق بالوكلاء كلٌّ على حدة، لن تتوقف بعد نشر الأول، بل ستنشر الكثير منهم: أساطيل من الوكلاء في كل وظيفة، كلٌّ منهم قادر على أداء مهمته ويؤديها بالفعل. وظهر سؤال جديد لا علاقة له بالموثوقية: إذا أدى كل وكيل في الأسطول ما بُني لأجله، فهل يحقق الأسطول في مجموعه ما قصدته المؤسسة؟

الحاجة إلى الحس العميق التنظيمي

لا يستطيع الجسم ذو الأطراف القادرة على أداء وظائفها أن يتحرك جيداً من دون الحس العميق، أي الإحساس الداخلي المستمر بمكان كل جزء فيه وبما يفعله. ولا يقتصر دور المخيخ على الاستجابة لهذه المعلومات الراجعة، بل إنه يتنبأ أيضاً. فعندما يصدر الدماغ أمراً بالحركة، يكوّن تصوراً للإحساس الذي يفترض أن تنتجه تلك الحركة، ثم يقارن هذا التصور بما يحدث فعلياً. والفرق بينهما هو الإشارة التي تصحح ما يأتي بعد ذلك. فالحركة المتقنة حلقة متصلة من توقع النتيجة وتصحيح المسار بناءً على الفرق.

تحتاج المؤسسة التي تدير أساطيل من الوكلاء إلى الإحساس الداخلي نفسه. فعليها أن تعرف باستمرار أين توجد أنظمتها، وإلى أي مدى ابتعدت عن الحالة المنشودة. ومن دون هذا الوعي الداخلي، لا تتضافر الأجزاء القادرة لتنتج عملاً منسقاً. فهذه ليست آلية استشعار تُضاف إلى الجسم لاحقاً لجعله أكثر أماناً؛ بل هي ضرورة لكي يتحرك الجسم أصلاً.

هناك حالة موثقة جيداً لرجل يُدعى Ian Waterman فقد هذا الإحساس في معظم أنحاء جسده. وقد تعلم الحركة من جديد، لكن ذلك لم يكن ممكناً إلا بمراقبة نفسه وتوجيه كل خطوة وكل حركة مدّ بعينيه. ينجح الأمر، لكنه مرهق وهش أيضاً. فإذا أُطفئت الأنوار، عجز عن التنسيق تماماً. والمؤسسة التي تدير وكلاءها من خلال عمليات التدقيق اليدوية والمراجعات الدورية تشبهه في هذا الوضع. فهي تعوّض، ببذل جهد دائم، عن إحساس لم تطوره قط، وتكلفة هذا التعويض تفوق تكلفة ما يحل محله. وينهار النظام بأكمله لحظة تغير الظروف.

وثمة إخفاق آخر أغرب يستحق الذكر، وصفه كتاب شيق لعالم الأعصاب V S Ramachandran. فعندما يُبتر أحد الأطراف، لا يصمت الدماغ، بل يواصل إرسال إشارات إلى الطرف المفقود، ويشعر بها الشخص بوضوح. وقد تفشل الحوكمة بالطريقة نفسها. فإذا جرّدَت إعادة الهيكلة أو الإهمال وظيفةَ الرقابة من الحكم الفعلي، فلن تصمت هذه الوظيفة. ستظل المراجعات تُنجز، وستظل المؤشرات تُعدّ. وستواصل المؤسسة الإحساس بوجود رقابة، بينما يكون الحكم الذي تقوم عليه قد أُفرغ من مضمونه. وهنا تعود نصيحتي من عام 2020 بشأن الشفافية: فلا رقابة من دون شفافية، ولا شفافية في نظام لا يفعل سوى إظهار أنه خاضع للمراقبة.

الاتساق بوصفه المورد النادر

أصبح الذكاء أقل كلفة. وقريبًا، سيصبح جزءًا من كل سير عمل وكل أداة. والمورد النادر في ذلك العالم هو التماسك، أي الصلة الحية بين ما يفعله كل نظام بمفرده وما تسعى المؤسسة إلى تحقيقه. والتماسك هو النسيج الرابط الذي يُبقي الذكاء الموزع متوافقًا مع غاية واحدة.

قضيت سنوات أدرس كيف يحافظ الدماغ على عمل أجزائه الكثيرة كوحدة واحدة. ويطرح عصر الذكاء الاصطناعي الوكيلي السؤال نفسه على المؤسسات. لم يتغير الهدف منذ عام 2020. وما زال مملًا لكنه مفيد. والآن، فإن الشيء الممل والمفيد الذي ينبغي بناؤه هو التماسك نفسه.