ما يعني Human-in-the-loop حقًا؟

في أوائل القرن العشرين، صاغ الفيلسوف البريطاني جيلبرت ريل مصطلح “الروح في الماكينة”. في كتابه “مفهوم العقل”، استخدم ريل هذا المفهوم لتحدي المزدوجية بين العقل والجسد، والتي تفترض أن العقل والجسد موجودان كمواد منفصلة. بالنسبة لريل، كانت هذه الفكرة خاطئة، لأن الإدراك والعمل الجسدي كانا غير قابلين للتجزئة، وجزءًا من نظام واحد وليس جزأين متفاعلين.

مع ظهور الذكاء الاصطناعي، يظهر مفهوم مشابه عند الحديث عن مستخدمي أدوات الذكاء الاصطناعي لزيادة الإنتاجية: “الإنسان في الحلقة”. إذا كان البشر والنظم الذكية متشابكة أكثر من أي وقت مضى، فهل نحن نبني اندماجًا سلسًا أم نخلق وهمًا مريحًا للسيطرة؟

تعتمد الشركات الناشئة بشكل كبير على هذا المفهوم لمناقشة أدواتها. بينما يعد هذا وعدًا بالابتكار والراحة، فإن الواقع غالبًا ما يكون أكثر تعقيدًا. يمكن أن تصبح المسؤولية مشتتة، ويصبح الحساب أكثر صعوبة في التتبع.

مع تحرك أنظمة الذكاء الاصطناعي إلى مجالات حساسة – من التعليم إلى الحرب – أصبح الرهان ليس مجرد خيال. ما يعني Human-in-the-loop حقًا، وهل هذا مجرد تعبير لما يحدث عندما يختفون تمامًا؟

1. Human-in-the-loop كدرع للمسؤولية

إذا استخدم مصطلح Human-in-the-loop بلا احتياط، يمكن أن يصبح وسيلة سهلة لنقل المسؤولية دون التعامل الفعلي معها. كما لاحظ العديد من الأشخاص، لا يضمن التوقيع البشري في نهاية العملية الصحة الأخلاقية، خاصة إذا كان النظام الأساسي مصممًا بشكل سيئ أو غير مفهوم جيدًا.

كتبت ميسا حواش، المؤسس والمدير التنفيذي لشركة Scale X، حول الانزلاق بعيدًا عن المسؤولية، وأعربت عن صراحة حول كيفية استخدام هذا المفهوم غالبًا. “في الواقع، لا يختلف كثيرًا عن وسائل أخرى لنقل العبء”. قالت حواش لشركة Startup Beat، مستخدمة مثال كيفية استخدام مديري الموارد البشرية لسياسة التوقيع لنقل الشركة بعيدًا عن المسؤولية. “إذا كان لديك هذه السياسة واقرأها الناس وتوقيعها،那么 كشركة، فكرتك ليست مسؤولة، أليس كذلك؟” قالت.

ما يظهر هو نمط مألوف عبر الأنظمة الشركية حيث تنتقل المسؤولية بدلاً من القضاء عليها. ترى حواش هذا كطريقة لازية لتجنب التفكير النقدي أو فهم المناطق التي يمكن أن تؤثر على الناس أو المجتمعات. “لذلك، أنت تنتقل بالعبء، ولا يهم إذا فهم الناس السياسة، ولا يهم إذا كانت السياسة منطقية”.

في هذا الإطار، يrunsخ خطر أن يصبح “Human-in-the-loop” أقل عن التدخل المهم وأكثر عن الغطاء الإجرائي. الخطر هنا ليس مجرد كلمة. عندما يتم خفض الإشراف إلى توقيع، يصبح دور الإنسان رمزيًا بدلاً من كونه ملموسًا.

أشارت حواش إلى جريمة حرب最近 – المدرسة في ميناب، إيران – حيث وافق البشر على الهجوم، لكن وجود قائد بشري لم يكن بالضرورة يعني وضوحًا أخلاقيًا أو تفكيرًا كافياً. “عندما تكون في حرب أو تقوم بجراحة معقدة، لا تمتلك الوقت لفك الشفرة باستخدام Human-in-the-loop كدرع”.

2. تصميم المسؤولية، وليس مجرد الإشراف

البدیل ليس التخلي عن أنظمة Human-in-the-loop، ولكن الأخذ بها على محمل الجد كالتزامات تصميم. هذا يعني الانتقال من الإشراف الرمزي إلى هياكل مسؤولية متعمدة.

قال حواش: “هناك سباق كبير لجعل الذكاء الاصطناعي أكثر صحة في السوق. لا يوجد الكثير من التفكير من خلاله من منظور التصميم، مثل ما هو التأثير المتدفق على المجتمعات أو الناس أو المستخدمين النهائيين”.

أصبح السرعة المتغلبة على المتغيرات التنافسية. في هذا السباق، غالبًا ما يتم تأجيل المسؤولية بدلاً من دمجها. النتيجة هي نموذج تفاعلي للأخلاقيات حيث يحدث исправ الخطأ بعد النشر بدلاً من توقعها أثناء التطوير.

يمكن أن تسرع سهولة الوصول إلى تبني أكبر، ولكنها تؤدي أيضًا إلى عواقب أكثر وضوحًا. لم تعد الأنظمة مقتصرة على المستخدمين التقنيين لأنها يمكن أن تشكل قرارات للأشخاص ذوي مستويات مختلفة من الفهم والسياق. في مثل هذا البيئة، لا يمكن نقل المسؤولية إلى المستخدم النهائي.

3. Human-in-the-loop كدقة ومسؤولية

يقدم أبهاي غوبتا، المؤسس المشارك لشركة Frizzle، منظورًا تشغيليًا – واحدًا يعتمد على بناء نظام حيث الإشراف البشري عملي وضروري.

بدأت شركته من مشكلة محددة: معلمون يعملون بجد. “في المدينة، تسمع عن مديري البنوك والمستشارين الذين يعملون 70 ساعة في الأسبوع، ولكنك لا تسمع عن المعلمين الذين يعملون بهذا القدر. لذلك، من فضول، قمنا بمقابلة مئات من المعلمين، وعبر اللوحة، كانت التصحيح أكبر مصدر للوقت بالنسبة لهم”.

يمكن أن يبدو تلقين التصحيح شيء مباشر، ولكن تعقيد الكتابة اليدوية الرياضية يطرح قيودًا حقيقية للذكاء الاصطناعي. “هناك مشكلة الدقة. الذكاء الاصطناعي ليس hoàn hảo، لذلك بنينا نظام Human-in-the-loop. إذا لم يكن الذكاء الاصطناعي واثقًا – مثل الكتابة اليدوية غير المتناسقة – فإنه يرفعه للمعلم لمراجعته وموافقته أو رفضه”.

هنا، دور الإنسان ليس مجرد زخرفة. النظام يحدد明显ًا عدم اليقين الخاص به ويرسل تلك الحالات إلى الإنسان. “من أجلنا، الأمر يتعلق بالدقة. سيكون هناك دائمًا حالات حافة – ربما 1-3٪ – حيث يصعب على الذكاء الاصطناعي التعامل، لذا يجب على الإنسان التدخل”.

هذا النهج يعيد تعريف Human-in-the-loop كآلية للسيطرة على الجودة. لكن غوبتا يذهب إلى أبعد من ذلك: “في جوهره، الذكاء الاصطناعي ليس 100٪ دقيقًا – يمكن أن يخطر أو ينتج مخرجات خاطئة. Human-in-the-loop يعمل كفحص الجودة النهائي قبل وصول النتائج إلى المستخدم النهائي. إنه أيضًا عن المسؤولية. يجب أن يكون هناك شخص مسؤول عن الإخراج، والآن يجب أن يكون هذا الشخص إنسانًا”.

يحافظ دور الإنسان أيضًا على جانب أقل كمية: الجانب العلاقي لتعليم. “أنه أيضًا عن الحفاظ على الجانب البشري من التعليم. للمعلمين أساليب مختلفة، لذا نسمح لهم بتخصيص كيفية تقديم الملاحظات”.

إعادة تعريف Human-in-the-loop

يحمل مصطلح “Human-in-the-loop” بساطة مريحة. إنه يوحي بأن بغض النظر عن مدى تقدم أنظمتننا، يبقى الإنسان في السيطرة، ونحن لسنا مجرد “أشباح في الماكينة”. لكن مع نشر الشركات الناشئة للذكاء الاصطناعي في بيئات عالية المخاطر، يحتاج هذا الاطمئنان إلى فحص دقيق.

المشكلة الأساسية هي التصميم. إذا كانت مخاطر النظام غير مفهومة جيدًا أو تقليلها عمدًا، فإن إدراج إنسان في النهاية لا يفعل الكثير لتصحيح العيوب الأساسية. وأهم من ذلك، إنه يعني تعريف دور الإنسان ليس كبديل، ولكن كجزء لا يتجزأ من تشغيل النظام. يجب أن يسعى الأشخاص في الحلقة إلى تشكيل النتائج، وتحديها، وwhen الضروري، إلغاءها بسلطة.