قادة الفكر

ماذا يعني فعلًا إبقاء الإنسان ضمن الحلقة؟

Arjun Harindranath
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةغالبًا ما ينقل النهج القائم على وجود الإنسان في حلقة التحكم المسؤولية إلى المستخدمين…
عرض المزيد
  • غالبًا ما ينقل النهج القائم على وجود الإنسان في حلقة التحكم المسؤولية إلى المستخدمين دون ضمان تصميم أخلاقي للنظام.
  • يستخدم Frizzle الإشراف البشري لضمان دقة التقييم عندما لا يستطيع الذكاء الاصطناعي التعامل مع الكتابة اليدوية غير الواضحة.
  • تتطلب الأدوار البشرية ذات المعنى تمكين الموظفين من تحدي الذكاء الاصطناعي وتجاوز قراراته، وليس مجرد الموافقة عليها.

في أوائل القرن العشرين، صاغ الفيلسوف البريطاني جيلبرت رايل تعبير «الشبح في الآلة». وفي كتابه «مفهوم العقل» استخدم رايل هذا المجاز لمعارضة ثنائية العقل والجسد، التي تفترض أنهما جوهران منفصلان. ورأى أن هذا الفصل خطأ، لأن الإدراك والفعل الجسدي لا ينفصلان، بل ينتميان إلى نظام واحد، لا إلى جزأين يتفاعلان أحدهما مع الآخر.

ومع ظهور الذكاء الاصطناعي، يبرز مجاز مشابه عند الحديث عن مستخدمي أدواته لزيادة الإنتاجية: التعبير الشائع «الإنسان ضمن الحلقة». فإذا أصبح البشر والأنظمة الذكية أكثر اندماجًا من أي وقت مضى، فهل نبني تكاملًا سلسًا، أم نصنع وهمًا مريحًا بالسيطرة؟

تعتمد الشركات الناشئة كثيرًا على هذا المفهوم في الحديث عن أدواتها. ورغم ما يعد به من ابتكار وطمأنينة، فإن الواقع غالبًا ما يكون أكثر تعقيدًا. فقد تتشتت المسؤولية بسهولة، ويصعب تتبّع الجهة التي ينبغي مساءلتها.

ومع توغّل أنظمة الذكاء الاصطناعي في مجالات حساسة، من التعليم إلى الحرب، لم تعد الرهانات مجرد أفكار نظرية. فما المعنى الفعلي لإبقاء الإنسان ضمن الحلقة؟ وهل هو مجرد تعبير ملطّف لاختفاء البشر منها تمامًا في نهاية المطاف؟

1. الإنسان ضمن الحلقة بوصفه درعًا للتنصّل من المسؤولية

حين يُستخدم تعبير «الإنسان ضمن الحلقة» باستخفاف، قد يصبح وسيلة سهلة لنقل المسؤولية من دون التعامل الجاد معها. وكما يلاحظ كثيرون، فإن توقيع إنسان في نهاية العملية لا يضمن سلامتها الأخلاقية، خصوصًا إذا كان النظام الأساسي سيئ التصميم أو غير مفهوم بما يكفي.

وقد كتبت ميسا حواش، مؤسسة شركة Scale X ورئيستها التنفيذية، عن الانزلاق بعيدًا عن المسؤولية، وهي صريحة بشأن الطريقة التي يُستخدم بها هذا المفهوم غالبًا. وقالت لـStartup Beat: «إنه في الواقع لا يختلف كثيرًا عن طرق أخرى لنقل العبء». وضربت مثالًا بمديري الموارد البشرية الذين يستخدمون كثيرًا سياسة الإقرار بالتوقيع لإبعاد المسؤولية القانونية عن الشركة. وقالت: «إذا كانت لديكم هذه السياسة، وقرأها الناس ووقّعوا بالموافقة عليها، فأنتم كشركة لستم مسؤولين من الناحية الشكلية، أليس كذلك؟»

وهنا يظهر نمط مألوف في أنظمة الشركات: تُنقل المسؤولية بدلًا من أن تزول. وترى حواش أن هذا مخرج كسول يتجنب التفكير النقدي أو فهم المواضع التي قد تطال فيها الآثار الناس أو المجتمعات. «وهكذا تنقلون العبء، ثم لا يعود مهمًا ما إذا كان الناس يفهمون السياسة، أو ما إذا كانت السياسة منطقية أصلًا».

وفي هذا التصور، يواجه مفهوم «الإنسان ضمن الحلقة» خطر التحول من تدخل فعلي ذي معنى إلى غطاء إجرائي. والخطر ليس لغويًا فحسب. فعندما يُختزل الإشراف في توقيع بالموافقة، يصبح دور الإنسان رمزيًا بدلًا من أن يكون جوهريًا.

وقد أشارت حواش إلى فظاعة عسكرية حديثة، هي الهجوم على المدرسة في ميناب بإيران، حيث وافق بشر على الضربة، لكن وجود متخذ قرار بشري لم يكن يعني بالضرورة وضوحًا أخلاقيًا أو مداولة كافية. «عندما تكونون في حرب أو تجرون جراحة معقدة، لا تملكون ترف الوقت لاستخدام الإنسان ضمن الحلقة درعًا».

2. التصميم من أجل المسؤولية، لا الإشراف وحده

ليس البديل التخلي عن الأنظمة التي تُبقي الإنسان ضمن الحلقة، بل التعامل معها بجدية باعتبارها التزامات في التصميم. وهذا يعني الانتقال من الإشراف الرمزي إلى هياكل مسؤولية مصممة عن قصد.

وقالت حواش: «هناك سباق كبير لطرح مزيد من الذكاء الاصطناعي مباشرة في السوق. ولا يُبذل الكثير من التفكير من منظور التصميم، مثل التفكير في الآثار اللاحقة على المجتمعات أو الناس أو المستخدمين النهائيين».

أصبحت السرعة المتغير المهيمن في المنافسة. وفي هذا السباق، كثيرًا ما تُؤجَّل المسؤولية بدلًا من تضمينها في النظام. والنتيجة نموذج أخلاقي قائم على رد الفعل، تُصلَح فيه المشكلات بعد النشر بدلًا من استباقها أثناء التطوير.

قد تؤدي سهولة الوصول إلى تسريع التبنّي، لكنها تضخّم العواقب أيضًا. فلم تعد الأنظمة حكرًا على المستخدمين التقنيين، إذ قد تشكّل قرارات لأشخاص تتفاوت مستويات فهمهم وسياقاتهم. وفي بيئة كهذه، لا يمكن إلقاء المسؤولية على المستخدم النهائي.

3. الإنسان ضمن الحلقة لضمان الدقة والمساءلة

يقدّم أبهاي غوبتا، الشريك المؤسس لشركة Frizzle، منظورًا أكثر تشغيلية، يستند إلى بناء نظام يكون الإشراف البشري فيه عمليًا وضروريًا في آن واحد.

نشأت شركته لمعالجة مشكلة محددة: المعلّمون المُرهَقون بالعمل. «في المدينة تسمعون عن مصرفيين ومستشارين يعملون 70 ساعة في الأسبوع، لكنكم لا تسمعون عن المعلّمين الذين يعملون كل هذا الوقت. ومن باب الفضول، أجرينا مقابلات مع مئات المعلّمين، ووجدنا أن التصحيح كان، على امتداد العينة، أكثر ما يستنزف وقتهم».

قد تبدو أتمتة التصحيح مهمة مباشرة، لكن تعقيد الرياضيات المكتوبة بخط اليد يفرض قيودًا حقيقية على الذكاء الاصطناعي. «هناك مشكلة الدقة. فالذكاء الاصطناعي ليس كاملًا، لذا بنينا نظامًا يُبقي الإنسان ضمن الحلقة. وإذا لم يكن الذكاء الاصطناعي واثقًا، كما في حالة الخط غير الواضح، فإنه يضع علامة على الحالة ليراجعها المعلّم ويوافق عليها أو يرفضها».

هنا لا يكون دور الإنسان مجرد زينة. فالنظام يحدد مواضع عدم يقينه صراحة، ويوجّه تلك الحالات إلى إنسان. «بالنسبة إلينا، المسألة تتعلق بالدقة. ستبقى دائمًا حالات استثنائية، ربما بنسبة 1–3٪، يجد فيها الذكاء الاصطناعي صعوبة، ولذلك يجب أن يتدخل إنسان».

يعيد هذا النهج تأطير مفهوم «الإنسان ضمن الحلقة» باعتباره آلية لضبط الجودة. لكن غوبتا يذهب إلى أبعد من ذلك: «في جوهره، الذكاء الاصطناعي ليس دقيقًا بنسبة 100٪؛ فقد يهلوس أو ينتج مخرجات خاطئة. ويعمل الإنسان ضمن الحلقة بوصفه الفحص النهائي للجودة قبل وصول النتائج إلى المستخدم النهائي. والمسألة تتعلق بالمسؤولية أيضًا. يجب أن يكون هناك من يُساءَل عن المخرجات، وحتى الآن لا بد أن يكون ذلك الشخص إنسانًا».

ويحافظ دور الإنسان أيضًا على جانب يصعب قياسه كميًا: جانب العلاقات الإنسانية في التدريس. «المسألة تتعلق أيضًا بالحفاظ على الجانب الإنساني من التعليم. فلكل معلّم أسلوبه، ولهذا نتيح لهم تخصيص طريقة تقديم الملاحظات».

إعادة تعريف الإنسان ضمن الحلقة

يحمل تعبير «الإنسان ضمن الحلقة» بساطة تبعث على الاطمئنان. فهو يوحي بأنه مهما بلغت أنظمتنا من تقدم، يبقى إنسان مسيطرًا، ولا نصبح مجرد «أشباح في الآلة». لكن مع توسّع الشركات الناشئة في نشر الذكاء الاصطناعي في بيئات بالغة الأثر، تستدعي هذه الطمأنينة تمحيصًا.

المسألة الأعمق هي التصميم. فإذا كانت مخاطر النظام غير مفهومة جيدًا أو يجري التهوين منها عمدًا، فإن إضافة إنسان في النهاية لا تصلح كثيرًا من عيوبه الأساسية. ومن الضروري أيضًا تعريف دور الإنسان بوصفه جزءًا لا يتجزأ من تشغيل النظام، لا مجرد حل احتياطي. فلا ينبغي للإنسان ضمن الحلقة أن يكتفي بالموافقة على النتيجة. وعلى الشركات الناشئة أن تسعى إلى تمكين موظفيها من تشكيل النتائج، ومساءلتها، وإلغائها عند الضرورة بصلاحية فعلية.

أرجون هارندراناث هو صحفي حر يعمل في ميديلين، كولومبيا، ويغطي قصصًا عن الصراع، والهجرة، والتكنولوجيا لجمهور عالمي. سبق أن نُشرت مقالاته في الجزيرة وتيك كرنش وذا نيكست ويب وصحيفة نيويورك تايمز.