بحث جديد يلقي الضوء على الثقة بين البشر والrobots

بحث جديد، بقيادة مختبر أبحاث الجيش الأمريكي جنباً إلى جنب مع معهد جامعة سنترال فلوريدا للتدريب وال模拟، يلقي الضوء على مستوى الثقة التي يمتلكها البشر تجاه الrobots. ركز المشروع الجديد على العلاقة بين البشر والrobots، وعلى ما إذا كان البشر يمنحون قيمة أكبر لعملية التفكير في الrobot أو لأخطائه.

نظر البحث الجديد في فريق العمل بين البشر والوكلاء، أو HAT، وكيف تتأثر ثقة البشر وطاقة العمل وأفكارهم حول الوكيل بشفافية الوكلاء مثل الrobots والمركبات غير المأهولة ووكلاء البرمجيات. الشفافية هي عندما يتمكن الإنسان من تحديد النية وعمليات التفكير والمخططات المستقبلية للوكلاء.

يُظهر البحث الجديد أن ثقة البشر في الrobots تتناقص دائماً عندما يرتكب الrobot خطأ. هذا بغض النظر عما إذا كان الrobot قد كان شفافاً في عمليات التفكير أم لا.

نُشر البحث الجديد في عدد أغسطس من IEEE-Transactions on Human-Machine Systems. كان عنوان الورقة “شفافية الوكيل وموثوقيته في التفاعل بين البشر والrobots: التأثير على ثقة المستخدم وموثوقية الوكيل”.

البحث التقليدي المتعلق بفريق العمل بين البشر والوكلاء يستخدم وكلاء ذكاء مت完全 موثوق بهم لا يرتكبون أخطاء. ومع ذلك، كان هذا البحث الجديد واحد من القلائل الذي استكشف كيف تتفاعل شفافية الوكيل مع موثوقية الوكيل. شارك في الدراسة robot يرتكب أخطاء بينما كان البشر يراقبون، وتم سؤال البشر عما إذا كانوا يعتبرون الrobot أقل موثوقية. خلال العملية بأكملها، تم إعطاء البشر نظرة على عمليات التفكير في الrobot.

الدكتورة جوليا رايت هي المحقق الرئيسي للمشروع، وهي باحثة في مختبر أبحاث الجيش الأمريكي التابع لقيادة تطوير القدرات القتالية للجيش، أو ARL.

“فهم كيفية تأثير سلوك الrobot على زملائهم البشر هو أمر بالغ الأهمية لتطوير فرق بشرية-robots فعالة، وكذلك تصميم واجهات وأساليب الاتصال بين أعضاء الفريق”، قالت “هذا البحث يساهم في جهود الجيش لضمان التفوق في القدرات التي تمكّنها الذكاء الاصطناعي. ولكنها أيضاً متعددة التخصصات، حيث ستinform نتائجها عمل علماء النفس وخبراء الrobots والمهندسين وتصميمermen الذين يعملون على تسهيل الفهم بين البشر والوكلاء المستقلين فيما يخص جعل زملاء مستقلين وليس أدوات فقط”.

كان هذا المشروع الجديد جزءاً من مشروع أكبر يُعرف باسم مشروع عضو الفريق المستقل (ASM) الذي يُموّل من قبل مبادرة أبحاث الاستقلالية التابعة لمكتب وزير الدفاع. ASM هو robot أرضي صغير حقيقي يُستخدم داخل فريق مشاة. يمكنه التواصل والتفاعل مع الفريق.

شملت الدراسة مشاركين يراقبون فرق من جنود ووكلاء في بيئة محاكاة. كان الASM جزءاً من الفريق، وانتقل عبر مسار تدريبي. كان المهمة للمراقبين مراقبة الفريق وتقييم الrobot. على مدار المسار التدريبي، تم تقديم الفريق مع أحداث وعراقيل مختلفة. تمكن الجنود من التنقل في كل منها بشكل صحيح، ولكن هناك أوقات لم يتمكن الrobot من فهم العائق وارتكاب أخطاء. ثم شارك الrobot أحياناً تفكيره الخلفي وأسباب أفعال معينة وكذلك النتيجة المتوقعة.

وجدت الدراسة أن المشاركين كانوا أكثر قلقاً من أخطاء الrobot مقارنة بالمنطق الخلفي وتفكيره. لعبت موثوقية الrobot دوراً رئيسياً في ثقة المشاركين وتصوراتهم. كلما ارتكب الrobot خطأ، قيم المراقبون موثوقيته بأقل.

زادت الموثوقية والثقة كلما زادت شفافية الوكيل، أو عندما شارك الrobot تفاصيل وتفكيره الخلفي وراء قراره. ومع ذلك، كانت الموثوقية والثقة لا تزال أقل من الrobots التي لم تتعرض لأخطاء. هذا يشير إلى أن مشاركة التفكير الخلفي والمنطق يمكن أن تساعد في بعض قضايا الثقة والموثوقية المحيطة بالrobots.

“تشير الدراسات السابقة إلى أن السياق يهم في تحديد فائدة المعلومات الشفافة”، قالت رايت. “نحن بحاجة إلى فهم أفضل لأي مهام تتطلب فهماً أعمق لتفكير الوكيل، وكيفية تحديد ما يعنيه هذا العمق. يجب أن ت探 أبحاث مستقبلية سبل تقديم معلومات شفافة بناءً على متطلبات المهام”.

سيplays هذا البحث الجديد دوراً حاسماً في المجال بسبب التفاعل المتزايد بين البشر والrobots. واحدة من المناطق التي ستكون الأكثر أهمية هي العسكرية. كما هو موضح في هذه التمارين، سيكون الrobots والجنود في النهاية جنباً إلى جنب. تماماً مثل جندي يجب أن يكون لديه ثقة في جندي آخر، سيطبق نفس الشيء على الrobots. إذا تمكنا من تحقيق ذلك واصبح الrobots شائعاً في فرق المشاة، فسيكون ذلك مثالاً آخر على اختراق الذكاء الاصطناعي في صناعة الدفاع.