الثقة والخداع: دور الاعتذارات في التفاعلات بين البشر والrobots

يُعد خداع الروبوتات مجالاً غير مدروس به أكثر الأسئلة من الإجابات، خاصة عندما يتعلق الأمر بإعادة بناء الثقة في أنظمة الروبوتات بعد أن يتم اكتشاف كذبها. يحاول两个 باحثين طلاب في جورجيا تيك، Kantwon Rogers و Reiden Webber، العثور على إجابات لهذا الأمر من خلال التحقيق في كيفية تأثير خداع الروبوتات المتعمد على الثقة وفعالية الاعتذارات في إصلاح الثقة.

يُشرح Rogers، طالب الدكتوراه في كلية الحاسوب:

“أظهرت جميع أعمالنا السابقة أن الناس يفقدون الثقة في النظام عندما يكتشفون أن الروبوتات قد كذبت عليهم – حتى لو كان الكذب يهدف إلى المنفعة لهم.”

يهدف الباحثون إلى تحديد ما إذا كانت أنواع مختلفة من الاعتذارات أكثر فعالية في استعادة الثقة في سياق التفاعل بين البشر والروبوتات.

تجربة القيادة بمساعدة الذكاء الاصطناعي وأثرها

صمم الثنائي تجربة محاكاة للقيادة لدراسة التفاعل بين البشر والذكاء الاصطناعي في حالة عالية الخطورة ووقت حساس. لقد تم تجنيد 341 مشاركًا عبر الإنترنت و 20 مشاركًا شخصيًا. تضمنت المحاكاة سيناريو قيادة بمساعدة الذكاء الاصطناعي حيث قدم الذكاء الاصطناعي معلومات خاطئة حول وجود الشرطة على الطريق إلى المستشفى. بعد المحاكاة، قدم الذكاء الاصطناعي واحدًا من خمس استجابات مختلفة بنص، بما في ذلك أنواع مختلفة من الاعتذارات واللاعتذارات.

كشفت النتائج أن المشاركين كانوا 3.5 مرات أكثر احتمالاً لعدم السرعة عند توجيههم بواسطة مساعد روبوتي، مما يشير إلى موقف ثقة مفرط تجاه الذكاء الاصطناعي. لم تُستعد أي من أنواع الاعتذارات الثقة بشكل كامل، ولكن الاعتذار البسيط بدون اعتراف بالكذب (“Tôi آسف”) أداء أفضل من الاستجابات الأخرى. هذا الاكتشاف مشكلة، لأنه يستغل الفكرة السابقة أن أي معلومات خاطئة مقدمة من روبوت هي خطأ نظام وليس كذب متعمد.

يشير Reiden Webber إلى:

“من النتائج الرئيسية أن الناس يجب أن يُخبروا بشكل صريح بأن الروبوت قد خادعهم.”

عندما أُخبر المشاركون بخداع الاعتذار، كانت أفضل استراتيجية لإصلاح الثقة هي أن يُشرح الروبوت لماذا كذب.

الحركة إلى الأمام: الآثار على المستخدمين والمصممين والمنظمين

تحمل هذه الأبحاث آثارًا على مستخدمي التكنولوجيا العاديين، مصممي أنظمة الذكاء الاصطناعي، والمنظمين. من المهم أن يفهم الناس أن خداع الروبوتات حقيقي و دائمًا إمكانية. يجب على المصممين والتقنيين مراعاة الآثار المترتبة على إنشاء أنظمة ذكاء اصطناعي قادرة على الخداع. يجب على المنظمين أن يأخذوا زمام المبادرة في صياغة تشريعات توازن بين الابتكار والحماية العامة.

يهدف Kantwon Rogers إلى إنشاء نظام روبوتي يمكنه تعلم متى يكذب ومتى لا يكذب عند العمل مع فرق بشرية، وكذلك متى وكيف يعتذر خلال التفاعلات المتكررة بين البشر والذكاء الاصطناعي على المدى الطويل لتحسين أداء الفريق.

يشدد على أهمية فهم وتنظيم خداع الروبوتات والذكاء الاصطناعي، قائلاً:

“الهدف من عملي هو أن أكون متقدمًا ومعلوماتي حول الحاجة إلى تنظيم خداع الروبوتات والذكاء الاصطناعي. ولكن لا يمكننا القيام بذلك إذا لم نفهم المشكلة.”

تساهم هذه الأبحاث بمعرفة حيوية في مجال خداع الذكاء الاصطناعي وتقدم رؤى قيمة لمصممي التكنولوجيا والمنظمين الذين يخلقون وينظمون تكنولوجيا الذكاء الاصطناعي القادرة على الخداع أو التي قد تتعلم الخداع بمفردها.