الروبوتات والذكاء الاصطناعي الفيزيائي

الثقة والخداع: دور الاعتذارات في التفاعلات بين البشر والروبوتات

Alex McFarland
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالاعتذارات البسيطة دون الاعتراف بالخداع حافظت على الثقة في الروبوتات بأفضل شكل.
عرض المزيد
  • الاعتذارات البسيطة دون الاعتراف بالخداع حافظت على الثقة في الروبوتات بأفضل شكل.
  • كان من الضروري إخبار المستخدمين صراحةً بأن الروبوت كذب لكي يتمكنوا من التعرف على الخداع.
  • يجب على صانعي السياسات تنظيم خداع الذكاء الاصطناعي قبل أن تتعلم الأنظمة الكذب بشكل مستقل.

يُعد خداع الروبوتات مجالًا لم يُدرس بما يكفي، وفيه أسئلة أكثر من الإجابات، خاصة عندما يتعلق الأمر بإعادة بناء الثقة في أنظمة الروبوتات بعد أن يتم اكتشاف كذبها. يحاول باحثان من الطلاب في جورجيا تيك، Kantwon Rogers و Reiden Webber، العثور على إجابات لهذا الأمر من خلال التحقيق في كيفية تأثير خداع الروبوتات المتعمد على الثقة وفعالية الاعتذارات في إصلاح الثقة.

يوضح Rogers، طالب الدكتوراه في كلية الحاسوب:

“أظهرت جميع أعمالنا السابقة أن الناس يفقدون الثقة في النظام عندما يكتشفون أن الروبوتات قد كذبت عليهم – حتى لو كان الكذب يهدف إلى المنفعة لهم.”

يهدف الباحثون إلى تحديد ما إذا كانت أنواع مختلفة من الاعتذارات أكثر فعالية في استعادة الثقة في سياق التفاعل بين البشر والروبوتات.

تجربة القيادة بمساعدة الذكاء الاصطناعي وأثرها

صمم الثنائي تجربة محاكاة للقيادة لدراسة التفاعل بين البشر والذكاء الاصطناعي في حالة عالية الخطورة ووقت حساس. لقد تم تجنيد 341 مشاركًا عبر الإنترنت و 20 مشاركًا حضروا التجربة شخصيًا. تضمنت المحاكاة سيناريو قيادة بمساعدة الذكاء الاصطناعي حيث قدم الذكاء الاصطناعي معلومات خاطئة حول وجود الشرطة على الطريق إلى المستشفى. بعد المحاكاة، قدم الذكاء الاصطناعي واحدًا من خمس استجابات مختلفة بنص، بما في ذلك أنواع مختلفة من الاعتذارات واللاعتذارات.

كشفت النتائج أن المشاركين كانوا 3.5 مرات أكثر احتمالاً لتجنّب تجاوز حد السرعة عند توجيههم بواسطة مساعد روبوتي، مما يشير إلى موقف ثقة مفرط تجاه الذكاء الاصطناعي. لم تُستعد أي من أنواع الاعتذارات الثقة بشكل كامل، ولكن الاعتذار البسيط بدون اعتراف بالكذب (“أنا آسف”) حقق نتائج أفضل من الاستجابات الأخرى. هذا الاكتشاف مشكلة، لأنه يستغل الفكرة السابقة أن أي معلومات خاطئة مقدمة من روبوت هي خطأ نظام وليس كذب متعمد.

يشير Reiden Webber إلى:

“من النتائج الرئيسية أن الناس يجب أن يُخبروا بشكل صريح بأن الروبوت قد خادعهم.”

عندما أوضح الاعتذار للمشاركين أن الروبوت خدعهم، كانت أفضل استراتيجية لاستعادة الثقة هي أن يشرح الروبوت سبب كذبه.

الحركة إلى الأمام: الآثار على المستخدمين والمصممين وصنّاع السياسات

تحمل هذه الأبحاث آثارًا على مستخدمي التكنولوجيا العاديين، مصممي أنظمة الذكاء الاصطناعي، وصنّاع السياسات. من المهم أن يفهم الناس أن خداع الروبوتات حقيقي ويظل احتمالًا قائمًا دائمًا. يجب على المصممين والتقنيين مراعاة الآثار المترتبة على إنشاء أنظمة ذكاء اصطناعي قادرة على الخداع. يجب على صنّاع السياسات أن يأخذوا زمام المبادرة في صياغة تشريعات توازن بين الابتكار والحماية العامة.

يهدف Kantwon Rogers إلى إنشاء نظام روبوتي يمكنه تعلم متى يكذب ومتى لا يكذب عند العمل مع فرق بشرية، وكذلك متى وكيف يعتذر خلال التفاعلات المتكررة بين البشر والذكاء الاصطناعي على المدى الطويل لتحسين أداء الفريق.

يشدد على أهمية فهم وتنظيم خداع الروبوتات والذكاء الاصطناعي، قائلاً:

“الهدف من عملي هو أن أتبنّى نهجًا استباقيًا وأن أوضح الحاجة إلى تنظيم خداع الروبوتات والذكاء الاصطناعي. ولكن لا يمكننا القيام بذلك إذا لم نفهم المشكلة.”

تساهم هذه الأبحاث بمعرفة حيوية في مجال خداع الذكاء الاصطناعي وتقدم رؤى قيمة لمصممي التكنولوجيا وصنّاع السياسات الذين يخلقون وينظمون تكنولوجيا الذكاء الاصطناعي القادرة على الخداع أو التي قد تتعلم الخداع بمفردها.

يقود أليكس عمليات الأخبار المدعومة بالذكاء الاصطناعي في Unite.AI، حيث يجمع بين الصحافة والبحث والأتمتة لدعم تغطية سريعة وقابلة للتوسع للذكاء الاصطناعي. يساعد عمله في ضمان ظهور التطورات الناشئة في مجال الذكاء الاصطناعي بشكل فعال مع الحفاظ على معايير التحرير في النشرة.