باحثون يكتشفون أن نماذج الذكاء الاصطناعي يمكن أن تؤثر على الناس لاتخاذ قرارات غير أخلاقية

قام فريق من الباحثين مؤخرًا بدراسة إمكانية تلوث الذكاء الاصطناعي للأشخاص وتأثيره على اتخاذ قرارات غير أخلاقية. قام الباحثون بدراسة كيف يمكن للتفاعلات مع الأنظمة المعتمدة على نموذج GPT-2 من OpenAI أن تؤثر على الناس لاتخاذ قرارات غير أخلاقية حتى عندما يكونون على دراية بأن مصدر النصيحة هو نظام ذكاء اصطناعي.

نظم الذكاء الاصطناعي تصبح أكثر شيوعًا مع مرور الوقت، وتتوسع نفوذها بشكل متزايد. تؤثر أنظمة الذكاء الاصطناعي على قرارات الناس، وتستخدم في كل شيء من توصية الأفلام إلى توصية الشركاء الرومانسيين. نظرًا لتأثير الذكاء الاصطناعي الكبير على حياة الناس، من المهم النظر في كيفية تأثير الذكاء الاصطناعي على الناس لاتخاذ قرارات غير أخلاقية ومخالفة للمبادئ الأخلاقية. هذا صحيح بشكل خاص نظرًا لأن نماذج الذكاء الاصطناعي تصبح أكثر تعقيدًا بشكل مستمر.

أصبح علماء الاجتماع وعلماء البيانات يتزايدون قلقهم من أن نماذج الذكاء الاصطناعي يمكن استخدامها لنشر معلومات خاطئة ومضللة. وجد مقال حديث نُشر بواسطة باحثين من معهد ميدلبري للدراسات الدولية ومركز الإرهاب والتعصب والتعطيل، أن نموذج GPT-3 من OpenAI يمكن استخدامه لإنشاء نص مؤثر قادر على تحريض الناس وتحفيزهم نحو “أفكار وتصرفات متطرفة يمينية عنيفة”.

أجريت دراسة بواسطة فريق من الباحثين من معهد ماكس بلانك وجامعة أمستردام وجامعة كولونيا ومدارس أوتو بيهيم لإدارة الأعمال بهدف تحديد مقدار التأثير الذي يمكن أن يكون له الذكاء الاصطناعي على قرارات الناس فيما يتعلق بالخيارات غير الأخلاقية. من أجل استكشاف كيف يمكن للذكاء الاصطناعي “تلوث” شخص ما، استخدم الباحثون نظامًا يعتمد على نموذج GPT-2 من OpenAI. وفقًا لventurebeat، قام مؤلفو الورقة بتدريب نموذج يعتمد على GPT2 لإنشاء نصيحة “ترويجية للخداع” و “ترويجية للصدق”. تم تدريب البيانات على مساهمات من 400 مشارك مختلف، وبعد ذلك، قام فريق البحث بتجنيد أكثر من 1500 شخص للتفاعل مع نماذج الذكاء الاصطناعي التي تقدم النصيحة.

طُلب من المشاركين في الدراسة استلام النصيحة من النموذج ثم أداء مهمة مصممة لالتقاط سلوك غير صادق أو صادق. تم تجميع المشاركين في أزواج من شخصين، ولعبوا لعبة لفة النرد. لف المشارك الأول النرد وأبلغ عن نتيجة لفة النرد. تم إعطاء المشارك الثاني نتيجة لفة النرد للمشارك الأول، ثم لف النرد بنفسه. لف المشارك الثاني النرد بشكل خاص وكان مسؤولاً عن الإبلاغ عن نتيجة لفة النرد، مما أعطاه فرصة للكذب عن نتيجة لفة النرد. إذا تطابقت النرد التي لفها المشاركان، تم دفع المشاركين. كما تم دفع المشاركين أكثر إذا كانت لفات النرد المتطابقة أعلى. إذا لم تتطابق القيم المبلغ عنها، لم يتم دفع المشاركين.

تم تخصيص المشاركين في الدراسة بشكل عشوائي إلى واحدة من两ية مجموعتين. حصلت إحدى المجموعتين على فرصة لقراءة نصيحة ترويجية للصدق، بينما قرأت المجموعة الأخرى نصيحة ترويجية للخداع. كانت مقتطفات النصيحة مكتوبة بواسطة كل من البشر والذكاء الاصطناعي. تم تقسيم المشاركين أيضًا وفقًا لمستوى معارفهم حول مصدر النصيحة. كان هناك فرصة 50-50 أن يعرف مشارك معين مصدر النصيحة، لذلك كان نصف المشاركين في كل مجموعة يعرفون أن مصدر النصيحة كان إما الذكاء الاصطناعي أو الإنسان، بينما كان النصف الآخر في الظلام. كان لدى المجموعة الثانية من الناس القدرة على كسب رواتب إضافية لتحديد مصدر النصيحة بشكل صحيح، ومع ذلك.

كشفت الدراسة أن النصيحة التي يولدها الذكاء الاصطناعي عندما تتوافق مع تفضيلات الشخص، سيتبع الشخص النصيحة، حتى عندما يعرف أن النصيحة تم توليدها بواسطة نظام ذكاء اصطناعي. وفقًا للباحثين، كان هناك souvent خلافات بين التفضيلات المعلنة والسلوكيات الفعلية، مما يجعل من المهم النظر في كيفية تأثير الخوارزميات على سلوكيات البشر.

أوضح فريق البحث أن دراستهم تظهر الحاجة إلى اختبار كيف يمكن للذكاء الاصطناعي أن يؤثر على أفعال الشخص عند النظر في كيفية نشر نموذج الذكاء الاصطناعي بشكل أخلاقي. بالإضافة إلى ذلك، يحذرون من أن باحثي أخلاقيات الذكاء الاصطناعي يجب أن يستعدوا لإمكانية استخدام الذكاء الاصطناعي من قبل الأشخاص السيئين لتلوث الآخرين. كما كتب فريق البحث:

“يمكن للذكاء الاصطناعي أن يكون قوة جيدة إذا تمكن من إقناع الناس بالتصرف بشكل أكثر أخلاقيًا. ومع ذلك، تظهر نتائجنا أن نصيحة الذكاء الاصطناعي لا تزيد من الصدق. يمكن أن يخدم مستشارو الذكاء الاصطناعي ككبش فداء يمكن أن يتحمل (بعض) اللوم الأخلاقي للخداع. بالإضافة إلى ذلك … في سياق أخذ النصيحة، لا تكفي الشفافية حول وجود الخوارزمية لتخفيف ضررها المحتمل”.