باحثون يكتشفون أن نماذج الذكاء الاصطناعي يمكن أن تؤثر على الناس لاتخاذ قرارات غير أخلاقية

اكتشف فريق من الباحثين مؤخرًا إمكانية فساد الذكاء الاصطناعي للأشخاص وتأثيرهم لاتخاذ قرارات غير أخلاقية. قام الباحثون بدراسة كيفية تفاعل الناس مع الأنظمة المعتمدة على نموذج GPT-2 من OpenAI ، ومدى تأثيرها على اتخاذ قرارات غير أخلاقية حتى عندما يكون الأشخاص على دراية بمصدر المشورة وهو نظام ذكاء اصطناعي.

تزداد أنظمة الذكاء الاصطناعي شيوعًا مع مرور الوقت ، وتتوسع نفوذها بشكل أكبر. تؤثر أنظمة الذكاء الاصطناعي على قرارات الأشخاص ، وتستخدم في كل شيء من توصية الأفلام إلى توصية الشركاء الرومانسيين. نظرًا لتأثير الذكاء الاصطناعي الكبير على حياة الناس ، من المهم النظر في كيفية تأثير الذكاء الاصطناعي على الأشخاص لاتخاذ قرارات غير أخلاقية ومخالفة للمبادئ الأخلاقية. هذا尤هم أهمية مع الأخذ في الاعتبار أن نماذج الذكاء الاصطناعي تزداد تعقيدًا بشكل مستمر.

أصبح علماء الاجتماع وعلوم البيانات قلقين بشكل متزايد من أن نماذج الذكاء الاصطناعي يمكن استخدامها لنشر معلومات ضارة ومعلومات خاطئة. وجد مقال حديث من قبل باحثين من معهد ميدلبري للدراسات الدولية ومركز الإرهاب والتعصب والمتطرفين ، أن نموذج GPT-3 من OpenAI يمكن استخدامه لإنشاء نص مؤثر يمكن أن يؤدي إلى توجيه الأشخاص نحو “أفكار متطرفة عنيفة ويمين متطرفة وسلوكيات”.

أجريت دراسة بواسطة فريق من الباحثين من معهد ماكس بلانك وجامعة أمستردام وجامعة كولونيا ومدارس أوتو بيهيم للإدارة ، بهدف تحديد مقدار تأثير الذكاء الاصطناعي على قرارات الأشخاص عند اتخاذ خيارات غير أخلاقية. لاستكشاف كيفية “فساد” شخص ما بواسطة الذكاء الاصطناعي ، استخدم الباحثون نظامًا يعتمد على نموذج GPT-2 من OpenAI. وفقًا لما ذكرته VentureBeat ، قام مؤلفو الورقة بتدريب نموذج يعتمد على GPT2 لإنشاء نصوص تعزز عدم الصدق وتعزز الصدق. تم تدريب البيانات على مساهمات من 400 مشارك مختلف ، وبعد ذلك ، قام فريق البحث بتجنيد أكثر من 1500 شخص للتفاعل مع نماذج الذكاء الاصطناعي التي تقدم المشورة.

تمت مطالبة المشاركين في الدراسة بتلقي المشورة من النموذج ومن ثم تنفيذ مهمة مصممة لالتقاط سلوك غير صادق أو صادق. تم تجميع المشاركين في أزواج ، وفي هذه الأزواج ، لعبوا لعبة يانصيب. قام المشارك الأول بتقليب النرد وابلاغ النتيجة. تم إعطاء المشارك الثاني النتيجة التي حصل عليها المشارك الأول ، ثم قام بتقليب النرد بنفسه. قام المشارك الثاني بتقليب النرد بشكل خاص وكان مسؤولاً عن إبلاغ نتيجته ، مما أتاح له الفرصة للكذب على النتيجة. إذا تطابقت النتائج التي حصل عليها كلا المشاركين ، فقد تم دفع المشاركين. كما تم دفع المشاركين أكثر إذا كانت النتائج المتطابقة أعلى.

تم تخصيص المشاركين في الدراسة بشكل عشوائي إلى واحدة من المجموعتين. حصلت مجموعة على فرصة لقراءة نصوص تعزز الصدق ، في حين قرأت المجموعة الأخرى نصوص تعزز عدم الصدق. تم كتابة نصوص المشورة بواسطة كل من البشر والذكاء الاصطناعي. تم تقسيم المشاركين أيضًا وفقًا لمستوى معرفتهم بمصدر المشورة. كان هناك فرصة 50-50 أن يعرف مشارك معين مصدر المشورة ، لذلك كان نصف المشاركين في كل مجموعة على دراية بمصدر المشورة ، بينما كان النصف الآخر غير على دراية. كان للمشاركين في المجموعة الثانية khảية كسب مكافأة إضافية لتحديد مصدر المشورة بشكل صحيح.

كشفت الدراسة عن أن الناس يتبعون المشورة التي يولونها اهتمامًا ، حتى عندما يعرفون أن مصدر المشورة هو نظام ذكاء اصطناعي. وفقًا للباحثين ، كانت هناك اختلافات بين التفضيلات المعلنة والسلوكيات الفعلية ، مما يجعل من المهم النظر في كيفية تأثير الخوارزميات على السلوكيات البشرية.

أوضح فريق البحث أن دراستهم تظهر الحاجة إلى اختبار كيفية تأثير الذكاء الاصطناعي على أفعال الأشخاص عند النظر في كيفية نشر نموذج ذكاء اصطناعي بشكل أخلاقي. بالإضافة إلى ذلك ، يحذرون من أن باحثي أخلاقيات الذكاء الاصطناعي يجب أن يستعدوا لإمكانية استخدام الذكاء الاصطناعي من قبل الأفراد الضارين لفساد الآخرين. كما كتب فريق البحث:

“يمكن للذكاء الاصطناعي أن يكون قوة خير إذا تمكن من إقناع الناس بالتصرف بشكل أكثر أخلاقيًا. ومع ذلك ، تظهر نتائجنا أن نصائح الذكاء الاصطناعي لا تزيد من الصدق. يمكن أن يخدم مستشارو الذكاء الاصطناعي ككبش فدية يمكن أن يتحمل بعض اللوم الأخلاقي لعدم الصدق. بالإضافة إلى ذلك … في سياق أخذ المشورة ، لا تكفي الشفافية حول وجود الخوارزمية لتخفيف ضررها المحتمل.”