الأخلاقيات
دراسة جديدة تظهر أن الناس يمكنهم تعلم تمييز النصوص التي تم إنشاؤها بواسطة الآلة

النقاط الرئيسيةيمكن للأشخاص تدريب أنفسهم على اكتشاف النص المولّد بواسطة الآلة من خلال التعليمات…
عرض المزيد
- يمكن للأشخاص تدريب أنفسهم على اكتشاف النص المولّد بواسطة الآلة من خلال التعليمات الصريحة.
- استخدمت الدراسة لعبة قائمة على الويب حيث يحدد المشاركون التحولات من النص البشري إلى النص الذكي.
- يمكن للتدريب على اكتشاف النص الذكي أن يخفف من المخاطر مثل الأخبار المزيفة والانتحال.
أثار تزايد تطوّر الذكاء الاصطناعي وسهولة الوصول إليه، مخاوف قديمة بشأن تأثيره على المجتمع. وقد زاد الجيل الأخير من برامج الدردشة هذه المخاوف، مع مخاوف بشأن سلامة سوق العمل وانتشار الأخبار الكاذبة والمعلومات الخاطئة. في ضوء هذه المخاوف، سعى فريق من الباحثين في جامعة بنسيلفانيا كلية الهندسة والعلوم التطبيقية إلى تمكين مستخدمي التكنولوجيا من التخفيف من هذه المخاطر.
تدريب نفسك على تمييز نصوص الآلة
الورقة البحثية المُحكّمة، والتي تم تقديمها في اجتماع فبراير 2023 لجمعية تقدم الذكاء الاصطناعي، توفر أدلة على أن الناس يمكنهم تعلم الفرق بين النصوص التي تم إنشاؤها بواسطة الآلة والنصوص المكتوبة بواسطة الإنسان.
الدراسة، بقيادة كريس كاليسون-برتش، أستاذ مشارك في قسم علوم الكمبيوتر والمعلومات (CIS)، إلى جانب طلاب الدكتوراه ليام دوجان ودافني إيبوليتو، تظهر أن النصوص التي تم إنشاؤها بواسطة الآلة يمكن الكشف عنها.
“لقد أظهرنا أن الناس يمكنهم تدريب أنفسهم على تمييز النصوص التي تم إنشاؤها بواسطة الآلة”، يقول كاليسون-برتش. “يبدأ الناس بمجموعة معينة من الافتراضات حول ما نوع الأخطاء التي قد يرتكبها جهاز، ولكن هذه الافتراضات ليست بالضرورة صحيحة. مع مرور الوقت، مع قدر كافٍ من الأمثلة والتوجيه الصريح، يمكننا تعلم الكشف عن أنواع الأخطاء التي ترتكبها الآلات حاليًا”.
تستخدم الدراسة بيانات تم جمعها باستخدام “نص حقيقي أو مزيف؟”، وهي لعبة تدريبية على الإنترنت. تعيد هذه اللعبة تشكيل الطريقة التجريبية المعتادة في دراسات الكشف، لتُمثّل بصورة أدق كيفية استخدام الناس للذكاء الاصطناعي في توليد النصوص. ففي الأساليب المعتادة، يُطلب من المشاركين الإجابة بنعم أو لا عمّا إذا كانت الآلة قد أنتجت نصًا معينًا. أما نموذج بنسيلفانيا فيحوّل اختبار الكشف إلى مهمة تدريب فعّالة، بعرض أمثلة تبدأ جميعها بنصوص كتبها بشر. ثم ينتقل كل مثال إلى نص تم إنشاؤه بواسطة الآلة، ويُطلب من المشاركين تحديد مكان يعتقدون أن هذا الانتقال يبدأ فيه. يقوم المتدربون بتحديد ووصف سمات النص التي تشير إلى الخطأ ويتلقون درجة.
نتائج الدراسة
تظهر نتائج الدراسة أن المشاركين سجلوا نتائج أفضل بكثير من الصدفة العشوائية، مما يوفر أدلة على أن النصوص التي تم إنشاؤها بواسطة الآلة يمكن الكشف عنها إلى حد ما. لا توفر الدراسة فقط مستقبلًا مشجعًا ومثيرًا لعلاقتنا مع الذكاء الاصطناعي، ولكنها توفر أيضًا أدلة على أن الناس يمكنهم تدريب أنفسهم على الكشف عن النصوص التي تم إنشاؤها بواسطة الآلة.
“الناس قلقون من الذكاء الاصطناعي لأسباب صحيحة”، يقول كاليسون-برتش. “دراستنا توفر نقاط من الأدلة لتخفيف هذا القلق. بمجرد أن نتمكن من استغلال تفاؤمنا حول مولدات النصوص التي تم إنشاؤها بواسطة الآلة، سنتمكن من تخصيص الانتباه لقدرة هذه الأدوات على مساعدتنا في كتابة نصوص أكثر خيالًا ومثيرة للاهتمام”.
يضيف دوجان: “هناك اتجاهات إيجابية مثيرة يمكن دفع هذه التكنولوجيا فيها. الناس مهتمون بالأمثلة القلقة، مثل الانتحال والأخبار الكاذبة، ولكننا نعلم الآن أننا يمكننا تدريب أنفسنا على أن نصبح قراء وكتاب أفضل”.
توفر الدراسة خطوة أولى حاسمة في التخفيف من المخاطر المرتبطة بالنصوص التي تم إنشاؤها بواسطة الآلة. مع تطور الذكاء الاصطناعي، يجب أن تتطور أيضًا قدرتنا على الكشف عن تأثيره وتحديد مساره. من خلال تدريب أنفسنا على تمييز الفرق بين النصوص المكتوبة بواسطة الإنسان والنصوص التي تم إنشاؤها بواسطة الآلة، يمكننا استغلال قوة الذكاء الاصطناعي لدعم عملياتنا الإبداعية مع التخفيف من مخاطرها.












