باحثون يطورون خوارزميات تهدف إلى منع السلوك السيئ في الذكاء الاصطناعي

إلى جانب جميع التقدمات والفوائد التي أظهرها الذكاء الاصطناعي حتى الآن، هناك تقارير عن آثار جانبية غير مرغوب فيها مثل التحيز العرقي والجنساني في الذكاء الاصطناعي. لذلك، كما يطرح موقع sciencealert.com السؤال “كيف يمكن للعلماء ضمان أن تكون الأنظمة المتقدمة في التفكير عادلة أو حتى آمنة؟”

قد تكون الإجابة في تقرير الباحثين في جامعة ستانفورد وجامعة ماساتشوستس أمهرست، بعنوان منع السلوك غير المرغوب فيه في الآلات الذكية. كما يشير موقع eurekaalert.org في قصته حول هذا التقرير، يبدأ الذكاء الاصطناعي الآن في التعامل مع المهام الحساسة، لذلك “يصرّ المسؤولون على أن يقدّم علماء الحاسوب ضمانات بأن الأنظمة الآلية تم تصميمها لتقليل، إن لم يكن تجنب، النتائج غير المرغوب فيها مثل المخاطر الزائدة أو التحيز العرقي والجنساني”.

الغرض من ذلك، كما يشير إيما برونسكيل، أستاذ مساعد في علوم الحاسوب في ستانفورد ومؤلف رئيسي للورقة، “نريد تقدم الذكاء الاصطناعي الذي يحترم قيم مستخدميه البشر ويبرر الثقة التي نضعها في الأنظمة الآلية”.

كان الفكرة هي تعريف “النتائج غير الآمنة” أو “النتائج غير العادلة” أو السلوكيات في المصطلحات الرياضية. هذا، وفقًا للباحثين، سيجعل من الممكن “إنشاء خوارزميات يمكنها التعلم من البيانات حول كيفية تجنب هذه النتائج غير المرغوب فيها بثقة عالية”.

الهدف الثاني كان “تطوير مجموعة من التقنيات التي تجعل من السهل على المستخدمين تحديد ما النوع من السلوك غير المرغوب فيه الذي يريدون تقييده وتحديد معماريي التعلم الآلي للتنبؤ بثقة أن نظامًا مدربًا باستخدام بيانات سابقة يمكن الاعتماد عليه عند تطبيقه في ظروف العالم الحقيقي”.

يقول موقع ساينس ألايرت أن الفريق أطلق على هذا النظام الجديد اسم خوارزميات سيلدوني، بعد الشخصية الرئيسية في سلسلة روايات الخيال العلمي الشهيرة الأساس لآيزاك أсимوف. ويضيف فيليب توماس، أستاذ مساعد في علوم الحاسوب في جامعة ماساتشوستس أمهرست ومؤلف أول للورقة، “إذا استخدمت خوارزمية سيلدوني ل治لة السكري، يمكنني تحديد السلوك غير المرغوب فيه بمعنى انخفاض السكر في الدم أو انخفاض السكر في الدم بشكل خطير”.

“يمكنني أن أقول للآلة، ‘أثناء محاولة تحسين جهاز التحكم في مضخة الأنسولين، لا تقم بتعديلات تزيد من تكرار انخفاض السكر في الدم.’ معظم الخوارزميات لا توفر لك طريقة لوضع هذا النوع من القيود على السلوك؛ لم يتم تضمينه في التصاميم المبكرة”.

يضيف توماس أن هذه الإطار السيلدوني سوف يجعل من السهل على مصممي التعلم الآلي بناء تعليمات لتجنب السلوك في جميع أنواع الخوارزميات، بطريقة تمكنهم من تقييم احتمال أن تعمل الأنظمة المُدرَّبة بشكل صحيح في العالم الحقيقي”.

من جانبها، تشير إيما برونسكيل أيضًا إلى أن “ التفكير في كيفية إنشاء خوارزميات تحترم قيمًا مثل السلامة والعدالة أمر ضروري مع زيادة الاعتماد على الذكاء الاصطناعي في المجتمع”.