يمكن للذكاء الاصطناعي تجنب السلوكيات غير المرغوب فيها باستخدام خوارزميات جديدة

随着 تقدم خوارزميات الذكاء الاصطناعي والنظم وتحمل مسؤوليات أكبر، يصبح من المهم أكثر فأكثر ضمان تجنب أنظمة الذكاء الاصطناعي للسلوكيات الخطرة غير المرغوب فيها. مؤخرًا، نشر فريق من الباحثين من جامعة ماساتشوستس أمهرست وستانفورد ورقة تُظهر كيف يمكن تجنب سلوك الذكاء الاصطناعي المحدد من خلال استخدام تقنية تثير تعليمات رياضية دقيقة يمكن استخدامها لتعديل سلوك الذكاء الاصطناعي.

وفقًا لـ TechXplore، كانت الأبحاث مبنية على افتراض أن السلوكيات غير العادلة / غير الآمنة يمكن تعريفها bằng وظائف ومتغيرات رياضية. إذا كان هذا صحيحًا، فيجب أن يكون من الممكن للباحثين تدريب الأنظمة على تجنب هذه السلوكيات المحددة. هدف فريق البحث إلى تطوير أداة يمكن للمستخدمين استخدامها لتحديد السلوكيات التي يريدون أن يتجنبها الذكاء الاصطناعي، وتمكين مهندسي الذكاء الاصطناعي من تدريب نظام يمكنه تجنب الإجراءات غير المرغوب فيها عند استخدامها في سناريوهات العالم الحقيقي.

أوضح فيليب توماس، المؤلف الأول في الورقة وأستاذ مساعد في علوم الكمبيوتر في جامعة ميشيغان أمهرست، أن فريق البحث يهدف إلى إظهار أن مصممي خوارزميات التعلم الآلي يمكنهم جعل من الأسهل للمستخدمين وصف السلوكيات غير المرغوب فيها وزيادة احتمالية تجنب نظام الذكاء الاصطناعي للسلوك.

اختبر فريق البحث تقنيتهم من خلال تطبيقها على مشكلة شائعة في علم البيانات، وهي الانحياز الجندري. هدف فريق البحث إلى جعل الخوارزميات المستخدمة في التنبؤ بدرجات الطلاب في الكلية أكثر عدلاً من خلال تقليل الانحياز الجندري. استخدم فريق البحث مجموعة بيانات تجريبية وأمر نظام الذكاء الاصطناعي بتجنب إنشاء نماذج تقلل من درجات الطلاب بشكل عام / تزيد من درجات الطلاب بشكل عام لجنس معين. نتيجة لتعليمات الباحثين، أنشأ الخوارزمية نموذجًا أفضل في التنبؤ بدرجات الطلاب وقلل من الانحياز الجندري بشكل كبير مقارنة بالنماذج السابقة. كانت نماذج التنبؤ بدرجات الطلاب السابقة تعاني من الانحياز لأن نماذج تقليل الانحياز كانت محدودة جدًا أو لم تُستخدم على الإطلاق.

تم تطوير خوارزمية أخرى بواسطة فريق البحث. تم تنفيذ هذه الخوارزمية في مضخة إنسولين أوتوماتيكية، وتم تصميم الخوارزمية لتوازن الأداء والأمان. تحتاج مضخات الإنسولين الأوتوماتيكية إلى اتخاذ قرار بشأن حجم جرعة الإنسولين التي يجب إعطاؤها للمريض. بعد الأكل، يجب أن تُقدم المضخة جرعة من الإنسولين تكفي لمنع ارتفاع مستويات السكر في الدم. يجب أن تكون جرعات الإنسولين التي يتم إعطاؤها لا كبيرة ولا صغيرة.

الخوارزميات الحالية للتعلم الآلي ماهرة في تحديد الأنماط في استجابة الفرد لجرعات الإنسولين، ولكن هذه الطرق التحليلية الحالية لا تسمح للأطباء بتحديد النتائج التي يجب تجنبها، مثل انخفاض مستويات السكر في الدم. في المقابل، تمكن فريق البحث من تطوير طريقة يمكن تدريبها على إعطاء جرعات من الإنسولين تبقى ضمن الحدود، ومنع الجرعات القليلة أو الكبيرة. على الرغم من أن النظام ليس جاهزًا للاختبار على المرضى الحقيقيين بعد، يمكن أن تحسن أنظمة الذكاء الاصطناعي الأكثر تطورًا بناءً على هذا النهج جودة الحياة للأشخاص الذين يعانون من السكري.

في ورقة البحث، يشير الباحثون إلى الخوارزمية باسم “خوارزمية سيليدونية”. هذا هو في إشارة إلى قوانين الروبوتات الثلاث التي وصفها مؤلف الخيال العلمي آيزاك أسيموف..Implication هو أن نظام الذكاء الاصطناعي “لا يؤذي إنسانًا أو يسمح، من خلال عدم العمل، بتعرض إنسان للضرر”. يأمل فريق البحث أن يسمح إطارهم للباحثين ومهندسي الذكاء الاصطناعي بإنشاء مجموعة متنوعة من الخوارزميات والنظم التي تتجنب السلوكيات الخطرة. أوضح إمма برونسكيل، المؤلف الرئيسي للورقة وأستاذ مساعد في علوم الكمبيوتر في ستانفورد، لـ TechXplore:

“نريد تقدم الذكاء الاصطناعي الذي يحترم قيم مستخدميه البشر ويبرر الثقة التي نضعها في الأنظمة المستقلة.”