فاهيد بهزادان، مدير مختبر التعلم الذكي الآمن والمؤكد (SAIL) – سلسلة المقابلات

فاهيد أستاذ مساعد في علوم الحاسوب وعلوم البيانات في جامعة نيو هافن. وهو أيضًا مدير مختبر التعلم الذكي الآمن والمؤكد (SAIL)

تشمل اهتماماته البحثية سلامة وأمان الأنظمة الذكية، ونمذجة مشكلات أمان الذكاء الاصطناعي من الناحية النفسية، وأمان الأنظمة التكيفية المعقدة، ونظرية الألعاب، والأنظمة متعددة الوكلاء، وأمان السيبرانية.

لديك خلفية واسعة في أمان السيبرانية وحماية الذكاء الاصطناعي. هل يمكنك مشاركة رحلتك في كيفية جذبك إلى كلا المجالين؟

كان مسار بحثي مدفوعًا باهتمامين أساسيين لي: معرفة كيف تتعطل الأشياء، ودراسة آليات عمل العقل البشري. لقد كنت مشاركًا بشكل نشط في أمان السيبرانية منذ سنتي المراهقة المبكرة، وبناءً على ذلك، بنيت أجندتي البحثية المبكرة حول المشكلات الكلاسيكية لهذا المجال. بعد بضع سنوات من دراستي العليا، وجدت فرصة نادرة لتغيير مجال بحثي. في ذلك الوقت، كنت قد تعرضت للعمل المبكر لشجدي وغودفيلو على هجمات الأمثلة المعادية، ووجدت فكرة مهاجمة التعلم الآلي مثيرة جدًا. عندما نظرت بشكل أعمق إلى هذه المشكلة، تعلمت عن مجال أمان وسلامة الذكاء الاصطناعي بشكل عام، ووجدت أنه يشمل العديد من اهتماماتي الأساسية، مثل أمان السيبرانية والعلوم المعرفية والاقتصاد والفلسفة. كما أعتقد أن البحث في هذا المجال ليس فقط مثيرًا، ولكن أيضًا ضروريًا لضمان الفوائد والسلامة على المدى الطويل للثورة الذكاء الاصطناعي.

أنت مدير مختبر التعلم الذكي الآمن والمؤكد (SAIL) الذي يعمل على وضع أسس ملموسة لسلامة وأمان الآلات الذكية. هل يمكنك أن تخبرنا بعض التفاصيل حول العمل الذي يقوم به مختبر SAIL؟

في مختبر SAIL، يعمل طلابي وأنا على مشكلات تقع في تقاطع الأمان والذكاء الاصطناعي والأنظمة المعقدة. التركيز الرئيسي لأبحاثنا هو على التحقيق في سلامة وأمان الأنظمة الذكية، من كلا الجانبين النظري والتطبيقي. من الناحية النظرية، نحن نبحث حاليًا في مشكلة محاذاة القيم في بيئات متعددة الوكلاء، ونتطوير أدوات رياضية لتقييم وضبط أهداف وكلاء الذكاء الاصطناعي فيما يتعلق بالاستقرار والترابط المتين. من الناحية التطبيقية، يبحث بعض مشاريعنا في الثغرات الأمنية لتكنولوجيا الذكاء الاصطناعي المتقدمة، مثل المركبات المستقلة وتداول الخوارزميات، وتهدف إلى تطوير تقنيات لتقييم وتحسين متانة هذه التكنولوجيا ضد الهجمات المعادية.

كما نعمل على تطبيقات التعلم الآلي في أمان السيبرانية، مثل الاختبار التلقائي للاختراق، والكشف المبكر عن محاولات الاختراق، وجمع وتحليل المعلومات التهديدات التلقائي من مصادر البيانات المفتوحة مثل وسائل التواصل الاجتماعي.

قادت مؤخرًا جهودًا لطرح نمذجة مشكلات أمان الذكاء الاصطناعي كأمراض نفسية. هل يمكنك أن تخبرنا ما هي هذه النمذجة؟

يتناول هذا المشروع التعقيد السريع للوكلاء والأنظمة الذكية: أصبح من الصعب للغاية تشخيص وتوقع وضبط السلوكيات غير الآمنة لوكلاء التعلم بالتعزيز في إعدادات غير тривиالية بالنظر فقط إلى تكوينها على مستوى منخفض. في هذا العمل، نؤكد على الحاجة إلى تجريدات على مستوى أعلى في التحقيق في هذه المشكلات. مستوحى من النهج العلمي لمشكلات السلوك لدى البشر، نقترح علم النفس العصبي كتجريد مفيد لنمذجة وتحليل السلوكيات الضارة الناشئة في الذكاء الاصطناعي والذكاء الاصطناعي العام. كدليل على المفهوم، ندرس مشكلة أمان الذكاء الاصطناعي لهجمات المكافأة في وكيل التعلم بالتعزيز الذي يتعلم لعب لعبة الثعبان الكلاسيكية. نُظهر أنه إذا أضفنا “بذرة دواء” إلى البيئة، فإن الوكيل يتعلم سلوكًا غير أمثل يمكن وصفها من خلال نماذج عصبية علمية للإدمان. كما يقترح هذا العمل منهجيات تحكم dựa على نهج العلاج النفسي. على سبيل المثال، نقترح استخدام إشارات المكافأة التي تم إنشاؤها بشكل مصطنع كبديل للعلاج الدوائي لتعديل السلوك الضار للوكلاء.

هل لديك مخاوف بشأن أمان الذكاء الاصطناعي عندما يتعلق الأمر بالمركبات المستقلة؟

تُصبح المركبات المستقلة أمثلة بارزة على نشر الذكاء الاصطناعي في الأنظمة الإلكتروميكانيكية. بالنظر إلى القابلية الأساسية لتكنولوجيا التعلم الآلي الحالية للأخطاء والهجمات المعادية، أنا قلق جدًا بشأن سلامة وأمان المركبات شبه المستقلة. كما يعاني مجال القيادة المستقلة من نقص حاد في معايير السلامة وبروتوكولات التقييم. ومع ذلك، أظل متفائلًا. مثل الذكاء الطبيعي، سيكون الذكاء الاصطناعي أيضًا عرضة للخطأ. ومع ذلك، يمكن أن تُ满ى أهداف السيارات ذاتية القيادة إذا تم جعل معدلات وتأثير الأخطاء أقل من تلك التي يرتكبها السائقون البشر. نشهد جهودًا متزايدة لمعالجة هذه القضايا في الصناعة والأكاديمية، وكذلك الحكومات.

يمكن اختراق العلامات الطرقية باستخدام ملصقات أو وسائل أخرى لخداع وحدة الرؤية الحاسوبية لمركبة مستقلة. هل تعتبر هذه مشكلة كبيرة؟

تُسبب هذه الملصقات، والأمثلة المعادية بشكل عام، تحديات أساسية في متانة نماذج التعلم الآلي. كما يقول جورج إي بي بوكس، “جميع النماذج خاطئة، ولكن بعضها مفيد”. تستغل الأمثلة المعادية “خطأ” هذه في النماذج، التي تُعزى إلى طبيعتها المجردة، بالإضافة إلى حدود البيانات التي تم تدريبها عليها. أدت الجهود الحديثة في مجال التعلم الآلي المعادي إلى تقدم كبير في زيادة متانة نماذج التعلم العميق ضد هذه الهجمات. من وجهة نظر أمنية، سيكون هناك دائمًا طريقة لخداع نماذج التعلم الآلي. ومع ذلك، الهدف العملي من تأمين نماذج التعلم الآلي هو زيادة تكلفة تنفيذ هذه الهجمات إلى حد من غير المجدي اقتصاديًا.

يركز اهتمامك على ميزات السلامة والأمان للتعلم العميق والتعلم بالتعزيز العميق. لماذا هذا مهم؟

التعلم بالتعزيز هو الأسلوب المتميز لتطبيق التعلم الآلي على مشكلات التحكم، والتي تتضمن بالتعريف التلاعب بالبيئة. لذلك، أعتقد أن الأنظمة التي تعتمد على التعلم بالتعزيز لها مخاطر أعلى لإحداث أضرار كبيرة في العالم الحقيقي مقارنة بالأساليب الأخرى للتعلم الآلي مثل التصنيف. يتم تفاقم هذه المشكلة مع دمج التعلم العميق في التعلم بالتعزيز، مما يسمح بتبني التعلم بالتعزيز في إعدادات معقدة للغاية. كما أعتقد أن إطار التعلم بالتعزيز يرتبط ارتباطًا وثيقًا بالآليات الكامنة وراء الإدراك البشري، ودراسة سلامته وضعفها يمكن أن يؤدي إلى رؤى أفضل في حدود اتخاذ القرارات في أذهاننا.

هل تعتقد أننا قريبون من تحقيق الذكاء الاصطناعي العام؟

هذه هي السؤال الصعب الذي يصعب الإجابة عليه. أعتقد أننا لدينا حاليًا بنية تحتية لبعض الهياكل التي يمكن أن تسهل ظهور الذكاء الاصطناعي العام. ومع ذلك، قد يستغرق تحسين هذه الهياكل وزيادة كفاءة التكلفة لتدريبها وضبطها بضع سنوات أو عقود. خلال السنوات القادمة، سوف ينمو وكلاؤنا بشكل متزايد. لا أعتقد أن ظهور الذكاء الاصطناعي العام سيكون بمثابة عنوان علمي صحيح، ولكن نتيجة التقدم التدريجي. كما أعتقد أننا لا نزال ن缺