الأستاذة جوليا ستويانوفيتش، مدير مركز الذكاء الاصطناعي المسؤول – سلسلة المقابلات

جوليا ستويانوفيتش، هي أستاذة في مدرسة الهندسة في جامعة نيويورك (NYU) ومدير مؤسس لمركز الذكاء الاصطناعي المسؤول. وقد قدمت مؤخرًا شهادتها إلى لجنة التكنولوجيا في مجلس مدينة نيويورك حول مشروع قانون مقترح سيقوم بتنظيم استخدام الذكاء الاصطناعي لاتخاذ قرارات التوظيف.

أنت المدير المؤسس لمركز الذكاء الاصطناعي المسؤول في جامعة نيويورك. هل يمكن أن تشاركنا بعض المبادرات التي قام بها هذا المنظمة؟

أشترك في إدارة مركز الذكاء الاصطناعي المسؤول (R/AI) في جامعة نيويورك مع ستيفن كويان. لدينا اهتمامات وخبرات متكاملة. أنا أكاديمي مع خلفية في علوم الحاسوب واهتمام قوي بالعمل الملهم في تقاطع هندسة البيانات والعلوم المسؤولة والسياسة. ستيفن هو المدير التنفيذي لمركز مختبرات المستقبل في جامعة نيويورك، وهي شبكة من معامل الأعمال الناشئة وسائرها التي كان لها تأثير اقتصادي كبير في مدينة نيويورك. رؤيتنا لمركز الذكاء الاصطناعي المسؤول هي جعل “الذكاء الاصطناعي المسؤول” مرادفًا للذكاء الاصطناعي، من خلال مزيج من البحث التطبيقي والتعليم العام والانخراط والمساعدة في تطوير الشركات الكبيرة والصغيرة – خاصة الصغيرة – لتطوير الذكاء الاصطناعي المسؤول.

في الأشهر القليلة الماضية، شارك مركز الذكاء الاصطناعي المسؤول بنشاط في المحادثات حول إشراف أنظمة القرار الآلي. نهجنا يعتمد على مزيج من الأنشطة التعليمية والانخراط السياسي.

تعتبر مدينة نيويورك قانونًا مقترحًا، Int 1894، سيقوم بتنظيم استخدام أنظمة القرار الآلي في التوظيف من خلال مزيج من التدقيق والإفصاح العام. قدم مركز الذكاء الاصطناعي المسؤول تعليقات عامة على القانون، استنادًا إلى بحثنا وآراء جمعناها من الباحثين عن عمل من خلال أنشطة الانخراط العام.

كما تعاوننا مع The GovLab في جامعة نيويورك ومع معهد الأخلاقيات في الذكاء الاصطناعي في جامعة ميونخ التقنية على دورة مجانية على الإنترنت تسمى “أخلاقيات الذكاء الاصطناعي: المنظورات العالمية” التي تم إطلاقها في وقت مبكر من هذا الشهر.

مشروع آخر لمركز الذكاء الاصطناعي المسؤول الذي حظي باهتمام كبير هو سلسلة الكتب الهزلية “البيانات المسؤولة”. يسمى المجلد الأول من السلسلة “مرآة، مرآة”، وهو متاح باللغة الإنجليزية والإسبانية والفرنسية، ويمكن الوصول إليه بوسائل القراءة الشبكية في جميع اللغات الثلاث. حصل الكتاب على جائزة الابتكار الشهري من شبكة مختبر الحكومة وتكنولوجيا الحكومة، وتم تغطيته من قبل جريدة تورونتو ستار، من بين آخرين.

ما هي بعض القضايا الحالية أو المحتملة المتعلقة بالتحيز في الذكاء الاصطناعي لاتخاذ قرارات التوظيف؟

هذه هي مسألة معقدة تتطلب منا أن نكون واضحين حول ما نقصده بـ “التحيز”. الشيء الرئيسي الذي يجب ملاحظته هو أن أنظمة التوظيف الآلية هي “تحليلات تنبؤية” – تتنبأ بالمستقبل بناءً على الماضي. يتم تمثيل الماضي بالبيانات التاريخية حول الأفراد الذين تم توظيفهم من قبل الشركة، وعما كيفية أدائهم. يتم بعد ذلك “تدريب” النظام على هذه البيانات، مما يعني أنه يحدد الأنماط الإحصائية ويستخدمها للتنبؤ. هذه الأنماط الإحصائية هي “الخارق” للذكاء الاصطناعي، وهي ما تقوم عليه نماذج التنبؤ. من الواضح، ولكن من المهم، أن البيانات التاريخية التي تم استخراج هذه الأنماط منها صامتة حول الأفراد الذين لم يتم توظيفهم لأننا لا نعرف كيف سيكون أداؤهم في الوظيفة التي لم يحصلوا عليها. وهنا يأتي التحيز إلى اللعب. إذا كنا نتوظف بشكل منهجي أكثر الأفراد من المجموعات السكانية والاجتماعية والاقتصادية، فإن العضوية في هذه المجموعات والخصائص التي ت伴ي هذه العضوية ستكون جزءًا من نموذج التنبؤ. على سبيل المثال، إذا كنا نرى فقط خريجي الجامعات الرائدة يتم توظيفهم لمناصب تنفيذية، فإن النظام لا يمكن أن يتعلم أن الأشخاص الذين ذهبوا إلى مدرسة مختلفة قد يفعلون أيضًا بشكل جيد. من السهل رؤية مشكلة مماثلة للجنس والعرق والاحتباس.

التحيز في الذكاء الاصطناعي أوسع بكثير من مجرد تحيز في البيانات. يظهر عندما نحاول استخدام التكنولوجيا حيث الحل التقني غير مناسب، أو عندما نحدد أهدافًا خاطئة للذكاء الاصطناعي – غالبًا لأننا لا نمتلك مجموعة متنوعة من الأصوات على طاولة التصميم، أو عندما نتخلى عن وكالتنا في التفاعلات بين البشر والذكاء الاصطناعي بعد نشر الذكاء الاصطناعي. كل واحد من هذه الأسباب للتحييز يستحق مناقشته الخاصة التي قد تستغرق وقتًا أطول من مساحة هذه المقالة. ومن ثم، من أجل البقاء مركزًا، دعني أعود إلى التحيز في البيانات.

عندما أشرح التحيز في البيانات، أحب استخدام استعارة انعكاس المرآة. البيانات هي صورة للعالم، انعكاسها. عندما نفكر في التحيز في البيانات، نستفسر هذا الانعكاس. تفسير واحد للتحيز في البيانات هو أن الانعكاس مشوه – مرآتنا تقلل أو تزيد من تمثيل بعض أجزاء العالم، أو تشوه القراءات. تفسير آخر للتحيز في البيانات هو أنه، حتى لو كان الانعكاس دقيقًا بنسبة 100٪، فإنه سيظل انعكاسًا للعالم على ما هو عليه اليوم، وليس على ما يمكن أن يكون أو يجب أن يكون. من المهم أن نلاحظ أن البيانات أو الخوارزمية لا يمكن أن تخبرنا ما إذا كان الانعكاس مثاليًا لعالم معيب، أو انعكاسًا معيبًا لعالم مثالي، أو إذا كانت هذه الانحرافات تتراكم. من الواجب على الناس – الأفراد، والجماعات، والمجتمع بأسره – أن يتوصلوا إلى إجماع حول ما إذا كنا موافقين على العالم على ما هو عليه، أو، إذا لم يكن كذلك، كيف يجب أن نعمل على تحسينه.

العودة إلى التحليلات التنبؤية: كلما كانت الاختلافات في البيانات أقوى، كلما كان من المرجح أن يتم التقاطها بواسطة نماذج التنبؤ، وسيتم تكرارها – وحتى تفاقمها – في المستقبل.

إذا كان هدفنا هو تحسين ممارسات التوظيف لدينا مع التركيز على المساواة والتنوع، فإننا لا يمكن أن ننقل هذه المهمة إلى الآلات. يجب علينا أن نقوم بالعمل الشاق لتحديد الأسباب الحقيقية للتحيز في التوظيف والتوظيف بشكل مباشر، و التفاوض على حل اجتماعي وسياسي وتقني مع المدخلات من جميع الأطراف. بالتأكيد، للتقنية دور في مساعدتنا على تحسين الوضع الراهن: يمكنها مساعدتنا على البقاء صادقين حول أهدافنا ومخرجاتنا. لكن التظاهر بأن إزالة التحيز من البيانات أو التحليل التنبؤي سوف يحل المشاكل العميقة للتمييز في التوظيف هو أمر غير ناضج على الأقل.

لقد قدمت مؤخرًا شهادتك إلى لجنة التكنولوجيا في مجلس مدينة نيويورك، وعلق واحد من التعليقات التي قدمتها هو: “نجد أن ميزانية المعلن وال内容 الإعلان يسهمان بشكل كبير في انحراف تسليم إعلانات فيسبوك. نحن نلاحظ انحرافًا كبيرًا في التسليم على طول خطوط الجنس والعرق对于 “الإعلانات الحقيقية” لفرص العمل والسكن على الرغم من معايير الاستهداف المحايدة.” ما هي بعض الحلول لتجنب هذا النوع من التحيز؟

هذا التعليق الذي قدمته يعتمد على ورقة رائعة من علي وآخرون. بعنوان “التمييز من خلال التحسين: كيف يمكن لتسليم إعلانات فيسبوك أن يؤدي إلى نتائج متحيزة.” يجد المؤلفون أن آلية تسليم الإعلان نفسها مسؤولة عن إدخال وتعزيز الآثار التمييزية. من الواضح أن هذا الاكتشاف مشكلة كبيرة، خاصة مع خلفية عدم الشفافية في فيسبوك ومنصات أخرى – جوجل وتويتر. العبء على المنصات لإثبات بسرعة وبدقة أنها يمكن أن تسيطر على الآثار التمييزية مثل تلك التي وجدها علي وآخرون. قبل ذلك، لا أستطيع أن أجد تبريرًا لاستمرار استخدام الاستهداف الشخصي للإعلانات في مجالات السكن والتوظيف وغيرها من المجالات التي تتأثر فيها حياة الناس وسبل عيشهم.

كيف يمكن لمحترفي البيانات ومطوري الذكاء الاصطناعي منع التحيز غير المقصود من الدخول إلى أنظمتهم؟

ليس الأمر كله على عاتق محترفي البيانات، أو أي مجموعة من الأطراف المعنية، لضمان أن الأنظمة التقنية تتماشى مع القيم الاجتماعية. ومع ذلك، فإن محترفي البيانات هم في طليعة هذه المعركة. كعالم حاسوبي نفسي، يمكنني أن أشهد على جاذبية التفكير في أن الأنظمة التي نتصممها هي “موضوعية”، “مثالية”، أو “صحيحة”. كيف يكون علم الحاسوب وعلوم البيانات ناجحين – كيف يكونون مؤثرين ومتداولين على نطاق واسع – هو كل من النعمة واللعنة. لم نعد نمتلك فكرة أننا نستطيع أن نختفي خلف أهداف الموضوعية والصواب. العبء علينا أن نفكر بعناية حول مكانتنا في العالم، وتعلم أنفسنا على العمليات الاجتماعية والسياسية التي نؤثر عليها.

من الرموز أن الفلسفة كانت مرة مركز كل النقاش العلمي والاجتماعي، ثم جاءت الرياضيات، ثم علم الحاسوب. الآن، مع صعود علوم البيانات إلى الواجهة، لقد أصبحنا في حلقة مفرغة ونحن بحاجة إلى الاتصال مرة أخرى بأصولنا الفلسفية.

توصية أخرى قدمتها هي إنشاء جمهور مطلع. كيف يمكننا إطلاع جمهور قد لا يكون على دراية بالذكاء الاصطناعي أو يفهم المشاكل المرتبطة بالتحيز في الذكاء الاصطناعي؟

هناك حاجة ملحة إلى تعليم غير المتخصصين في التكنولوجيا، وتعليم المتخصصين في التكنولوجيا حول الآثار الاجتماعية. سيتطلب تحقيق هذه الأهداف الالتزام والاستثمار الكبير من قبل حكومتنا. نحن بحاجة إلى تطوير المواد والمناهج التعليمية لجميع هذه المجموعات، وإيجاد طرق لتشجيع المشاركة. ولا يمكننا ترك هذا العمل لمنظمات تجارية. الاتحاد الأوروبي يتصدر الطريق، مع دعم حكومات عديدة للتعليم الأساسي في مجال الذكاء الاصطناعي لمواطنيها، وإدراج مناهج الذكاء الاصطناعي في البرامج المدرسية الثانوية. نحن في مركز الذكاء الاصطناعي المسؤول نعمل على دورة متاحة على الإنترنت ويمكن الوصول إليها على نطاق واسع، هدفنا هو إنشاء جمهور متفاعل سيساعد على جعل الذكاء الاصطناعي ما نريده. نحن متحمسون جدًا لهذا العمل، يرجى متابعة المزيد من المعلومات في الشهر القادم.

شكرًا على الإجابات المفصلة، يرجى زيارة مركز الذكاء الاصطناعي المسؤول لمعرفة المزيد.