نورا بيتروفا، مهندسة تعلم الآلة ومستشارة الذكاء الاصطناعي في Prolific — سلسلة المقابلات

نورا بيتروفا، هي مهندسة تعلم الآلة ومستشارة الذكاء الاصطناعي في Prolific. تأسست Prolific في عام 2014 وتمتلك بالفعل عملاء مثل جوجل (GOOGL ) و جامعة ستانفورد و جامعة أوكسفورد و كينغز كوليدج لندن و اللجنة الأوروبية، و التي تستخدم شبكتها من المشاركين لاختبار المنتجات الجديدة و تدريب أنظمة الذكاء الاصطناعي في مجالات مثل تتبع العين و تحديد ما إذا كانت تطبيقات الذكاء الاصطناعي التي تواجه الإنسان تعمل كما أراد لها مطوروها.

هل يمكنك مشاركة بعض المعلومات حول خلفيتك في Prolific و مسيرتك المهنية حتى الآن؟ ما الذي جعلتك مهتمًا بالذكاء الاصطناعي؟

دوري في Prolific مقسم بين كوني مستشارًا بشأن حالات استخدام الذكاء الاصطناعي و الفرص، و كوني مهندسة تعلم آلة تعمل على التطوير الفعلي. بدأت مسيرتي المهنية في هندسة البرمجيات و انتقلت تدريجياً إلى تعلم الآلة. قمت بإنفاق معظم السنوات الخمس الماضية على حالات استخدام معالجة اللغة الطبيعية و المشاكل.

ما جعلني مهتمًا بالذكاء الاصطناعي في البداية هو القدرة على التعلم من البيانات و الرابط بين كيف نتعلم نحن كبشر و كيف تكون أدمغتنا منظمة. أعتقد أن تعلم الآلة و العلوم العصبية يمكن أن تكمل بعضها البعض و تساعد في تعزيز فهمنا لكيفية بناء أنظمة ذكاء اصطناعي قادرة على التنقل في العالم و إظهار الإبداع و إضافة قيمة للمجتمع.

ما هي بعض أكبر قضايا انحياز الذكاء الاصطناعي التي أنت على دراية بها شخصياً؟

الانحياز موجود في البيانات التي نغذيها إلى نماذج الذكاء الاصطناعي و إزالته تمامًا هو أمر صعب جداً. ومع ذلك، من الضروري أن نكون على دراية بالانحيازات الموجودة في البيانات و نجد طرقًا للحد من الانحيازات الضارة قبل أن نثق النماذج بمهمات مهمة في المجتمع. أكبر مشاكلنا هي نماذج الذكاء الاصطناعي التي تعزز الصور النمطية الضارة و التحيزات النظامية و الظلم في المجتمع. يجب أن نكون حذرين في كيفية استخدام هذه النماذج و التأثير الذي سيكون لها على مستخدميها وضمان أنها آمنة قبل الموافقة عليها للاستخدام الحساس.

بعض المجالات البارزة التي أظهرت فيها نماذج الذكاء الاصطناعي انحيازات ضارة تشمل التمييز ضد المجموعات غير الممثلة في القبول المدرسي و الجامعي و الصور النمطية الجنسانية التي تؤثر سلبًا على توظيف النساء. ليس ذلك فقط، بل تم العثور على خوارزمية العدالة الجنائية لتصنيف المتهمين الأمريكيين من أصل أفريقي تصنيفًا خاطئًا بـ “الخطر العالي” بمعدل يقارب ضعف معدل التصنيف الخاطئ للمتهمين البيض في الولايات المتحدة، في حين ما زالت تقنية التعرف على الوجه تعاني من معدلات خطأ عالية للأقليات بسبب نقص البيانات التدريبية الممثلة.

تغطي الأمثلة المذكورة أعلاه قسمًا صغيرًا من الانحيازات التي أظهرتها نماذج الذكاء الاصطناعي ويمكننا توقع مشاكل أكبر في المستقبل إذا لم نركز على الحد من الانحياز الآن. من المهم أن نتذكر أن نماذج الذكاء الاصطناعي تتعلم من البيانات التي تحتوي على هذه الانحيازات بسبب اتخاذ القرارات البشرية التي تتأثر بالتحيزات غير الخاضعة للرقابة و غير الواعية. في كثير من الحالات، قد لا يزيل الإشارة إلى قرار بشري الانحياز. سيتطلب الحد من الانحيازات فعليًا فهم كيفية وجودها في البيانات التي نستخدمها لتدريب النماذج و عزل العوامل التي تساهم في التنبؤات المتحيزة و اتخاذ القرارات الجماعية حول ما نريد أن نعتمد عليه في اتخاذ القرارات المهمة. سوف يكون تطوير مجموعة من المعايير التي يمكننا من خلالها تقييم النماذج من حيث السلامة قبل استخدامها في الحالات الحساسة خطوة مهمة إلى الأمام.

تُعد هلوسات الذكاء الاصطناعي مشكلة كبيرة في أنظمة الذكاء الاصطناعي التوليدي. كيف يمكن للتدريب بمشاركة الإنسان في الحلقة (HITL) أن يخفف هذه المشكلات؟

هلوسات الذكاء الاصطناعي مشكلة في حالات استخدام معينة من الذكاء الاصطناعي التوليدي، ولكن من المهم ملاحظة أنها ليست مشكلة في حد ذاتها. في بعض الاستخدامات الإبداعية للذكاء الاصطناعي التوليدي، هلوسات هي موضع ترحيب وتساهم في استجابة أكثر إبداعًا واهتمامًا.

يمكن أن تكون مشكلة في حالات استخدام حيث يعتمد على المعلومات الحقيقية بشدة. على سبيل المثال، في مجال الرعاية الصحية، حيث يكون اتخاذ القرارات القوية هو المفتاح، تقديم معلومات حقيقية موثوقة للمهنيين الصحيين أمر بالغ الأهمية.

يُشير HITL إلى الأنظمة التي تسمح للأشخاص بتقديم تعليقات مباشرة إلى نموذج للتنبؤات التي تقل عن مستوى معين من الثقة. في سياق هلوسات الذكاء الاصطناعي، يمكن استخدام HITL لمساعدة النماذج على التعلم من مستوى اليقين الذي يجب أن يكونوا عليه للاستجابة في حالات استخدام مختلفة. سوف تختلف هذه العتبات حسب حالة الاستخدام و سوف يكون تعليم النماذج على الفرق في الدقة المطلوبة للاجابة على أسئلة من حالات استخدام مختلفة خطوة مهمة نحو الحد من أنواع الهلوسات التي تسبب مشكلات. فمثلًا، في الاستخدام القانوني يستطيع البشر توضيح أن التحقق من الوقائع خطوة ضرورية عند الإجابة عن أسئلة تستند إلى وثائق قانونية معقدة تضم بنودًا وشروطًا كثيرة.

كيف يمكن للعاملين في مجال الذكاء الاصطناعي، مثل معلّقي البيانات، المساعدة في تقليل قضايا الانحياز المحتملة؟

يمكن للعاملين في مجال الذكاء الاصطناعي المساعدة في تحديد الانحيازات الموجودة في البيانات. بمجرد تحديد الانحياز، يصبح من الأسهل وضع استراتيجيات لتخفيفه. يمكن لمعلّقي البيانات أيضًا المساعدة في وضع طرق لتقليل الانحياز. على سبيل المثال، لمهام معالجة اللغة الطبيعية، يمكنهم المساعدة من خلال تقديم طرق بديلة لصياغة مقاطع النص المشكلة بحيث يتم تقليل الانحياز الموجود في اللغة. كما أن تنوع العاملين في مجال الذكاء الاصطناعي قد يحد من الانحياز في وسم البيانات.

كيف يمكنك ضمان أن العاملين في مجال الذكاء الاصطناعي لا يغذون انحيازاتهم البشرية إلى نظام الذكاء الاصطناعي؟

من الصعب جدًا إزالة الانحيازات البشرية و قد يغذي العاملون في مجال الذكاء الاصطناعي انحيازاتهم إلى نماذج الذكاء الاصطناعي دون قصد، لذلك من المهم تطوير عمليات توجيه العاملين إلى أفضل الممارسات.

من الإجراءات التي يمكن اتخاذها لتقليل الانحيازات البشرية إلى الحد الأدنى:

• تدريب شامل للعاملين في مجال الذكاء الاصطناعي على الانحيازات غير الواعية و تزويدهم بالأدوات لتحديد و إدارة انحيازاتهم أثناء التسمية.
• قوائم تحقق تذكر العاملين في مجال الذكاء الاصطناعي بتأكيد استجاباتهم قبل إرسالها.
• تشغيل تقييم لتحديد مستوى الفهم الذي يتمتع به العاملون في مجال الذكاء الاصطناعي، حيث يتم عرض أمثلة على استجابات مختلفة لأنواع من الانحيازات و يُطلب منهم اختيار الاستجابة الأقل انحيازًا.

تعتزم الجهات التنظيمية حول العالم تنظيم مخرجات الذكاء الاصطناعي. ما الذي تسيء فهمه في رأيك، وما الذي تصيب فيه؟

هذه مسألة صعبة جدًا لم يجد أحد حلها بعد. سيتطور المجتمع والذكاء الاصطناعي ويؤثر كل منهما في الآخر بطرق يصعب توقعها. ومن عناصر الاستراتيجية الفعالة للوصول إلى ممارسات تنظيمية متينة ومفيدة الانتباه إلى ما يحدث في الذكاء الاصطناعي، وكيف يستجيب الناس له، وتأثيره في القطاعات المختلفة.

أرى أن من أبرز العوائق أمام التنظيم الفعال ضعف فهم ما تستطيع النماذج فعله وما تعجز عنه وكيف تعمل. وهذا يصعب التنبؤ الدقيق بنتائجها في القطاعات وشرائح المجتمع المختلفة. وهناك نقص آخر في القيادة الفكرية بشأن مواءمة النماذج مع القيم الإنسانية، ومعنى السلامة بصورة ملموسة.

سعت الجهات التنظيمية إلى التعاون مع خبراء المجال، وحرصت على ألا تخنق الابتكار بقواعد مفرطة الصرامة، وبدأت تنظر في أثر الذكاء الاصطناعي على فقدان الوظائف. وهذه كلها محاور مهمة. ينبغي التقدم بحذر مع اتضاح أفكارنا بمرور الوقت، وإشراك أكبر عدد ممكن من الناس لمعالجة المسألة بطريقة ديمقراطية.

كيف تساعد حلول Prolific الشركات على الحد من انحياز الذكاء الاصطناعي والمشكلات الأخرى التي ناقشناها؟

لم يكن جمع بيانات مشروعات الذكاء الاصطناعي دائمًا عملية مدروسة أو مقصودة. رأينا سابقًا انتشار استخراج البيانات من الويب ونقل الأعمال إلى الخارج وطرق أخرى. لكن كيفية تدريب الذكاء الاصطناعي أمر حاسم. ستحتاج نماذج الجيل القادم إلى بيانات عالية الجودة جُمعت بقصد ومن أشخاص حقيقيين يمكن التواصل معهم مباشرة. وهنا تترك Prolific بصمتها.

تعلمت مجالات أخرى، مثل استطلاعات الرأي وأبحاث السوق والبحث العلمي، هذا الدرس منذ زمن. فالجمهور الذي تسحب منه العينة يؤثر كثيرًا في النتائج. بدأ الذكاء الاصطناعي يلحق بهذا الفهم، ونحن الآن عند مفترق طرق.

حان الوقت للاهتمام بعينات أفضل والعمل مع مجموعات أكثر تمثيلًا للمجتمع في تدريب الذكاء الاصطناعي وتحسينه. وهذان أمران أساسيان لبناء نماذج آمنة وغير متحيزة ومتوافقة مع القيم الإنسانية.

تستطيع Prolific توفير الأدوات الملائمة للشركات لإجراء تجارب الذكاء الاصطناعي بأمان وجمع بيانات المشاركين مع فحص الانحياز والحد منه خلال العملية. ويمكننا إرشادها إلى أفضل ممارسات جمع البيانات واختيار المشاركين وتعويضهم ماليًا ومعاملتهم بإنصاف.

ما رأيك في شفافية الذكاء الاصطناعي، وهل يجب أن يكون للمستخدمين القدرة على رؤية البيانات التي تم تدريب خوارزمية الذكاء الاصطناعي عليها؟

أعتقد أن هناك مواضع لصالح و ضد الشفافية و لم يتم العثور على توازن جيد بعد. تقوم الشركات بحرمان المعلومات المتعلقة بالبيانات التي استخدموها لتدريب نماذج الذكاء الاصطناعي بسبب خوفهم من المطالبات القضائية. في حين أن البعض قد عمل على جعل نماذج الذكاء الاصطناعي متاحة للجمهور و قد أصدر جميع المعلومات المتعلقة بالبيانات التي استخدموها. الشفافية الكاملة تفتح الكثير من الفرص للاستغلال من نقاط الضعف في هذه النماذج. السرية الكاملة لا تساعد في بناء الثقة و إشراك المجتمع في بناء أنظمة ذكاء اصطناعي آمنة. سوف يوفر التوازن الجيد بين الشفافية و السرية الثقة في أن نماذج الذكاء الاصطناعي تم تدريبها على بيانات ذات جودة عالية و ذات صلة و التي وافقنا على استخدامها. علينا متابعة أثر الذكاء الاصطناعي في القطاعات المختلفة، وفتح حوار مع المتأثرين، والتأكد من تطوير ممارسات تصلح للجميع.

أعتقد أن من المهم أيضًا النظر في ما سيكون كافياً للمستخدمين من حيث القابلية للشرح. إذا أرادوا فهم سبب استجابة نموذج معين، فمن المحتمل أن تقديم البيانات الخام التي تم تدريب النموذج عليها لن يساعد في الإجابة على سؤالهم. لذلك، من المهم بناء أدوات جيدة للقابلية للشرح و الفهم.

ما هو رأيك في بحث محاذاة الذكاء الاصطناعي، و كيف يمكن للعاملين في مجال الذكاء الاصطناعي المساعدة في ضمان أن تكون أنظمة الذكاء الاصطناعي محاذاة كما هو ممكن؟

هذا هو مجال بحث نشط و لا يوجد إجماع بعد على الاستراتيجيات التي يجب استخدامها لمحاذاة نماذج الذكاء الاصطناعي مع قيم أو مبادئ إنسانية. عادة ما يُطلب من العاملين في مجال الذكاء الاصطناعي تمثيل تفضيلاتهم بشكل حقيقي و الإجابة على أسئلة حول تفضيلاتهم بدقة و اتباع مبادئ حول السلامة و عدم الانحياز و عدم الإضرار و الفائدة.

بخصوص المحاذاة نحو الأهداف أو المبادئ أو القيم، هناك العديد من النهج التي تبدو واعدة. واحد من الأمثلة البارزة هو عمل معهد المحاذاة المعنوية على التحسين الدقيق الديمقراطي. هناك منشور ممتاز يقدم فكرة هنا.

شكرًا على المقابلة الرائعة و على مشاركة آرائك حول انحياز الذكاء الاصطناعي، و يُرحب بالقراء الذين يرغبون في التعلم أكثر بزيارة Prolific.