نورا بيتروفا، مهندس تعلم الآلة و مستشار ذكاء اصطناعي في بrolific – سلسلة مقابلة

نورا بيتروفا، هي مهندس تعلم الآلة و مستشار ذكاء اصطناعي في بrolific. تأسست بrolific في عام 2014 وتمتلك بالفعل عملاء مثل جوجل و جامعة ستانفورد و جامعة أوكسفورد و كينغز كوليدج لندن و اللجنة الأوروبية، و التي تستخدم شبكتها من المشاركين لاختبار المنتجات الجديدة و تدريب أنظمة الذكاء الاصطناعي في مجالات مثل تتبع العين و تحديد ما إذا كانت تطبيقات الذكاء الاصطناعي التي تواجه الإنسان تعمل كما هو موضح في نیاتها.

هل يمكنك مشاركة بعض المعلومات حول خلفيتك في بrolific و مسيرتك المهنية حتى الآن؟ ما الذي جعلتك مهتمًا بالذكاء الاصطناعي؟

دوري في بrolific مقسم بين كوني مستشارًا بشأن حالات استخدام الذكاء الاصطناعي و الفرص، و كوني مهندس تعلم الآلة أكثر يديًا. بدأت مسيرتي المهنية في هندسة البرمجيات و انتقلت تدريجياً إلى تعلم الآلة. قمت بإنفاق معظم السنوات الخمس الماضية على حالات استخدام تعلم اللغة الطبيعية و المشاكل.

ما جعلني مهتمًا بالذكاء الاصطناعي في البداية هو القدرة على التعلم من البيانات و الرابط بين كيف نتعلم نحن كبشر و كيف تكون أدمغتنا منظمة. أعتقد أن تعلم الآلة و العلوم العصبية يمكن أن تكمل بعضها البعض و تساعد في تعزيز فهمنا لكيفية بناء أنظمة ذكاء اصطناعي قادرة على التنقل في العالم و إظهار الإبداع و إضافة قيمة للمجتمع.

ما هي بعض أكبر قضايا انحياز الذكاء الاصطناعي التي أنت على دراية بها شخصياً؟

الانحياز موجود في البيانات التي نغذيها إلى نماذج الذكاء الاصطناعي و إزالته完全 هو أمر صعب جداً. ومع ذلك، من الضروري أن نكون على دراية بالانحيازات الموجودة في البيانات و نجد طرقًا لتحديد الانحيازات الضارة قبل أن نثق النماذج بمهمات مهمة في المجتمع. أكبر مشاكلنا هي نماذج الذكاء الاصطناعي التي تعزز الصور النمطية الضارة و التحيزات النظامية و الظلم في المجتمع. يجب أن نكون حذرين في كيفية استخدام هذه النماذج و التأثير الذي سيكون لها على مستخدميها وضمان أنها آمنة قبل الموافقة عليها للاستخدام الحساس.

بعض المجالات البارزة التي أظهرت فيها نماذج الذكاء الاصطناعي انحيازات ضارة تشمل التمييز ضد المجموعات غير الممثلة في القبول المدرسي و الجامعي و الصور النمطية الجنسانية التي تؤثر سلبًا على توظيف النساء. ليس ذلك فقط، بل تم العثور على خوارزمية العدالة الجنائية لتسمية المتهمين الأفارقة الأمريكيين بـ “الخطر العالي” بنسبة ضعف معدل التسمية للمتهمين البيض في الولايات المتحدة، في حين ما زالت تقنية التعرف على الوجه تعاني من معدلات خطأ عالية للأقليات بسبب نقص البيانات التدريبية الممثلة.

تغطي الأمثلة المذكورة أعلاه قسمًا صغيرًا من الانحيازات التي أظهرتها نماذج الذكاء الاصطناعي ويمكننا توقع مشاكل أكبر في المستقبل إذا لم نركز على تحديد الانحياز الآن. من المهم أن نتذكر أن نماذج الذكاء الاصطناعي تتعلم من البيانات التي تحتوي على هذه الانحيازات بسبب اتخاذ القرارات البشرية التي تتأثر بالتحيزات غير الخاضعة للرقابة و غير الواعية. في كثير من الحالات، قد لا يزيل الإشارة إلى قرار بشري الانحياز. سوف يتطلب تحديد الانحيازات فعلاً فهم كيفية وجودها في البيانات التي نستخدمها لتدريب النماذج و عزل العوامل التي تساهم في التنبؤات المحايدة و اتخاذ القرارات الجماعية حول ما نريد أن نعتمد عليه في اتخاذ القرارات المهمة. سوف يكون تطوير مجموعة من المعايير التي يمكننا من خلالها تقييم النماذج من حيث السلامة قبل استخدامها في الحالات الحساسة خطوة مهمة إلى الأمام.

هل يمكنك مناقشة كيف يمكن للتدريب البشري في الحلقة (HITL) تحديد هذه القضايا؟

هلوسات الذكاء الاصطناعي مشكلة في حالات استخدام معينة من الذكاء الاصطناعي التوليدي، ولكن من المهم ملاحظة أنها ليست مشكلة في حد ذاتها. في بعض الاستخدامات الإبداعية للذكاء الاصطناعي التوليدي، هلوسات هي موضع ترحيب وتساهم في استجابة أكثر إبداعًا واهتمامًا.

يمكن أن تكون مشكلة في حالات استخدام حيث يعتمد على المعلومات الحقيقية بشدة. على سبيل المثال، في مجال الرعاية الصحية، حيث يكون اتخاذ القرارات القوية هو المفتاح، تقديم معلومات حقيقية موثوقة للمهنيين الصحيين أمر بالغ الأهمية.

يُشير HITL إلى الأنظمة التي تسمح للأشخاص بتقديم تعليقات مباشرة إلى نموذج للتنبؤات التي تقل عن مستوى معين من الثقة. في سياق هلوسات الذكاء الاصطناعي، يمكن استخدام HITL لمساعدة النماذج على التعلم من مستوى اليقين الذي يجب أن يكونوا عليه للاستجابة في حالات استخدام مختلفة. سوف تختلف هذه العتبات حسب حالة الاستخدام و سوف يكون تعليم النماذج على الفرق في الدقة المطلوبة للاجابة على أسئلة من حالات استخدام مختلفة خطوة مهمة نحو تحديد هلوسات الذكاء الاصطناعي المشكلة.

كيف يمكن للعاملين في مجال الذكاء الاصطناعي، مثل معلمي البيانات، المساعدة في تقليل قضايا الانحياز المحتملة؟

يمكن للعاملين في مجال الذكاء الاصطناعي المساعدة في تحديد الانحيازات الموجودة في البيانات. بمجرد تحديد الانحياز، يصبح من الأسهل وضع استراتيجيات لتخفيفه. يمكن لمعلمي البيانات أيضًا المساعدة في وضع طرق لتقليل الانحياز. على سبيل المثال، لمهام تعلم اللغة الطبيعية، يمكنهم المساعدة من خلال تقديم طرق بديلة لصياغة مقاطع النص المشكلة بحيث يتم تقليل الانحياز الموجود في اللغة.

كيف يمكنك ضمان أن العاملين في مجال الذكاء الاصطناعي لا يغذون انحيازاتهم البشرية إلى نظام الذكاء الاصطناعي؟

من الصعب جدًا إزالة الانحيازات البشرية و قد يغذي العاملون في مجال الذكاء الاصطناعي انحيازاتهم إلى نماذج الذكاء الاصطناعي دون قصد، لذلك من المهم تطوير عمليات توجيه العاملين إلى أفضل الممارسات.

من الإجراءات التي يمكن اتخاذها لتحديد الانحيازات البشرية إلى الحد الأدنى:

• تدريب شامل للعاملين في مجال الذكاء الاصطناعي على الانحيازات غير الواعية و تزويد них بالأدوات لتحديد و إدارة انحيازاتهم أثناء التسمية.
• قوائم تحقق تذكر العاملين في مجال الذكاء الاصطناعي بتأكيد استجاباتهم قبل إرسالها.
• تشغيل تقييم لتحديد مستوى الفهم الذي يتمتع به العاملون في مجال الذكاء الاصطناعي، حيث يتم عرض أمثلة على استجابات مختلفة لأنواع من الانحيازات و يُطلب منهم اختيار الاستجابة الأقل انحيازًا.

ما هو رأيك في انحياز الذكاء الاصطناعي، هل يجب أن يكون للمستخدمين القدرة على رؤية البيانات التي تم تدريب خوارزمية الذكاء الاصطناعي عليها؟

أعتقد أن هناك مواضع لصالح و ضد الشفافية و لم يتم العثور على توازن جيد بعد. تقوم الشركات بحرمان المعلومات المتعلقة بالبيانات التي استخدموها لتدريب نماذج الذكاء الاصطناعي بسبب خوفهم من المطالبات القضائية. في حين أن البعض قد عمل على جعل نماذج الذكاء الاصطناعي متاحة للجمهور و قد أصدر جميع المعلومات المتعلقة بالبيانات التي استخدموها. الشفافية الكاملة تفتح الكثير من الفرص للاستغلال من نقاط الضعف في هذه النماذج. الشفافية الكاملة لا تساعد في بناء الثقة و إشراك المجتمع في بناء أنظمة ذكاء اصطناعي آمنة. سوف يوفر التوازن الجيد بين الشفافية و السرية الثقة في أن نماذج الذكاء الاصطناعي تم تدريبها على بيانات ذات جودة عالية و ذات صلة و التي وافقنا على استخدامها.

أعتقد أن من المهم أيضًا النظر في ما سيكون كافياً للمستخدمين من حيث القابلية للشرح. إذا أرادوا فهم سبب استجابة نموذج معين، فمن المحتمل أن تقديم البيانات الخام التي تم تدريب النموذج عليها لن يساعد في الإجابة على سؤالهم. لذلك، من المهم بناء أدوات جيدة للقابلية للشرح و الفهم.

ما هو رأيك في بحث محاذاة الذكاء الاصطناعي، و كيف يمكن للعاملين في مجال الذكاء الاصطناعي المساعدة في ضمان أن تكون أنظمة الذكاء الاصطناعي محاذاة كما هو ممكن؟

هذا هو مجال بحث نشط و لا يوجد إجماع بعد على الاستراتيجيات التي يجب استخدامها لمحاذاة نماذج الذكاء الاصطناعي مع قيم أو مبادئ إنسانية. عادة ما يُطلب من العاملين في مجال الذكاء الاصطناعي تمثيل تفضيلاتهم بشكل حقيقي و الإجابة على أسئلة حول تفضيلاتهم بدقة و اتباع مبادئ حول السلامة و عدم الانحياز و عدم الإضرار و الفائدة.

بخصوص المحاذاة نحو الأهداف أو المبادئ أو القيم، هناك العديد من النهج التي تبدو واعدة. واحد من الأمثلة البارزة هو عمل معهد المحاذاة المعنوية على التحسين الدقيق الديمقراطي. هناك منشور ممتاز يقدم فكرة هنا.

شكرًا على المقابلة الرائعة و على مشاركة آرائك حول انحياز الذكاء الاصطناعي، و يُرحب بالقراء الذين يرغبون في التعلم أكثر بزيارة بrolific.