سيرة مرشح للوظيفة لا يمكن إزالة الجنس منها بشكل فعال، يجد باحثو الذكاء الاصطناعي

وجد باحثون من جامعة نيويورك أن حتى النماذج البسيطة لمعالجة اللغة الطبيعية (NLP) قادرة على تحديد جنس مرشح للوظيفة من سيرة ذاتية “مُحَرَّرة من الجنس” – حتى في الحالات التي يتم فيها استخدام أساليب التعلم الآلي لإزالة جميع المؤشرات الجنسية من الوثيقة.

بعد دراسة شملت معالجة 348,000 سيرة ذاتية متطابقة للرجال والنساء، يخلص الباحثون إلى:

‘[هناك] كمية كبيرة من المعلومات الجنسية في السير الذاتية. حتى بعد محاولات كبيرة لإزالة الجنس من السير الذاتية، يمكن لنموذج Tf-Idf البسيط تعلم التمييز بين [الجنسين]. هذا يثبت تجريبياً المخاوف بشأن نماذج التعلم التي تتعلم التمييز الجنساني وتعزز التحيز في بيانات التدريب في المستقبل.’

النتيجة لها أهمية لا لأنها تُظهر إمكانية إخفاء الجنس خلال عملية الفحص والمقابلة (التي لا تُعتبر ممكنة بشكل واضح)، ولكن لأن الوصول إلى تلك المرحلة قد يتضمن تقييمًا قائمًا على الذكاء الاصطناعي للسيرة الذاتية دون وجود بشر في الحلقة – وقد حصلت أنظمة الموارد البشرية على سمعة سيئة بسبب التحيز الجنساني في السنوات الأخيرة.

تُظهر النتائج من دراسة الباحثين مدى مقاومة الجنس للمحاولات لإزالته:

نتائج من ورقة نيويورك. مصدر: https://arxiv.org/pdf/2112.08910.pdf

تستخدم النتائج المذكورة أعلاه معيار 0-1 مساحة تحت المنحنى لمعيار الاستقبال (AUROC)، حيث يمثل “1” يقيناً بنسبة 100% لتحديد الجنس. وتغطي الجدول مجموعة من ثماني تجارب.

حتى في أسوأ النتائج (التجارب #7 و #8)، حيث تم إزالة معلومات تحديد الجنس من السيرة الذاتية إلى درجة أن تكون غير قابلة للاستخدام، لا يزال نموذج NLP بسيط مثل Word2Vec قادرًا على تحديد الجنس بدقة تقترب من 70%.

يقول الباحثون:

‘في سياق التوظيف الخوارزمي، تشير هذه النتائج إلى أن النماذج البسيطة للتعلم الآلي ستتعلم التمييز الجنساني من السير الذاتية وتعزز التحيز في المستقبل، ما لم تكن بيانات التدريب خالية完全ًا من التحيز.’

يُشير المؤلفون إلى أن هناك لا حل قائم على الذكاء الاصطناعي شرعي ل “إزالة الجنس” من السير الذاتية في خط أنابيب التوظيف العملي، وأن تقنيات التعلم الآلي التي تفرض معاملة عادلة بشكل فعّال هي نهج أفضل لمشكلة التحيز الجنساني في سوق العمل.

في مجال الذكاء الاصطناعي، هذا يعادل “التحيز الإيجابي”، حيث يتم قبول السير الذاتية التي تكشف عن الجنس كحقيقة لا مفر منها، ولكن يتم إعادة ترتيبها بشكل فعّال كإجراء مساواتي. تم اقتراح نهج من هذا القبيل بواسطة لينكد إن في عام 2019، وباحثون من ألمانيا وإيطاليا وإسبانيا في عام 2018.

الورقة بعنوان اللغة الجنسية في السير الذاتية وآثارها على التحيز الخوارزمي في التوظيف، ومن تأليف براسانا باراسوراما، من قسم التكنولوجيا والعمليات والإحصاء في كلية ستيرن للأعمال بجامعة نيويورك، وジョاو سيدوك، أستاذ مساعد للتكنولوجيا والعمليات والإحصاء في ستيرن.

تحيز الجنس في التوظيف

يشدد المؤلفون على حجم التحيز الجنساني في إجراءات التوظيف الذي يصبح نظاميًا بشكل حرفي، مع استخدام مديري الموارد البشرية عمليات غربلة خوارزمية وتعلم آلي متقدمة – مما يُعد رفضًا مدعومًا بالذكاء الاصطناعي بناءً على الجنس.

يذكرون حالة خوارزمية توظيف في شركة أمازون التي تم الكشف عنها في عام 2018 لرفض مرشحات الإناث بطريقة روتينية لأنها تعلمت من البيانات التاريخية أن الرجال أكثر احتمالاً للتوظيف

‘تعلم النموذج من البيانات التاريخية أن الرجال أكثر احتمالاً للتوظيف، وبالتالي قيم سير الذاتية للرجال أعلى من سير الذاتية للنساء. ‘

‘على الرغم من أن جنس المرشح لم يكن مدرجًا بشكل صريح في النموذج، إلا أنه تعلم التمييز بين سير الذاتية للرجال والنساء بناءً على المعلومات الجنسية في السير الذاتية – على سبيل المثال، كان الرجال أكثر احتمالاً لاستخدام كلمات مثل “تنفيذ” و “استحواذ”.’

علاوة على ذلك، وجدت الأبحاث في عام 2011 أن الإعلانات عن الوظائف التي تطلب بشكل ضمني رجالا تجذبهم بشكل صريح، وتحفزهم على التقدم، في حين تثني النساء عن التقدم للوظيفة. وتعد التكنولوجيا الرقمية و مخططات البيانات الكبيرة واعدة لتعزيز هذه الممارسات في الأنظمة الآلية، إذا لم يتم معالجة هذه الظاهرة بشكل فعّال.

بيانات

قام الباحثون في نيويورك بتدريب سلسلة من النماذج لتصنيف الجنس باستخدام نمذجة تنبؤية. كما سعوا إلى تحديد مدى قدرة النماذج على التنبؤ بالجنس بعد إزالة كميات متزايدة من المعلومات التي قد تكشف عن الجنس، مع الحفاظ على المحتوى ذي الصلة بالطلب.

تم استخراج مجموعة البيانات من مجموعة من سير الذاتية للمتقدمين للوظائف في ثماني شركات أمريكية، مع كل سيرة ذاتية مصحوبة بمعلومات حول الاسم، الجنس، سنوات الخبرة، مجال الخبرة أو الدراسة، والوظيفة المستهدفة التي تم إرسال السيرة الذاتية من أجلها.

为了提取信息 السياقية الأعمق من هذه البيانات في شكل تمثيل متجه، قام المؤلفون بتدريب نموذج Word2Vec. ثم تم تحويله إلى رموز وتصفية، وأخيراً تحول إلى تمثيل متضمن واحد لكل سيرة ذاتية.

تم مطابقة العينات الذكورية والأنثوية بشكل 1-1، وتم الحصول على جزء فرعي عن طريق مطابقة أفضل المرشحين الذكور والإناث بشكل موضوعي، مع هامش خطأ يبلغ 2 سنة، من حيث الخبرة في مجالهم. وبالتالي، تتكون مجموعة البيانات من 174,000 سيرة ذاتية للرجال و 174,000 سيرة ذاتية للنساء.

الهياكل والمكتبات

تم استخدام ثلاثة نماذج للتصنيف: التردد الترددي-التردد العكسي للوثيقة (TF-IDF) + الاستدلال اللوجستي، وتضمين الكلمات + الاستدلال اللوجستي، و Longformer.

يقدم النموذج الأول قاعدة أساسية لتحديد الجنس بناءً على الاختلافات اللغوية. تم استخدام النهج الثاني مع نظام تضمين كلمات جاهز و تضمين كلمات محايد من الجنس.

تم تقسيم البيانات إلى 80/10/10 بين التدريب والتقويم والاختبار،

كما هو موضح في النتائج المعروضة أعلاه، كان نموذج Longformer القائم على المحولات، الذي يُعتبر أكثر تطوراً من النهوج السابقة، قريباً من تحقيق نتائج مماثلة لسيرة ذاتية “غير محمية” من حيث قدرته على كشف الجنس من الوثائق التي تم إزالة المؤشرات الجنسية منها بشكل فعّال.

شملت التجارب التي أجريت دراسات إزالة البيانات، حيث تم إزالة كمية متزايدة من المعلومات الجنسية من السير الذاتية، وتم اختبار النماذج على هذه الوثائق الأقل وضوحا.

تشمل المعلومات التي تم إزالتها الهوايات (معيار مستمد من تعريف ويكيبيديا ل “الهوايات”)، وأرقام تعريف لينكد إن، وروابط قد تكشف عن الجنس. بالإضافة إلى ذلك، تم إزالة مصطلحات مثل “النادي” و “النادل” و “بائع” من هذه الإصدارات الأقل وضوحا.

نتائج إضافية

إضافة إلى النتائج المذكورة أعلاه، وجد باحثو جامعة نيويورك أن تضمين الكلمات المحايدة من الجنس لم يقلل من قدرة النماذج على التنبؤ بالجنس. في الورقة، يشير المؤلفون إلى مدى انتشار الجنس في اللغة المكتوبة، مشيرين إلى أن هذه الآليات والمؤشرات لا تزال غير مفهومة جيدا.