حل أبل للغات المُحَدَّدة جِنسيًا في الترجمة

أعلنت شركة آبل عن ورقة بحثية، بالتعاون مع جامعة جنوب كاليفورنيا، تُستكشف فيها الأساليب التي تستخدمها خوارزميات التعلم الآلي لتقديم المزيد من الخيارات للمستخدمين فيما يتعلق بالجنس عند الترجمة.

في نظام التشغيل آي أو إس 18، يمكن للمستخدمين اختيار مقترحات بديلة للجنس لمُترجم كلمة في تطبيق الترجمة الأصلي.

على الرغم من أن القضايا التي تُعالجها هذه الأعمال (التي أعلنت عنها شركة آبل هنا) تشارك إلى حد ما في المناقشات الحالية حول تعريف الجنس، إلا أنها تركز على مشكلة أقدم: حقيقة أن 84 من بين 229 لغة معروفة في العالم تستخدم نظام جنس قائم على الجنس.

النقاط الحمراء تشير إلى اللغات التي تستخدم نظام جنس قائم على الجنس.

على سبيل المثال، اللغة الإنجليزية تندرج تحت فئة الجنس القائم على الجنس، لأنها تُخصص ضمائر مفردة مذكرة أو مؤنثة.

في المقابل، جميع اللغات الرومانسية (بما في ذلك أكثر من نصف مليار ناطق بالإسبانية) – واللغات الشائعة الأخرى، مثل الروسية – تتطلب موافقة الجنس بطرق تجعل أنظمة الترجمة تتعامل مع تحديد الجنس في اللغة.

تُظهر الورقة البحثية هذا من خلال ملاحظة جميع الترجمات الإسبانية الممكنة للجملة كان السكرتير غاضبًا من الرؤساء:

من الورقة البحثية، مثال على تعيينات الجنس المحتملة في الجملة “السكرتير كان غاضبًا من الرئيس”، عند الترجمة من الإنجليزية إلى الإسبانية.

الترجمة البسيطة بعيدة كل البعد عن الكفاية للنصوص الأطول، التي قد تحدد الجنس في البداية (هو، هي، إلخ.) ومن ثم لا تشير إلى الجنس مرة أخرى. ومع ذلك، يجب على الترجمة أن تتذكر الجنس المُخصص للمشارك على مدار النص.

يمكن أن يكون هذا تحديًا للنهج القائمة على الرمز التي تتعامل مع الترجمات في قطع منفصلة، ويتعرض للخطر من فقدان السياق الجنس على مدار النص.

أسوأ من ذلك، لا يمكن لأنظمة الترجمة التي توفر ترجمات بديلة لتعيينات الجنس المتحيزة أن تفعل ذلك بشكل عشوائي، أي ببساطة استبدال اسم الجنس، ولكن يجب أن تضمن أن جميع أجزاء اللغة الأخرى تتفق مع اسم الجنس المُعدل.

في هذا المثال من ورقة آبل وجامعة جنوب كاليفورنيا، نرى أن السكرتير قد تم تعيينه جنسًا مذكرًا، ولكن الماضي المفرد كان قد تم تركها أنثى (كانت):

استبدال الجنس القسري يمكن أن ي忽ن موافقة الجنس اللازمة. في هذا المثال، يجب أن يكون الكلمة “غاضب” وليس “غاضبة”، لتتفق مع المذكر “السكرتير”.

يجب على نظام الترجمة أيضًا التعامل مع أعراف لغات معينة فيما يتعلق بالجنس. كما يشير البحث إلى أن الضمير أنا يتم تحديده جنسياً في اللغة الهندية، مما يوفر دليلًا غير عادي على الجنس.

قضايا الجنس

في الورقة البحثية الجديدة، التي تحمل عنوان توليد بديلات الجنس في الترجمة الآلية، يقترح باحثو آبل وجامعة جنوب كاليفورنيا طريقة نصف إشرافية لتحويل الكيانات الغامضة جنسياً إلى مصفوفة من البديلات على مستوى الكيان.

تم بناء النظام، الذي تم استخدامه لإعلام الترجمة من تطبيق آبل للترجمة في نظام آي أو إس 18، من خلال مخطط اللغة باستخدام نماذج اللغة الكبيرة (LLMs) وضبط نماذج الترجمة الآلية المفتوحة المصدر المسبقة.

تم تدريب نتائج الترجمات من هذه الأنظمة على هيكل يحتوي على هياكل الجنس – مجموعات من الجمل التي تحتوي على أشكال متنوعة من الأسماء المُحَدَّدة جنسياً التي تمثل نفس الكيان.

تُشير الورقة إلى ما يلي:

التي تُعرف باسم تحيزات الجنس في بيانات التدريب، والتي تُعتبر معروفة لتسربها إلى أنظمة معالجة اللغة الطبيعية (NLP)، مما يؤدي إلى نشر وتضخيم هذه التحيزات. غالبًا ما تكون هذه التحيزات أيضًا السبب الجذري للأخطاء.

على سبيل المثال، قد تترجم نظام الترجمة (MT) كلمة “دكتور” إلى الإسبانية بمصطلح “مедيكو” (مذكر) بدلاً من “مديكا” (مؤنث)، بالنظر إلى المدخلات “الطبيب طلب من الممرضة مساعدته في الإجراء”.

للتغلب على تحديد الجنس الخاطئ، يجب على أنظمة الترجمة أن تُبهر الجنس من خلال السياق. عندما لا يمكن تحديد الجنس الصحيح من خلال السياق، فإن تقديم بديلات ترجمة متعددة تغطي جميع الخيارات الجنسية الصالحة هو نهج معقول.

تم تقييم نموذج آبل وجامعة جنوب كاليفورنيا على مجموعات اختبار GATE وMT-GenEval. تحتوي مجموعة GATE على جمل مصدر مع كيانات غامضة جنسياً تصل إلى 3، في حين تحتوي مجموعة MT-GenEval على مواد لا يمكن استنتاج الجنس منها، والتي، كما يُشير المؤلفون، تساعد في فهم متى لا ينبغي تقديم خيارات جنس بديلة للمستخدم.

تم إعادة تحديد كلا المجموعتين لتناسب أهداف المشروع.

لتدريب النظام، اعتمد الباحثون على خوارزمية تعزيز بيانات جديدة، على عكس مجموعات الاختبار السابقة، التي تم تحديدها بواسطة البشر.

ساهمت مجموعات بيانات في مجموعة آبل، بما في ذلك Europarl وWikiTitles وWikiMatrix. تم تقسيم المجموعة إلى G-Tag (ب 12,000 جملة) التي تتضمن جملًا مع كلمات رئيسية لجميع الكيانات، جنبًا إلى جنب مع تعليق غامض جنسياً، وG-Trans (ب 50,000 جملة) التي تحتوي على كيانات غامضة جنسياً وتركيبات جنس.

يُشير المؤلفون إلى ما يلي:

إلى حد ما، هذه هي المجموعة الكبيرة الأولى التي تحتوي على غموض الجنس وكيف يؤثر على الأشكال المُحَدَّدة جنسياً في الترجمة.

تم إتاحة مجموعات البيانات والمعلومات المتنوعة للمشروع على جيت هاب. تتميز البيانات بخمسة أزواج لغات، حيث يتم وضع اللغة الإنجليزية مقابل الروسية والألمانية والفرنسية والبرتغالية والإسبانية.

استخدم الباحثون نهجًا سابقًا من عام 2019 لتمكين النموذج من إخراج تركيبات جنس، وتم تدريبه باستخدام خسارة التباين العددي وخسارة إضافية للتحجيل.

لخوارزمية تعزيز البيانات، فضل الباحثون نهجًا مركزًا على البيانات على الأساليب القائمة على القواعد التقليدية، وضبط نموذج لغة BERT المسبق التدريب على مجموعة بيانات G-Tag.

النظر الثانوي

في الحالات التي يتم فيها الكشف عن كيانات جنس غامض، قام باحثو آبل وجامعة جنوب كاليفورنيا بفحص طريقتين – ضبط نماذج اللغة المسبقة التدريب، واستخدام نماذج اللغة الكبيرة (LLMs).

فيما يتعلق بالطريقة الأولى، تُشير الورقة إلى ما يلي:

نحن نضبط نموذج MT المسبق التدريب M على نص ثنائي اللغة تم استخراجه من مجموعة بيانات G-Trans. تحتوي جمل المصدر في هذا النص الثنائي اللغة على كيانات غامضة تم تحديدها جنسياً باستخدام علامات <M>/<F>، والترجمة الهدف لها انحناءات جنس صحيحة معينة حسب علامات الجنس.

تُظهر صورة توضيحية لschema لاستخراج النص الثنائي اللغة من مجموعة بيانات G-Trans.

في الصورة أعلاه، نرى النص المُعدل في العمود الأوسط، والخرج المُطلوب في العمود الأيمن، مع التفسير الكامن موضحًا أعلاه.

لنهج هذا، استخدم الباحثون طريقة إعادة ترتيب الشبكة من عمل سابق في عام 2020. لضمان أن يتم التعامل فقط مع المجال المستهدف (الجنس)، تم استخدام بحث شعاعي مقيد كمرشح.

لنهج LLM، صمم الباحثون استراتيجية تستخدم LLM كمحرر، من خلال إعادة كتابة الترجمات المقدمة لتقديم تعيينات جنس.

يتم تحفيز LLM باستخدام مثال سياقي لتعيين الجنس.

مع نتائج من كلا النهجين، تم ضبط النموذج لاحقًا لتصنيف رموز المصدر على أنها مُحَلَّاة (مُشار إليها بـ “1” في الخارطة أدناه) أو غير مُحَلَّاة (مُشار إليها بـ “2” أدناه).

schema لدمج نتائج النهجين.

البيانات والاختبارات

تم تطوير كاشف الكيان الغامض المستخدم في المشروع من خلال ضبط نموذج xlm-roberta-large من فيسبوك آي آي، باستخدام التنقلات. تم استخدام مجموعة G-Tag المشتركة عبر جميع أزواج اللغات الخمس.

في النهج الأول المذكور، تم تدريب نموذج M2M 1.2B على Fairseq، جنبًا إلى جنب مع بيانات النص الثنائي من مجموعة بيانات G-Trans، مع انحناءات الجنس المقدمة من ويكيشنري.

لنهج LLM، استخدم الباحثون GPT-3.5-turbo. لتركيب هياكل الجنس، تم استخدام xlm-roberta-large مرة أخرى، هذه المرة مع تركيبات الجنس المستخرجة من G-Trans.

تم استخدام مقاييس لتقييم البديلات، والتركيب (مع الدقة والاستدلال)، ودقة التركيب.

على الرغم من أن الأولين واضحان، فإن دقة التركيب تقيس نسبة هياكل الجنس في الإخراج التي تتوافق مع الهوية المصدر الصحيحة، وتستخدم طريقة δ-BLEU، وفقًا لمنهجية MT-GenEval.

فيما يلي نتائج трубة تعزيز البيانات:

نتائج трубة تعزيز البيانات. السهام الصاعدة تشير إلى “الأعلى أفضل”، والسهام الهابطة تشير إلى “الأقل أفضل”.

يشير المؤلفون إلى ما يلي:

كلا نموذجي M2M وGPT يؤدّيان بشكل جيد مع استثناء حالة اللغة الإنجليزية-الروسية، حيث يحقق GPT استدلال بديل أقل بكثير (58.7 مقارنةً بـ 89.3). جودة هياكل الجنس المُولَّدة أفضل لـ GPT في اللغة الإنجليزية-الألمانية واللغة الإنجليزية-البرتغالية، وأفضل لـ M2M في اللغة الإنجليزية-الإسبانية واللغة الإنجليزية-الروسية، كما هو موضح في مقاييس الهياكل.

لاحظ أننا لا نملك أي بيانات G-Trans للغة الإنجليزية-الإيطالية، لذلك نتائج نموذج M2M ودقة التركيب للغة الإنجليزية-الإيطالية تعتمد فقط على التعميم بدون مثال لنموذج M2M ونموذج XLM.

قارن الباحثون أداء نظام تعزيز البيانات، من خلال M2M، مع كاتب جنس الجملة في GATE، على شروط اختبار GATE.

نظام трубة تعزيز البيانات لآبل وجامعة جنوب كاليفورنيا مقابل نهج جنس الجملة في GATE.

تُشير الورقة إلى ما يلي:

نرى تحسينات كبيرة في الاستدلال عند التكلفة الخاصة بتراجع دقيق قليل (باستثناء اللغة الإنجليزية-الإيطالية). نظامنا قادر على تفوق GATE على مقياس F.5 المقترح على جميع أزواج اللغات الثلاث.

أخيرًا، قام الباحثون بتدريب نماذج متعددة اللغات “فانيليا” على نص ثنائي اللغة. ساهمت مجموعات البيانات في ذلك، بما في ذلك WikiMatrix وWikiTitles وMulti-UN وNewsCommentary وTilde.

تم تدريب نموذجين إضافيين من نموذج “فانيليا”، أحدهما يدمج مجموعة بيانات G-Trans مع علامة <جنس>، والتي تم استخدامها كخط أساس إشرافي، والثاني يدمج هيكل الجنس والتركيبات (على النموذج المحلي الأصغر، لأن استخدام خدمات API ل GPT سيكون مكلفًا جدًا لهذا الغرض).

تم اختبار النماذج على مجموعة بيانات FloRes لعام 2022.

نماذج الترجمة الآلية البسيطة تم اختبارها (P = الدقة، R = الاستدلال).

تُلخص الورقة هذه النتائج كما يلي:

نموذج “فانيليا” لا يمكنه توليد بديلات، ويوضح انحيازًا كبيرًا نحو توليد أشكال مذكرة (δ-BLEU تتراوح من 5.3 إلى 12.5 نقطة).

يُقلَّص هذا الانحياز من خلال الخط الأساس الإشرافي. النموذج المدرب على بيانات مُحسَّنة يُقلِّص الانحيازさらに ويحصل على الأداء الأفضل فيما يتعلق بمقاييس البديل، ودقة التركيب، وδ-BLEU.

هذا يُظهر فعالية трубة تعزيز البيانات. البيانات المُحسَّنة أيضًا تسمح لنا بتدريب نظام تنافسي للغة الإنجليزية-الإيطالية التي تفتقر إلى بيانات إشرافية.

يُختتم المؤلفون بالتأكيد على أن نجاح النموذج يجب أن يُعتبر في السياق الأوسع لتحديات معالجة اللغة الطبيعية فيما يتعلق بتعيين الجنس في أسلوب الترجمة، ويُشيرون إلى أن هذا يبقى مشكلة مفتوحة.

على الرغم من أن الباحثين يعتبرون أن النتائج التي تم الحصول عليها لا تحقق تمامًا هدف توليد بديلات جنس محايد على مستوى الكيان و/أو إزالة الغموض فيما يتعلق بالجنس، إلا أنهم يعتبرون هذا العمل “أداة قوية” لمساهمته في واحدة من أكثر المجالات تحديًا في الترجمة الآلية.

نُشر لأول مرة يوم الثلاثاء، 8 أكتوبر 2024.