نماذج ومنصات الذكاء الاصطناعي

التحيز في الذكاء الاصطناعي والصور النمطية الثقافية: الآثار والقيود وسبل التخفيف

Haziqa Sajid
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيمكن للتحيز في الذكاء الاصطناعي في أنظمة مثل ميدجورني أن يعزز الصور النمطية الثقافية…
عرض المزيد
  • يمكن للتحيز في الذكاء الاصطناعي في أنظمة مثل ميدجورني أن يعزز الصور النمطية الثقافية الضارة على مستوى العالم.
  • تسببت خوارزميات الذكاء الاصطناعي المتحيزة في أضرار حقيقية في مجال الرعاية الصحية وقرارات الشرطة.
  • تتطلب معالجة تحيز الذكاء الاصطناعي مجموعات بيانات متنوعة ولوائح دولية قوية.

يستمر الذكاء الاصطناعي (AI) ، وخاصة الذكاء الاصطناعي التوليدي ، في تجاوز التوقعات بفضل قدرته على فهم ومحاكاة الإدراك والذكاء البشري. ومع ذلك ، في العديد من الحالات ، يمكن أن تعكس نتائج أو تنبؤات أنظمة الذكاء الاصطناعي أنواعًا مختلفة من التحيز في الذكاء الاصطناعي ، مثل التحيز الثقافي والعنصري.

تُظهر مدونة BuzzFeed «باربيز من جميع أنحاء العالم»، التي حُذفت الآن، هذه التحيزات الثقافية والأخطاء بوضوح. تم إنشاء هذه “الباربيز” باستخدام Midjourney – أحد أبرز مولدي الصور الذكية ، لمعرفة كيف ستبدو الباربيز في جميع أنحاء العالم. سنناقش هذا الأمر لاحقًا.

ولكن هذا ليس المرة الأولى التي يظهر فيها الذكاء الاصطناعي “عنصريًا” أو ينتج نتائج غير دقيقة. على سبيل المثال ، في عام 2022 ، تم رفع دعوى قضائية ضد شركة Apple (AAPL ) بسبب مزاعم بأن مستشعر أكسجين الدم في Apple Watch كان متحيزًا ضد الأشخاص الملونين. في حالة أخرى ، وجد مستخدمو تويتر أن نظام الذكاء الاصطناعي لقص الصور تلقائيًا في تويتر يفضل وجوه الأشخاص البيض على الأشخاص السود والنساء على الرجال. هذه تحديات حرجة ، ومواجهتها تحدي كبير.

في هذه المقالة ، سننظر في ما هو التحيز في الذكاء الاصطناعي وكيف يؤثر على مجتمعنا ونناقش كيف يمكن لممارسين التكنولوجيا التخفيف منه لمواجهة تحديات مثل الصور النمطية الثقافية.

ما هو التحيز في الذكاء الاصطناعي؟

يحدث التحيز في الذكاء الاصطناعي عندما تنتج نماذج الذكاء الاصطناعي نتائج تمييزية ضد فئات معينة. يمكن أن تدخل أنواع مختلفة من التحيز أنظمة الذكاء الاصطناعي وتنتج نتائج غير صحيحة. بعض هذه التحيزات في الذكاء الاصطناعي هي:

  • التحيز النمطي: التحيز النمطي يحدث عندما تتكون نتائج نموذج الذكاء الاصطناعي من نمطيات أو مفاهيم خاطئة عن فئة معينة.
  • التحيز العنصري: التحيز العنصري في الذكاء الاصطناعي يحدث عندما تكون نتيجة نموذج الذكاء الاصطناعي تمييزية وغير عادلة تجاه فرد أو مجموعة على أساس عرقهم.
  • التحيز الثقافي: التحيز الثقافي يحدث عندما تفضل نتائج نموذج الذكاء الاصطناعي ثقافة معينة على أخرى.

بصرف النظر عن التحيز ، يمكن أن تؤثر مشاكل أخرى على نتائج نظام الذكاء الاصطناعي ، مثل:

  • الأخطاء: الأخطاء تحدث عندما تكون النتائج التي ينتجها نموذج الذكاء الاصطناعي غير صحيحة بسبب بيانات التدريب غير المتسقة.
  • الهلوسة: تحدث الهلوسة عندما ينتج نماذج الذكاء الاصطناعي نتائج وهمية وكاذبة لا تعتمد على بيانات حقيقية.

أثر التحيز في الذكاء الاصطناعي على المجتمع

يمكن أن يكون أثر التحيز في الذكاء الاصطناعي على المجتمع ضارًا. يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تنتج نتائج غير دقيقة تعزز التحيز القائم في المجتمع. يمكن أن تؤدي هذه النتائج إلى زيادة التمييز وانتهاكات الحقوق ، وتؤثر على عمليات التوظيف ، وتقلل من ثقة الناس في تكنولوجيا الذكاء الاصطناعي.

كما أن نتائج الذكاء الاصطناعي المتحيزة غالبًا ما تؤدي إلى تنبؤات غير دقيقة يمكن أن يكون لها عواقب خطيرة على الأفراد الأبرياء. على سبيل المثال ، في أغسطس 2020 ، أصبح روبرت ماكدانيال هدفًا لجريمة بسبب خوارزمية التنبؤ بالجريمة التابعة لشرطة شيكاغو التي صنفته كـ “شخص محل اهتمام أمني”.

وبالمثل، يمكن لأنظمة الذكاء الاصطناعي المتحيزة في الرعاية الصحية أن تؤثر بشدة في نتائج المرضى. ففي عام 2019، وجدت مجلة Science أن خوارزمية طبية مستخدمة على نطاق واسع في الولايات المتحدة كانت متحيزة عرقيًا ضد الأشخاص الملوّنين، مما أدى إلى حصول المرضى السود على قدر أقل من خدمات إدارة الرعاية عالية الخطورة.

باربيز من جميع أنحاء العالم

في يوليو 2023 ، نشرت BuzzFeed مقالة تتكون من 194 باربي تم إنشاؤها بواسطة الذكاء الاصطناعي من جميع أنحاء العالم. أصبحت المقالة مشهورة على تويتر. على الرغم من أن BuzzFeed كتبت بيانًا مفاده أنها لا تهدف إلى الإساءة لأي شخص، إلا أن ذلك لم يمنع مستخدمي الإنترنت من الإشارة إلى الأخطاء العرقية والثقافية. فعلى سبيل المثال، ظهرت باربي الألمانية المولّدة بالذكاء الاصطناعي مرتدية زي جنرال في قوات إس إس النازية.

باربيز من جميع أنحاء العالم-صورة5

وعلى نحو مماثل، ظهرت باربي جنوب السودان المولّدة بالذكاء الاصطناعي وهي تحمل سلاحًا بجانبها، مما يعكس التحيز المتجذر في خوارزميات الذكاء الاصطناعي.

باربيز من جميع أنحاء العالم-صورة4

وأظهرت صور أخرى أخطاء ثقافية، مثل باربي قطر التي كانت ترتدي الغترة، وهي غطاء رأس تقليدي يرتديه الرجال العرب.

باربيز من جميع أنحاء العالم-صورة3

تسببت هذه المقالة في رد فعل عنيف بسبب التمييز الثقافي والتحيز. ووصفت كلية لندن متعددة التخصصات (LIS) ذلك بأنه ضرر ناجم عن التمثيل النمطي يجب الحد منه من خلال فرض معايير جودة وإنشاء هيئات رقابية للذكاء الاصطناعي.

قيود نماذج الذكاء الاصطناعي

يتمتع الذكاء الاصطناعي بالقدرة على إحداث ثورة في صناعات عديدة. ومع ذلك ، إذا انتشرت سيناريوهات مثل تلك المذكورة أعلاه ، يمكن أن يؤدي ذلك إلى انخفاض في اعتماد الذكاء الاصطناعي بشكل عام ، مما يؤدي إلى فرص ضائعة. تحدث هذه الحالات عادة بسبب قيود كبيرة في أنظمة الذكاء الاصطناعي ، مثل:

  • نقص الإبداع:نظرًا إلى أن الذكاء الاصطناعي يمكنه اتخاذ قرارات فقط بناءً على بيانات التدريب المحددة ، فإنه يفتقر إلى الإبداع للتفكير خارج الصندوق ، مما يعوق حل المشكلات الإبداعية.
  • نقص الفهم السياقي: تواجه أنظمة الذكاء الاصطناعي صعوبة في فهم الدقة السياقية أو التعبيرات اللغوية لمنطقة ما ، مما يؤدي غالبًا إلى أخطاء في النتائج.
  • تحيز التدريب: يعتمد الذكاء الاصطناعي على بيانات تاريخية يمكن أن تحتوي على عينات تمييزية. خلال التدريب ، يمكن للنموذج أن يتعلم بسهولة أنماطًا تمييزية لإنتاج نتائج غير عادلة ومحيزة.

كيفية تقليل التحيز في نماذج الذكاء الاصطناعي

يقدّر الخبراء أن 90% من المحتوى الموجود على الإنترنت قد يكون مولّدًا بشكل اصطناعي بحلول عام 2026. لذلك ، من المهم تقليل المشاكل الحالية في تكنولوجيا الذكاء الاصطناعي التوليدي بسرعة.

يمكن تنفيذ استراتيجيات رئيسية لتحقيق ذلك ، مثل:

  • ضمان جودة البيانات: يمكن أن يساعد استهلاك بيانات كاملة ودقيقة ونظيفة في نموذج الذكاء الاصطناعي في تقليل التحيز وإنتاج نتائج أكثر دقة.
  • مجموعات بيانات متنوعة: يمكن أن تساعد إدخال مجموعات بيانات متنوعة في نظام الذكاء الاصطناعي في التخفيف من التحيز مع مرور الوقت.
  • زيادة التنظيم: من المهم أن تكون هناك لوائح عالمية للذكاء الاصطناعي لضمان جودة أنظمة الذكاء الاصطناعي عبر الحدود. لذلك يجب أن تعمل المنظمات الدولية معًا لضمان توحيد معايير الذكاء الاصطناعي.
  • زيادة اعتماد الذكاء الاصطناعي المسؤول: تساهم استراتيجيات الذكاء الاصطناعي المسؤول بشكل إيجابي في التخفيف من التحيز في الذكاء الاصطناعي وتعزيز العدالة والدقة في أنظمة الذكاء الاصطناعي، وضمان خدمة قاعدة متنوعة من المستخدمين مع السعي إلى التحسين المستمر.

من خلال دمج مجموعات بيانات متنوعة ومسؤولية أخلاقية ووسائط اتصال مفتوحة ، يمكننا ضمان أن يكون الذكاء الاصطناعي مصدرًا للتغيير الإيجابي في جميع أنحاء العالم.

إذا كنت ترغب في معرفة المزيد عن التحيز ودور الذكاء الاصطناعي في مجتمعنا ، اقرأ المقالة التالية.

Haziqa هي عالمة بيانات ذات خبرة واسعة في كتابة المحتوى الفني لشركات الذكاء الاصطناعي والبرمجيات كخدمة.