الذكاء الاصطناعي
التحيز في الذكاء الاصطناعي والاستереوتايب الثقافي: الآثار والقيود والتخفيف
يستمر الذكاء الاصطناعي (AI) ، وخاصة الذكاء الاصطناعي التوليدي ، في تجاوز التوقعات بفضل قدرته على فهم ومحاكاة الإدراك والذكاء البشري. ومع ذلك ، في العديد من الحالات ، يمكن أن تعكس نتائج أو تنبؤات أنظمة الذكاء الاصطناعي أنواعًا مختلفة من التحيز في الذكاء الاصطناعي ، مثل التحيز الثقافي والracial.
يظهر مدونة BuzzFeed “باربيز من جميع أنحاء العالم” هذه التحيزات الثقافية والأخطاء واضحة. تم إنشاء هذه “الباربيز” باستخدام Midjourney – أحد أبرز مولدي الصور الذكية ، لمعرفة كيف ستبدو الباربيز في جميع أنحاء العالم. سنناقش هذا الأمر لاحقًا.
ولكن هذا ليس المرة الأولى التي يظهر فيها الذكاء الاصطناعي “عنصريًا” أو ينتج نتائج غير دقيقة. على سبيل المثال ، في عام 2022 ، تم رفع دعوى قضائية ضد شركة Apple بسبب مزاعم bahwa جهاز Apple Watch كان متحيزًا ضد الأشخاص الملونين. في حالة أخرى ، وجد مستخدمو تويتر أن الذكاء الاصطناعي التلقائي لتقليب الصور في تويتر يفضل وجوه الأشخاص البيض على الأشخاص السود والنساء على الرجال. هذه تحديات حرجة ، ومواجهتها تحدي كبير.
في هذه المقالة ، سننظر في ما هو التحيز في الذكاء الاصطناعي وكيف يؤثر على مجتمعنا ونناقش كيف يمكن لممارسين التكنولوجيا التخفيف منه لمواجهة تحديات مثل الاستереوتايب الثقافي.
ما هو التحيز في الذكاء الاصطناعي؟
يحدث التحيز في الذكاء الاصطناعي عندما تنتج نماذج الذكاء الاصطناعي نتائج تمييزية ضد فئات معينة. يمكن أن تدخل أنواع مختلفة من التحيز أنظمة الذكاء الاصطناعي وتنتج نتائج غير صحيحة. بعض هذه التحيزات في الذكاء الاصطناعي هي:
- التحيز النمطي: التحيز النمطي ي发生 عندما تتكون نتائج نموذج الذكاء الاصطناعي من نمطيات أو مفاهيم خاطئة عن فئة معينة.
- التحيز العنصري: التحيز العنصري في الذكاء الاصطناعي يحدث عندما تكون نتيجة نموذج الذكاء الاصطناعي تمييزية وغير عادلة تجاه فرد أو مجموعة على أساس عرقهم.
- التحيز الثقافي: التحيز الثقافي يحدث عندما تفضل نتائج نموذج الذكاء الاصطناعي ثقافة معينة على أخرى.
بصرف النظر عن التحيز ، يمكن أن تؤثر مشاكل أخرى على نتائج نظام الذكاء الاصطناعي ، مثل:
- الأخطاء: الأخطاء تحدث عندما تكون النتائج التي ينتجها نموذج الذكاء الاصطناعي غير صحيحة بسبب بيانات التدريب غير المتسقة.
- الوهم: الوهم يحدث عندما ينتج نماذج الذكاء الاصطناعي نتائج وهمية وكاذبة لا تعتمد على بيانات حقيقية.
أثر التحيز في الذكاء الاصطناعي على المجتمع
يمكن أن يكون أثر التحيز في الذكاء الاصطناعي على المجتمع ضارًا. يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تنتج نتائج غير دقيقة تعزز التحيز القائم في المجتمع. يمكن أن تؤدي هذه النتائج إلى زيادة التمييز وانتهاكات الحقوق ، وتؤثر على عمليات التوظيف ، وتقلل من ثقة الناس في تكنولوجيا الذكاء الاصطناعي.
كما أن نتائج الذكاء الاصطناعي المتحيزة غالبًا ما تؤدي إلى تنبؤات غير دقيقة يمكن أن يكون لها عواقب خطيرة على الأفراد الأبرياء. على سبيل المثال ، في أغسطس 2020 ، أصبح روبرت ماكدانيال هدفًا لجريمة بسبب خوارزمية التنبؤ بالجريمة التابعة لشرطة شيكاغو التي صنفته كـ “شخص مهتم”.
tương tự ، يمكن لأنظمة الذكاء الاصطناعي في مجال الرعاية الصحية أن تؤدي إلى نتائج مريض حادة. في عام 2019 ، وجدت مجلة Science أن خوارزمية طبية شائعة في الولايات المتحدة كانت متحيزة ضد الأشخاص الملونين ، مما أدى إلى حصول المرضى السود على إدارة أقل للعناية بالخطر.
باربيز من جميع أنحاء العالم
في يوليو 2023 ، نشرت مدونة BuzzFeed مقالة تتكون من 194 باربي تم إنشاؤها بواسطة الذكاء الاصطناعي من جميع أنحاء العالم. أصبحت المقالة مشهورة على تويتر. على الرغم من أن BuzzFeed كتبت بيانًا مفاده أنها لا تهدف إلى الإساءة لأي شخص ، إلا أن هذا لم يمنع مستخدمي الإنترنت من الإشارة إلى الأخطاء العرقية والثقافية.
على نحو مماثل ، تم تصوير الباربي الألمانية التي تم إنشاؤها بواسطة الذكاء الاصطناعي وهي ترتدي زي جنرال نازي.
كما تم تصوير الباربي الجنوب سودانية وهي تحمل سلاحًا على جنبها ، مما يعكس التحيز العميق في خوارزميات الذكاء الاصطناعي.
تسببت هذه المقالة في رد فعل عنيف بسبب التمييز الثقافي والتحيز. واصفًا ذلك بأنه “ضرر تمثيلي” يجب السيطرة عليه من خلال فرض معايير جودة وإنشاء هيئات رقابية للذكاء الاصطناعي.
قيود نماذج الذكاء الاصطناعي
يتمتع الذكاء الاصطناعي بإمكانيات ثورية في العديد من الصناعات. ومع ذلك ، إذا انتشرت سيناريوهات مثل تلك المذكورة أعلاه ، يمكن أن يؤدي ذلك إلى انخفاض في اعتماد الذكاء الاصطناعي بشكل عام ، مما يؤدي إلى فرص ضائعة. تحدث هذه الحالات عادة بسبب قيود كبيرة في أنظمة الذكاء الاصطناعي ، مثل:
- نقص الإبداع:由于 أن الذكاء الاصطناعي يمكن أن ي اتخذ قرارات فقط بناءً على بيانات التدريب المحددة ، فإنه يفتقر إلى الإبداع للتفكير خارج الصندوق ، مما يعوق حل المشكلات الإبداعية.
- نقص الفهم السياقي: تواجه أنظمة الذكاء الاصطناعي صعوبة في فهم الدقة السياقية أو التعبيرات اللغوية لمنطقة ما ، مما يؤدي غالبًا إلى أخطاء في النتائج.
- تحيز التدريب: يعتمد الذكاء الاصطناعي على بيانات تاريخية يمكن أن تحتوي على عينات تمييزية. خلال التدريب ، يمكن للنموذج أن يتعلم بسهولة أنماطًا تمييزية لإنتاج نتائج غير عادلة ومحيزة.
كيفية تقليل التحيز في نماذج الذكاء الاصطناعي
يقدر الخبراء أن 90% من المحتوى الموجود على الإنترنت سيكون مولدًا بشكل اصطناعي بحلول عام 2026. لذلك ، من المهم تقليل المشاكل الحالية في تكنولوجيا الذكاء الاصطناعي التوليدي بسرعة.
يمكن تنفيذ استراتيجيات رئيسية لتحقيق ذلك ، مثل:
- ضمان جودة البيانات: يمكن أن يساعد استهلاك بيانات كاملة ودقيقة و sạch في نموذج الذكاء الاصطناعي في تقليل التحيز وإنتاج نتائج أكثر دقة.
- مجموعات بيانات متنوعة: يمكن أن تساعد إدخال مجموعات بيانات متنوعة في نظام الذكاء الاصطناعي في التخفيف من التحيز مع مرور الوقت.
- حلقة التغذية الراجعة: يمكن لنموذج الذكاء الاصطناعي أن يتحسن تدريجيًا من خلال حلقة تغذية راجعة و تعلم مستمرة.
- زيادة التنظيم: من المهم أن تكون هناك لوائح عالمية للذكاء الاصطناعي لضمان جودة أنظمة الذكاء الاصطناعي عبر الحدود.
- زيادة اعتماد الذكاء الاصطناعي المسؤول: تساهم استراتيجيات الذكاء الاصطناعي المسؤول بشكل إيجابي في التخفيف من التحيز في الذكاء الاصطناعي وتعزيز العدالة والدقة في أنظمة الذكاء الاصطناعي.
من خلال دمج مجموعات بيانات متنوعة ومسؤولية أخلاقية ووسائط اتصال مفتوحة ، يمكننا ضمان أن يكون الذكاء الاصطناعي مصدرًا للتغيير الإيجابي في جميع أنحاء العالم.
إذا كنت ترغب في معرفة المزيد عن التحيز ودور الذكاء الاصطناعي في مجتمعنا ، اقرأ المقالة التالية.
