الذكاء الاصطناعي
تحيز الذكاء الاصطناعي والقوالب النمطية الثقافية: التأثيرات والقيود والتخفيف
الذكاء الاصطناعي (AI)، على وجه الخصوص الذكاء الاصطناعي التوليدي، يستمر في تجاوز التوقعات بقدرته على فهم وتقليد الإدراك والذكاء البشري. ومع ذلك، في كثير من الحالات، يمكن أن تعكس نتائج أو تنبؤات أنظمة الذكاء الاصطناعي أنواعًا مختلفة من التحيز في الذكاء الاصطناعي، مثل التحيز الثقافي والعرقي.
"باربي في العالمتُظهر المدونة (التي تم حذفها الآن) بوضوح هذه التحيزات الثقافية وعدم الدقة. تم إنشاء هذه "الباربي" باستخدام ميدجورني - منشئ صور رائد يعمل بالذكاء الاصطناعي، لمعرفة الشكل الذي ستبدو عليه دمى باربي في كل جزء من العالم. سنتحدث أكثر عن هذا لاحقا.
لكن هذه ليست المرة الأولى التي يكون فيها الذكاء الاصطناعي "عنصريًا" أو يقدم نتائج غير دقيقة. على سبيل المثال، في عام 2022، كانت شركة أبل دعوى قضائية ضد بسبب مزاعم بأن مستشعر الأكسجين في الدم في Apple Watch كان متحيزًا ضد الأشخاص ذوي البشرة الملونة. وفي حالة أخرى تم الإبلاغ عنها، وجد مستخدمو تويتر ذلك الذكاء الاصطناعي لقص الصور تلقائيًا على تويتر فضل وجوه البيض على السود والنساء على الرجال. هذه تحديات حاسمة، والتصدي لها يمثل تحديًا كبيرًا.
في هذه المقالة، سنلقي نظرة على ماهية تحيز الذكاء الاصطناعي، وكيف يؤثر على مجتمعنا، ونناقش بإيجاز كيف يمكن للممارسين تخفيف لمعالجة تحديات مثل الصور النمطية الثقافية.
ما هو تحيز الذكاء الاصطناعي؟
يحدث تحيز الذكاء الاصطناعي عندما تنتج نماذج الذكاء الاصطناعي نتائج تمييزية ضد فئات سكانية معينة. يمكن لأنواع عديدة من التحيزات أن تدخل إلى أنظمة الذكاء الاصطناعي وتؤدي إلى نتائج غير صحيحة. بعض هذه التحيزات في مجال الذكاء الاصطناعي هي:
- التحيز النمطي: يشير التحيز النمطي إلى الظاهرة التي تتكون فيها نتائج نموذج الذكاء الاصطناعي من صور نمطية أو مفاهيم متصورة حول مجموعة سكانية معينة.
- التحيز العنصري: يحدث التحيز العنصري في الذكاء الاصطناعي عندما تكون نتيجة نموذج الذكاء الاصطناعي تمييزية وغير عادلة لفرد أو مجموعة على أساس العرق أو العرق.
- التحيز الثقافي: يأتي التحيز الثقافي عندما تفضل نتائج نموذج الذكاء الاصطناعي ثقافة معينة على ثقافة أخرى.
وبصرف النظر عن التحيزات، يمكن لقضايا أخرى أيضًا أن تعيق نتائج نظام الذكاء الاصطناعي، مثل:
- عدم الدقة: تحدث حالات عدم الدقة عندما تكون النتائج التي ينتجها نموذج الذكاء الاصطناعي غير صحيحة بسبب بيانات التدريب غير المتسقة.
- الهلوسة: تحدث الهلوسة عندما تنتج نماذج الذكاء الاصطناعي نتائج خيالية وكاذبة لا تعتمد على بيانات واقعية.
تأثير تحيز الذكاء الاصطناعي على المجتمع
يمكن أن يكون تأثير تحيز الذكاء الاصطناعي على المجتمع ضارًا. يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تنتج نتائج غير دقيقة تؤدي إلى تضخيم التحيز الموجود بالفعل في المجتمع. يمكن أن تؤدي هذه النتائج إلى زيادة التمييز وانتهاكات الحقوق، وتؤثر على عمليات التوظيف، وتقلل الثقة في تكنولوجيا الذكاء الاصطناعي.
كما أن نتائج الذكاء الاصطناعي المتحيزة غالبًا ما تؤدي إلى تنبؤات غير دقيقة يمكن أن يكون لها عواقب وخيمة على الأفراد الأبرياء. على سبيل المثال، في أغسطس 2020، روبرت مكدانيل أصبح هدفًا لعمل إجرامي بسبب خوارزمية الشرطة التنبؤية التابعة لقسم شرطة شيكاغو والتي وصفته بأنه "شخص محل اهتمام".
وبالمثل، يمكن أن تؤدي أنظمة الذكاء الاصطناعي المتحيزة للرعاية الصحية إلى نتائج حادة على المرضى. في عام 2019، علوم اكتشف أن تستخدم على نطاق واسع الخوارزمية الطبية الأمريكية كان متحيزًا عنصريًا ضد الأشخاص الملونين، مما أدى إلى حصول المرضى السود على إدارة رعاية أقل خطورة.
باربي في العالم
في يوليو 2023، نشر Buzzfeed مدونة تضم 194 دمية باربي تم إنشاؤها بواسطة الذكاء الاصطناعي من جميع أنحاء العالم. وقد انتشر هذا المنشور على تويتر. على الرغم من أن Buzzfeed كتب بيان إخلاء المسؤولية، إلا أنه لم يمنع مستخدمي الإنترنت من الإشارة إلى الأخطاء العرقية والثقافية. على سبيل المثال، كانت الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لباربي الألمانية ترتدي الزي الرسمي لـ إس إس النازية عام.
وبالمثل، ظهرت الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لباربي من جنوب السودان وهي تحمل مسدسًا إلى جانبها، مما يعكس التحيز العميق الجذور في خوارزميات الذكاء الاصطناعي.
وبصرف النظر عن هذا، أظهرت العديد من الصور الأخرى عدم دقة ثقافية، مثل ارتداء دمية باربي القطرية غترةوهو غطاء رأس تقليدي يرتديه الرجال العرب.
تلقى منشور المدونة هذا رد فعل عنيفًا هائلاً بسبب القوالب النمطية الثقافية والتحيز. ال مدرسة لندن متعددة التخصصات (LIS) دعا هذا الضرر التمثيلي ويجب السيطرة عليها من خلال فرض معايير الجودة وإنشاء هيئات رقابية على الذكاء الاصطناعي.
حدود نماذج الذكاء الاصطناعي
الذكاء الاصطناعي لديه القدرة على ذلك ثورة في العديد من الصناعات. ولكن إذا انتشرت السيناريوهات مثل تلك المذكورة أعلاه، فقد يؤدي ذلك إلى انخفاض في اعتماد الذكاء الاصطناعي بشكل عام، مما يؤدي إلى ضياع الفرص. تحدث مثل هذه الحالات عادةً بسبب القيود الكبيرة في أنظمة الذكاء الاصطناعي، مثل:
- الافتقار إلى الإبداع: نظرًا لأن الذكاء الاصطناعي لا يمكنه اتخاذ القرارات إلا بناءً على بيانات التدريب المحددة، فإنه يفتقر إلى الإبداع للتفكير خارج الصندوق، مما يعيق الحل الإبداعي للمشكلات.
- عدم وجود فهم سياقي: تواجه أنظمة الذكاء الاصطناعي صعوبة في فهم الفروق الدقيقة في السياق أو التعبيرات اللغوية لمنطقة ما، مما يؤدي غالبًا إلى أخطاء في النتائج.
- التحيز التدريبي: يعتمد الذكاء الاصطناعي على البيانات التاريخية التي يمكن أن تحتوي على جميع أنواع العينات التمييزية. أثناء التدريب، يمكن للنموذج أن يتعلم بسهولة الأنماط التمييزية لإنتاج نتائج غير عادلة ومتحيزة.
كيفية تقليل التحيز في نماذج الذكاء الاصطناعي
نحن خبراء بالتدريب تقدير أنه بحلول عام 2026، يمكن إنشاء 90% من المحتوى عبر الإنترنت بشكل صناعي. وبالتالي، من الضروري تقليل المشكلات الموجودة في تقنيات الذكاء الاصطناعي التوليدي بسرعة.
يمكن تنفيذ العديد من الاستراتيجيات الرئيسية لتقليل التحيز في نماذج الذكاء الاصطناعي. بعض هذه هي:
- ضمان جودة البيانات: يمكن أن يساعد استيعاب بيانات كاملة ودقيقة ونظيفة في نموذج الذكاء الاصطناعي في تقليل التحيز وتحقيق نتائج أكثر دقة.
- مجموعات البيانات المتنوعة: يمكن أن يساعد إدخال مجموعات بيانات متنوعة في نظام الذكاء الاصطناعي في تخفيف التحيز حيث يصبح نظام الذكاء الاصطناعي أكثر شمولاً بمرور الوقت.
- حلقات الملاحظات: مع ثابت ردود الفعل وحلقة التعلميمكن لنماذج الذكاء الاصطناعي تحسين نتائجها تدريجيًا
- زيادة اللوائح: تعتبر لوائح الذكاء الاصطناعي العالمية ضرورية للحفاظ على جودة أنظمة الذكاء الاصطناعي عبر الحدود. ومن ثم، يجب على المنظمات الدولية أن تعمل معًا لضمان توحيد معايير الذكاء الاصطناعي.
- زيادة اعتماد الذكاء الاصطناعي المسؤول: تساهم استراتيجيات الذكاء الاصطناعي المسؤولة بشكل إيجابي في التخفيف من تحيز الذكاء الاصطناعي، وتعزيز العدالة والدقة في أنظمة الذكاء الاصطناعي، وضمان أنها تخدم قاعدة مستخدمين متنوعة مع السعي لتحقيق التحسين المستمر.
ومن خلال دمج مجموعات البيانات المتنوعة، والمسؤولية الأخلاقية، ووسائط الاتصال المفتوحة، يمكننا أن نضمن أن الذكاء الاصطناعي مصدر للتغيير الإيجابي في جميع أنحاء العالم.
إذا كنت تريد معرفة المزيد عن التحيز ودور الذكاء الاصطناعي في مجتمعنا، فاقرأ المدونات التالية.
- كيف تنشر المدن تقنيات رائدة تستفيد من خوارزميات الذكاء الاصطناعي غير المتحيزة
- يمكن للذكاء الاصطناعي مكافحة التضليل والتحيز في الأخبار
- التحيز والإنصاف للأنظمة القائمة على الذكاء الاصطناعي في سياق الجريمة المالية
- مدقق التحيز المدفوع بالذكاء الاصطناعي للمقالات الإخبارية ، متوفر بلغة بايثون
