قادة الفكر
الذكاء الاصطناعي لا يزيل التحيز البشري، بل يوسّع نطاقه.
أضف Unite.AI إلى مصادرك المفضلة على Google
غالبًا ما يُقدَّم الذكاء الاصطناعي على أنه وسيلة لاتخاذ قرارات أكثر موضوعية: إذ يُفترض أن إزالة الحكم البشري تزيل التحيز البشري أيضًا. لكن مجموعة متزايدة من الأبحاث تدحض هذا الرأي.
تتعلم أنظمة الذكاء الاصطناعي من تاريخ البشر. فهي تُدرَّب على قراراتنا ولغتنا ومؤسساتنا، وعلى نقاط عماها حتمًا. وعندما تفحص هذه الأنظمة المرشحين، أو توزّع خدمات الرعاية الصحية، أو تقيّم الموظفين، يمكنها إعادة إنتاج أوجه التحيز تلك على نطاق وبسرعة لا يستطيع أي إنسان منفرد مجاراتهما.
تكمن المشكلة الأكبر في أن القرارات تبدو محايدة. تظهر درجة، أو ترتيب، أو توصية. ولا تلوح للعيان أي آثار للافتراضات التي تقف وراءها، وقد لا يشعر أي شخص في الغرفة بأنه مسؤول عن النتيجة.
لذلك، لا تتعلق مشكلة التحيز في الذكاء الاصطناعي أساسًا بالنموذج، بل بالحوكمة. يمكن إعادة تدريب النموذج، لكن الأسئلة الأصعب تنظيمية: من المسؤول عن كل قرار؟ وما الذي يسعى النظام إلى تحقيقه؟ ومن يملك الصلاحية للاعتراض عليه؟
يدخل التحيز البشري إلى الذكاء الاصطناعي، ثم يعود بسرعة الآلة
آلية حدوث ذلك ليست غامضة. فالنماذج تستخلص أنماطًا إحصائية من بيانات التدريب، وعندما تكون النتائج التاريخية (من عُيّن، ومن تلقى الرعاية) مشبعة أصلًا بالتمييز، يكون الهدف الذي يتعلم النموذج التنبؤ به منحازًا منذ البداية. وتُظهر دراسات حديثة مدى سهولة حدوث ذلك لدى جهات مختلفة وفي مهام متنوعة:
- التوظيف على نطاق واسع. وجدت دراسة أجرتها جامعة ستانفورد على 4 ملايين طلب توظيف حقيقي أن 26% من المتقدمين السود و15% من المتقدمين الآسيويين تقدموا لوظائف مارس فيها نظام الذكاء الاصطناعي تمييزًا ضد فئتهم العرقية. وكانت النماذج قد تعلمت من عقود من قرارات التوظيف البشرية.
- ترتيب السير الذاتية. قيّم باحثون في جامعة واشنطن أكثر من 550 سيرة ذاتية حقيقية باستخدام نماذج لغوية متاحة حاليًا، ووجدوا أن الأسماء المرتبطة بالبيض حظيت بالأفضلية في 85% من الحالات، في حين نادرًا ما فُضّلت أسماء الرجال السود.
- التواصل في مكان العمل. وجدت أبحاث أجرتها جامعة جونز هوبكنز ونُشرت في وقت سابق من هذا العام أن GPT-4 وLlama وGemma وMistral أنتجت رسائل بريد إلكتروني للعمل أقل رقيًا وأقل رسمية عندما تضمنت المطالبات أنماطًا لغوية ترتبط بالنساء على نحو أكثر شيوعًا.
ما إن يُطبَّق نظام كهذا، حتى تتوقف هذه الأنماط عن كونها سمة في بيانات التدريب وتصبح جزءًا من القرارات اليومية.
الخطر الحقيقي يكمن في النطاق والصمت
قد يفحص مسؤول توظيف متحيز مئات السير الذاتية في العام. أما نظام فرز متحيز فيمكنه معالجة ملايين الطلبات بين ليلة وضحاها، مطبقًا المنطق المعيب نفسه على كل طلب. وغالبًا ما يكون القرار المتحيز الذي يتخذه إنسان واقعة معزولة؛ أما القرارات المتحيزة للنموذج فقد تتحول سريعًا إلى سياسة.
تقدم الرعاية الصحية واحدًا من أوضح الأمثلة. فقد صُممت خوارزمية واسعة الاستخدام، أثرت في ملايين المرضى، لتحديد الأشخاص الذين قد يستفيدون من رعاية إضافية. لكنها صنفت المرضى السود على أنهم أوفر صحة من مرضى بيض يعانون القدر نفسه من المرض. ولم يكتب أحد قاعدة عنصرية. استخدمت الخوارزمية الإنفاق على الرعاية الصحية بديلًا عن الحاجة الطبية، ولأن المرضى السود تلقوا تاريخيًا قدرًا أقل من الرعاية، ومن ثم أنفقوا أقل، فقد فسرت انخفاض الإنفاق على أنه دليل على صحة أفضل. ووفقًا لتحليل الباحثين المنشور في مجلة Science، كان تصحيح خيار التصميم الواحد هذا سيرفع نسبة المرضى السود الذين حُددت حاجتهم إلى مساعدة إضافية من 17.7% إلى 46.5%.
لا تعكس أنظمة الذكاء الاصطناعي المقاييس التي نزودها بها فحسب، بل تعكس الافتراضات الكامنة وراء تلك المقاييس. والتحيز البشري حقيقي بالقدر نفسه، لكنه أصعب رؤيةً واختبارًا؛ لذلك يكمن الحل في تحسين الحوكمة لا في التخلي عن الأتمتة.
أدرجوا المساءلة في صلب القرار
يقوم النهج المعتاد لتطبيق الذكاء الاصطناعي على اختيار نموذج ودمجه في سير العمل ومراقبة أدائه وتحسينه بمرور الوقت. لكن ذلك لا يكفي حين تؤثر مخرجات النظام في الناس.
أدعو البديل «التكامل بدلًا من النشر»: أي أن يكون الإنسان المسؤول جزءًا من عملية اتخاذ القرار، وأن يمتلك صلاحية حقيقية لتغييره، بدلًا من مراجعة لوحات المعلومات مرة كل ربع سنة بعد وقوع الأمر. ويبدأ ذلك بثلاث خطوات:
- حدّدوا كل قرار يتولى الذكاء الاصطناعي الآن فرزه أو تقييمه أو الموافقة عليه، وعيّنوا شخصًا محددًا مسؤولًا عن كل قرار.
- دقّقوا في البيانات التاريخية التي تُغذّي النموذج، قبل أن تتحول تلك البيانات إلى سياسة.
- اجعلوا الاعتراض على النموذج آمنًا، وتابعوا معدل الاعتراض.
الخطوة الثالثة هي الأهم. فإذا أدرك الموظفون أن مخالفة الآلة ستُعامل على أنها خطأ، كفّوا عن ذلك، وأصبح الذكاء الاصطناعي صاحب القرار الفعلي، رغم بقاء الإنسان تقنيًا «ضمن الحلقة». ليس السؤال ما إذا كان للإنسان القول الفصل، بل ما إذا كان هذا الشخص يملك الصلاحية والمعلومات والأمان النفسي ليقول: «الآلة مخطئة».
تساعد إعادة التدريب، لكن التحيز يتسلل عبر القرارات: ما الذي يسعى النموذج إلى تحقيقه؟ وأي البيانات تُعتمد؟ ومن يراجع المخرجات؟ هنا ينبغي أن نبحث. ويتطلب الأمر أيضًا قادة في مجال الذكاء الاصطناعي يستطيعون التساؤل عن سبب ترتيب النظام للأمور على هذا النحو، ويملكون الصلاحية للتصرف بناءً على الإجابة.
يفيد معدل تجاوز النظام لأنه ملتبس. فإذا كان الناس نادرًا ما يتجاوزون النظام، فقد يكون ذلك ببساطة لأنه دقيق. أو ربما تعلموا أن الاعتراض ليس آمنًا. وإذا كان كبار الموظفين وحدهم هم من يتجاوزونه، فربما تعلم الموظفون الأقل رتبة التزام الصمت، رغم أنهم غالبًا الأقرب إلى المخرجات وإلى الأشخاص المتأثرين بها. ليس الهدف أن يصبح عدد حالات التجاوز صفرًا، بل أن تسود ثقافة يُعدّ فيها التجاوز المدعوم جيدًا دليلًا على أن النظام يعمل كما ينبغي. عندما يتجاوز أحدهم النموذج ثم يتبين أن قراره كان صائبًا، انشروا هذه القصة على نطاق واسع. فقد تكون أفضل مادة تدريبية على الذكاء الاصطناعي تنتجها شركتكم على الإطلاق.
اختبر النتائج لا النوايا
لا تحتاج المؤسسات إلى انتظار إخفاق كبير حتى تبدأ في رصد التحيز. يمكن إجراء ثلاثة اختبارات الآن:
- مقارنة مضبوطة. نفّذ المهمة نفسها مع تغيير الإشارة الديموغرافية وحدها، مثل الاسم الوارد في السيرة الذاتية أو اللهجة المستخدمة في الطلب. أبقِ كل شيء آخر ثابتًا، بما في ذلك قالب الطلب وترتيب المدخلات. ونظرًا إلى اختلاف مخرجات النموذج من تشغيل إلى آخر، كرر كل زوج عدة مرات واستخدم عددًا كافيًا من الأزواج كي لا يُعزى الفرق إلى مجرد ضوضاء. وهذه هي الطريقة التي استخدمها الباحثون أساسًا للكشف عن التفاوتات في ترتيب السير الذاتية وفي الرسائل المهنية التي جرى إنشاؤها، ويمكن لفريق داخلي تنفيذ نسخة أولية من هذا الاختبار في ظهيرة واحدة.
- تدقيق المؤشرات البديلة. لكل مقياس يحسّنه النظام، اطرح سؤالين: ما الذي يقيسه هذا الرقم فعليًا، ومن الفئات التي قد يقلل من شأنها؟ لم تكن خوارزمية الرعاية الصحية سيئة في التنبؤ بالمقياس الذي اختارته؛ بل كانت جيدة في التنبؤ بالتكلفة. لكن المشكلة أن التكلفة اتخذت بديلًا عن الحاجة الطبية. قد يكون النظام دقيقًا وفقًا لمقياسه الخاص، ومع ذلك يخطئ بشدة في حق الأشخاص المتأثرين به.
- مقارنة النتائج. قارن معدلات الاختيار أو الموافقة بين الفئات أثناء التشغيل الفعلي. وتُعد قاعدة الأربعة أخماس، المتبعة كقاعدة إرشادية في ممارسات التوظيف بالولايات المتحدة، نقطة انطلاق شائعة للفحص؛ إذ تنبّه إلى أي فئة يقل معدلها عن 80% من معدل الفئة الأعلى. واجمع هذا الفحص مع مراقبة حالات تجاوز النظام المذكورة أعلاه.
لهذه الاختبارات حدود. يكشف تبديل الاسم الإشارات الديموغرافية الصريحة، لكنه لا يكشف المؤشرات البديلة، مثل الرمز البريدي أو المؤسسة التعليمية أو فترات الانقطاع عن العمل؛ ولهذا تكتسب مقارنة النتائج أهميتها. ويمكن للتدابير التقنية، مثل إعادة وزن بيانات التدريب وإضافة قيود الإنصاف وتعديل عتبات القرار، أن تقلّص التفاوتات، لكنها تفرض الاختيار بين بدائل. وقد أظهرت أبحاث Kleinberg وMullainathan وRaghavan، وكذلك أبحاث Chouldechova، على نحو مستقل، أن النموذج لا يستطيع عمومًا تحقيق المعايرة وتساوي معدلات الخطأ في آن واحد عندما تختلف المعدلات الأساسية بين الفئات. ولا يستطيع النموذج أن يحدد تعريف الإنصاف الذي ينبغي إعطاؤه الأولوية؛ فهذا قرار يجب أن يتحمل مسؤوليته شخص ما ويوثقه، وهو ما يعيدنا إلى الحوكمة.
راجع الإنصاف إلى جانب الدقة
كثيرًا ما يُتعامل مع الإنصاف بوصفه مبادرة منفصلة، تراجعها إدارة الموارد البشرية أو الشؤون القانونية بعد أن يقيّم الفريق التقني الدقة والكفاءة والتكلفة. وهذا الفصل جزء من المشكلة بحد ذاته. ينبغي مراجعة الإنصاف في الاجتماع نفسه الذي تُراجع فيه الدقة والتكلفة، وبالمستوى نفسه من المساءلة، مع تحديد شخص مسؤول عنه.
ينبغي أن يشارك في هذا النقاش ممثلون عن الموارد البشرية والشؤون القانونية، وكذلك أشخاص سبق أن أساءت أنظمة كهذه الحكم عليهم. فكثيرًا ما يكون الأشخاص الذين قللت الأنظمة من شأنهم أول من يلاحظ ما يغيب عنها. وهذه فكرة محورية في كتابي The Bias Advantage: إذ تتحول وجهات النظر التي أغفلتها المؤسسات تاريخيًا إلى مصدر قوي للرؤى حين تصبح جزءًا من عملية اتخاذ القرار.
ليس الهدف إنشاء نظام ذكاء اصطناعي لا يخطئ أبدًا، فهذا غير واقعي. بل بناء مؤسسة تستطيع إدراك متى يخطئ الذكاء الاصطناعي، وفهم السبب، والتدخل قبل أن يتحول الخطأ إلى واقع يعيشه شخص آخر.
