كشف التحيز في الذكاء الاصطناعي: التحديات والحلول

التقدم الأخير في الذكاء الاصطناعي التوليدي قد رافقته زيادة في التطبيقات التجارية عبر الصناعات، بما في ذلك المالية والرعاية الصحية والنقل. كما سيؤدي تطوير هذه التقنية إلى تقنيات أخرى ناشئة مثل تقنيات الدفاع السيبراني وتقدم الحوسبة الكمومية وابتكارات الاتصالات اللاسلكية. ومع ذلك، يأتي هذا الانفجار من التقنيات الجديدة مع مجموعة من التحديات.

على سبيل المثال، قد يسمح تبني الذكاء الاصطناعي بعمليات هجوم إلكتروني أكثر تعقيدًا، وازدحام الذاكرة والتخزين بسبب زيادة قوة الحوسبة، ومخاوف أخلاقية بشأن التحيزات المعروضة بواسطة نماذج الذكاء الاصطناعي. ومع ذلك، فقد提出了 باحثون في NTT Research طريقة للتحقق من التحيز في الشبكات العصبية العميقة، نوع من الذكاء الاصطناعي.

هذه الدراسة هي اختراق كبير نظرًا لأن نماذج الذكاء الاصطناعي غير المتحيزة سوف تساهم في التوظيف ونظام العدالة الجنائية والرعاية الصحية عندما لا تكون متأثرة بسمات مثل العرق والجنس. في المستقبل، يمكن أن يؤدي القضاء على التمييز إلى استخدام أنظمة آلية غير متحيزة، مما ي cải thiện المبادرات التجارية لتعزيز التنوع والشمول. أخيرًا، ستحسن نماذج الذكاء الاصطناعي غير المتحيزة الإنتاجية وستقلل من الوقت اللازم لإنجاز هذه المهام. ومع ذلك، أجبرت بعض الشركات على إيقاف برامجها التي تم إنشاؤها بواسطة الذكاء الاصطناعي بسبب حلول متحيزة.

على سبيل المثال، أوقفت أمازون استخدام خوارزمية توظيف عندما اكتشفت أن الخوارزمية أظهرت تفضيلًا للمتقدمين الذين يستخدمون كلمات مثل “executed” أو “captured” أكثر頻繁ًا، والتي كانت أكثر شيوعًا في سير الذات للرجال. ومثال آخر واضح للتحيز يأتي من جوي بوولامويني، واحدة من أكثر الأشخاص影响ًا في الذكاء الاصطناعي في عام 2023 وفقًا لـ تايم، بالتعاون مع تيمنيت جبرو في معهد ماساتشوستس للتكنولوجيا، كشفت أن تقنيات تحليل الوجه أظهرت معدلات خطأ أعلى عند تقييم الأقليات، ولا سيما النساء من الأقليات، ربما بسبب بيانات التدريب غير الممثلة بشكل كافٍ.

最近، أصبحت الشبكات العصبية العميقة شائعة في العلوم والهندسة والأعمال، وحتى في التطبيقات الشائعة، ولكنها تعتمد أحيانًا على سمات غير حقيقية قد تنقل التحيز. وفقًا لدراسة أجريت في معهد ماساتشوستس للتكنولوجيا على مدار السنوات القليلة الماضية، طور العلماء شبكات عصبية عميقة قادرة على تحليل كميات هائلة من الإدخالات، بما في ذلك الأصوات والصور. يمكن لهذه الشبكات تحديد السمات المشتركة، مما يتيح لها تصنيف الكلمات أو الأشياء المستهدفة. في الوقت الحالي، تقف هذه النماذج في طليعة المجال كأفضل نماذج لتكرار الأنظمة الحسية البيولوجية.

اقترح هيدنوري تاناكا، عالم أول في NTT Research وزميل في مركز جامعة هارفارد للعلوم العصبية، وثلاثة علماء آخرين، تخطي القيود المتعلقة بتعديل دقيق غير متعلم، وهو الطريقة السائدة لتقليل أخطاء الشبكة العصبية العميقة أو “الخسارة”، بخوارزمية جديدة تقلل من اعتماد نموذج على سمات عرضية قد تنقل التحيز.

دراستهم مناظر الخسارة للشبكات العصبية من خلال عدسة الاتصال بين الوضعيات، وهو ملاحظة أن الحد الأدنى من الشبكات العصبية التي تم الحصول عليها من خلال التدريب على مجموعة بيانات متصلة عبر مسارات بسيطة منخفضة الخسارة. وبالتحديد، سألوا السؤال التالي: هل الحد الأدنى الذي يعتمد على آليات مختلفة لاتخاذ التنبؤات متصل عبر مسارات بسيطة منخفضة الخسارة؟

اكتشفوا أن تعديل دقيق غير متعلم غير قادر على تغيير آليّة اتخاذ القرار الأساسية للنموذج بشكل جوهري، لأنه يتطلب الانتقال إلى وادي مختلف في مناظر الخسارة. بدلاً من ذلك، تحتاج إلى دفع النموذج فوق الحواجز التي تفصل “المستنقعات” أو “الأودية” منخفضة الخسارة. ويسمي المؤلفون هذه الخوارزمية التصحيحية Connectivity-Based Fine-Tuning (CBFT).

قبل هذا التطور، كانت الشبكة العصبية العميقة، التي تصنف الصور مثل سمكة (التي استخدمت كتطبيق في هذه الدراسة)، تستخدم كل من شكل الكائن وخلفيته كمتغيرات إدخال للتنبؤ. وبالتالي، ستعمل مسارات تقليل الخسارة في أوضاع ميكانيكية مختلفة: واحدة تعتمد على السمة الشرعية للشكل، والآخر على السمة الزائفة للون الخلفية. وبالتالي، ستفتقر هذه الأوضاع إلى الاتصال الخطي، أو مسار بسيط منخفض الخسارة.

يفهم فريق البحث المنظور الميكانيكي على الاتصال بين الوضعيات من خلال النظر في مجموعتين من المعاملات التي تقلل الخسارة باستخدام الخلفيات والأشكال كمتغيرات إدخال للتنبؤ. ثم سألوا أنفسهم: هل هذه الحد الأدنى الميكانيكي المختلف متصل عبر مسارات منخفضة الخسارة في المناظر؟ هل تؤثر اختلاف الآليات على بساطة مسارات الاتصال؟ هل يمكننا استغلال هذه الاتصال لتبديل بين الحد الأدنى الذي يستخدم آلياتنا المرغوبة؟

بمعنى آخر، يمكن للشبكات العصبية العميقة، اعتمادًا على ما تعلمته خلال التدريب على مجموعة بيانات معينة، سلوك مختلف بشكل كبير عند اختبارها على مجموعة بيانات أخرى. انحصر اقتراح الفريق في概念 التشابهات المشتركة. وهو يعتمد على فكرة الاتصال بين الوضعيات مع تحول – يعتبر كيفية عمل الآليات المماثلة. وأدى بحثهم إلى اكتشافات ملهمة:

• يمكن ربط الحد الأدنى الذي يعتمد على آليات مختلفة بطريقة غير خطية معقدة
• عندما يكون الحد الأدنى متصلًا خطيًا، فإنه يرتبط ارتباطًا وثيقًا بكيفية تشابه نماذجها من حيث الآليات
• قد لا يكون التعديل الدقيق البسيط كافياً للتخلص من السمات غير المرغوبة التي تم الحصول عليها خلال التدريب السابق
• إذا وجدت مناطق غير متصلة خطيًا في المناظر، يمكنك إجراء تغييرات فعالة في آليات النموذج الداخلية.

في حين أن هذا البحث هو خطوة كبيرة في استغلال إمكانيات الذكاء الاصطناعي بالكامل، قد لا تزال المخاوف الأخلاقية حول الذكاء الاصطناعي معركة صاعدة. يعمل التقنيون والباحثون على مكافحة نقاط الضعف الأخلاقية الأخرى في الذكاء الاصطناعي والنموذج اللغوي الكبير مثل الخصوصية والاستقلالية والمسؤولية.

يمكن استخدام الذكاء الاصطناعي لجمع ومعالجة كميات هائلة من البيانات الشخصية. يمكن أن يؤدي الاستخدام غير المصرح به أو غير الأخلاقي لهذه البيانات إلى تعرض خصوصية الأفراد للخطر، مما يثير مخاوف بشأن المراقبة وانتهاكات البيانات والسرقة الإلكترونية. كما يمكن أن تشكل الذكاء الاصطناعي تهديدًا عندما يتعلق الأمر بمسؤولية التطبيقات المستقلة مثل السيارات ذاتية القيادة. سيكون إنشاء الإطارات القانونية والمعايير الأخلاقية للمسؤولية والمسؤولية ضروريًا في السنوات القادمة.

في الختام، يحمل نمو تقنية الذكاء الاصطناعي التوليدي الواعد لصناعات متعددة، من المالية والرعاية الصحية إلى النقل. على الرغم من هذه التطورات الواعدة، لا تزال المخاوف الأخلاقية المحيطة بالذكاء الاصطناعي كبيرة. أثناء التنقل في هذه الحقبة التحولية للذكاء الاصطناعي، من المهم للتقنيين والباحثين والمشرعين العمل معًا لإنشاء إطارات قانونية ومعايير أخلاقية ستضمن استخدام تقنية الذكاء الاصطناعي بشكل مسؤول ومفيد في السنوات القادمة. باحثون في NTT Research وجامعة ميشيغان هم خطوة إلى الأمام مع اقتراحهم لخوارزمية قد تقضي على التحيز في الذكاء الاصطناعي.