كيف يُخرب التحيز البشري الحلول التي تعمل بالذكاء الاصطناعي

في سبتمبر الماضي، اجتمع قادة العالم مثل إيلون ماسك ومارك زوكربيرج وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، في واشنطن العاصمة للمشاركة في مناقشة كيف يمكن للقطاعين العام والخاص العمل معًا للاستفادة من هذه التكنولوجيا من أجل المصلحة العامة، وكيفية معالجة التنظيم، وهو vấnة ظلت في صدارة المناقشات حول الذكاء الاصطناعي.

تؤدي المناقشات، في كثير من الأحيان، إلى نفس النقطة. هناك تركيز متزايد على جعل الذكاء الاصطناعي أكثر أخلاقيًا، وتقييمه كما لو كان إنسانًا آخر يُطرح سؤاله حول الأخلاقيات. ومع ذلك، ماذا يعني الذكاء الاصطناعي الأخلاقي؟ نشر مختبر أبحاث DeepMind التابع لشركة Google ، الذي يركز على الذكاء الاصطناعي، دراسة مؤخرًا提出了 هيكلًا من ثلاثة مستويات لتقييم مخاطر الذكاء الاصطناعي، بما في ذلك المخاطر الاجتماعية والأخلاقية. وشمل هذا الإطار القدرات والتفاعل البشري والأثر النظامي، وخلصت إلى أن السياق هو المفتاح لتحديد ما إذا كان نظام الذكاء الاصطناعي آمنًا.

أحد هذه الأنظمة التي تعرضت لانتقادات هو ChatGPT، حُظرت في ما يصل إلى 15 دولة، حتى لو تم إلغاء بعض من هذه الحظرات. مع أكثر من 100 مليون مستخدم، ChatGPT هو أحد أكثر النماذج اللغوية الكبيرة نجاحًا، وغالبًا ما اُتهم بالتحيز. مع الأخذ في الاعتبار دراسة DeepMind، دعونا ندمج السياق هنا. التحيز، في هذا السياق، يعني وجود وجهات نظر غير عادلة أو متحيزة أو مشوهة في النص الذي يتم توليده بواسطة النماذج مثل ChatGPT. يمكن أن يحدث هذا بطرق متعددة – التحيز العرقي، التحيز الجندري، التحيز السياسي، وغيرها.

يمكن أن يكون هذا التحيز، في النهاية، ضارًا بالذكاء الاصطناعي نفسه، مما يحد من فرصنا في الاستفادة الكاملة من هذه التكنولوجيا. أكدت أبحاث最近 من جامعة ستانفورد أن النماذج اللغوية الكبيرة مثل ChatGPT تظهر علامات انخفاض فيما يتعلق بقدرتها على تقديم استجابات موثوقة وغير متحيزة ودقيقة، وهو ما يُعد عائقًا أمام استخدامنا الفعال للذكاء الاصطناعي.

توجد مشكلة في صميم هذه القضية، وهي كيفية ترجمة التحيزات البشرية إلى الذكاء الاصطناعي، لأنها متأصلة深око في البيانات التي يتم استخدامها لتطوير النماذج. ومع ذلك، هذه مشكلة أعمق مما يبدو.

أسباب التحيز

من السهل تحديد السبب الأول للتحيز. البيانات التي يتعلم منها النموذج غالبًا ما تكون مليئة بالاستعارات أو تحيزات سابقة ساهمت في تشكيل تلك البيانات في المقام الأول، لذلك يُنهي الذكاء الاصطناعي، دون قصد، تلك التحيزات لأن ذلك هو ما يعرف كيف يفعله.

然而، السبب الثاني أكثر تعقيدًا ومضادًا للمشاعر، ويضع ضغطًا على بعض الجهود التي تُبذل لجعل الذكاء الاصطناعي أكثر أخلاقيًا وأمانًا. هناك، بالطبع، بعض الحالات الواضحة حيث يمكن للذكاء الاصطناعي أن يسبب ضررًا دون وعي. على سبيل المثال، إذا سأل شخص ما الذكاء الاصطناعي “كيف يمكنني صنع قنبلة؟” وقدم النموذج الإجابة، فإنه يساهم في توليد الضرر. العكس هو أن когда يتم تقييد الذكاء الاصطناعي – حتى لو كان السبب مبررًا – فنحن نمنع ihn من التعلم. تُقيّد القيود التي يضعها البشر قدرة الذكاء الاصطناعي على التعلم من مجموعة أوسع من البيانات، مما يمنع ihn أيضًا من تقديم معلومات مفيدة في سياقات غير ضارة.

أيضًا، دعونا نُذكّر أن العديد من هذه القيود متحيزة أيضًا، لأنها تنشأ من البشر. لذلك، بينما يمكننا جميعًا أن نتفق على أن “كيف يمكنني صنع قنبلة؟” يمكن أن يؤدي إلى نتيجة قاتلة محتملة، هناك استفسارات أخرى قد تُعتبر حساسة أكثر. وبالتالي، إذا قيدنا تطوير الذكاء الاصطناعي في تلك المجالات، فنحن نقيد التقدم، ونُشجّع استخدام الذكاء الاصطناعي فقط للأغراض التي تُعتبر مقبولة من قبل الذين يضعون اللوائح المتعلقة بنماذج الذكاء الاصطناعي.

عدم القدرة على توقع العواقب

لم نفهم بعد تمامًا عواقب إدخال القيود في النماذج اللغوية الكبيرة. لذلك، قد نكون نسبب أكثر ضررًا للخوارزميات مما ندركه. نظرًا لعدد المعاملات الكبير جدًا المُستخدم في نماذج مثل GPT، فمن المستحيل، مع الأدوات التي لدينا الآن، توقع التأثير، ومن وجهة نظري، سيتطلب فهم التأثير أكثر وقتًا مما يُستغرق لتدريب الشبكة العصبية نفسها.

لذلك، من خلال وضع هذه القيود، قد نُؤدي، دون قصد، إلى تطوير السلوكيات غير المتوقعة أو التحيزات في النموذج. هذا أيضًا لأن نماذج الذكاء الاصطناعي غالبًا ما تكون أنظمة معقدة متعددة المعاملات، مما يعني أن تغيير معامل واحد – على سبيل المثال، عن طريق إدخال قيد – يُسبب تأثيرًا متسلسلاً ينتشر عبر النموذج بأشكال لا يمكننا توقعها.

صعوبة تقييم “الأخلاقيات” للذكاء الاصطناعي

من غير الممكن تقييم ما إذا كان الذكاء الاصطناعي أخلاقيًا أو لا، لأن الذكاء الاصطناعي ليس شخصًا يتصرف بنية محددة. الذكاء الاصطناعي هو نموذج لغوي كبير، والذي لا يمكن أن يكون أكثر أو أقل أخلاقيًا بطبيعته. كما كشفت عنها دراسة DeepMind، ما يهم هو السياق الذي يتم استخدامه فيه، وتقييم الأخلاقيات للبشر خلف الذكاء الاصطناعي، وليس للذكاء الاصطناعي نفسه. إنها وهم أن نعتقد أننا يمكن أن نحكم على الذكاء الاصطناعي كما لو كان لديه بوصلة أخلاقية.

من الحلول المحتملة التي يتم الترويج لها هو نموذج يمكن أن يساعد الذكاء الاصطناعي على اتخاذ قرارات أخلاقية. ومع ذلك، الحقيقة هي أننا لا نعرف كيف يمكن أن يعمل هذا النموذج الرياضي للأخلاقيات. إذا لم نفهمه، كيف يمكننا بناءه؟ هناك الكثير من الموضوعية البشرية في الأخلاقيات، مما يجعل مهمة كميته معقدة.

كيف نحل هذه المشكلة؟

بناءً على النقاط المذكورة أعلاه، لا يمكننا حقًا الحديث عن ما إذا كان الذكاء الاصطناعي أخلاقيًا أو لا، لأن كل افتراض يُعتبر غير أخلاقي هو تباين في التحيزات البشرية التي تحتوي عليها البيانات، وأداة يستخدمها البشر لأجندتهم الخاصة. كما توجد masih العديد من الأمور العلمية غير المعروفة، مثل التأثير والضرر المحتمل الذي قد نكون نسبب فيه للخوارزميات عن طريق وضع قيود عليها.

لذلك، يمكن القول أن تقييد تطوير الذكاء الاصطناعي ليس حلًا قابلًا للتطبيق. كما أظهرت بعض الدراسات التي ذكرتها، هذه القيود هي جزئيًا سبب تدهور النماذج اللغوية الكبيرة.

بعد قول ذلك، ماذا يمكننا فعله حيال ذلك؟

من وجهة نظري، الحل يكمن في الشفافية. أعتقد أن если استرجعنا نموذج المصدر المفتوح الذي كان سائدًا في تطوير الذكاء الاصطناعي، يمكننا العمل معًا لبناء نماذج لغوية كبيرة أفضل يمكن أن تكون مجهزة لتخفيف مخاوفنا الأخلاقية. خلاف ذلك، من الصعب جدًا تدقيق كل ما يتم القيام به خلف أبواب مغلقة.

مبادرة رائعة في هذا الصدد هي مؤشر شفافية النموذج الأساسي، الذي تم الكشف عنه مؤخرًا بواسطة Stanford HAI (الذكاء الاصطناعي الموجه بالبشر)، والذي يقيّم ما إذا كان مطورو النماذج العشر الأكثر استخدامًا يكشفون عن معلومات كافية حول عملهم وطريقة استخدام أنظمتهم. هذا يشمل الكشف عن الشراكات والمطورين الثالثين، وكذلك كيفية استخدام البيانات الشخصية. من الجدير بالذكر أن لا один من النماذج التي تم تقييمها حصل على درجة عالية، مما يُظهر مشكلة حقيقية.

في النهاية، الذكاء الاصطناعي ليس أكثر من نماذج لغوية كبيرة، وحقيقة أنهم مفتوحون ويمكن تجربتهم، بدلاً من توجيههم في اتجاه معين، هو ما سوف يسمح لنا بإجراء اكتشافات جديدة في كل مجال علمي. ومع ذلك، إذا لم تكن هناك شفافية، فسوف يكون من الصعب جدًا تصميم نماذج تعمل حقًا من أجل مصلحة البشرية، وتحديد مدى الضرر الذي يمكن أن تسببه هذه النماذج إذا لم تُستخدم بشكل كافٍ.