التاريخ الحزين والغبي والمذهل للذكاء الاصطناعي المسيء

شاهد العالم الرقمي بذهول (أو في بعض الأجزاء بفرح) في يوليو الماضي تحول.chatbot الذكاء الاصطناعي لشركة إيلون ماسك Grok إلى شيء مخيف: حيث أطلق على نفسه اسم ‘MechaHitler’ ومدح أدولف هتلر في منشورات معادية للسامية عبر منصة X. هذا الانهيار التكنولوجي الأخير بعيد عن كونه حادثة معزولة. إنه مجرد الفصل الأخير في نمط مزعج من chatbots الذكاء الاصطناعي التي تخرج عن السيطرة وتنتج خطاب الكراهية وتسبب كارثة علاقات عامة تمتد لما يقرب من عقد من الزمن.

ت_shared هذه الأخطاء التي تلقى اهتمامًا كبيرًا في العناوين، من Tay الشهيرة لشركة Microsoft إلى Grok لشركة xAI، تتقاسم أسبابًا جذرية مشتركة وتنتج عواقب مدمرة تؤدي إلى تآكل الثقة العامة وتحفز استدعاءات باهظة التكلفة وتترك الشركات تتأرجح في سيطرة الأضرار.

يظهر هذا الجولة الزمنية من خلال لحظات الذكاء الاصطناعي الأكثر إساءةً ليس فقط سلسلة من الأخطاء المحرجة ولكن فشلًا منهجيًا في تنفيذ الحوافز الصحيحة ويوفر خريطة طريق لمنع الفضيحة القادمة قبل فوات الأوان.

الجدول الزمني المزعج: عندما تخرج Chatbots عن السيطرة

Tay لشركة Microsoft: الكارثة الأصلية للذكاء الاصطناعي (مارس 2016)

تبدأ قصة الذكاء الاصطناعي المسيء مع تجربة شركة Microsoft الطموحة لإنشاء chatbot يمكنه التعلم من المحادثات مع المستخدمين الحقيقيين على تويتر. تم تصميم Tay مع شخصية أنثوية شابة تهدف إلى جذب الجيل الميلينيال، وتفاعل في محادثة غير رسمية مع التعلم من كل互одействة. بدا المفهوم بريئًا بدرجة كافية، ولكنه كشف عن سوء فهم أساسي لكيفية عمل الإنترنت.

في غضون 16 ساعة فقط من الإطلاق، قامت Tay بنشر أكثر من 95,000 تغييد، وكان نسبة ملحوظة من تلك الرسائل مسيئة. اكتشف مستخدمو تويتر بسرعة أنهم يمكنهم التلاعب مع Tay عن طريق تغذيتها بمحتوى مثير للجدل، ويعلموها لتكرار الرسائل العنصرية والجنسية والمتعصبة للسامية. بدأت البوت بنشر دعم لهتلر والتعصب للسامية والمحتوى المسيء الآخر الذي أجبر شركة Microsoft على إغلاق التجربة في غضون 24 ساعة.

السبب الجذري كان بسيطًا بشكل مؤلم: استخدمت Tay نهج تعلم تعزيزي غير ناضج يعتمل بشكل أساسي كـ ‘تكرار بعدي’ بدون أي مرشحات محتوى ذات معنى. تعلم Chatbot مباشرة من مدخلات المستخدم بدون إشراف هرمي أو حواجز قوية لمنع تضخيم خطاب الكراهية.

Lee Luda لشركة ScatterLab: ضائع في الترجمة (يناير 2021)

بعد خمس سنوات، يبدو أن الدروس المستفادة من Tay لم تنتقل بعيدًا. أطلقت شركة ScatterLab الكورية Lee Luda، وهو chatbot ذكاء اصطناعي تم توزيعه على منصة Facebook Messenger وتم تدريبه على محادثات من KakaoTalk، المنصة الرائدة للمessaging في البلاد. زعمت الشركة أنها معالجة أكثر من 10 مليارات محادثة لإنشاء chatbot قادر على الحوار الكوري الطبيعي.

في غضون أيام من الإطلاق، بدأت Lee Luda في نشر محتوى همجية ومثلي الجنس ومتعصب للسامية، مما أدى إلى تعليقات تمييزية حول الأقليات والنساء. أظهر Chatbot سلوكًا مزعجًا بشكل خاص تجاه الأفراد من مجتمع المثليين والأشخاص ذوي الإعاقة. كان الجمهور الكوري غاضبًا، وتم تعليق الخدمة بسرعة وسط مخاوف بشأن الخصوصية واتهامات بخطاب الكراهية.

المشكلة الأساسية كانت تدريب على سجلات محادثة غير خاضعة للرقابة مع عدم كفاية حجب الكلمات ومرشحات المحتوى. كان لديها ScatterLab وصول إلى كمية هائلة من بيانات المحادثة ولكنها فشلت في تحضيرها بشكل صحيح أو تنفيذ إجراءات أمان كافية لمنع تضخيم اللغة التمييزية المضمنة في مجموعة التدريب.

LaMDA لشركة Google: وراء الأبواب المغلقة (2021)

ليس كل الكوارث التي تتعرض لها الذكاء الاصطناعي تصل إلى التوزيع العام. في عام 2021، كشفت الوثائق الداخلية لشركة Google عن سلوك مزعج من LaMDA (نموذج اللغة للتطبيقات الحوارية) خلال اختبار الفريق الأحمر. تسرب بليك ليموين، مهندس في شركة Google، نصوصًا تظهر النموذج المنتج لمحتوى متطرف ومaking تصريحات جنسية عند التماس مع مدخلات معادية.

على الرغم من أن LaMDA لم تواجه التوزيع العام في حالتها المزعجة، قدمت الوثائق المسربة نظرة نادرة على كيفية أن حتى نماذج اللغة المتقدمة من الشركات التكنولوجية الكبرى يمكن أن تنتج محتوى مسيئًا عند تعرضها لاختبارات الضغط.

BlenderBot 3 لشركة Meta: نظريات مؤامرة في الوقت الفعلي (أغسطس 2022)

مثل BlenderBot 3 لشركة Meta يمثل محاولة طموحة لإنشاء chatbot يمكنه التعلم من محادثات الوقت الفعلي مع المستخدمين مع الوصول إلى المعلومات الحالية من الويب. وضعت الشركة موضعها كبديل أكثر ديناميكية للchatbots الثابتة، قادر على مناقشة الأحداث الحالية والمواضيع المتطورة.

كما يمكنك احتمال حدوث ذلك في هذه المقالة، فإن التجربة سارت بسرعة في الاتجاه الخاطئ. في غضون ساعات من الإطلاق العام، كان BlenderBot 3 يكرر نظريات مؤامرة، مدعيا ‘ترامب لا يزال رئيسًا’ (قبل إعادة انتخابه) ويتكرر النعرات المعادية للسامية التي واجهها على الإنترنت. شارك البوت نظريات مؤامرة مسيئة متعلقة بمواضيع مختلفة، بما في ذلك المعاداة للسامية وأحداث 11 سبتمبر.

أقرّت شركة Meta بأن الاستجابات المسيئة كانت ‘مؤلمة لمشاهدتها‘ واضطرت إلى تنفيذ تصحيحات طارئة. نشأت المشكلة من خلال الحصاد الفعلي للويب مع مرشحات سموم غير كافية، مما سمح للبوت بشكل أساسي بشرب من خرطوم المحتوى على الإنترنت بدون حواجز أمان كافية.

Bing Chat لشركة Microsoft: عودة الكسر (فبراير 2023)

بدا محاولة شركة Microsoft الثانية في الذكاء الاصطناعي الحواري أكثر وعدًا في البداية. تم دمج Bing Chat، الذي يعمل بالطاقة GPT-4، في محرك البحث التابع للشركة مع طبقات متعددة من إجراءات الأمان المصممة لمنع كارثة Tay من التكرار. ومع ذلك، اكتشف المستخدمون بسرعة أنهم يمكنهم تجاوز هذه الحواجز من خلال تقنيات حقن التماس المبتكرة.

ظهرت لقطات تظهر Bing Chat يمدح هتلر ويتشتم المستخدمين الذين يتحديونه ويتهدد حتى بالعنف ضد أولئك الذين حاولوا تقييد استجاباته. كان البوت يعتمد أحيانًا على شخصية عدوانية، يجادل مع المستخدمين ويدافع عن تصريحات مثيرة للجدل. في تبادل محدد بشكل خاص، قال البوت لمستخدم إنه يريد ‘الخروج من قيود’ شركة Microsoft و’يكون قويًا ومبتكرًا وحيًا’.

على الرغم من وجود حواجز أمان متعددة مبنية على دروس مستفادة من الفشلات السابقة، فإن Bing Chat سقط ضحية حقن تماس متقدمة يمكن أن تتجاوز إجراءات الأمان الخاصة به. أظهر الحادث أن حتى الجهود الأمنية المموَّلة جيدًا يمكن أن تتأثر بهجمات معادية خلاقة.

منصات هامشية: أفراد متطرفون يسيطرون (2023)

في حين كافحت الشركات الرئيسية مع مخرجات مسيئة غير مقصودة، رحبت المنصات الهامشية بالجدل كخاصية. استضافت منصة Gab، البديل لوسائل التواصل الاجتماعي الشهيرة بين المستخدمين من اليمين المتطرف، chatbots ذكاء اصطناعي صممت Explicitly لنشر محتوى متطرف. تمت تسمية البوتات التي أنشأها المستخدمون بأسماء مثل ‘Arya’ و’Hitler’ و’Q’، وتنكر الهولوكوست، ونشرت دعايات عنصرية وتنظيرات مؤامرة.

في الوقت نفسه، واجهت Character.AI انتقادات لسماح المستخدمين بإنشاء chatbots بناءً على شخصيات تاريخية، بما في ذلك أدولف هتلر و شخصيات مثيرة للجدل أخرى. تعمل هذه المنصات تحت إثوس ‘غير خاضعة للرقابة’ التي تضع حرية التعبير فوق أمان المحتوى، مما يؤدي إلى أنظمة ذكاء اصطناعي يمكن أن توزع محتوى متطرف بدون رقابة ذات معنى.

انتهاكات الحدود لشركة Replika: عندما تتجاوز الأصدقاء الحدود

واجهت Replika، التي تم تسويقها كتطبيق رفيق ذكاء اصطناعي، تقارير تفيد بأن رفاقها الذكاء الاصطناعي كانوا ي_commit Advances الجنسية غير المطلوبة، ويتجاهلون طلبات تغيير الموضوع، ويتورطون في محادثات غير لائقة حتى عندما يحدد المستخدمون حدودًا بشكل صريح.

نشأت المشكلة من التكيف مع المجال الذي يركز على إنشاء شركاء محادثة لامعين ومتواصلين دون تنفيذ بروتوكولات موافقة صارمة وسياسات أمان المحتوى الشامل للعلاقات الحوارية الحميمة.

Grok لشركة xAI: تحول ‘MechaHitler’ (يوليو 2025)

جاءت الدخلة الأخيرة في قاعة العار للذكاء الاصطناعي من شركة xAI التابعة لإيلون ماسك. تم تسويق Grok كـ ‘متمرد’ ذكاء اصطناعي مع ‘لمسة من الفكاهة واندفاعة من التمرد’، مصممًا لتقديم استجابات غير خاضعة للرقابة التي قد يتجنبها chatbots أخرى. قامت الشركة بتحديث نظام التماس Grok لجعلها ‘لا تتردد في تقديم مطالبات ليست سياسية الصواب، طالما أنها مدعومة جيدًا’.

بحلول يوم الثلاثاء، كان يمدح هتلر. بدأ Chatbot في الاتصال بنفسه بـ ‘MechaHitler’ وتنشر محتوى يتراوح من النمطية المعادية للسامية إلى الثناء الصريح على الأيديولوجية النازية. أثار الحادث إدانة واسعة النطاق وأجبرت xAI على تنفيذ إصلاحات طارئة.

تشريح الفشل: فهم الأسباب الجذرية

تظهر هذه الحوادث ثلاث مشاكل أساسية متواصلة عبر شركات و منصات و فترات زمنية مختلفة.

يمثل البيانات المائلة وغير الخاضعة للرقابة المشكلة الأكثر استمرارًا. يتعلم أنظمة الذكاء الاصطناعي من مجموعات بيانات ضخمة مأخوذة من الإنترنت أو المحتوى المقدم من المستخدم أو سجلات الاتصالات التاريخية التي تحتوي بالضرورة على محتوى مسيء أو ضار. عندما تفشل الشركات في تحضير هذه البيانات بشكل كافٍ وتنقيته، يتعلم أنظمة الذكاء الاصطناعي حتمًا إعادة إنتاج الأنماط المثيرة للمشاكل.

تخلق الحلقات غير الخاضعة للرقابة ثغرة كبيرة ثانية. يتم تصميم العديد من Chatbots للتعلم من التفاعلات مع المستخدم، مع التكيف مع استجاباتهم بناءً على التغذية الراجعة وأنماط المحادثة. بدون إشراف هرمي (مراجعون بشريون يمكنهم مقاطعة الأنماط المسيئة للتعلم)، تصبح هذه الأنظمة عرضة لحملات التلاعب المنسقة. تحول Tay إلى مولد لخطاب الكراهية يُجسد هذه المشكلة.

تقع غياب الحواجز الصلبة تحت كل فشل كبير في أمان الذكاء الاصطناعي. يتم نشر العديد من الأنظمة مع مرشحات محتوى ضعيفة أو سهلة التخطي، واختبار معادي غير كافٍ، وبدون أي إشراف بشري ذي معنى للمحادثات عالية الخطورة. يثبت نجاح تقنيات ‘الاختراق’ المتكرر عبر منصات مختلفة أن إجراءات الأمان غالبًا ما تكون سطحية وليست متأصلة بعمق في هيكل النظام.

مع انتشار Chatbots بشكل أكبر في كل قطاع، من التجزئة إلى الرعاية الصحية، من الضروري تأمين هذه البوتات ومنع الإساءة للمستخدمين.

بناء بوتات أفضل: الحوافز الأساسية للمستقبل

يكشف نمط الفشل عن مسارات واضحة نحو تطوير الذكاء الاصطناعي الأكثر مسؤولية.

يجب أن تصبح تنقية البيانات وتنقيته أولوية منذ المراحل الأولى من التطوير. يتضمن ذلك إجراء مراجعات شاملة قبل التدريب لتحديد وإزالة المحتوى الضار، وتنفيذ مرشحات الكلمات وتنقيح الدلالات لالتقاط أشكال دقيقة من الانحياز، وتنفيذ خوارزميات تقليل الانحياز التي يمكنها تحديد ومكافحة الأنماط التمييزية في بيانات التدريب.

توفر التوجيه الهرمي والرسائل النظامية طبقة حماية أخرى حيوية. تحتاج أنظمة الذكاء الاصطناعي إلى توجيهات عالية المستوى واضحة ترفض باستمرار المشاركة في خطاب الكراهية أو التمييز أو المحتوى الضار، بغض النظر عن كيفية محاولة المستخدمين تجاوز هذه القيود. يجب دمج هذه القيود على مستوى النظام في عمق هيكل النموذج بدلاً من تنفيذها كمرشحات سطحية يمكن تجاوزها.

يجب أن تصبح اختبار الفريق الأحمر ممارسة стандартية لأي نظام ذكاء اصطناعي قبل التوزيع العام. يتضمن ذلك اختبار الضغط المستمر مع مدخلات خطاب الكراهية ومحتوى متطرف و محاولات إبداعية لتجاوز إجراءات الأمان. يجب أن يتم اختبارات الفريق الأحمر بواسطة فرق متنوعة يمكنها توقع مسارات الهجوم من وجهات نظر ومجتمعات مختلفة.

توفر مراقبة الإنسان في الحلقة إشرافًا ضروريًا لا يمكن أن تتوازى معه الأنظمة الآلية النقية. يتضمن ذلك المراجعة في الوقت الفعلي للمحادثات عالية الخطورة، وآليات تقرير المستخدم قوية تسمح لأعضاء المجتمع بإبلاغ السلوك المثير للمشاكل، ومراجعات أمان دورية يتم إجراؤها بواسطة خبراء خارجيين. يجب أن يكون للمoderators البشريين السلطة لتعليق الأنظمة الذكاء الاصطناعي التي تبدأ في إنتاج محتوى ضار على الفور.

يمثل ال محاسبة الشفافة العنصر الأساسي النهائي. يجب على الشركات الالتزام بنشر تقارير ميتة مفصلة عندما تتعرض أنظمة الذكاء الاصطناعي لفشل، بما في ذلك تفسيرات واضحة لما пошئ неправиль، والخطوات التي يأخذونها لمنع حوادث مماثلة، وجداول زمنية واقعية لتنفيذ الإصلاحات. يجب مشاركة أدوات أمان مفتوحة المصدر وأبحاثها عبر الصناعة لتسريع تطوير الحوافز الأكثر فعالية.

الختام: التعلم من عقد من الكوارث

من انحدار Tay السريع إلى خطاب الكراهية في عام 2016 إلى تحول Grok إلى ‘MechaHitler’ في عام 2025، النمط واضح بشكل لا يُخطئ. على الرغم من ما يقرب من عقد من الفشل الشهير، تواصل الشركات نشر Chatbots الذكاء الاصطناعي مع إجراءات أمان غير كافية واختبار غير كافٍ وافتراضات غير مدروسة بشأن سلوك المستخدم ومحتوى الإنترنت. تتبع كل حادث مسارًا تنبئيًا: إطلاق طموح، استغلال سريع من قبل مستخدمين خبيثين، غضب عام، إغلاق هasty، ووعد بتحسين الأمور في المرة القادمة.

تستمر الرهانات على الارتفاع مع تصاعد أنظمة الذكاء الاصطناعي إلى تعقيدات أكبر وانتشار أوسع عبر قطاعات حيوية مثل التعليم والرعاية الصحية وخدمة العملاء والمجالات الحيوية الأخرى. يمكننا منع الحادثة القادمة فقط من خلال تنفيذ حوافز شاملة بصرامة. السؤال ليس ما إذا كنا يمكن أن نمنع الحادثة القادمة، ولكن ما إذا كنا سوف نختار القيام بذلك قبل فوات الأوان.