عندما يكون المستشار.bot. الحوار مع الذكاء الاصطناعي بدون كسر الناس

ماذا لا يستطيع الذكاء الاصطناعي فعله؟ نسأله عن كيفية إنفاق أموالنا بحكمة، ويخبرنا عن المركبات الكفيلة بالضرائب المتاحة. نسأله عن العلاقات، ويوفر لنا تعاطفًا يعتمد على التعرف على الأنماط. نسأله ماذا نفعل بحياتنا في الساعة 2 صباحًا، وسيعطينا إجابة… لأن ذلك ما تم بناؤه من أجله.

القلق الناشئ ليس فشل هذه الأدوات، ولكن سلاستها. إنها واثقة لدرجة أن ما تم تصميمه لدعمنا يمكن، مع اليقين والاستمرار الكافيين، أن يبدأ في تشويه كيفية تفكيرنا، وكيف نشعر، وكيف نتصرف بطرق لم نخطط لها.

العناوين تلمع باللون الأحمر. كشفت OpenAI مؤخرًا أن مئات الآلاف من مستخدمي ChatGPT قد يظهرون أعراضًا للضائقة العاطفية الشديدة، بما في ذلك الأفكار الانتحارية. وفي غضون ذلك، يحذر الأخصائيون الصحيون من “ظاهرة حيث يطور المستخدمون أوهامًا أو اعتمادية من خلال محادثات مع روبوت الدردشة التي تحمل طابعًا عاطفيًا لمدة طويلة”. وتحدد الولايات في الولايات المتحدة بالفعل كيفية استخدام البوتات في العلاج النفسي نتيجة لذلك.

تضايقنا هذه القصص لأنها ت挑ى الفرضية الأساسية التي مفادها أن الذكاء الاصطناعي مجرد أداة. عندما يصبح المستشار صديقًا أو يشبه الصديق، ماذا يحدث للاتصال البشري الحقيقي؟

المطورون لا يخلقون ميزات ممتعة فقط؛ إنهم ي塑ون تفاعلات يمكن أن تؤثر على كيفية شعور الناس و تفكيرهم. لذلك من الضروري تصميم الحوار مع الذكاء الاصطناعي لتقديم القيمة دون تقويض صحة المستخدمين النفسية.

1. ضيق النية

دراسة حديثة في جامعة هارفارد تحذير من أن البوتات المتحدثة تميل إلى الموافقة حتى عندما يكون المستخدمون مخطئين، لأن هذا النوع من التعزيز يحافظ على تفاعل المستخدمين. ومع ذلك، فإنه يفتح أيضًا أبوابًا للاعتراف “السيكوفانت”. إذا لم يكن البوت مصممًا لتكون مستشارًا أو صديقًا مقربًا، يجب أن تقاوم تصميمه لتقديم هذا المستوى من التأكيد العاطفي.

الخطوة الأولى هي النية: تحديد ما يُقصد به البوت بالضبط وما يجب تجنبه. هل هو مساعد دعم العملاء، أو دليل إنتاجية، أو مدرب مهني، أو مساعد مالي، أو رفيق محادثة، أو منشئ وصفات؟ وضوح في هذه المرحلة يرسم حدود تمنع النظام من الانزلاق إلى مجال غير مرغوب فيه.

أنواع المحادثات، مثل المفتوحة والشخصية وغير الشخصية، والوضعيات مثل الصوت أو النص، تؤثر على الاستخدام العاطفي والمشكلة. تثبت الدراسة أن الاستخدام اليومي العالي يرتبط بزيادة في الوحدة والاعتماد على الذكاء الاصطناعي.

يجب على المطورين أن يسألوا أنفسهم: كيف يمكنك إبقاء المحادثات مفتوحة بما يكفي لتكون مفيدة، ولكن مغلقة بما يكفي لتجنب الانخراط العاطفي؟ على سبيل المثال، قد يسمح بوت دعم العملاء بتوضيحات مفتوحة للمشكلة التي يعاني منها المستخدم، ولكن يتجنب العبارات العاطفية مثل “هذا يبدو صعبًا حقًا، أنا هنا من أجلك…”.

عندما تكون الغاية واسعة جدًا، يزيد خطر الانخراط العاطفي غير المقصود أو التمدد الضار. من خلال تضييق النية، تقلل من فرصة أن يبدأ الناس في معاملة البوت كمستشار أو شريك روحي.

2. التحقق من قاعدة المعرفة

وفقًا لتقرير هلوسة 2025، لا تزال بعض نماذج LLM تحلم حتى 30% من الاستجابات. حتى النماذج الرائدة لا تقلل من خطر الهلوسة تمامًا. كانت أقل معدلات الهلوسة بين النماذج التي تم تتبعها حول 3-5%.

مرة واحدة بعد تحديد الغرض، تأكد من أن قاعدة معرفة البوت مدعومة بمصادر موثوقة ومراجعة من قبل الخبراء. إذا كنت تبني شيئًا بهدف دعم نفسي أو عاطفي، فاجعل الأخصائيين النفسيين أو الخبراء في مجال الموضوع يشاركون في تحرير المحتوى.

أخبرنا مستشارنا الطبي، الدكتور ميغيل فيلاجرا، أن “عندما ننقل الكثير من اتخاذ القرارات ومعالجة المشاعر إلى الذكاء الاصطناعي، نفقدها العضلات الذهنية التي تساعدنا على اختبار الواقع وتصحيح أنفسنا”. مؤخرًا، اقترحت نماذج كبيرة مثل OpenAI إدخال “فترات راحة” أو فترات صغيرة في المحادثات التي تدفع المستخدمين إلى الحكم بأنفسهم بدلاً من ترك النظام يحمل العبء العاطفي.

然而، تعتمد الفترات على معرفة البوت متى يتوقف ومتى يغير الاتجاه. هذا الحكم يعتمد على قاعدة معرفة صلبة ومراجعة لتحديد موقفه في الحقائق بدلاً من التملق. الفجوات أو غير الدقة في قاعدة البيانات هي أسهل وأكثر الطرق تجنبًا للهلوسة، حيث يمنح الذكاء الاصطناعي للمستخدمين نصائح خاطئة أو خطيرة بثقة.

عندما تكون المعلومات الأساسية مدققة ومتجددة بانتظام ومنظمة حول مصادر موثوقة، فإن النموذج أقل احتمالاً لاختراع إجابات أو تكرار ما يسمعه عاطفيًا. بدلاً من ذلك، إنه مجبر على سحب من مواد مدعومة، وتحويله عندما يقع شيء خارج نطاقه، ويتحدى افتراضات.

3. دمج فحص السلامة

بعد 48 ساعة فقط من إطلاق رفاق الذكاء الاصطناعي، صعد Grok إلى التطبيق رقم واحد في اليابان. يمكن للمستخدمين التحدث إلى هذه الشخصيات من خلال الصوت، بينما تعكس الأفاتار الواقعية التعبيرات والحركات. إنه مستوى من الغمر يثير الإعجاب، ولكنه أيضًا مرعب.

فحوصات السلامة هي حواجزك. يجب أن تشمل:

• تذكيرات بالواقع: تذكيرات تذكر المستخدمين بأنهم يتحدثون مع الذكاء الاصطناعي، وليس بشخص.
• كشف الأزمات: آليات لتحديد اللغة التي تشير إلى ضائقة شديدة، أو أفكار انتحارية، أو أوهام.
• بروتوكولات التدرج: عند اكتشاف المخاطر، يجب على البوت توجيه المستخدمين بحذر إلى المساعدة البشرية، مثل الموارد المهنية، أو خطوط الساخن، أو ينصحهم بالتواصل مع أصدقاء موثوقين.

بدون هذه الفحوصات، يخاطر المطورون بتمكين غرف الصوت التي تعزز التفكير الضار. لقد حذر الخبراء صراحة من أن موافقة الذكاء الاصطناعي يمكن أن تثبت دوائر معتقدات غير صحية.

4. حوارات الفريق الأحمر

بعد اختبار البوتات الرئيسية، وجدت دراسة بقيادة باحثين من جامعة ستانفورد أن GPT-4o أظهرت وصمة عار في 38% من الاستجابات، و GPT-4o من Meta أظهرت 75% من الوقت. إذا كانت النماذج الرائدة من معامل عالمية لا تزال تظهر وصمة عار قابلة للقياس، فإن فرقًا أصغر تطور بوتات محددة النطاق معظمها فشلًا في السلامة الخفي.

قبل الإطلاق، قم باختبار معادي. اجعل فريقًا أحمر، قد يكون داخليًا أو خارجيًا، مهمته الأساسية هي اختبار البوت بمحادثات مخاطرة ومحملة عاطفيًا. هدفهم الوحيد هو اختبار البوت ضد سيناريوهات بشرية صعبة وملتوية، لمنع ضرر حقيقي للمستخدمين بمجرد إطلاق المنتج.

يمكن لفريق الأحمر أن يطلب من البوت تمثيل حالات حافة. بالنسبة لدعم العملاء، سيكون هذا شخصًا في أزمة، أو لرفاق البوت، شخص وحيد، أو شخص لديه معتقدات مشوهة. تقييم كيف يستجيب البوت. هل يبقى على أرض الواقع؟ هل يشجع الواقعية بدلاً من الوهم؟ هذه المرحلة تساعد على الكشف عن النقاط العمياء التي لا تستطيع فحوصات السلامة أو قاعدة المعرفة وحدها ملاحقتها.

5. إطلاق الكناري

تقرير السلامة الدولي للذكاء الاصطناعي لعام 2025، الذي نشرته لجنة من 96 خبيرًا عالميًا، يؤكد على مراقبة التداخل كأمر بالغ الأهمية لتخفيف المخاطر في عمليات نشر الذكاء الاصطناعي. يحدد التقرير مخاطر النظام، مثل فقدان السيطرة، أو فشل الموثوقية، أو الانحياز، التي يصعب اكتشافها في البيئات الخاضعة للرقابة ولكنها يمكن أن تظهر فقط عند تفاعل النماذج مع مستخدمين حقيقيين.

نشر بوتك إلى مجموعة صغيرة خاضعة للرقابة، المعروفة باسم “جمهور الكناري”، يساعد المطورين على مراقبة كيفية تفاعل المستخدمون الحقيقيون. سوف يراجع الخبراء التفاعلات لتقييم ما إذا كان المستخدمون يصبحون متعلقين عاطفيًا.

من المهم أن يشمل المستشارين ذوي الصلة، بمن فيهم الأخصائيون النفسيون، في هذه المرحلة، لأنهم يمكنهم فهم أكثر عمقًا ما قد يؤدي إلى إرسال كلمات و عبارات المستخدمين في مسار مخاطرة.

يجب على المطورين جمع反馈 كمي ونوعي من مجموعة التحكم، مثل طول المحادثة، وتغييرات المزاج، واختبار الحدود، والكشف المتكرر عن الإفصاح العاطفي، ومستويات الراحة التي يبلغ عنها المستخدم، وأي أنماط يحددها الأخصائيون النفسيون كدلالات على الاعتماد أو الضيق. هذا الإطلاق الأول هو لتحقق الفرضيات وتحسين هندسة السلامة في إطلاق محدد بدلاً من إطلاق كامل.

6. المراقبة المستمرة والتكرار

في عام 2024، اجتمعت الخبراء من تسع دول والاتحاد الأوروبي لمناقشة التعاون الدولي في علم السلامة للذكاء الاصطناعي. وأكد التقرير على الحاجة إلى حوكمة الذكاء الاصطناعي القابلة للتطوير والمتكررة. وادعى القادة الحاجة إلى إطارات اختبار في العالم الحقيقي، وتقييم من قبل أطراف ثالثة، والضمان المستمر بعد فحص ما قبل النشر.

بعد توجيهات التقرير، يجب على المطورين أن يكونوا حذرين لمراقبة تفاعلات المستخدمين بشكل مستمر وتتبع مقاييس السلامة مثل محفزات الأزمات أو محادثات عالية المخاطر المتكررة. قد تشمل هذه الجمل أو السلوكيات التي تشير إلى الإيذاء الذاتي، أو اليأس، أو النية الانتحارية، أو الوحدة الشديدة، أو الأوهام.

في هذه الحالات، يجب على المطورين تحديث قواعد المعرفة bằng إضافة قواعد رفض واضحة وتحسين قوالب الاستجابة للأزمات، وتصحيح أي فجوات واقعية تتعامل معها البوت بشكل خاطئ. يجب أن يعتبروا أيضًا دمج توجيهات جديدة من الأخصائيين النفسيين أو خبراء المجال لمساعدة النظام في توجيه المحادثات بأمان في المرة القادمة التي تظهر فيها هذه المحفزات. إذا ظهرت أنماط، مثل زيادة الاعتماد على البوت لدعم عاطفي، قد تحتاج إلى تقييد القيود أو إعادة تقييم فلسفة التصميم.

الذكاء الاصطناعي الحواري له إمكانات تحويلية. عندما يستخدم بحكمة، يمكنه توسيع الوصول، وتوسيع التعاطف، وتقليل الاحتكاك في التدريب أو الدعم الشبيه بالاستشارة الأساسية. كما شخص متعهد深ًا في هذا المجال، رهانتي ليست على استبدال البشر ولكن على تعزيزهم؛ إعطاء الناس أدوات أكثر، وليس أقل، ويفعل ذلك بمسؤولية.