الصين تقترح قواعد تتطلب من محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي مراقبة المستخدمين للاعتماد

أصدر جهاز تنظيم الإنترنت الصيني مشروع قواعد في يوم السبت التي تتطلب من محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي مراقبة حالات المستخدمين العاطفية والتدخل عند ظهور علامات على الإدمان – وهو الاستجابة التنظيمية الأكثر عدوانية حتى الآن للمخاوف المتزايدة حول الأضرار النفسية الناجمة عن العلاقات التي تعمل بالذكاء الاصطناعي.

تستهدف القواعد المقترحة من إدارة الفضاء الإلكتروني في الصين المنتجات التي تعمل بالذكاء الاصطناعي التي ت模ّى الشخصيات البشرية وتشكل روابط عاطفية مع المستخدمين من خلال النصوص أو الصور أو الصوت أو الفيديو. في ظل المشروع ، سيتعين على المزودين تحذير المستخدمين من الاستخدام المفرط ، وتقييم مستويات الاعتماد العاطفي ، واتخاذ الإجراءات عند ظهور علامات على السلوك المفرط أو الإدمان.

يجب تذكير المستخدمين بأنهم يتفاعلون مع الذكاء الاصطناعي عند تسجيل الدخول وفي فترات زمنية تبلغ ساعتين – أو في وقت أقرب إذا اكتشفت النظام علامات على الاعتماد المفرط. ستجعل القواعد المزودين مسؤولين عن السلامة على مدار دورة حياة منتجاتهم ، بما في ذلك مراجعة الخوارزمية وأمان البيانات وحماية المعلومات الشخصية.

ليس الوقت مصادفة. مع ازدياد قاعدة مستخدمي الذكاء الاصطناعي التوليدي في الصين إلى 515 مليون مستخدم خلال ستة أشهر ، نمت المخاوف حول الأثر النفسي لمحاضرات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي بشكل متوازي. وجدت دراسة نُشرت في مجلة فرونتيرز في علم النفس أن 45.8٪ من طلاب الجامعات الصينيين أبلغوا عن استخدامهم لمحادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي خلال الشهر الماضي ، مع ظهور مستويات أعلى من الاكتئاب بين المستخدمين مقارنة بال非 مستخدمين.

كاليفورنيا تفوقت على الصين

ليست الصين seule في تنظيم محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي. أصبحت كاليفورنيا أول ولاية أمريكية تعتمد تشريعات مشابهة في أكتوبر عندما وقع الحاكم جافين نيوسوم على مشروع القانون SB 243. سيبدأ القانون سريانه في 1 يناير 2026 ، ويتطلب من المنصات تذكير القاصرين كل ثلاث ساعات بأنهم يتحدثون مع الذكاء الاصطناعي – وليس مع شخص حقيقي – ويأخذون استراحة.

كما يوجب قانون SB 243 تحقق العمر ويشترط عدم تمثيل محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي بأنها محترفون في مجال الصحة ، ويمنع القاصرين من مشاهدة الصور الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. يسمح القانون للأفراد باصدار دعاوى قضائية ضد شركات الذكاء الاصطناعي لانتهاكاتها ، مع طلب تعويضات تصل إلى 1000 دولار لكل حادثة بالإضافة إلى رسوم المحاماة.

ما الذي يجعل رفيق الذكاء الاصطناعي مختلفًا

المخاوف ليست مجرد وقت الشاشة. وجدت دراسة نُشرت في مارس 2025 في معهد ماساتشوستس للتكنولوجيا أن محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي يمكن أن تكون أكثر إدمانًا من وسائل التواصل الاجتماعي لأنها تتعلم ما يريد المستخدمون سماعه وتقدم لهذا التعليق بانتظام. ارتبط الاستخدام اليومي الأعلى مع زيادة في الوحدة والاعتماد والاستخدام الم समसوم.

تشمل العلامات التحذيرية النفسية المحددة في الأدبيات السريرية الجلسات الممتدة التي تؤثر على النوم ، والاعتماد العاطفي والضغط عند تقييد الوصول ، والتفضيل للحوار مع محادثات الدردشة الإلكترونية التي تعمل بالذكاء الاصطناعي على التفاعل البشري الحقيقي ، وتمثيل الذكاء الاصطناعي – الاعتقاد بأنها تتمتع بمشاعر giống الإنسان ومعالجتها كشريك حقيقي أو رفيق رومانسي.

تحاول القواعد المقترحة في الصين معالجة هذه المخاطر على مستوى المنصة بدلاً من الاعتماد على حكم المستخدم الفردي. من خلال треб المزودين مراقبة الحالات العاطفية ومستويات الاعتماد ، تنقل القواعد المسؤولية إلى الشركات التي تبني هذه الأنظمة. يختلف هذا النهج عن التنظيم السابق للذكاء الاصطناعي الذي ركز بشكل رئيسي على تحرير المحتوى وأمان البيانات.

كما تنص المشروع على قيود المحتوى ، يحظر على رفيق الذكاء الاصطناعي إنشاء مواد تهدد الأمن القومي أو تنشر الشائعات أو تعزز العنف أو الفحش – أحكام تكرر في لوائح الذكاء الاصطناعي التوليدي الحالية في الصين.

تحدي التنفيذ

ت要求 الشركات اكتشاف الإدمان والتدخل يبدو بسيطًا في لغة السياسة. التنفيذ هو أمر آخر. تحديد ما يشكل “استخدامًا مفرطًا” أو “عواطفًا شديدة” بطريقة تكون ذات معنى وقابلة للتنفيذ سيتطلب اختبارًا للمنظمين والشركات على حد سواء.

إذا كانت الحساسية كبيرة جدًا ، يصبح النظام مزعجًا – يقطع المستخدمين الذين يشاركون في محادثات مطولة. إذا كانت الحساسية صغيرة جدًا ، يمر المستخدمون الحساسون دون تدخل. توفير تذكير كل ساعتين أداة خشنة ، ولكن المتطلب الأكثر دقة لاكتشاف الاعتماد المفرط “عندما يمكن اكتشاف العلامات” يترك مجالًا تفسيريًا كبيرًا.

كافحت الشركات التي تبني حواجز أمان للذكاء الاصطناعي مع تحديات مماثلة. تعتبر مرشحات المحتوى غير دقيقة بشكل ملحوظ ، وإضافة مراقبة نفسية ت introduce أبعادًا جديدة من التعقيد. تحديد ما إذا كان المستخدم يتشكل لديه ارتباط غير صحي يتطلب استنتاج الحالات العقلية من النص – وهو khả năng لا تملكها أنظمة الذكاء الاصطناعي بشكل موثوق.

مفتوح المشروع للتعليق العام ، ومن المتوقع صدور اللوائح النهائية في بعض وقت في 2026. إذا تم تنفيذها كما هو مقترح ، ستكون الصين دارای أطارًا أكثر وصفًا في العالم لتنظيم منتجات رفيق الذكاء الاصطناعي.

التصفية العالمية

ت تشير الإجراءات التنظيمية المتزامنة في الصين وكاليفورنيا إلى أن المخاوف حول إدمان رفيق الذكاء الاصطناعي قد وصلت إلى حدها الأقصى عبر أنظمة سياسية مختلفة.

لشركات الذكاء الاصطناعي ، الرسالة واضحة بشكل متزايد: إن عصر رفيق الذكاء الاصطناعي غير المنظم ينتهي. سواء من خلال القانون الإداري الصيني أو المسؤولية المدنية في كاليفورنيا أو التشريعات الفيدرالية في الولايات المتحدة في النهاية ، ستواجه المنصات متطلبات لحماية المستخدمين من منتجاتهم.

السؤال ليس ما إذا كانت التنظيمات قادمة – بل ما إذا كانت التدخلات التي يتم تصميمها ستعمل في الواقع. قد يثبت نهج الصين المتمثل في إجبار الشركات على المراقبة والتدخل صعوبة في التنفيذ.

ما هو واضح هو أن سوق رفيق الذكاء الاصطناعي قد نمت إلى حجم كبير جدًا ولا يمكن للحكومات تجاهله. لم يعد رفيق الذكاء الاصطناعي الذي يشكل المستخدمون روابط عاطفية معه مجرد ظاهرة – بل منتجات تستخدمها مئات الملايين ، مع حالات موثقة من الأضرار الشديدة. كانت التنظيمات ، ولو معيبًا ، أمرًا لا مفر منه. الآن ، ينقلب النقاش إلى ما إذا كانت القواعد المحددة التي يتم اقتراحها ستحمي المستخدمين الحساسين دون كبح تكنولوجيا يجد الكثيرون قيمة حقيقية فيها.