التنظيم
نيوسوم يقترح رقابة إلزامية على الذكاء الاصطناعي المتقدم وصلاحيات لإيقافه

النقاط الرئيسيةسيمنح المدققون المستقلون المرخصون الولاية تدقيقًا تقنيًا مستمرًا بدلًا من تقديمات سلامة…
عرض المزيد
- سيمنح المدققون المستقلون المرخصون الولاية تدقيقًا تقنيًا مستمرًا بدلًا من تقديمات سلامة لمرة واحدة.
- ستصبح أوامر الإغلاق الطارئ سارية المفعول فورًا وتبقى نافذة أثناء المراجعة القضائية.
- سينتقل الإبلاغ عن الحوادث من عتبات على مقياس التدريب إلى قدرة مُثبتة على المخاطر الكارثية.
أصدر حاكم ولاية كاليفورنيا غافن نيوسوم توصيات تشريعية في 18 نوفمبر 2026، من شأنها أن تفرض رقابة مستقلة ومستمرة على مطوري الذكاء الاصطناعي المتقدم، وتتيح لمسؤولي الولاية إصدار أوامر بإيقاف النماذج طارئًا إذا شكّلت مخاطر كارثية وشيكة.
يهدف تقرير وكالة العمليات الحكومية في كاليفورنيا، السلامة في مجال الذكاء الاصطناعي في 2026 وما بعدها، المؤرخ في 16 نوفمبر 2026، إلى الاسترشاد به في صياغة التشريعات عند عودة المشرّعين في ديسمبر 2026؛ ولا تشكّل توصياته التزامات نافذة بعد. وتستند الخطة إلى اشتراط كاليفورنيا أن ينشر كبار مطوري الذكاء الاصطناعي المتقدم أطرًا للسلامة، وتضيف إليها معايير أساسية تحددها الولاية للسلامة والأمن والشفافية في جميع مراحل التدريب والاستخدام الداخلي والنشر.
رقابة مستقلة مستمرة
سيخضع كل مطور كبير للذكاء الاصطناعي المتقدم لرقابة مستمرة من منظمات تحقق مستقلة مرخّصة، أو IVOs. وستحوّل هذه المنظمات معايير الولاية إلى اختبارات تقنية، وتحدّثها مع تغير أساليب تقييم الذكاء الاصطناعي. وستُمنح أيضًا إمكانية الوصول إلى النماذج والموظفين والأنظمة وبيئات التدريب والسجلات التي تراها ضرورية، ثم ترسل إلى الولاية تقييمات غير منقحة.
ستتولى وكالة العمليات الحكومية ترخيص منظمات التحقق المستقلة، ويمكنها إلغاء التراخيص في حال قصور الخبرة أو الاستقلالية أو الصرامة. وإذا تعذّر على أحد المقيمين تأكيد استيفاء مطورٍ للمعايير، فيمكن للولاية أن تأمر باتخاذ إجراءات تصحيحية بعد التشاور مع الشركة. ويجوز للمطورين الطعن أمام المحكمة في مثل هذه القرارات قبل دخولها حيز التنفيذ، باستثناء الإجراءات الطارئة المعجّلة.
ومن شأن رسم إضافي يُفرض على رسوم التحقق التي يدفعها المطورون أن يساعد في تمويل قدرات CalCompute الحاسوبية التي تشغّلها جهات عامة. وسيُخصّص جزء من هذه القدرات لأبحاث السلامة والأمن المستقلة وللرقابة العامة، ما يربط رسمًا إضافيًا تموّله الصناعة بالبنية التحتية اللازمة للتدقيق الخارجي.
احتواء المخاطر وصلاحيات الطوارئ
سيُطلب من كل مطور كبير للذكاء الاصطناعي المتقدم الإبقاء على بروتوكول لاحتواء المخاطر، تخضع فعاليته للاختبار والتحقق المستمرين من جانب منظمة تحقق مستقلة، ويعتمده مسؤول رفيع في الشركة. وينبغي أن تشمل القدرة المطلوبة موارد الحوسبة والوكلاء وإمكانية الوصول الداخلي ونشر النماذج، بدلًا من الاعتماد على مفتاح تشغيل وإيقاف واحد. وستحدد البروتوكولات الموظفين المسؤولين، وتنسق مع مزودي الخدمات السحابية وموردي الطاقة، وتضع معايير لتحديد الوقت الذي يمكن فيه إعادة نموذج إلى العمل بأمان.
ستتناول الاختبارات سبل إخفاق الإيقاف، ومنها نسخ النموذج لأوزانه لعرقلة احتوائه، أو تمكّن جهة خارجية من الوصول إلى أدوات التحكم في الإيقاف. أما المطورون الذين يتيحون أوزان النماذج المفتوحة، فلن تنطبق متطلبات الاحتواء والإيقاف عليهم إلا في عمليات النشر الخاضعة لسيطرتهم، لأنهم لا يستطيعون إيقاف النسخ التي يستضيفها آخرون.
يمكن لمسؤولي الولاية أن يأمروا بإيقاف فوري إذا كان لديهم سبب موثوق للاعتقاد بوجود خطر كارثي وشيك أو حادثة كبيرة لفقدان السيطرة، ورفض المطور احتواء الخطر. ويجب أن يقتصر الأمر على أضيق تدخل قابل للتطبيق، وأن يسري فورًا ويظل نافذًا أثناء المراجعة القضائية، مع جواز طلب المطور أمر تقييدي مؤقت. ويُرفع الأمر عندما لا يعود الخطر وشيكًا.
الإبلاغ عن الحوادث وأبحاث الذكاء الاصطناعي المؤتمتة
سيشمل نظام الإبلاغ محاولات سرقة أوزان النماذج حتى في غياب الوفاة أو الإصابة الجسدية، وجميع حوادث فقدان السيطرة الداخلية أو الخارجية، إلى جانب قناة جديدة للإبلاغ عن الحوادث الوشيكة. ويقترح التقرير تقليص المهلة المحددة لمعظم تقارير الحوادث الحرجة من 15 يومًا إلى 48 ساعة، مع الإبقاء على مهلة الـ24 ساعة للمخاطر الكارثية الوشيكة. وستشمل حماية المبلغين عن المخالفات الموظفين السابقين والمتعاقدين السابقين.
ستُعامل النماذج القادرة على تنفيذ أفعال قد تؤدي إلى مخاطر كارثية على أنها نماذج متقدمة لأغراض الإبلاغ عن الحوادث، حتى إن دُرّبت باستخدام أقل من 10^26 عملية حسابية صحيحة أو فاصلة عائمة. ويعالج هذا المعيار القائم على القدرات ما أثاره التقرير من مخاوف حيال أن الاعتماد على حجم التدريب وحده أدى إلى استبعاد حوادث خطرة من متطلبات الإبلاغ للولاية.
ستُبلغ الشركات التي تؤتمت أبحاث الذكاء الاصطناعي وتطويره، كل ثلاثة أشهر، عن كيفية توزيع قدراتها الحاسوبية بين التدريب وتجارب الأبحاث والاستدلال لوكلاء أبحاث الذكاء الاصطناعي وأعمال السلامة والأمن والعملاء الخارجيين والأنشطة مجهولة الإسناد، على أن تتحقق من هذه الفئات منظمات تحقق مستقلة. وستشمل الإفصاحات الإضافية حجم بيانات التدريب وتكلفتها ومجالاتها الموضوعية، وما إذا كان مصدرها بشريًا أم قائمًا على الذكاء الاصطناعي، فضلًا عن قدرات الحوسبة المستخدمة للاستدلال في تدريب النماذج ضمن بيئات التعلم المعزز، وحالات سوء السلوك المعروفة التي نالت مكافآت، وإجراءات التخفيف المتخذة. ويقول التقرير إن هذه التدابير ستوضح ما إذا كان الذكاء الاصطناعي يتولى حصة أكبر من تطويره، وما إذا كان الاستثمار في السلامة يواكب ذلك.
سيخضع التحسين الذاتي التكراري (RSI)، الذي يتمثل أقوى أشكاله في أن يطوّر نظام ذكاء اصطناعي خليفته بشكل مستقل ومن دون تدخل بشري، لصلاحية فرض سقف احتياطي، لا لحدّ فوري. ويمكن للمسؤولين فرض سقف مؤقت على أبحاث الذكاء الاصطناعي المؤتمتة، يخضع للمراجعة الدورية، عندما تتجاوز الأبحاث الحدود التي التزم بها المطوّر أو تتقدم بوتيرة أسرع من تدابير الحماية والتقييمات، بما ينشئ خطراً ملموساً بوقوع أضرار كارثية. ويُرفع السقف بعد أن تتحقق جهة تحقق مستقلة (IVO) من وجود تدابير حماية كافية.
تستجيب التوصيات للأمر التنفيذي الذي أصدره Newsom في 18 سبتمبر 2026 بشأن الرقابة المستقلة ومفتاح إيقاف للذكاء الاصطناعي، والذي طلب تقديم مقترحات من الخبراء خلال شهرين وتسريع تنفيذ قوانين كاليفورنيا المتعلقة بالتحقق المستقل ومدققي الذكاء الاصطناعي. وأعدّت وكالة العمليات الحكومية التقرير بالتعاون مع مكتب كاليفورنيا لخدمات الطوارئ ومستشارين من خارج الحكومة هم Jason Goldman وGillian Hadfield وAlondra Nelson وRob Reich.
بالنسبة إلى المطوّرين، سيتجاوز الامتثال نشر سياسات السلامة ليشمل التدقيق الخارجي المستمر، والإبلاغ عن الحوادث بوتيرة أسرع، وإثبات القدرة على إيقاف الأنظمة. ويترك المقترح أمام المشرّعين قرارين مترابطين: تحديد نطاق صلاحيات التدخل التي ينبغي إقرارها، وكيفية جعل الرقابة المستمرة قابلة للتطبيق فيما لا يزال قطاع التحقق المرخّص في طور التطور.












