هل يمكنك الدفاع عما فعلته الذكاء الاصطناعي الخاص بك للتو؟

المواعيد النهائية التنظيمية للذكاء الاصطناعي تستمر في التأجيل، لكن الحاجة إلى محاسبة الذكاء الاصطناعي لا تزال قائمة 

على مدار عامين، تم تنظيم النقاش التنظيمي حول الذكاء الاصطناعي المؤسسي حول المواعيد النهائية. كان من المقرر أن تدخل أحكام المخاطر العالية في قانون الذكاء الاصطناعي للاتحاد الأوروبي حيز التنفيذ في 2 أغسطس. وكان من المقرر أن يدخل قانون الذكاء الاصطناعي الأول في البلاد في كولورادو حيز التنفيذ في 30 يونيو. وأخيرًا كان من المقرر أن تحسم واشنطن سؤال من يملك الحق في تنظيم ماذا. 

إذن، هل نرى تقدمًا فيما يتعلق بتلك المواعيد النهائية؟ إلى حد ما.

خلال حوالي ستة أسابيع هذا الربيع، اتفاق الاتحاد الأوروبي على تأجيل التزامات المخاطر العالية في الملحق الثالث إلى ديسمبر 2027، وأنظمة المخاطر العالية المدمجة في المنتجات إلى 2 أغسطس 2028. في كولورادو، أمر محكمة فدرالية أوقف المدعي العام للولاية من تنفيذ القانون الأصلي، مستبدلًا إياه بإطار أكثر تحديدًا قائم على الإشعارات ساري المفعول اعتبارًا من 1 يناير 2027. في 2 يونيو، البيت الأبيض وقع أمرًا تنفيذيًا للذكاء الاصطناعي الذي اتخذ موقفًا داعمًا للابتكار عن قصد، مفضلاً التعاون الطوعي مع المطورين المتقدمين على أي ترخيص إلزامي أو متطلب موافقة مسبقة لنماذج الذكاء الاصطناعي. 

المواعيد المتأخرة والوهم بالراحة التنظيمية

النقطة المهمة للمؤسسات هي أن تغير المواعيد النهائية لم يلغِ محاسبة الذكاء الاصطناعي. في أوروبا، حتى مع تحرك بعض متطلبات المخاطر العالية، استمرت الالتزامات المتعلقة بالشفافية، ومعرفة الذكاء الاصطناعي، والمحتوى الاصطناعي، وإنفاذ القوانين في التقدم. وتروي كولورادو قصة مشابهة: فقد أزال المشرعون بعضًا من أكثر متطلبات الامتثال عبئًا في القانون، لكنهم حافظوا على الأساسيات مثل الكشف عن مشاركة الذكاء الاصطناعي، وتوضيح القرارات السلبية، وتصحيح البيانات السيئة، وتوفير مسار للمراجعة البشرية.

هذه إشارة مفيدة إلى المكان الذي قد تتقارب فيه اللوائح في النهاية. يمكن لصانعي السياسات أن يختلفوا بشأن تقييمات الأثر، وأنظمة الترخيص، وأي مستوى من الحكومة يجب أن يضع القواعد. لكن القدرة على شرح ما فعل نظام الذكاء الاصطناعي، وتوثيق كيفية وصوله إلى نتيجة، وتوفير سبل انتصاف ذات معنى للناس، يثبت أنها أصعب بكثير من إلغاء تشريعي. لا يزال البنك بحاجة إلى شرح قرار إقراض متأثر بالذكاء الاصطناعي. ولا يزال المستشفى بحاجة إلى سجل يوضح كيف تم التوصل إلى توصية مدعومة بالذكاء الاصطناعي. ولا تزال الشركة بحاجة إلى معرفة ما يحدث عندما ينتج نظام آلي نتيجة يجب الدفاع عنها.

إن توافر النماذج المفتوحة المتزايد يجعل هذه المسؤولية أكثر أهمية. كلما زاد سيطرة المؤسسة على كيفية ومكان تشغيل النموذج، كلما أصبح من الصعب اعتبار المحاسبة مشكلة شخص آخر. إذا لم تستطع المؤسسة إعادة بناء ما تفعله أنظمتها الذكائية، وشرحها والدفاع عنها، فإن التأخيرات التنظيمية لا توفر سوى ارتياح مؤقت.

إذا كنت رئيسًا للذكاء الاصطناعي، أو مديرًا لإدارة مخاطر النماذج، أو تحمل مسؤوليات أخرى تتعلق باستخدام الذكاء الاصطناعي ضمن صناعة منظمة، وقد عشت أي حقبة أخرى من الابتكار والتنظيم، فأنت تعلم أن الابتكار دائمًا يتجاوز التنظيم – وأن المحاسبة الحقيقية تُحدَّد بما تفعله مؤسستك عند النشر، سواء شملت المتطلبات التنظيمية أم لا.  

فجوة الثقة والتحقق في الذكاء الاصطناعي: لماذا يتفوق خطر السوق على الامتثال

تُعرَّف المساءلة بالقرارات التي تُتخذ دون إشراف وتزداد في كلا الاتجاهين. رغم أن مساءلة الذكاء الاصطناعي المؤسسي غالبًا ما تُخطئ على أنها مفهوم قائم على العواقب ابتكره المنظمون، إلا أنها تُنشأ في اللحظة التي تنشر فيها الشركة، سواءً تم تسمية عاقبة قابلة للإنفاذ أم لا. وتسرّع عملية النشر أسرع بكثير من أي جدول امتثال – أسرع شيء الآن مع انتقال الوكلاء المستقلين إلى الإنتاج، حيث يتخذون إجراءات، ويتعاملون مع البيانات، ويتخذون قرارات بسرعة لا يستطيع أي مراجع بشري مواكبتها.تتوقع جارتنر أن 40٪ من تطبيقات المؤسسات ستشمل وكلاء ذكاء اصطناعي مخصصين للمهامبحلول نهاية هذا العام، ارتفعت من أقل من 5٪ في 2025. 

لهذا السبب، الإشارة الأكثر وضوحًا في الذكاء الاصطناعي المؤسسي الآن لا تأتي من المنظمين – بل تأتي من غرف الاجتماعات وتُعرض على صفحات الوظائف للمؤسسات عبر الصناعات. ارتفع إشراف مجالس الإدارة على الذكاء الاصطناعي بنسبة 84%في إفصاحات الشركات العامة وتتوقع فورستر أن 60% من شركات فورتشن 100ستعين هذا العام برئيس مخصص لحوكمة الذكاء الاصطناعي. وقد بدأت مورغان ستانلي وبلاك روك في أخذ نضج حوكمة الذكاء الاصطناعي في الاعتبار عند تقييم الشركات. ولا يُعد ذلك استجابة لتشريع. إنه استجابة للمخاطر التي تعترف بها الشركات التي تتبنى الذكاء الاصطناعي بالفعل في كل شيء من طريقة إدارة وتشغيل أعمالها إلى إعلانات الوظائف لديها. 

مؤشر الذكاء الاصطناعي لستنفورد 2026وجد أن الأمن والمخاطر – وليس جودة النموذج أو التكلفة – هما الآن العائق الأكبر لتوسيع نطاق الذكاء الاصطناعي الوكائي، وفقًا لـ 62٪ من المؤسسات، متفوقين بفارق كبير على القيود التقنية وعدم اليقين التنظيمي. تلك الفجوة – بين ما يفعله النظام وما يستطيع مالكه إثباته فعليًا – هي فجوة الثقة والتحقق في الذكاء الاصطناعي، ولا تُغلق وفقًا لجدول المنظم. 

نمط الابتكار الذي يتجاوز التنظيم هو نفس النمط الذي رأيناه مع تبني الحوسبة السحابية، وظهور التشفير، ومع صناعة الأمن السيبراني على نطاق واسع خلال العقود الثلاثة الماضية – تغطيه وسائل الإعلام، ويعترف به المنظمون، وتواجه كل صناعة تبعاته الواقعية والسيناريوهات الفريدة بينما تنتقل من التردد إلى التجريب وأخيرًا إلى درجات متفاوتة من اعتماد المؤسسات. مع الحوسبة السحابية، أطلقت AWS في عام 2006، وكانت المؤسسات تنقل البيانات الحساسة والأنظمة الأساسية لأكثر من عقد قبل أن يلحقها الإطار التنظيمي. FedRAMPلم يظهر حتى عام 2011، واضطرت الصناعة إلى اختراع “نموذج المسؤولية المشتركة” لتحديد المحاسبة التي لم تتضمنها العقود، وGDPR لم يضع أسنانًا حقيقية على معالجة البيانات إلا في 2018. وتبع الأمن السيبراني نفس المنحنى: PCI DSSلم يتم إضفاء الصيغة الرسمية عليه إلا في 2004، بعد أن كانت بيانات البطاقات تنتقل عبر الإنترنت بالفعل؛ بدأ قانون إشعار الاختراق بقانون واحد في كاليفورنيا عام 2003 ولا يزال متفرقًا حسب الولايات حتى اليوم؛ ولم تُلزم SEC الشركات بالإفصاح عن حوادث سيبرانية هامة إلا في 2023. في كلتا الحالتين، كانت المحاسبة حقيقية قبل وجود القاعدة، وكان السوق والعملاء والمدققون وشركات التأمين، وأحيانًا خرقًا علنيًا كبيرًا، هم من فرض ذلك على الشركات التي تدعي غير ذلك.

من قدرة النموذج التجريبي إلى قابلية الدفاع عن النتائج في الإنتاج

السرعة والقدرة هما ما أدخلا الذكاء الاصطناعي إلى تجارب الشركات، ومثل كل ابتكار تقني رئيسي آخر، كان ذلك من باب الضرورة. لكنهما لا يكفيان لإدخال الذكاء الاصطناعي إلى الإنتاج داخل بيئات شديدة التنظيم ذات مجموعات بيانات معقدة وتدفقات عمل – البنوك، وشركات التأمين، والبنية التحتية الحيوية، وبرامج الدفاع – بيئات حيث يتعين في النهاية وضع قرار مدفوع بالذكاء الاصطناعي أمام منظم، أو مجلس إدارة، أو محامٍ للمدعي، والدفاع عنه. في تلك الغرف، لا يُعد “النموذج قادر جدًا” إجابة محاسبية. 

أصبح هذا التمييز هو الخط الفاصل الحقيقي، وتدرك المزيد من المؤسسات أنه مشكلة بنية تحتية قبل أن تكون مشكلة سياسة. لا يمكنك تدقيق الصندوق الأسود لتصبح مسؤولًا بعد وقوعه. الشرح، والتتبع، وسلسلة الملكية الواضحة إما مدمجة في النظام أو لا وجود لها، والمؤسسات التي تتعلم ذلك بالطريقة الصعبة هي التي نشرت أولاً وسألت عن المسؤولية لاحقًا. تتوقع جارتنر أنه بحلول عام 2027، سيتعين على 40٪ من المؤسسات خفض مستوى أو إلغاء الوكلاء المستقلين تحديدًا بسبب فجوات الحوكمة التي اكتشفوها فقط بعد حدوث خطأ في الإنتاج. 

اختراق Klue من أوائل صيف هذا العام يُعد مثالًا رئيسيًا أصبح أكثر إرشادًا مع تطوره. Klue هي منصة استخبارات تنافسية مدفوعة بالذكاء الاصطناعي، ولم يقم المهاجمون بتجاوز دفاعات متطورة، بل استخدموا اعتماد تكامل واحد، أصدر في 2022 لتجربة تم التخلي عنها لاحقًا ولم تُلغَ أبدًا، للمصادقة على اتصالات CRM الخاصة بالعملاء وسحب السجلات عبر استعلامات آلية. ما بدأ كعدد قليل من الإفصاحات توسع ليشمل عدة شركات. وحتى بعد أن بدأ المهاجم الأصلي يتعاون، ظهرت مجموعة ثانية تدعي سرقة نفس البيانات وتدير حملة ابتزاز خاصة بها. 

لم يكن الانكشاف فشلًا في النموذج أو ثغرة صفرية ذكية؛ بل كان مسار وصول موثوق وآلي لا يتحمل أحد مسؤوليته بنشاط، واستمر في توليد العواقب طويلاً بعد أن يُفترض أن الحادث “تم حله”. ومع ربط المؤسسات للذكاء الاصطناعي ووكلائه بمزيد من أنظمتها، يصبح كل اتصال من هذه الاتصالات هو السؤال نفسه الذي ينتظر طرحه: من يملك ذلك، ومن يراقبه، ومن يتحمل المسؤولية عندما يتحرك أسرع مما يستطيع أي شخص الإشراف عليه؟ 

يقوم المنظمون بتعديل التواريخ بالضبط بسبب هذه المشكلة الأساسية. إن جعل هذه الأنظمة قابلة للقراءة، والاختبار، والمسائلة أمر صعب حقًا، والمعايير والأدوات ليست ناضجة بالكامل. لكن ذلك ليس سببًا للتأخير، بل هو الإشارة الأكثر وضوحًا إلى ما يجب إعطاؤه أولوية فورية. المؤسسات التي تعتبر الوقت الإضافي إذنًا للتأخير ستقضي عام 2027 تقوم بما يفعله منافسوها الآن باختيارهم تحت ضغط. 

يحتاج تعريف النجاح في نشر الذكاء الاصطناعي المؤسسي إلى التحول من قدرة النموذج التجريبي إلى قابلية الدفاع عن النتائج. عمليًا، يعني ذلك اجتياز ثلاثة اختبارات على كل مسار قرار يشارك فيه الذكاء الاصطناعي: سجل دائم لما فعل النظام، شرح يمكن لغير المتخصصين متابعته، ومسار يتيح للشخص المتأثر الاعتراض على النتيجة. هذا ليس إطارًا اخترعه أحد في عرض بائع، بل هو تقريبًا نصًا بنص ما نجى من إلغاء تنظيم كولورادو. 

كان سؤال ما إذا كان الذكاء الاصطناعي موثوقًا في المجمل نقاشًا فلسفيًا في عام 2025. الآن وما بعده، تحتاج المؤسسات إلى القدرة على الإجابة على سؤال ما إذا كان بإمكانها الدفاع عن النتائج التي يقدمها الذكاء الاصطناعي، وإثبات ذلك في كل مرة لأي شخص يطرح السؤال. 

قد يتم تأجيل المواعيد النهائية وقد تستمر المزيد من الامتدادات، لكن على عكس المنظمين، والسوق، والعملاء الذين تخدمهم أعمالك في النهاية، لا يمنحون امتدادات ولا يتساهلون في تقديم الأعذار.