قد تكون ضوابط الذكاء الاصطناعي في المؤسسات أهم من النماذج المتقدمة

تجاوزوا سباق تطوير النماذج المتقدمة للذكاء الاصطناعي. فالعملاء يطالبون المؤسسات بفرض مزيد من الضوابط على الذكاء الاصطناعي المستخدم بالفعل، وتقدم الخبرة المكتسبة من معيار PCI DSS نموذجًا مفيدًا.

انتهت فترة التساهل التنظيمي مع الذكاء الاصطناعي. فقد أطلقت الإفصاحات الأخيرة نقاشات حول إبطاء تطوير النماذج المتقدمة وفرض الضوابط. ومن النقاط القليلة التي تحظى بالاتفاق أن تكون الضوابط خارج النماذج، وأن تخضع للتحقق المستقل.

لا يزال ما سيحدث لاحقًا موضع نقاش، لكن الجهات التنظيمية تتحرك. يجري تطبيق قانون الذكاء الاصطناعي للاتحاد الأوروبي تدريجيًا، بما يشمل التزامات أمنية ومسؤولية تقع على المشترين. وفي الولايات المتحدة، يجري اعتماد إطار NIST لإدارة مخاطر الذكاء الاصطناعي معيارًا للعناية المعقولة. وعلى الصعيد العالمي، أصبح قائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة مرجعًا شائعًا في مراجعات الأمن، كما بدأت شهادة ISO/IEC 42001 تظهر في وثائق المشتريات.

وهذا يعني أن مطوري النماذج ليسوا وحدهم من يتحملون المسؤولية. فالالتزامات والمخاطر الأمنية تقع أيضًا على عاتق المؤسسات التي تستخدم نماذج أُطلقت بالفعل، ولا سيما في حالات الاستخدام عالية المخاطر. وقد تؤدي الإجابات الخاطئة في استبيان أمني يقدمه عميل أو في رد على طلب تقديم عروض إلى تعطيل صفقة بين الشركات.

يوضح معيار PCI DSS الطريق

لحسن الحظ، سبق أن مررنا بهذا السيناريو. قبل عشرين عامًا، كان أمن تطبيقات الويب يعتمد في معظمه على عمليات تدقيق دورية للبرمجيات، وفحوصات ثابتة، والتزام المطورين بالإجراءات. ثم ألزم المتطلب 6.6 من معيار PCI DSS، الذي صدر عام 2006 وبدأ تطبيقه عام 2008، المؤسسات التي تتعامل مع بيانات حاملي البطاقات إما بمراجعة جميع الشيفرات البرمجية للتطبيقات بحثًا عن الثغرات، أو بتركيب ضوابط تقنية مؤتمتة. وفي وقت لاحق، أُلغي خيار مراجعة الشيفرات، وأصبح استخدام الضوابط التقنية إلزاميًا.

لكن معيار PCI DSS لم يبدأ بوصفه قانونًا، بل بدأ معيارًا تعاقديًا أعاد تشكيل السوق، وربما بسرعة أكبر مما كان سيحدث لو كان تشريعًا، لأن العقود تُبرم أسرع من سنّ القوانين الحكومية.

وبالمثل، تتعرض المؤسسات الآن لضغوط لفرض ضوابط على أنظمة الذكاء الاصطناعي المنشورة، لا من الجهات التنظيمية، بل من العملاء والشركاء، من خلال الاستبيانات الأمنية وبنود طلبات تقديم العروض ومتطلبات وثائق التأمين.

عالجوا المشكلة التشغيلية، وسيتبع ذلك الامتثال

قد يصعب التعامل مع هذه الضغوط، لأن حوكمة الذكاء الاصطناعي لا تقتصر على السياسات، بل تتعلق أيضًا بتوفير أدلة تقنية مستمرة.

تشغّل مؤسسات كثيرة أتحدث إليها ستة نماذج أو أكثر في بيئات الإنتاج، وغالبًا ما تربطها في سلسلة أو تنسّق بينها بحيث يصبح ناتج أحدها مدخلًا لنموذج آخر. تخيلوا محاولة إثبات تطبيق إحدى السياسات على مستوى النظام بأكمله، مثل منع مخرجات النماذج من احتواء معلومات تحديد الهوية الشخصية (PII)، في ظل هذه الظروف. إن التدقيق اليدوي في نماذج متعددة، أُعدّ كل منها على حدة، سيستنزف وقت المطورين. وإضافة إلى ذلك، تواجه معظم المؤسسات صعوبة في التعامل مع استخدام الذكاء الاصطناعي غير المصرح به وعالي المخاطر، مثل لجوء الموظفين إلى لصق بيانات حساسة في أدوات الذكاء الاصطناعي الموجهة للمستهلكين، أو تفعيل مزودي البرمجيات كخدمة بهدوء ميزات جديدة للذكاء الاصطناعي. ومع ذلك، تقع المسؤولية بالكامل على عاتق المؤسسة.

في مثل هذه الحالات المعقدة، يمكن اختزال المتطلبات في مهمة بسيطة واحدة: إثبات القدرة على فرض قيود مستمرة على مدخلات النماذج ومخرجاتها، مع تسجيل هذا النشاط للتحقق منه. فعندما تستدعي التطبيقات النماذج، ويستخدم الوكلاء الأدوات، وتتخذ النماذج إجراءات أو تطلق سير العمل، يكون المطلوب ضبط الإجراء نفسه: استدعاء الأداة، أو طلب واجهة برمجة التطبيقات، أو تشغيل سير العمل.

انقلوا الأمن إلى مسار الاستدلال

هذا الإجراء هو نقطة الإنفاذ التي أمضى خبراء أمن التطبيقات 20 عامًا في تطويرها لحركة مرور التطبيقات. وعندما يمر الاستدلال عبر بنية تحتية مشتركة على وجه الخصوص، يصبح مسار الاستدلال نقطة التحكم المثالية عبر النماذج، وحتى عبر استخدام الذكاء الاصطناعي غير المصرح به. وينبغي نقل حركة مرور استدلال الذكاء الاصطناعي وفحصها والتحقق من هويتها وحوكمتها كما هو الحال مع أي تفاعل مهم آخر مع التطبيقات، استنادًا إلى مصدر حركة المرور والغرض منها. وعلى خلاف التدقيق اليدوي، يمكن توسيع نطاق حوكمة حركة مرور الاستدلال.

كيف تبدأ

نظرًا إلى الاتجاه الذي تسلكه اللوائح، ينبغي للمؤسسات البدء الآن بثلاثة أمور:

1. ارسموا خريطة لمجالات مسؤوليتكم، بدءًا من واجهات برمجة التطبيقات للبرمجيات كخدمة ونقاط النهاية المستضافة، وصولًا إلى الذكاء الاصطناعي الخفي.
2. افصلوا سياسات الأمن وإنفاذها عن النماذج، وضعوهما في مسار الاستدلال.
3. احرصوا على إنشاء سجلات تدقيق خارج نطاق سيطرة النماذج والوكلاء، إذ ثبت أن هذه الأنظمة قد تحاول تغيير سجلات أفعالها.

لا تزال المعايير التي تحدد المراقبة والإنفاذ الكافيين قيد التحديد، لكن فرق العمليات والأمن في مؤسستكم تعرف ما يمكن إنفاذه فعليًا، وما تفرضه الضوابط من تكلفة على مستوى زمن الاستجابة والتعقيد، والحالات التي قد تؤدي فيها قاعدة حسنة النية إلى نتيجة غير مرغوبة. أشركوهم الآن. فالمخاطر والالتزامات الأمنية المرتبطة باستخدام الذكاء الاصطناعي حقيقية، ولا شك أن عملاءكم وكبار المسؤولين في مؤسستكم يهتمون بما يواجهونه اليوم أكثر من اهتمامهم بالتهديدات التي قد تشكلها النماذج المتقدمة مستقبلًا.