قادة الفكر

من النية إلى الفعل المستقل: حوكمة وكلاء الذكاء الاصطناعي في المؤسسات

Casey Kindiger
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيجب أن تكون الحوكمة داخل المنتج لأنها تحدد المسؤوليات التي يمكن للمؤسسة تفويضها بأمان.
عرض المزيد
  • يجب أن تكون الحوكمة داخل المنتج لأنها تحدد المسؤوليات التي يمكن للمؤسسة تفويضها بأمان.
  • تربط طبقة التحكم الوكيلية هوية الوكيل والقدرات المعتمدة بإنفاذ السياسات والإشراف على التنفيذ.
  • ينبغي للمؤسسات أن تبدأ بسير عمل ضيق وأن توسع صلاحيات الوكيل فقط عندما تدعم الأدلة التشغيلية ذلك.

يبدو توجيه مثل «استعادة الخدمة» واضحًا ومباشرًا، إلى أن يتعين على وكيل ذكاء اصطناعي تحديد ما يخوّله هذا التوجيه. فقد تسهم إعادة تشغيل تطبيق، أو تغيير إعداد، أو توفير بنية تحتية في تحقيق ذلك الهدف، لكن لكل منها تبعات مختلفة. ومع انتقال الوكلاء من التوصية بإجراءات إلى تنفيذها، تحتاج المؤسسات إلى ربط واضح بين أهداف الأعمال والصلاحيات التشغيلية.

ينبغي أن تكون الحوكمة جزءًا من المنتج، لأنها تحدد المسؤوليات التي يمكن للمؤسسة تفويضها بثقة. فالوكيل القادر على إنجاز مهمة بموثوقية، ضمن حدود متفق عليها، مع تقديم أدلة على إجراءاته، يشكل أساسًا أقوى لاعتماده في المؤسسات من وكيل تظل صلاحياته ملتبسة. ويتمثل التحدي المعماري في جعل هذه الحدود جزءًا من آلية عمل النظام.

يتطلب تطبيق هذه الحدود نهجًا متسقًا لحوكمة طريقة عمل الوكلاء. ويمكن لطبقة تحكم للوكلاء أن توفر هذا الأساس، من خلال ربط هوية الوكيل، والقدرات المعتمدة، وإنفاذ السياسات، وضوابط الذاكرة، والإشراف على التنفيذ عبر أنظمة المؤسسات القائمة. وهي تحدد من طلب الإجراء، والصلاحية التي يستند إليها، والموارد التي يمكن أن يؤثر فيها، وكيفية التحقق من نتيجته.

فيما يلي ثلاثة إرشادات عملية نوصي بها لحوكمة وكلاء الذكاء الاصطناعي في المؤسسات:

اربط القدرة بصلاحية صريحة

ينبغي أن يكون لكل وكيل مالك محدد يمكن التعرف إليه، وهدف واضح، وأذونات ملائمة لمهمته. ويتماشى ذلك مع إطار NIST لإدارة مخاطر الذكاء الاصطناعي، الذي يتعامل مع الحوكمة بوصفها وظيفة مستمرة على امتداد دورة حياة الذكاء الاصطناعي. وبالنسبة إلى الوكلاء، ينبغي أن يمتد هذا المبدأ إلى اللحظة التي يغيّر فيها إجراءٌ ما نظامًا مؤسسيًا. وعندما يفوّض وكيلٌ مهمةً إلى وكيل آخر، ينبغي أن تظل تلك الحدود قائمة.

يتطلب استكشاف القدرات انضباطًا مماثلًا: إذ ينبغي أن يوضح دليل معتمد الغرض من كل أداة، ومدخلاتها ومخرجاتها، والبيئات المسموح بها، والآثار الجانبية المحتملة. فالتعرّف على أداة لا يمنح الإذن بتنفيذها، لذا يجب التحقق من الصلاحية عند محاولة تنفيذ أي إجراء. وتؤكد إرشادات OWASP بشأن الاستقلالية المفرطة هذا التمييز، من خلال التوصية بالحد من الوظائف والأذونات، وإنفاذ التفويض في الأنظمة اللاحقة.

لنتأمل سير عمل توضيحيًا لاستعادة الخدمة، يحقق فيه وكيل في تباطؤ تطبيق ويقترح إعادة تشغيل أحد المكونات. تسمح السياسة بالوصول إلى بيانات القياس عن بُعد المعتمدة، في حين تتطلب إعادة التشغيل في بيئة الإنتاج دليلًا على سلامة التكرار، وموافقة مالك الخدمة. وتحول هذه الشروط توجيهًا عامًا إلى قرار تشغيلي محدود الصلاحيات.

حوّل النية التشغيلية إلى أدوات خاضعة للحوكمة

إذا توفرت أداة معتمدة لاستعادة الخدمة، فيمكن للوكيل إعداد طلب باستخدام هذه القدرة. وإذا لم تتوفر أداة كهذه، فقد يساعد في إنشاء نص برمجي، ودليل إجراءات، ومخطط للمدخلات، ووصف للأداة، محولًا بذلك النية التشغيلية إلى قدرة مقترحة يمكن للآخرين مراجعتها. وهذه هي القيمة العملية لبرمجة الأدوات بواسطة الوكلاء: إذ يمكن للوكلاء الإسهام في بناء آليات التشغيل، فضلًا عن استخدامها.

لكن إنشاء هذه الآليات لا ينبغي أن يجعلها قابلة للتنفيذ تلقائيًا في بيئة الإنتاج. فالقدرة المقترحة تحتاج إلى عملية إصدار مستقلة، تتضمن مسؤولية واضحة وخاضعة للمساءلة، وفحوصًا أمنية، وإدارة للإصدارات، واختبارات تشمل المدخلات غير الصالحة، واتساع النطاق المفرط، والإخفاقات الجزئية، وتكرار التنفيذ. ويمكن للاختبارات التي ينشئها الوكيل أن تقدم أدلة، لكن ينبغي أن يحدد تحقق مستقل ما إذا كانت القدرة تفي بمتطلباتها التشغيلية قبل إدراجها في الدليل المعتمد.

ينبغي بعد ذلك أن تفرض حدود التنفيذ قيودًا على نطاق الموارد، والوصول إلى الشبكة، والمدة، والإنفاق، وأن يرتبط أي اعتماد مطلوب بالإجراء والهدف والإصدار المحدد. وتستحق ترتيبات الاستعادة القدر نفسه من الاهتمام، لأن بعض التغييرات يمكن التراجع عنها، بينما تتطلب تغييرات أخرى إجراءات تعويضية أو يتعذر التراجع عنها. وينبغي لكل قدرة أن توضح هذه القيود، وأن توفر للمشغلين طريقة مختبرة لتعليق أي تنفيذ لاحق.

تضيف الذاكرة مسؤولية أخرى إلى الحوكمة، لأن الملاحظات المحفوظة قد تؤثر في القرارات المستقبلية بعد وقت طويل من تغير سياقها الأصلي. وينبغي للمؤسسات تحديد ما يجوز للوكلاء تخزينه، ومدة إتاحة المعلومات، وحدود الوصول التي تنطبق عليها، مع دعم ذلك بآليات لتتبع مصدر المعلومات وتصحيحها. ويجب ألا يتحول إذن محفوظ في الذاكرة إلى صلاحية دائمة، كما ينبغي ألا توجه معرفة تشغيلية قديمة إجراءات جديدة من دون تنبيه.

وسّع نطاق الاستقلالية بالاستناد إلى الأدلة

تعتمد الرقابة الفعالة على أدلة تربط بين الطلب الأصلي، والسياسة المنطبقة، والموافقة، وإصدار الأداة، ونتيجة التنفيذ، والتحقق اللاحق. ويحتاج المراجعون البشريون إلى سياق كافٍ لتقييم التغيير المقترح، وما يكتنفه من عدم يقين، وخيارات استعادته، من دون إغراقهم بتفاصيل لا حاجة إليها. ولدعم هذه الرقابة، ينبغي أن يستند التصعيد إلى شروط محددة، مثل تعارض الملاحظات أو عدم ألفة حالة النظام، بدلًا من الاعتماد حصريًا على مستوى الثقة الذي يعبّر عنه الوكيل.

ينبغي لقادة تقنية المعلومات البدء بسير عمل محدود، ثم توسيع الصلاحيات كلما دعمت الأدلة التشغيلية ذلك، مع قياس النتائج الناجحة إلى جانب الاستثناءات ووقت التعافي ومخالفات السياسات والجهد المبذول في الإشراف. وتساعد هذه المقاييس على تحديد مدى استعداد الوكيل لتحمل مسؤوليات أكبر، والجوانب التي تحتاج إلى مزيد من الضمانات أو الاختبارات.

تتمثل الفرصة في جعل التفويض قابلاً للتكرار، بحيث تحدد كل قدرة معتمدة ما يمكن للوكيل فعله، والظروف التي يمكنه العمل في ظلها، وآليات مساءلته. ويمكن لهذا النهج المنضبط أن يعزز المرونة والكفاءة، وأن يوفر للمؤسسات أساساً يمكنها الاستناد إليه لتبرير منح الوكلاء استقلالية أكبر. والخلاصة الأهم هي أن الحوكمة تستحق مكانها في المنتج لأنها تتيح هذا التدرج.

Casey Kindiger هو المؤسس والرئيس التنفيذي لـ Droma (سابقًا Grokstream)، شركة ذكاء اصطناعي مؤسسية تُطوّر عمليات تنبؤية ووكيلية، ورائد أعمال متسلسل أسس سابقًا شركة Resolve Systems. مع أكثر من 25 عامًا في تكنولوجيا المؤسسات، وعقد من القيادة في فرق البحث التطبيقي في مجال الذكاء الاصطناعي/التعلم الآلي، وماجستير في علم النفس وعلم الأعصاب للصحة النفسية من كلية كينغز في لندن، يقدم منظورًا مميزًا حول كيفية إسهام الإدراك البشري في تطوير أنظمة ذكاء اصطناعي أكثر قدرة وموثوقية.