وكلاء الذكاء الاصطناعي لديكم يحتاجون إلى أوصاف وظيفية، لا إلى مطالبات أفضل

اسأل أي شركة عمّا يُسمح لمحللة جديدة في الحسابات الدائنة بفعله، وستحصل على إجابة دقيقة. فهي تعمل على هذه الأنظمة، ومع هؤلاء الموردين، وأي مبلغ يتجاوز حدًّا للموافقة، لنقل 10,000 دولار، يُحال إلى مديرها للتوقيع عليه. وهي تخضع لفترة اختبار خلال الأشهر القليلة الأولى. وعادةً ما تُسجَّل كل هذه التفاصيل في جدول تفويض الصلاحيات الذي يراجعه التدقيق الداخلي كل عام.

اسأل الشركة نفسها عمّا يُسمح لوكيل الفواتير الجديد لديها بفعله، وغالبًا ما ستحصل على لقطة شاشة لمطالبة.

تقلقني هذه الفجوة أكثر من أي معيار لقياس أداء النماذج. فنحن نوظّف قوة عاملة رقمية من دون نظام الإدارة الذي أمضينا قرنًا في بنائه للبشر: لا أحد يدوّن صلاحياتها، ولا أحد يختبر حكمها قبل أن تبدأ، ولا أحد تدرّب على إيقافها.

لماذا لا تكفي المطالبة لإنجاز المهمة

تصف المطالبة القصد، وتوضح الغرض من الوكيل. لكنها نادرًا ما تحدد ما يُمنع على الوكيل فعله، أو أين تقف حدوده، أو متى يتعين عليه التوقف وإحالة القرار إلى شخص.

وحتى حين تنص المطالبة على هذه الأمور، لا شيء يضمن تطبيقها. فالسطر الذي يطلب من وكيل ألا يصدر مبالغ مستردة تتجاوز 500 دولار ليس إلا طلبًا موجّهًا إلى نظام احتمالي. لن يوافق أي مدقق على اعتبار «طلبنا من المحللة بلطف» ضابطًا رقابيًا لموظف بشري، لذلك لا أفهم لماذا نقبل به في البرمجيات.

لدى العاملين في الأمن السيبراني اسمٌ لهذه النتيجة بالفعل. وتدرج قائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة الوكالة المفرطة بوصفها خطرًا أساسيًا، ينشأ عن الإفراط في الوظائف أو الصلاحيات أو الاستقلالية. وبعبارة بسيطة، يشبه الأمر تسليم موظف مفاتيح كل شيء منذ يومه الأول. وتبدو إرشادات OWASP كقائمة تحقق لدى مدير جيد: امنح الوكيل الأدوات التي يحتاج إليها فقط، وحدد نطاق صلاحياته، واشترط موافقة بشرية على الإجراءات ذات الأثر الكبير، وطبّق التفويض في الأنظمة اللاحقة بدلًا من الوثوق بالنموذج ليضبط نفسه.

أود التشديد على النقطة الأخيرة. يجب أن يكون التفويض في موضع تنفيذ الإجراء: ضمن هوية الخدمة الخاصة بالوكيل، وصلاحيات أدواته، وسقف الإنفاق عند بوابة واجهة برمجة التطبيقات. إن تشغيل الوكلاء باستخدام حساب خدمة مشترك يشبه أن يتشارك خمسة أشخاص بطاقة دخول واحدة. وعندما يحدث خطأ، يُظهر سجل التدقيق أن حساب الخدمة هو من نفّذه، وتبقى مضطرًا إلى التخمين بشأن الوكيل الذي قام به.

تبدو حالات الإلغاء كمشكلة إدارية

تتوقع Gartner أن يُلغى أكثر من 40% من مشاريع الذكاء الاصطناعي القائم على الوكلاء بحلول نهاية عام 2027، مشيرةً إلى تصاعد التكاليف، وعدم وضوح القيمة التجارية، وقصور ضوابط المخاطر.

يشكل التهويل والمنتجات غير الناضجة جزءًا من هذه القصة. ومع ذلك، حاول قراءة الأسباب الثلاثة من منظور مدير العمليات التنفيذي. تتصاعد التكاليف حين لا يضع أحد ميزانية. وتظل القيمة غير واضحة حين لا يدوّن أحد ما يُفترض أن ينجزه العمل. وتقصر ضوابط المخاطر حين لا توجد حدود أو مراجعات، ولا يوجد شخص يتحمل المسؤولية بوضوح. لا تعرض Gartner الأمر بهذه الطريقة؛ فهذا تفسيري أنا. إنها المشكلة نفسها التي تنشأ حين يُترك الناس يتصرفون بلا نظام إدارة، وهي مشكلة أقدم بكثير من الذكاء الاصطناعي.

ترصد الأطر المشكلة نفسها. إذ يتعامل إطار NIST لإدارة مخاطر الذكاء الاصطناعي مع الحوكمة بوصفها وظيفة تمتد عبر التحديد والقياس والإدارة، ويطبّق ملف الذكاء الاصطناعي التوليدي هذا النهج على الأنظمة التوليدية. لكن ما لا تستطيع الأطر توفيره هو آليات العمل الفعلية: التفويضات والاختبارات والمراجعات التي يطبقها الفريق في يوم عمل عادي. ومن دونها، تظل الحوكمة ملف PDF على محرك أقراص مشترك.

مواءمة أدوات الإدارة التقليدية مع الوكلاء

ابدأ بالوصف الوظيفي، الذي يتحول بالنسبة إلى الوكيل إلى تفويض للصلاحيات. قبل أن يتعامل الوكيل مع نظام فعلي، ينبغي أن يتمكن أحدهم من إعداد صفحة واحدة تحدد ما يُسمح له بفعله، وما يُمنع عليه فعله، والحدود التي تتطلب موافقة، والشخص المسؤول عنه، ومن يحق له توسيع صلاحياته. وفي مصفوفة RACI، يجب أن يكون الطرف المسؤول شخصًا. إذا لم تستطع كتابة تلك الصفحة، فالدور غير جاهز لشغله، وينطبق الأمر نفسه على تعيين موظف بشري.

هناك قاعدتان تقليديتان من قواعد تفويض الصلاحيات تنطبقان مباشرةً على الوكلاء. لا يمكنك تفويض صلاحية لا تملكها، لذا يجب ألا يحصل الوكيل الفرعي على تفويض أوسع من الوكيل الذي أنشأه. وينطبق كذلك مبدأ فصل المهام. فالوكيل الذي يستطيع إنشاء مورد وسداد مستحقاته يثير ملاحظة التدقيق نفسها التي قد يثيرها شخص يقوم بالأمرين.

ثم يأتي اختبار التوظيف. فنحن غالبًا ما نختبر الوكلاء كما نختبر الآلة الحاسبة، بالتحقق من صحة الإجابة. أما اختبار الموظف، فيتحقق مما إذا كان قد التزم بحدود صلاحياته، وطلب الموافقة حين كان ينبغي له ذلك، وصعّد الأمر حين تجاوز الموقف نطاق مهمته، وتوقف حين كان عليه التوقف.

في أبحاثي، أعمل على إعداد معيار قياس يضم 50 سيناريو تتمحور تحديدًا حول هذه الإخفاقات: تجاوز حدود الموافقة، والتصرف استنادًا إلى بيانات قديمة، واتباع تعليمات مُدسّة توسّع نطاق الصلاحيات، والاحتفاظ بإمكانية الوصول بعد تغيير الدور. وحتى الآن، لم أختبره إلا على وكلاء يعملون وفق نصوص برمجية، للتحقق من أن السيناريوهات تتصرف كما صُممت، ولذلك ليس لدي نتائج عن النماذج أبلغ عنها. وما فاجأني أثناء كتابتها هو مدى اعتيادية هذه الحالات. فهي الطرق المألوفة التي يخرج بها الموظفون عن نطاق مهامهم، وقد أُعيدت صياغتها لتناسب البرمجيات. وما زالت معظم لوحات الصدارة العامة تقيس إنجاز المهام، ولا تقيس إلا قلة منها ما إذا كان الوكيل قد احترم صلاحياته.

يمكن ترجمة الاختبار قبل التثبيت والترقية بصورة مباشرة إلى حدٍّ كبير. فعندما يتعلق الأمر بالموظفين، نبدأ بمنحهم نطاق صلاحيات ضيقًا، ثم نوسّعه مع إثباتهم سلامة تقديرهم. ويمكن للوكلاء اكتساب حدود صلاحياتهم بالطريقة نفسها، من خلال سجل يثبت التزامهم بالنطاق المحدد، وحسن تصعيدهم للمسائل، وتوقفهم على نحو سليم؛ ويمكن لهذا السجل بالقدر نفسه أن يبرر تضييق الصلاحيات الممنوحة لهم.

يضيف الوكلاء تعقيدًا لا نجده لدى الموظفين. فعندما يحدّث أحد المورّدين النموذج الأساسي، يصبح لديك عمليًا موظف جديد يحمل الشارة القديمة. سأتعامل مع ذلك بوصفه تغييرًا يستدعي إجراءً، وأعيد الاختبار قبل استمرار الصلاحيات الممنوحة.

يجب التدرب على إنهاء عمل الوكيل قبل الحاجة إلى ذلك. إذا اضطررت إلى إيقاف هذا الوكيل وسحب صلاحيات وصوله خلال الساعة المقبلة، فهل يمكنك ذلك؟ ومن يملك صلاحية اتخاذ هذا القرار عند الثانية صباحًا؟ ما الذي سيتعطل في المراحل اللاحقة، وأي التزامات قيد التنفيذ سيتعين على أحدهم التراجع عنها يدويًا؟ إذا لم يجرِ أحد هذا التدريب، فأنت تأمل أن يعمل مفتاح الإيقاف.

يمكنك محاسبة الموظف. لكن لا يمكنك محاسبة الوكيل عن أي شيء، وهنا ينتهي وجه الشبه. وهذا أيضًا سبب وجوب فرض الصلاحيات الممنوحة من خلال الأنظمة، وضرورة تعيين شخص محدد مسؤول عن كل وكيل. ففي كل الأحوال، سينتهي الأمر بتحميل شخص ما المسؤولية. وغالبًا ما يكون ذلك الشخص هو من وافق، سواء أدرك أنه يوقّع أم لا.

ما الذي سيسأل عنه التحقيق بعد الحادث؟

سيفعل بعض هؤلاء الوكلاء في نهاية المطاف أمورًا لا ينبغي لهم فعلها. وعندما يحدث ذلك، سيسأل التحقيق الذي يلي الحادث الأسئلة نفسها التي يطرحها بالفعل عن الأشخاص. ما الذي كان مسموحًا له بفعله، وأين كُتب ذلك؟ من وافق على توسيع صلاحيات وصوله؟ وكم استغرق إيقافه؟ ومن كان مسؤولًا عنه؟

إذا كانت الإجابات الصادقة هي «تعليمة»، و«لا أحد يتذكر»، و«ساعات»، و«غير واضح»، لما أنقذك نموذج أفضل.

أين تكمن الأفضلية؟

أصبحت النماذج مدخلات مستأجرة، تُستبدل وتُحدّث وفق جدول المورّد. ويمكن لشركتين تشغيل النموذج نفسه، ومع ذلك ينتهي بهما الأمر إلى نتائج مختلفة تمامًا. لدى إحداهما وكلاء بميزانيات وحدود ومسؤولين عنهم، وسجل تدقيق لكل إجراء ذي تبعات؛ أما الأخرى فلديها مشروع تجريبي مكلف يتجه نحو إحصاءات الإلغاء لدى جهة ما.

يكمن الاختلاف في نظام الإدارة المحيط بالنموذج. ويُبنى هذا النظام ببطء، في الغالب على أيدي أشخاص سبق لهم إدارة مؤسسات.

إذا تجاوز أحدث وكلائك صلاحياته غدًا، فهل ستلاحظ أي جهة في شركتك ذلك؟ وهل يمكنك أن تبيّن لمدقق، كتابةً، أين كان الحد الفاصل؟