الخريطة والقاطرات: بناء هندسة آمنة للذكاء الاصطناعي في الشركات

انتهى الجزء الأول بمطالبة: سوف ينجح الذكاء الاصطناعي في الشركات عندما تتعلم المؤسسات كيفية بناء الحلقة نفسها. هذا المقال عن ما تقوم عليه الحلقة. يعمل وكيل داخل شركة حقيقية يحتاج إلى أمرين لا تملكه الشركة على الأرجح اليوم: خريطة للعمل، وقاطرات للنتائج.

الخريطة

هنا الحقيقة غير المريحة تحت برامج الذكاء الاصطناعي المتوقفة: لا يمكن للشركة أن تمنح الوكيل وصفًا لعملها الخاص، لأن لا وصف كهذا موجود. لدى معظم الشركات خرائط للمفاهيم — قواعد بيانات كاملة من العملاء، الفواتير، المطالبات، العقود. ومع ذلك، لم تخرط معظمها العمل: ما يمكن القيام به لتلك الأشياء، من قبل من، تحت أي ظروف، وماذا يحدث بعد ذلك. تعيش هذه المعرفة في رؤوس الأشخاص ذوي الخبرة وفي مخطط عملية يصف كيف تم تصميم العمل قبل خمس سنوات، وليس كيف يعمل اليوم.

يغلق موظف جديد الخبرة هذا الفجوة من خلال التدريب — المشاهدة، المحاولة، السؤال. لا يتعلم الوكيل بهذه الطريقة. إنه يحتاج إلى العمل مكتوبًا: الأشياء التي تتعامل معها الشركة وأين تقف كل واحدة منها، العمل المنجز عليها، القرارات التي تختار المسار، من الذي يسمح بتحرك الأمور إلى الأمام، وماذا يحدث عندما يفعلون — السجل الذي يتغير، الموافقة التي يحتاجها، الطريقة التي يُعدم بها. هذا الوصف المكتوب هو الخريطة.

توجد ثلاثة قواعد للاحتفاظ بالخريطة. يجب أن تكتبها الأشخاص الذين يملكون العمل ويجعلونها آمنة من قبل المهندسين — خريطة يمكن للمهندسين فقط تحديثها تصبح قديمة، وخريطة يمكن للمشغلين فقط تحريرها تصبح غير آمنة. يجب أن تكون مخططة، لأن الوكيل لا ينبغي أن يتصرف ضد معنى تغير بصمت. ويجب أن تنشر — يمكن قراءتها من قبل الوكيل والمدقق والمحقق على حد سواء. إذا كان الوكيل يحتاج إلى اكتشاف عملك عن طريق خياطة مكالمات API، فقد قمت بتعريض الأنظمة، وليس وصف العمل. API هي كيفية تنفيذ الأشياء. الخريطة هي كيفية فهم العمل.

تكون الخريطة مهمة لسبب يطول أكثر من أي دورة منتج: الوكيل ليس الأصل الثابت. الخريطة هي الأصل. سوف تتحسن النماذج وستُستبدل، وسوف تأتي إطارات الوكيل وتنتهي — والوصف الخاص بعملك، مع قواعده واستثناءاته وتصحيحاته المتراكمة، هو ما يرثه كل وكيل مستقبلي في اليوم الأول.

القاطرات

تخبرنا الخريطة بما قد يحدث. القاطرات هي ما يجعلها تحدث بالضبط.

بعض العمل الذي يلمسه الوكيل هو الحكم: قراءة البريد الإلكتروني غير المحدد، وزن الاستثناء، توصية المسار. لكن معظمها هو تكرار — نفس الفحص، نفس التحديث، نفس النشر، آلاف المرات. التكرار لا يحتاج إلى ذكاء. إنه يحتاج إلى أن يكون دقيقًا. النموذج هو احتمالي بالتصميم، وللتنفيذ، فإن الحق احتمالي خاطئ: لا توجد تباين مقبول للتحديثات الدفعية، بغض النظر عن مدى جودة النموذج. العمل المستقر ينتمي إلى القاطرات — آليات تلقائية محددة تتنفذ بنفس الطريقة كل مرة، وتكلف ничего لكل تشغيل، وترك مسار تدقيق نظيف.

هنا ي расходятся منحنيان. بناء القاطرات يصبح أسهل، لأن وصف العمل وتوليد الكود وكتابة الاختبارات وإصلاح المسارات المعطوبة هو بالضبط نوع العمل الذي يسرع الذكاء الاصطناعي. نشر وكلاء يتنقلون بحرية داخل العمليات ذات النتائج لا يصبح أسهل بنفس المعدل، لأن الوكيل يقترب أكثر من الإجراء، كلما احتاج إلى حدود، أدلة، موافقات، تدقيق، ومالِك. النتيجة صعبة، وتبقى صعبة. دع الوكلاء يكتشفون، ودعهم يساعدون فرقك على تعلم العمل — ثم انقل كل مسار إلى القاطرات بمجرد أن يتوقف عن التغيير. لا تترك عمل مستقر ذا حجم كبير داخل حلقة احتمالية لأن الوكلاء مشهورون.

الحكم بالنتيجة

مع وجود الخريطة والقاطرات في مكانها، تظل سؤال واحد قبل أن يلمس الوكيل العمل الحقيقي: ما الذي ينبغي أن يُسمح له بالقيام به؟ عادة الصناعة هي الإجابة بالصرف — الوكيل “يستخدم أدوات” — كما لو كان النظر في سياسة، أو حساب تباين، أو صياغة خطاب، أو موافقة فاتورة، أو دفعها، نوعًا واحدًا من الأشياء. ليس كذلك. النموذج الذي يبحث عن سياسة ليس نفس النموذج الذي ينكر المطالبة. النموذج الذي يحسب المبلغ ليس نفس النموذج الذي يدفع المبلغ. قراءة المعلومات، اتخاذ موقف، إعداد إجراء، تغيير سجل، وحركة الأموال هي أعمال مختلفة، والفرق هو النتيجة: ما يكلف الشركة عندما يكون الخطأ خطأ.

ينبغي أن يتبع الحكم هذا التدرج، لا الصرف. العمل الذي يقرأ فقط يحتاج إلى تحكم في الوصول. العمل الذي يوصي يحتاج إلى إنسان يقرر فعلا. العمل الذي يغير سجل يحتاج إلى إذن، وسجل تدقيق، وطريقة لإلغائه، ومالك مسمى. العمل الذي يحرك الأموال يحتاج إلى كل ذلك، بالإضافة إلى ضمان أن التغيير غير المكتمل لا يمكن أن يترك الشركة في حالة خاطئة. الحكم بالنتيجة وفتح استخدامات آمنة للذكاء الاصطناعي يفتح بسرعة؛ الحكم بكل شيء بنفس الطريقة، وستحصل على شلل أو حادث.

الثقة تكتسب من خلال سير العمل

هذا التدرج هو أيضًا كيف تنتشر الثقة. مع الخريطة والقاطرات، تتوقف الثقة عن كونها شعورًا حول النموذج وتصبح خاصية من العمل. سير العمل — قطعة عمل واحدة موصوفة، مع بوابته من الجزء الأول — يكسب الإذن خطوة خطوة، صعودًا على نفس التدرج: أولاً يُقترح فقط، ثم قد يوصي، ثم قد يُعد الإجراء الذي يُقرره إنسان، ثم قد ينفذ الحالات الروتينية ويرفع الاستثناءات، وأخيرًا يُشغل تحت التدقيق، مع أشخاص يراقبون النتائج بدلاً من النقر على كل حالة.

كل خطوة لأعلى تكتسب مع أدلة من البوابة — القرارات المفتشية، التصحيحات، الأسباب — وكل خطوة لأسفل تكتسب تلقائيًا عندما تنخفض الأداء. نموذج أفضل لا يكسب حقوق الإجراء.

لا ترفع النموذج. ارفع سير العمل.

ابداً بسير عمل واحد

لا يتطلب أي من هذا برنامجًا على مستوى الشركة، ولا ينبغي أن يبدأ كذلك. اختر سير عمل واحد ذا نتائج حقيقية، وحجم حقيقي، وتكلفة خطأ حقيقية، ومالك يريد إصلاحه. اختر خريطة هذا الجزء من العمل. ضع خطواته المستقرة على القاطرات. ضع بوابته. ثم تحقق من الوصف ضد تسعة أسئلة واضحة:

• ما هي الكائنات التجارية المتحركة?
• أين تقف كل واحدة منها الآن?
• ما هو العمل المنجز?
• ما القرار الذي يختار المسار التالي?
• ماذا يحدث إذا تمت الموافقة على هذا?
• ما الذي يمكن للوكيل استخدامه?
• ما الذي يُشغل تلقائيًا?
• من يُقترح، من يُقرر، من يُنفذ، من هو مسؤول?
• إذا شيء ما пошل خطأ، ماذا يتغير قبل التشغيل التالي?

إذا كان الأشخاص الذين يملكون العمل يمكنهم الإجابة على هذه التسعة أسئلة لسير عمل واحد، فيمكن للوكيل العمل بداخله بأمان — يُقترح، ويُفتش، وتنفذ القاطرات. إذا لم يكنوا قادرين على ذلك، فإن جودة النموذج لن تنقذ النشر.

الفشل قابل للتعرف بنفس القدر الذي هو نمط. بوت محادثة يملك وصولًا إلى أنظمة حساسة دون خريطة للعمل. طبقة استرجاع تُجيب على أسئلة السياسة ولا تُظهر مصدر السياسة. وكيل يمكنه الموافقة على العمل ولا يمكنه أن يقول من يملك الموافقة. مدقق يرى التوصية ولا يرى نتيجة الموافقة. سير عمل تمت ترقيته إلى الاستقلال لأن النموذج تحسن، لا لأن سير العمل كسب الثقة.

الخريطة، القاطرات، والبوابة: هذا هو الهيكل. السؤال المتبقي هو كيف بناء ذلك في سير عمل واحد — وهذا هو الجزء الثالث.