Sapan Pandya، مهندس برمجيات أول وعضو أول في IEEE – سلسلة مقابلات

Sapan Pandya مهندس برمجيات أول وعضو أول في IEEE، يقيم في نيوجيرسي، ولديه خبرة تزيد على عشر سنوات في أنظمة المعاملات الموزعة المرنة. يشمل عمله سلامة المعاملات، والتكامل بين البرمجيات والأجهزة المادية، واستكشاف مشكلات الإنتاج وإصلاحها، والتحقق من صحة عمليات النشر في البيئات الخاضعة للتنظيم. يحمل درجة الماجستير في علوم الحاسوب من Stevens Institute of Technology، ويسهم في مراجعة الأعمال الأكاديمية والبحوث التقنية.

تتناول أبحاث Pandya الأمن السيبراني للأكشاك، والذكاء الاصطناعي الطرفي، وهندسة الموثوقية بمساعدة الذكاء الاصطناعي، فيما تشكّل خبرته في بيئات الإنتاج أساس تركيزه على الأدلة ونتائج المعاملات والمساءلة التشغيلية. يناقش في هذه المقابلة خاصية عدم التأثر بتكرار الطلب، وتضارب سجلات المعاملات، وحالات عدم اليقين في أنظمة الاسترداد، والضوابط اللازمة قبل السماح لوكلاء الذكاء الاصطناعي بالعمل على بنية تحتية حيوية للمهام بالغة الأهمية. كما يميّز بين الخبرة الهندسية العملية والبحوث التي تُجرى عبر تحليل الأدبيات والاختبارات المضبوطة أو الاصطناعية.

تركّز مسيرتك المهنية على موثوقية البرمجيات وأنظمة المعاملات الموزعة. كيف أثّرت هذه الخبرة في فهمك للموثوقية، وما التحديات التي شكّلت وجهة نظرك بشأن استخدام الذكاء الاصطناعي لإدارة الأنظمة المعقدة؟

انتقل تركيزي من السؤال عمّا إذا كان أحد المكونات يعمل إلى السؤال عمّا إذا كانت معاملة العميل قد اكتملت ويمكن التحقق منها.

في بدايات مسيرتي المهنية، انصبّ اهتمامي إلى حد كبير على سلوك التطبيقات: التحقق من صحة المدخلات، والتعامل مع الاستجابات، والتأكد من أن الواجهة تتبع سير العمل المقصود. ومع اتساع مسؤولياتي لتشمل تكامل الأنظمة، واستكشاف مشكلات الإنتاج وإصلاحها، والتحقق من صحة عمليات النشر، أصبح عليّ النظر إلى ما هو أبعد من المكونات الفردية.

قد تُنهي إحدى الخدمات عملها فيما تظل خدمة أخرى بانتظار التأكيد. وقد يسجل البرنامج نجاح عملية بينما يعجز جهاز مادي عن تقديم النتيجة المتوقعة. واجتياز كل مكوّن للاختبارات لا يثبت، بحد ذاته، أن التفاعل الكامل سيعمل على النحو الصحيح.

دفعتني هذه الخبرة إلى الاهتمام بوجه خاص بالحدود الفاصلة بين الأنظمة. ما الذي يعرفه كل مكوّن؟ وما الذي يفترضه؟ وماذا يحدث عندما لا تعود تلك الافتراضات صحيحة؟

وتؤثر هذه الخبرة أيضًا في طريقة تفكيري بشأن الذكاء الاصطناعي. فمن المفيد حقًا أن يساعد المهندسين على جمع الأدلة، والتعرف على الأنماط، والتحقيق في الأعطال بسرعة أكبر. لكن تفسير ما يُرجّح حدوثه يختلف عن التحقق مما حدث بالفعل.

أريد للذكاء الاصطناعي أن يقلل الجهد اللازم للتحقيق في مشكلة، من دون أن يخفض مستوى الأدلة المطلوبة لحلها.

أكدتَ أن صحة الشفرة من الناحية التقنية لا تضمن دائمًا صحة نتائج المعاملات. هل يمكنك أن تشرح لنا مثالًا ملموسًا تبدو فيه المعاملة وكأنها فشلت بسبب انتهاء المهلة، مع أنها اكتملت بالفعل؟ وما الذي قد يسوء عندما يعيد النظام العملية تلقائيًا، وكيف ينبغي للمهندسين منع تكرار المعاملات؟

لنفترض وجود دفعة افتراضية بقيمة 50 دولارًا. يرسل التطبيق طلبًا، وتسجّله خدمة الدفع بنجاح، لكن الاستجابة تضيع قبل أن تصل إلى التطبيق.

يرى العميل إشعارًا بانتهاء المهلة، رغم أن الدفع قد تم بالفعل. وإذا أرسل التطبيق طلب دفع جديدًا، فقد يخصم المبلغ من العميل مرة أخرى.

يشير انتهاء المهلة إلى أن الاستجابة لم تصل في الوقت المحدد، لكنه لا يخبرك ما إذا كانت المعاملة الأساسية قد نجحت.

من وسائل الحماية الشائعة خاصية عدم التأثر بتكرار الطلب: أي إتاحة إعادة الطلب المنطقي نفسه من دون إحداث أثر مالي إضافي. يحتفظ التطبيق بمعرّف العملية نفسه عند إعادة المحاولة، وتتعرف عليه الخدمة المستقبِلة بوصفه الطلب الأصلي لا عملية شراء جديدة.

ولا يقتصر الأمر المهم على إرفاق معرّف بالطلب؛ إذ يجب على الخدمة فرض استخدام هذا المعرّف والاحتفاظ بمعلومات كافية للتمييز بين عملية مكتملة وأخرى لا تزال قيد التنفيذ. ولا يستطيع المعرّف حماية إجراء لاحق يتجاهله.

عندما تظل النتيجة غير مؤكدة، ينبغي لمسار الاسترداد التحقق من المعاملة القائمة ومطابقة السجلات ذات الصلة، بدلًا من إنشاء معاملة بديلة على الفور.

كما سأضع حدودًا لعدد مرات إعادة المحاولة، وأحدد ما يحدث حين يتعذر على الاسترداد التلقائي التحقق من النتيجة. يحتاج العميل إلى حالة واضحة تفيد بأن العملية معلّقة، وإلى مسار لحلها، لا إلى خصم المبلغ مرارًا أو شاشة معالجة لا تنتهي.

في الأنظمة الموزعة، قد تعرض قاعدة البيانات والخدمة الخلفية والكشك المادي معلومات متضاربة عن المعاملة نفسها. هل صادفت هذا النوع من عدم الاتساق في بيئة الإنتاج؟ وكيف جرى التحقيق فيه وحلّه؟ وما الدور الذي يمكن أن يؤديه الذكاء الاصطناعي، إن وُجد، في التوفيق بين هذه السجلات المتضاربة؟

نعم، كان التحقيق في حالات عدم الاتساق في حالة المعاملات جزءًا من عملي في بيئات الإنتاج. ولشرح طريقة التفكير من دون مناقشة واقعة في مكان العمل، سأستخدم مثالًا افتراضيًا.

لنتأمل جهاز دفع ذاتيًّا عاديًّا. يسجّل نظام الدفع فيه نجاح عملية الشراء، وتفيد الطابعة بأنها قبلت مهمة طباعة الإيصال، ثم تعرض الشاشة رسالة خطأ. وقد تصف هذه الملاحظات مراحل مختلفة من التفاعل، ولا تثبت بالضرورة أن عملية الشراء بأكملها قد فشلت.

سأبدأ بإعادة بناء تسلسل الأحداث باستخدام معرّف المعاملة والسجلات ذات الصلة بالخدمة والجهاز. ثم سأحدد ما الذي تثبته كل ملاحظة. فقبول الطابعة لمهمة طباعة لا يعني بالضرورة أن الإيصال وصل إلى العميل. كما أن استلام طلب لا يثبت بالضرورة أن أثره المالي قد سُجّل.

يتوقف الحل على المرحلة التي فشلت. وقد لا يكون تكرار المعاملة بأكملها مناسبًا إذا كانت المشكلة تتطلب معالجة مرحلة الإخراج وحدها. وإذا لم تكفِ الأدلة المتاحة لتحديد ما حدث، فينبغي إبقاء العملية المعنية خاضعة للضوابط إلى أن يحقق فيها أحدهم.

كما ينبغي أن يعالج التصحيح الدائم سبب إمكان حدوث هذا التناقض، لا أن يقتصر على إصلاح سجل واحد.

يمكن للذكاء الاصطناعي المساعدة في ربط الأحداث وتحديد المعلومات الناقصة. وسأطلب منه عرض التفسيرات المحتملة والأدلة الداعمة لكل منها. وينبغي أن يساعد على تضييق نطاق التحقيق، لا أن يحسم تضارب السجلات باختيار التفسير الذي يبدو الأكثر إقناعًا.

مع انتقال وكلاء الذكاء الاصطناعي من تشخيص حوادث بيئة الإنتاج إلى التوصية بإجراءات الاستعادة أو تنفيذها، ما الضمانات التي ينبغي وضعها قبل تمكين نظام ذكاء اصطناعي من إعادة محاولة معاملة أو عكسها أو تعديلها؟ وكيف يمكن للضوابط الحتمية، مثل مفاتيح منع التكرار وسجلات المعاملات وآليات المطابقة، أن تحول دون تسبب الذكاء الاصطناعي في إخفاقات إضافية؟

سأفصل بين اقتراح الإجراء والتصريح به وتنفيذه.

قد يوصي وكيل ذكاء اصطناعي بإعادة المحاولة، لكن ينبغي لضابط مستقل أن يحدد ما إذا كانت هذه الإعادة مسموحًا بها. وعليه التحقق من الحالة الراهنة للمعاملة، وهوية العملية، وصلاحيات الوكيل، والظروف التي تجعل ذلك الإجراء آمنًا.

ينبغي إجراء هذا التحقق عند تنفيذ الإجراء، لا عند فحص النموذج للحادثة للمرة الأولى فحسب. فقد تكون عملية أخرى قد أتمت المعاملة في هذه الأثناء.

وينبغي أيضًا حصر الأدوات المتاحة للوكيل. فصلاحية الاستعلام عن حالة معاملة تختلف عن صلاحية عكس دفعة أو تعديل سجل مالي. ولا ينبغي أن يتمكن الوكيل من توسيع صلاحياته لمجرد أن الحل الذي يفضله يتطلب وصولًا أوسع.

تحد مفاتيح منع التكرار من الآثار المزدوجة. وتحفظ السجلات السجل التاريخي اللازم للتحقيق. وتتحقق المطابقة من اتساق السجلات ذات الصلة. لكن أيًّا من هذه الضوابط، بمفرده، لا يثبت ملاءمة الإجراء المقترح.

وسأوثق أيضًا الأدلة المستخدمة والتوصية وقرار التصريح والنتيجة الفعلية. وهذا يتيح مراجعة التدخل بعد وقوعه.

ينبغي فرض هذه الضوابط بواسطة برمجيات قابلة للاختبار وخارج النموذج. فالتوجيهات التي تطلب من الوكيل توخي الحذر إرشادات مفيدة، لكنها لا تشكل آلية للتصريح.

لنتأمل سيناريو يكتشف فيه نظام مراقبة قائم على الذكاء الاصطناعي إخفاقًا ظاهرًا في معاملة، ويوصي بعكس العملية تلقائيًا. فإذا كانت المعاملة قد نجحت بالفعل، لكن تأكيدها تأخر، فقد يؤدي هذا التدخل إلى مشكلة جديدة. كيف ينبغي لفرق الهندسة تصميم أنظمة استعادة مدعومة بالذكاء الاصطناعي كي تتعرف إلى مواطن عدم اليقين وتتجنب اتخاذ إجراءات تصحيحية استنادًا إلى معلومات غير مكتملة؟

يحتاج النظام إلى حالة فعلية باسم «النتيجة غير معروفة». وإلا فمن المرجح أن يحوّل نقص المعلومات إلى قرار خاطئ بأن العملية قد فشلت.

إن تأخر التأكيد سبب للتحقيق، وليس سببًا تلقائيًا لعكس معاملة. فالعكس عملية مالية أخرى تترتب عليها عواقبها الخاصة، وتحتاج إلى سبب ثبت على نحو مستقل وإلى التصريح المناسب.

سأقسم الاستجابة إلى مسارين. يتيح مسار التحقيق الاستعلام عن الحالة، وجمع الأحداث الناقصة، ومقارنة السجلات، وإخطار الفريق المسؤول. أما مسار الإجراءات المالية فيظل محظورًا إلى أن تتحقق شروطه.

ويحول ذلك دون أن تحل درجة ثقة الذكاء الاصطناعي محل أدلة المعاملة. فقد يكون النموذج واثقًا جدًا من تفسير بُني على معلومات غير مكتملة.

كما يلزم تحديد نقطة واضحة للتصعيد. فإبقاء معاملة معلقة إلى أجل غير مسمى ليس نتيجة مُرضية للعميل. وينبغي أن يتولى شخص ما مسؤولية الحالة غير المحسومة، وأن تتوافر لديه معلومات كافية لتحديد الخطوة الآمنة التالية.

لذلك ينبغي أن تكون عملية الاستعادة قادرة على قول الأمرين معًا: «لا أستطيع حتى الآن تبرير تغيير هذه المعاملة» و«إليك ما يلزم فعله لحلها».

لا يفيد التعرف إلى عدم اليقين إلا إذا امتلك النظام وسيلة عملية للتعامل معه.

من أكبر الأسئلة المحيطة بالذكاء الاصطناعي المستقل تحديد الحالات التي تظل فيها الموافقة البشرية ضرورية. ما إجراءات التعافي في بيئة الإنتاج التي تعتقد أنه ينبغي السماح للذكاء الاصطناعي بتنفيذها بشكل مستقل، وأيّها ينبغي أن يتطلب دائمًا تفويضًا بشريًا؟ وكيف ينبغي للمؤسسات وضع هذه الحدود عندما تكون المعاملات المالية أو الامتثال التنظيمي أو ثقة العملاء على المحك؟

سأرسم الحد الفاصل بناءً على عواقب الخطأ، لا على ما إذا كان الإجراء مصنفًا على أنه «ذكاء اصطناعي» أم لا.

يُعدّ الاستقصاء بصلاحيات القراءة فقط نقطة بداية معقولة، شريطة ألا يتمكن الوكيل من الوصول إلا إلى المعلومات المصرح بها. ويمكنه جمع السجلات التشخيصية، وتجميع التنبيهات المرتبطة بعضها ببعض، وإعداد ملخص للحادثة، من دون السماح له بتغيير المعاملة الأصلية.

وقد تكون بعض إجراءات التعافي المحددة مسبقًا مناسبة للأتمتة أيضًا، إذا جرى التحقق من شروطها بشكل مستقل وكانت آثارها محدودة.

سأشترط الحصول على تفويض بشري عندما يخرج التدخل المقترح عن إجراء معتمد، أو تتعارض السجلات وتظل النتيجة المالية غير محسومة، أو يغيّر الإجراء ضوابط الأمان أو صلاحيات الوكيل نفسه. فهذه قرارات لا ينبغي للوكيل أن يفوض نفسه باتخاذها.

لا يعني ذلك أن كل عملية مالية روتينية تتطلب موافقة شخص. فالمعالجة القائمة على قواعد راسخة تختلف عن السماح لنموذج بابتكار تصحيح أثناء وقوع حادثة.

ويجب أن تكون المراجعة البشرية ذات مغزى أيضًا. ينبغي أن تعرض شاشة الموافقة الأدلة الداعمة، وما تبقى من أوجه عدم اليقين، والأثر المتوقع، والبدائل المتاحة. أما مطالبة شخص بالموافقة على فقرة واثقة من دون هذا السياق فلا توفر إلا قدرًا ضئيلًا من الحماية.

ينبغي الاتفاق على هذه الحدود قبل النشر. فحدوث انقطاع ليس الوقت المناسب لتقرير مقدار الصلاحيات التي ينبغي أن يتمتع بها نظام مؤتمت.

لقد عملت على نطاق واسع في أنظمة خلفية تتحمل الأعطال، وأدوات قابلية المراقبة، وعمليات التكامل بين خدمات البرمجيات والأجهزة المادية. ما أنواع بيانات القياس عن بُعد والأدلة في بيئة الإنتاج التي يحتاج إليها وكيل ذكاء اصطناعي لتشخيص حادثة على نحو موثوق؟ وكيف يمكن لفرق الهندسة التمييز بين التوصيات المفيدة التي يولدها الذكاء الاصطناعي والاستنتاجات المعقولة ظاهريًا لكنها خاطئة، وقد تؤدي إلى تفاقم الانقطاع؟

سأبدأ بالأدلة التي تربط عملية العميل عبر الأنظمة المعنية: معرّفات المعاملات، وأحداث الخدمات، والتغييرات الدائمة في الحالة، واستجابات الأجهزة، وإخفاقات الاتصالات.

وتهمّ أيضًا إصدارات البرمجيات وتغييرات الإعدادات. فبدء عطل بعد إصدار جديد يمنح المحقق مؤشرًا مفيدًا، لكن التوقيت وحده لا يثبت وجود علاقة سببية.

ويحتاج الوكيل أيضًا إلى فهم حدود الأدلة. فقد تكون السجلات غير مكتملة، أو تتأخر السجلات عن الوصول، أو تختلف الساعات. وعدم ورود إقرار بالاستلام لا يثبت أن العملية لم تحدث.

ينبغي للتشخيص المفيد أن يفصل بين الملاحظات والتفسيرات. «سجّل العميل انتهاء مهلة الانتظار» ملاحظة، أما «لم تكن الخدمة الخلفية متاحة» فهو تفسير يتطلب أدلة إضافية.

أتوقع أن تحدد التوصية السجلات التي تستند إليها، وتوضح ما لا يزال مجهولًا، وتبيّن الفحص الإضافي الذي من شأنه تأكيد استنتاجها أو دحضه.

بعد ذلك، ينبغي للمهندسين التحقق من التوصيات ذات العواقب المهمة بالرجوع إلى السجلات الأصلية، بدلًا من الاعتماد على ملخص الوكيل وحده. ويكتسب ذلك أهمية خاصة عندما يختزل الملخص سجلًا طويلًا للأحداث أو سجلًا تتضارب فيه المعلومات.

المعيار الذي سأعتمده بسيط: هل يستطيع مهندس آخر تتبع الأدلة والتوصل إلى استنتاج يمكن الدفاع عنه؟ إذا لم يصمد التفسير أمام هذا الاختبار، فهو غير جاهز لتوجيه تغيير في بيئة الإنتاج.

في بحثك المنشور حول القدرة على الصمود أمام هجمات الفدية في أكشاك اليانصيب والمراهنات، قيّمت إطارًا أمنيًا مدعومًا بالذكاء الاصطناعي باستخدام بيئة اصطناعية تحاكي 500 كشك. ما أهم النتائج، وما القيود التي ينبغي للقراء إدراكها عند تفسيرها؟ وما التحقق الإضافي اللازم قبل تطبيق البنية المقترحة في بيئة إنتاج فعلية؟

أردت دراسة القدرة على الصمود بما يتجاوز الكشف: كيف يمكن لبيئة المحطات أن تحدّ من الهجوم، وتتعرّف عليه، وتتعافى منه مع الحفاظ على أدلة ما حدث.

جمع إطار الأمن المرن الناتج بين ضوابط وقائية، وكشف للشذوذ مدعوم بالذكاء الاصطناعي، وآليات محددة للاستجابة والتعافي. وانحصر دور مكوّن الذكاء الاصطناعي في كشف السلوك المشبوه. ولم تكن هذه تجربة تسمح فيها لوكيل قائم على نموذج لغوي بتعديل المعاملات المالية بشكل مستقل.

استخدم التقييم بيئة اصطناعية تمثل 500 كشك على مدى محاكاة استمرت 72 ساعة، مع محاكاة سلوكية لهجمات برامج الفدية، لا نشر النظام على 500 محطة فعلية.

مقارنةً بخط الأساس في الدراسة، الذي اقتصر على مضادات الفيروسات، انخفض متوسط زمن الكشف من 52 إلى 31 دقيقة، وانخفض متوسط زمن التعافي من 120 إلى 56 دقيقة.

هذه نتائج الإطار المشترك في ظل الظروف التجريبية. ولا ينبغي نسبتها إلى الذكاء الاصطناعي وحده، أو اعتبارها ضمانًا للأداء في بيئة تشغيل فعلية. ومن النتائج المفيدة أن الكشف المبكر، بمفرده، لم يؤدِّ إلى التحسن نفسه في الاستعادة. وكان لتصميم الاحتواء والاستعادة دور أيضًا.

هذه القيود مهمة. فأحمال العمل المحاكاة، وظروف الشبكة، وسلوكيات الهجوم، والدفاعات الأساسية لا تمثل جميع بيئات التشغيل. وستتطلب الأجهزة والتطبيقات المختلفة عمليات تحقق جديدة.

قبل استخدام النظام في بيئة الإنتاج، سأرغب في اختباره على أجهزة ممثلة للواقع، وإخضاعه لتقييم أمني مستقل، وإجراء تقييمات أطول مدة، وقياس الإنذارات الكاذبة والعبء الناتج عن المعالجة بعناية.

وسأختبر أيضًا عملية الاستعادة في مواجهة نشاط المعاملات المشروعة. فاستعادة صورة برمجية قابلة للتشغيل لا تكفي إذا أدت العملية إلى فقدان المعلومات اللازمة لمحاسبة المعاملات المكتملة.

توفر الدراسة أساسًا لإجراء مزيد من الاختبارات. أما إثبات السلوك الآمن في بيئة تشغيل فعلية، فهو خطوة منفصلة.

تجمع رؤيتك بين سنوات من الخبرة في هندسة أنظمة الإنتاج والبحث الأكاديمي في موثوقية البرمجيات والأمن المدعوم بالذكاء الاصطناعي. هل يمكنك التمييز بين آليات الموثوقية التي نفذتها أو شغّلتها بنفسك في أنظمة إنتاج فعلية، والنهج التي استكشفتها عبر الأبحاث أو الاختبارات المحاكاة؟ وما قدرات الاستعادة المدعومة بالذكاء الاصطناعي التي ترى أنها عملية بالفعل اليوم، وأيها لا يزال في معظمه تجريبيًا؟

شمل عملي في بيئة الإنتاج تطوير البرمجيات ودمجها، والتحقق من المعاملات، واستكشاف المشكلات وإصلاحها، والاختبار، والتحقق من الإصدارات.

تشكل أبحاثي المنشورة جانبًا منفصلًا من عملي، وينبغي فهم كل دراسة في ضوء المنهجيات والقيود التي تذكرها.

تقيّم الورقة البحثية عن برمجيات الفدية إطارًا أمنيًا مقترحًا في بيئة اختبار اصطناعية. أما ورقتي عن الذكاء الاصطناعي الطرفي، فهي تحليل يستند إلى الأدبيات البحثية حول الذكاء على الأجهزة وإمكان تطبيقه على محطات المعاملات. وتتناول مقالتي في IEEE FeedForward بنيةً للموثوقية مدعومة بالذكاء الاصطناعي من خلال محاكاة مضبوطة، تشمل المراقبة والتصعيد والسلوك الاحتياطي.

لا ينبغي اعتبار أي من هذه المنشورات دليلًا على أنني نشرت وكيلًا مستقلًا للذكاء الاصطناعي يتمتع بصلاحية التحكم في معاملات مالية فعلية.

في الاستخدام العملي، سأعطي الأولوية للمساعدة التي يستطيع المهندسون فحصها: ملخصات للحوادث مرتبطة بسجلات المصدر، وربط بين التنبيهات، وفحوصات تشخيصية مقترحة. ومع ذلك، لا بد من قياس مدى فائدتها في البيئة التي ستعمل فيها.

تكمن المشكلة الأصعب في الاستعادة المفتوحة، حيث يختار النموذج التغييرات وينفذها في ظروف لم تكن متوقعة. وهذا يتطلب مستوى من الأدلة أعلى بكثير مما يتطلبه اقتراح تشخيصي مفيد.

أرى أن خبرتي في بيئة الإنتاج وأبحاثي يكمل بعضها بعضًا: فالأولى ترسخ فهمي للمشكلات التشغيلية، بينما تستكشف الثانية نهجًا لا يزال يتعين إثبات جدواه عبر التحقق.

مع تطور قدرات وكلاء الذكاء الاصطناعي على كشف الحالات الشاذة وتشخيص الأعطال وتنسيق الاستعادة عبر الأنظمة الموزعة، كيف تتصور تطور العلاقة بين الأنظمة المستقلة والمهندسين البشريين؟ وما الضمانات التقنية، والأدلة التشغيلية، وآليات المساءلة اللازمة قبل أن تتمكن المؤسسات من منح الذكاء الاصطناعي بثقة صلاحيات أوسع على البنية التحتية الإنتاجية الحيوية لمهامها؟

أتوقع أن يتولى الذكاء الاصطناعي مزيدًا من العمل المتعلق بتجميع صورة متكاملة للحادث. وسيتمكن المهندسون من البدء بخط زمني مفيد، والمكونات المتأثرة، والتفسيرات المحتملة المتنافسة، والأدلة الناقصة، بدلًا من قضاء وقت طويل في جمع هذه المعلومات يدويًا.

وهذا يمنح الأشخاص وقتًا أطول لاتخاذ القرارات التي تتطلب فهم التزامات النظام وعواقب تغييره.

سأوسع صلاحيات التنفيذ تدريجيًا. فيمكن للوكيل أن يعمل أولًا في وضع الظل، مقدّمًا توصيات من دون تنفيذها. ويمكن للفرق مقارنة تلك التوصيات بالنتائج التي خضعت للمراجعة، واختبار سلوك الوكيل عندما تكون المعلومات ناقصة أو متضاربة أو قديمة.

ينبغي أن يشمل التقييم التدخلات الخاطئة، والمشكلات التي لم تُكتشف، والتصعيد غير الضروري، والتعافي من أخطاء الوكيل نفسه. فالتوصية السريعة لا قيمة لها إذا دفعت فريق الاستجابة إلى المسار الخاطئ.

وينبغي أيضًا أن تظل الصلاحيات الأوسع مشروطة. فقد يؤدي تحديث النموذج أو إجراء تغيير كبير في النظام إلى إبطال الاختبارات السابقة. وتحتاج الفرق إلى وسيلة لتقليص صلاحيات الوكيل أو سحبها عندما لا يعود سلوكه مستوفيًا للمعايير المطلوبة.

لا تزول المسؤولية البشرية مع تحسن الأتمتة. فلا بد أن يتولى أحدهم مسؤولية قواعد التشغيل، والأدلة المطلوبة لإجراء أي تغيير، وعملية التحقيق في حالات الإخفاق.

أرى أن المهندسين سيقضون وقتًا أقل في جمع المعلومات، ووقتًا أطول في تحديد الظروف التي تبرر الإجراء الآلي واختبارها وصيانتها.

شكرًا على المقابلة الرائعة. ويمكن للقراء الراغبين في متابعة عمله في موثوقية المعاملات الموزعة والتعافي المسؤول بمساعدة الذكاء الاصطناعي التواصل مع Sapan Pandya.