سوشيل كومار، الرئيس التنفيذي لشركة Cyara – سلسلة مقابلات

Sushil Kumar، الرئيس التنفيذي لشركة Cyara هو مدير تنفيذي ذو خبرة في برمجيات المؤسسات ورائد أعمال يمتلك أكثر من 25 سنة من القيادة في مجالات الذكاء الاصطناعي، DevOps، بنية السحابة التحتية، استراتيجية المنتج، واختبار البرمجيات. انضم إلى Cyara كرئيس تنفيذي في ديسمبر 2025، بعد دوره كالمؤسس المشارك والرئيس التنفيذي لشركة RelicX.ai، حيث بنى منصة أتمتة اختبار مدفوعة بالذكاء الاصطناعي التوليدي ومبنية على النوايا والتي تم الاستحواذ عليها من قبل Harness. قاد لاحقًا دمج تقنية RelicX في Harness وساعد في تشكيل استراتيجية أتمتة اختبار الذكاء الاصطناعي. في وقت سابق من مسيرته، شغل كومار منصب مدير عام DevOps في Broadcom، ونائب الرئيس الأول للمنتجات في CA Technologies، وقضى أكثر من 16 سنة في Oracle، حيث شغل مناصب قيادية عليا في المنتجات وساعد في توسيع أعمال برمجيات المؤسسات الكبرى. عبر هذه الأدوار، ركز على بناء وتوسيع منصات الذكاء الاصطناعي، السحابة، DevOps، والأتمتة للمؤسسات الكبيرة. تركيزه في Cyara يتركز على توسيع قدرات الشركة في ضمان تجربة العملاء المدعومة بالذكاء الاصطناعي وتوسيع نطاقها العالمي.

Cyara هي شركة لضمان تجربة العملاء تساعد المؤسسات على اختبار ومراقبة والتحقق من تفاعلات العملاء عبر الصوت، الرقمية، المراسلة، وقنوات الذكاء الاصطناعي الحوارية. تم تصميم منصة Cyara Agentic Platform الخاصة بها لمعالجة التحديات المتزايدة التي تخلقها تجارب العملاء المدفوعة بالذكاء الاصطناعي، بما في ذلك اختبار الوكلاء غير الحتميين، اكتشاف الهلاوس والانحراف السلوكي، التحقق من الامتثال، مراقبة أنظمة الإنتاج، وتقييم رحلات العملاء من الطرف إلى الطرف. تجمع المنصة بين اختبار وكيل الذكاء الاصطناعي، مراقبة الإنتاج، ضمان الصوت والاتصالات، اختبار القنوات الرقمية، ورصد تجربة العملاء (CX)، وتدعم أكثر من 350 مليون رحلة عميل سنويًا عبر تواجد عالمي يمتد إلى أكثر من 140 دولة. مع قيام المؤسسات بنشر وكلاء ذكاء اصطناعي ذاتيًّا بشكل متزايد في سير عمل يواجه العملاء، تضع Cyara تقنيتها كطبقة ضمان لتقييم ما إذا كانت تلك الأنظمة تتصرف بموثوقية، أمان، واتساق قبل وبعد النشر.

قضيت معظم مسيرتك المهنية في بناء وتوسيع برمجيات المؤسسات، من Oracle و CA/Broadcom إلى تأسيس Relicx والآن قيادة Cyara. كيف شكلت هذه التجربة رؤيتك بأن الوكلاء الذكاء الاصطناعي يجب أن يُداروا أقل كبرمجيات تقليدية وأكثر كأعضاء في القوى العاملة؟

قضيت معظم مسيرتي المهنية في بناء وتوسيع برمجيات المؤسسات، وكانت المنهجية التي بنيناها هناك منهجية حول الأنظمة الحتمية. أنت تعرف ما يُفترض أن تفعله البرمجية. تقوم بالتحقق منها وفقًا لتلك التوقعات. عندما تتعطل، تخبرك: خطأ، معاملة فاشلة، تنبيه.

الوكلاء الذكاء الاصطناعي لا يعملون بهذه الطريقة. هم غير حتميين، لذا يمكن لنفس الإدخال أن يتخذ مسارًا مختلفًا. والأهم من ذلك، يمكنهم التصرف نيابة عن الشركة. يلتزمون بما يلي: استرداد الأموال، السياسات، الوعود. وعندما يكون أحد هذه الالتزامات خاطئًا، لا يحدث أي عطل. الإجابة الخاطئة تبدو تمامًا كإجابة صحيحة. تُنجح المعاملة، وتظل لوحة التحكم خضراء، ويغادر العميل وهو يحمل شيئًا لم توافق الشركة عليه أبدًا.

بمجرد أن تتمكن البرمجيات من اتخاذ القرارات والالتزامات، ويمكن أن تكون خاطئة دون إبلاغك، فإنها تحتاج إلى نموذج تشغيل مختلف.

هنا يأتي تشبيه القوى العاملة إلى قيمته. لا تدير موظفًا عن طريق كتابة سكريبت لكل قرار سيتخذه. تمنحه دورًا، وتحدد السلطة المرتبطة به، وتوسع تلك السلطة كلما أظهر كفاءته. يتصرف الوكيل بنفس الطريقة ضمن نفس الهيكل.

رؤيتي هي أن الاستقلالية ليست قرار نشر. إنها سلسلة من الترقيات. يحصل الوكيل على كل ترقية بإثبات أنه قادر على أداء المهمة، يبقى ضمن نطاق سلطته، ويتعرف على متى يحتاج إلى مساعدة.

كيف يبدو نموذج تشغيل “HR-like” للوكلاء الذكاء الاصطناعي داخل المؤسسة، وما هي العناصر التي يجب على الشركات تنفيذها أولاً؟

ابدأ بالوظيفة. يجب أن يكون لكل وكيل ما يشبه وصف الوظيفة قبل أن يقترب من الإنتاج. ما هو الهدف الذي يسعى لتحقيقه، ما هي المعلومات الموثوقة له، ما هي بيانات العملاء التي يمكنه استخدامها، ما هي القرارات التي يمكنه اتخاذها بمفرده، وأين تنتهي مسؤوليته. إذا لم تستطع الشركة كتابة ذلك في فقرة، فإن الوكيل غير جاهز لتولي دور. إنه جاهز فقط للعرض التجريبي.

تنتج عن ذلك الدور أربعة أمور، وترتيبها مهم. الأدلة قبل الإطلاق، مما يعني إثبات قدرة الوكيل على أداء الوظيفة تحت ظروف تشبه الواقع الفعلي بدلاً من اختبار مُتحكم فيه. الإشراف أثناء تشغيله، حتى تعرف ما فعله الوكيل فعليًا وليس فقط ما إذا استجاب النظام. بوابات الترقيات، بحيث تُمنح صلاحيات إضافية عندما تتوفر الأدلة الداعمة وليس قبل ذلك. ومالك في الأعمال، وليس في الهندسة، يكون مسؤولًا عن ما يُسمح لهذا الوكيل بفعله.

إذا أخطأت في الترتيب، فإن باقي الأمور لا تصمد. إذا كانت المسؤولية غامضة، يصبح إثبات الأداء الجيد مستحيلًا، وكذلك إثبات الفشل. يأتي الدور أولاً، ثم تتبع الأدلة.

إذا تم تعيين دور محدد لوكيل ذكاء اصطناعي، كيف ينبغي على المؤسسات تحديد مسؤولياته، أذوناته، وحدوده قبل السماح له بالتفاعل مع العملاء أو الأنظمة الحرجة؟

الدور يوضح ما الغرض من الوكيل. الأذونات تحدد ما يمكنه الوصول إليه. هذان نقاشان مختلفان، وغالبًا ما تقتصر الشركات على الأول فقط.

كن واضحًا بشأن ثلاثة أمور. ما الأنظمة والبيانات التي يمكن للوكيل التعامل معها، وفي أي اتجاه، لأن قراءة سجل العميل وتغييره ليستا نفس الإذن. ما يمكنه الالتزام به بمفرده، وهو المكان الذي تتواجد فيه الأموال والمسؤولية: استرداد، رصيد، استثناء من السياسة. وما الذي يفرض التحويل، سواء الحالات التي يمكنك تسميتها مسبقًا أو الإشارة إلى أن الوكيل تجاوز نطاق كفاءته.

هذه ليست قرارات تُترك لفريق التكنولوجيا. هم الذين يحددون مستوى المخاطرة التي تتحملها الشركة. الأشخاص المسؤولون عن تجربة العملاء والتعرض للامتثال يحتاجون إلى إبداء رأيهم في تحديد هذه الحدود، وعادةً ما يكونون آخر من يُستشار.

بعد ذلك يجب إثبات أن الوكيل يبقى داخل هذه الحدود. الهدف ليس القضاء على كل خطأ محتمل. ستحدث أخطاء. السؤال هو ما إذا كان الوكيل يفهم حدوده، ويعرف متى يتوقف، ويمكنه أداء المهمة الموكلة إليه دون إحداث عواقب في مكان آخر من رحلة العميل.

تجادل بأن الاستقلالية الأكبر يجب أن تُكسب بدلاً من أن تُمنح من البداية. ما الذي يجب أن يثبتّه وكيل الذكاء الاصطناعي قبل أن توسّع المؤسسة نطاق الإجراءات التي يمكنه اتخاذها بشكل مستقل؟

أصبح من السهل الآن بناء وكيل ذكاء اصطناعي. الجزء الصعب هو إثبات أنه يستحق الاستقلالية.

قبل توسيع ما يمكن للوكيل القيام به بمفرده، تحتاج المؤسسة إلى دليل على أنه يؤدي مهمته الموكلة إليه باستمرار ويبقى ضمن حدوده. وهذا يعني كيف يتعامل مع المواقف التي تتوقعها، وكذلك تلك التي لم تتوقعها. قد يبدو الوكيل قويًا في ظروف مراقبة ويتصرف بشكل مختلف عندما يتغير السياق أو الأنظمة المحيطة.

قد يبدأ العميل بسؤال بسيط حول الفوترة ثم يشعر بالإحباط بعد فشل عملية الدفع. يجب على الوكيل التعرف على هذا التحول أثناء حدوثه وتغيير مساره، بدلاً من الاستمرار في الطريق الذي تم التحقق منه.

يجب أن تكون ثلاثة أمور صحيحة قبل توسيع الصلاحيات. يقوم الوكيل بالعمل في ظروف واقعية، وليس فقط في ظروف نظيفة. يعرف حدود كفاءته ويتوقف عندها. ويمكن لأي شخص تقديم الأدلة على ذلك عند الطلب.

يجب أن يتطابق مستوى الدليل مع مستوى الاستقلالية. قرارات صغيرة، أدلة خفيفة. الوصول إلى نظام دفع، أو القدرة على الالتزام باستثناء من سياسة الشركة، يجب أن يكون العتبة أعلى بكثير.

كيف ينبغي على الشركات تقييم أداء وكلاء الذكاء الاصطناعي باستمرار بعد نشرهم، خاصة عندما لا يمكن لمقاييس اختبار البرمجيات التقليدية وحدها التقاط جودة قراراتهم؟

هنا يتعطل التفكير التقليدي في البرمجيات. مع البرمجيات الحتمية تختبر ما إذا كان شيء ما قد نجح أو فشل. مع وكيل ذكاء اصطناعي قد تحصل على استجابة ناجحة من النظام ومع ذلك تكون تجربة العميل فاشلة.

لذا تقيم النتيجة، لا الاستجابة. هل فهم الوكيل ما كان يحاول العميل تحقيقه؟ هل استخدم المعلومات الصحيحة؟ هل أكمل الرحلة؟ هل ظل ضمن حدوده وتصعيد عندما كان يجب أن يفعل ذلك؟

التقييمات الأساسية، التي تقيم الإجابات مقابل مجموعة مرجعية، هي الحد الأدنى. ستحصل على ذلك كل شركة. الأبعاد التي تحدد ما إذا كان العميل سيستمر في الثقة بك هي تلك الموجودة تحت السطح: الامتثال، التحيز، سوء الاستخدام، وكيفية صمود الوكيل مع المتصلين الحقيقيين، لهجاتهم، الضوضاء الخلفية، الهاتف الرخيص، الانقطاع في منتصف الجملة. في الصوت، هذا الأمر أهم مما يتوقعه الناس، لأن كل درجة تُستند إلى نص مكتوب. إذا أخطأ طبقة الكلام في سماع السؤال، يجيب الوكيل على سؤال لم يُطرح.

من المفيد التفكير في الحسابات. درجة 99٪ في التقييم تبدو ممتازة. مع مليون محادثة سنويًا، يعني ذلك عشرة آلاف حالة فاشلة.

مبدآن يثبتان صحتهما. يجب أن تكون عملية التحقق مستقلة عن الوكيل ومنصات النماذج. نحن لا نبني الوكلاء بأنفسنا، وهذا جزء من السبب الذي يجعلني أقول بوضوح أنه لا ينبغي لأي بائع أن يكون الحكم على ذكائه الاصطناعي الخاص. المعيار هو سياسات المؤسسة نفسها، والتزاماتها تجاه العملاء، والتزاماتها التنظيمية، وليس بطاقة تقييم البائع.

ويجب أن يتحول كل فشل في الإنتاج إلى بوابة. ليس تذكرة، ولا عنصرًا في قائمة المتأخرات. اختبار يجب على الوكيل اجتيازه قبل إصدار النسخة التالية. إذا حدثت مشكلة في الإنتاج ولم تتحول إلى شيء يجب على الوكيل اجتيازه، فأنت تدفع لاكتشاف نفس المشكلة مرتين.

يُشار بشكل متزايد إلى الثقة والحوكمة كعقبات رئيسية أمام توسيع نطاق الذكاء الاصطناعي الوكيل. هل تعتقد أن التكنولوجيا تتقدم أسرع من قدرة المؤسسات على الإشراف عليها، وما المخاطر التي يخلقها ذلك؟

أعتقد أن هذا هو بالضبط ما يحدث، والفجوة هي هيكلية وليست نتيجة فشل في الجهد. يمكن للفكرة أن تصبح وكيلًا يواجه العملاء خلال أسابيع. لكن الانضباط التشغيلي حول ذلك الوكيل، والملكية، والأدلة، والرقابة، يستغرق وقتًا أطول بكثير، لأنه يتضمن أشخاصًا ومسؤولية وليس فقط البرمجيات.

الخطر هو أن الفجوة تظل غير مرئية بينما تتسع. يمكن للوكيل أن يقدم للعميل إجابة خاطئة بثقة دون أي خطأ أو معاملة فاشلة أو تنبيه. كل لوحة تحكم تبدو خضراء. تعتمد العمليات التقليدية على أن الأنظمة تخبرك عندما تكون في مشكلة، ولا يقوم الوكلاء بذلك بشكل موثوق.

لا أعتقد أن الجواب هو التباطؤ. الشركات التي ستفوز هنا ستتحرك بسرعة. الجواب هو بناء الأدلة والرقابة التي تتيح لك التحرك بسرعة بثقة. كلما زادت الاستقلالية التي يحصل عليها الوكيل، زادت الأدلة التي تحتاجها لتثبت أنه قادر على تحمل المسؤولية.

عندما يتخذ وكيل مستقل قرارًا سيئًا، من يجب أن يكون المسؤول في النهاية: المطور، وحدة الأعمال التي تنشره، البائع الذي يوفر النموذج، أم التنفيذي الذي وافق على استخدامه؟

في النهاية، الشركة التي تنشر الوكيل هي التي تمتلك النتيجة. هناك عدة أطراف تشارك في بناء وتشغيل النظام، لكن العميل لا علاقة له بمزود النموذج. العميل لديه علاقة مع الشركة التي يظهر اسمها في التفاعل.

هذا لا يعني أن المسؤولية تقع على شخص واحد. إنها تمتد عبر سلسلة اتخاذ القرار. المطور مسؤول عن كيفية بناء النظام. الأعمال تحدد ما يُسمح للوكيل بفعله. البائع مسؤول عن التقنية التي يقدمها. القيادة مسؤولة عن التأكد من أن الشركة لديها الضوابط والرقابة لإدارة المخاطر على الإطلاق.

الخطأ هو التفكير بأنه بما أن النموذج اتخذ القرار، فإن النموذج يملك المسؤولية. هذا غير صحيح. إذا قدم الوكيل التزامًا للعميل نيابةً عنك، فإن هذا الالتزام يعود للعلامة التجارية. العملاء يدركون ذلك غريزيًا، وكذلك المنظمون.

يمكن للوكلاء الذكاء الاصطناعي أن يتصرفوا بشكل غير متوقع عندما يواجهون مواقف لم تُتوقع أثناء الاختبار. كيف ينبغي على المؤسسات اختبار هذه الحالات الحدية قبل أن يُمنح الوكلاء الوصول إلى العملاء أو الأنظمة المالية أو البيانات الحساسة؟

يجب أن تفترض أن الوكيل سيواجه في النهاية شيئًا لم يُصمم من أجله. السؤال هو ما الذي يحدث عندما يحدث ذلك.

لذا يجب التحقق بما يتجاوز المسار المتوقع. قدّم للوكيل طلبات غامضة. قدّم له معلومات متضاربة. قدّم له سياقًا غير كامل. ضعّه في مواقف يكون فيها الجواب الصحيح هو التوقف والتصعيد بدلاً من الاستمرار. أضف ظروف العالم الحقيقي، والتي في الصوت تعني لهجات، وضوضاء، واتصالات ضعيفة، ومتصلين يغيرون الموضوع في منتصف المكالمة. الهدف ليس التأكد من أن الوكيل يعمل. بل اكتشاف كيف يتصرف عندما تكون الظروف غير نظيفة.

النقطة الأكثر أهمية هي أنه يجب التحقق من الرحلة بأكملها، وليس الوكيل بمعزل. عادةً لا تكون المشكلة في النموذج. عندما يحدث خطأ، سؤالي الأول هو ما هو السياق الذي تلقاه النموذج. قد يكون مقال معرفة قديم، أو نظامان يحملان سياسات متضاربة، أو تحويل تم فقدان ما شرحه العميل بالفعل. يمكن لكل مكوّن أن يجتاز اختباره الخاص ولا تزال رحلة العميل تفشل في الفواصل بينهما.

تلك الطبقة بين الأنظمة هي التي قضينا سنوات في تجهيزها، عبر 450 مؤسسة وأكثر من 350 مليون رحلة عميل سنويًا. سواء كان الوكيل ذاتيًا أم لا، فإنه يتعطل بنفس الطريقة. نرى أيضًا وكلاء مبنيين على أكثر من 55 تقنية بائع مختلفة، بالإضافة إلى كل منصة مركز اتصال رئيسية، وهذا ما يجعلنا نعرف أن النمط ثابت بغض النظر عن النموذج الموجود تحته.

قبل أن يحصل الوكيل على وصول إلى شيء مهم، يجب على المؤسسة أن تكون لديها أدلة على ما يفعله عندما تسير الأمور بشكل صحيح وعندما لا تسير.

كيف ترى تطور اختبار الذكاء الاصطناعي مع انتقال الشركات من البرمجيات الحتمية إلى الأنظمة التي تستنتج وتخطط وتتواصل وتتخذ إجراءات عبر تطبيقات متعددة؟

يجب أن ينتقل الاختبار من سؤال ما إذا كان النظام قد أنتج الإجابة المتوقعة إلى سؤال ما إذا كان قد حقق النتيجة الصحيحة.

هذا تحول كبير. قد يتخذ الوكيل عدة مسارات مختلفة لحل نفس مشكلة العميل، ويمكن أن تتغير تلك المسارات مع مرور الوقت مع تغير النماذج والمعرفة التي تدعمها. لا يمكنك كتابة سيناريو لكل تفاعل محتمل. عليك تقييم ما إذا كان الوكيل قد فهم النية، واتخذ قرارات سليمة على طول الطريق، وبقي ضمن الحدود التي حُددت له.

أريد أن أكون حذرًا من شيء واحد، لأن الصناعة بدأت تخطئ ذلك بطريقة مكلفة. الاختبار قبل الإطلاق أصبح أكثر أهمية الآن، وليس أقل. هو ما يحدد ما إذا كان الوكيل جاهزًا. الحجة القائلة بأنه يمكنك تخطيه ومراقبة الإنتاج بدلاً منه هي حجة لاكتشاف الأخطاء أمام العملاء.

ما يتغير هو أن الاختبار قبل الإطلاق لم يعد نهاية العملية. يكشف الإنتاج عن ظروف لا يمكن لبيئة التحكم أن تعيد إنتاجها بالكامل، وما يكشفه الإنتاج يصبح اختبارًا يجب على الوكيل اجتيازه قبل الإصدار التالي. إثبات قبل الإطلاق، اليقظة في الإنتاج، وكل منهما يغذي الآخر. يجب أن يكون الوكيل الذي يعمل في الشهر السادس أفضل قياسياً من ذلك الذي تم إطلاقه.

نظرةً إلى المستقبل، ما الذي سيميز المؤسسات التي تبني بنجاح قوة عمل ذكاء اصطناعي موثوقة عن تلك التي لا تزال عالقة في تشغيل تجارب طيارية صغيرة للذكاء الاصطناعي الوكلي؟

المنظمات التي تحصل على عائد حقيقي من الوكلاء هي تلك التي بنت نموذج تشغيل يعتمد على الأدلة. تلك التي تتعثر عادةً لا تكون محجوبة بالتكنولوجيا. إنها محجوبة لأن لا أحد يستطيع إنتاج ما يتطلبه المستوى التالي من الموافقة. يطرح القسم القانوني سؤالًا معقولًا، أو يفعل ذلك لجنة المخاطر، ولا توجد إجابة، لذا يبقى التجربة مجرد تجربة. قد تكون التكنولوجيا جاهزة ولا تستطيع المنظمة بعد ذلك تبرير منحها مزيدًا من الصلاحية.

هذا هو الفرق بين تجربة تجريبية وقوة عمل تشغيلية. في التجربة التجريبية، يكون هناك دائمًا من يراقب. في نموذج التشغيل، لكل وكيل وظيفة يمكنك التعبير عنها في جملة. صلاحياته محدودة ومكتوبة. يتم تقييم أدائه بواسطة شيء غير الفريق الذي أنشأه. تصبح الأخطاء الإنتاجية بوابات إصدارات. يتبع ذلك مزيد من الاستقلالية بعد إثبات الفعالية.

الفرق الثاني هو الملكية. في الشركات التي تتوسع، ينتمي الوكيل إلى وظيفة الأعمال التي يخدمها، مع مالك مسمى يتحمل مسؤولية ما يفعله. أما إذا ظل مشروعًا للذكاء الاصطناعي مملوكًا لفريق ذكاء اصطناعي، فسيبقى صغيرًا، لأن أي قائد أعمال لن يتحمل مخاطر شيء لا يتحكم فيه.

ليس أيًا من هذا غريبًا. إنه قريب من الطريقة التي تدير بها الشركة بالفعل الأشخاص الذين تثق بهم وتمنحهم مسؤولية حقيقية.

يمكن لتجربة تجريبية أن تُنفّذ بناءً على قناعة المنظمة. يتطلب التوسع وجود أدلة.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Cyara.