جايانت سوامي، كبير مهندسي المؤسسات في جينباكت – سلسلة المقابلات

Jayant Swamy، كبير مهندسي المؤسسات في Genpact، هو قائد في مجال التكنولوجيا والبيانات يمتلك أكثر من عقدين من الخبرة التي تغطي هندسة المؤسسات، الذكاء الاصطناعي، هندسة البيانات، تقنيات السحابة، والتحول الرقمي واسع النطاق. قبل انضمامه إلى Genpact في عام 2024، شغل منصب الرئيس التقني (CTO) والمهندس الرئيسي في Xtrac8.Tech وكذلك الرئيس التقني والمؤسس المشارك لشركة ناشئة في مجال الذكاء الاصطناعي تركز على تقنيات تشمل الذكاء الاصطناعي التوليدي والنماذج اللغوية الكبيرة. قضى سوامي أكثر من عقد من الزمن في Accenture، حيث شملت أدواره القيادية الرئيس التقني، القائد العالمي والمدير العالمي لمعهد الذكاء التطبيقي، مدير الأعمال العالمي لقسم البيانات على السحابة، وكبير مهندسي البيانات والقائد العالمي لهندسة البيانات والابتكار في البيانات. في مرحلة سابقة من مسيرته، عمل لأكثر من سبع سنوات في Fannie Mae مشرفًا على مبادرات التكنولوجيا ومعلومات الأعمال المتعلقة بالخدمات وإدارة خسائر الائتمان، بعد عدة سنوات ككبير المسؤولين في Oracle (ORCL ).

Genpact هي شركة عالمية لتكنولوجيا الخدمات التجارية تركز على مساعدة المؤسسات في تحويل العمليات المعقدة عبر الذكاء الاصطناعي، البيانات، ذكاء العمليات، والخبرة المتخصصة. تعود جذور الشركة إلى مبادرة عام 1997 داخل GE Capital، أصبحت مستقلة في 2005، واكتفت بالطرح العام في بورصة نيويورك في 2007. اليوم، تعمل Genpact مع مؤسسات عبر صناعات متعددة بما فيها البنوك، التأمين، التمويل، سلاسل الإمداد، السلع الاستهلاكية، الرعاية الصحية، والتكنولوجيا، مع تركيز متزايد على الذكاء الاصطناعي التوليدي، الأنظمة الوكيلة، الأتمتة، والعمليات المؤسسية المدعومة بالذكاء الاصطناعي.

قادتك مسيرتك المهنية من أدوار هندسة المؤسسات والقيادة في البيانات في Oracle وFannie Mae وAccenture إلى بيئات الشركات الناشئة ومنصبك الحالي ككبير مهندسي المؤسسات في Genpact. كيف شكلت هذه التجربة رؤيتك حول الأماكن التي يضيف فيها استقلالية الذكاء الاصطناعي قيمة حقيقية للمؤسسات وأين يبقى الحكم البشري ضروريًا؟ 

طوال مسيرتي المهنية، تعلمت أن الحجم، الحوكمة، التكامل، والمخاطر لها نفس أهمية الابتكار. تُظهر تجربة المؤسسات أن التكنولوجيا المبهرة لا تزال تفشل إذا لم تستطع العمل داخل المنظمة؛ وتؤكد الشركات الناشئة على قيمة التحرك بسرعة، التجربة، والحفاظ على بنية بسيطة وقابلة للتكيف. يعمل استقلالية الذكاء الاصطناعي بأفضل شكل عندما تُدمج كلا النهجين — الابتكار بسرعة مع الحفاظ على أسس قوية. بهذه الطريقة، يمكن للذكاء الاصطناعي أن يُعيد تشكيل تدفق العمل داخل المنظمة بفعالية. تؤكد نتائج البحث الأخير هذه النقطة بوضوح.

النموذج نفسه هو مجرد جزء واحد من المعادلة. تحدد البنية المحيطة — البيانات، الأنظمة، سير العمل، الضوابط، والتكاملات — ما إذا كان الذكاء الاصطناعي يخلق قيمة على نطاق واسع. هذا ما نعنيه بعبارة “لا ذكاء اصطناعي بدون ذكاء عمليات”. كما أنها الفرضية وراء عملنا في الذكاء الاصطناعي التطبيقي في Genpact Labs، حيث نحول قدرات الذكاء الاصطناعي الناشئة إلى حلول جاهزة للإنتاج ومناسبة للعملاء. كل قدرة مرتبطة بنتيجة تجارية قابلة للقياس ومُدمجة في سير العمل، البيانات، والضوابط اللازمة للتشغيل.

يجب أن يُمنح الذكاء الاصطناعي مساحة للعمل عندما يكون الهدف واضحًا، والبيانات موثوقة، والحدود مفهومة جيدًا. يبقى الحكم البشري ضروريًا للقرارات ذات المخاطر العالية، الغامضة، الذاتية، المنظمة، أو التي تتطلب المساءلة والتعاطف. لا تعني الاستقلالية إقصاء البشر من النظام. بل هي تصميم النظام بحيث يعرف الجميع أين يمكن للذكاء الاصطناعي أن يتصرف بشكل مستقل، وأين يحتاج البشر إلى الرؤية، وأين يجب أن يتولى الحكم البشري.

تقيم العديد من الشركات الذكاء الاصطناعي الموجه للعملاء أساسًا من خلال السرعة، معدلات الاحتواء، وتوفير التكاليف. لماذا يمكن لهذه المقاييس أن تُظهر صورة مضللة حول ما إذا كانت التقنية تحسن فعليًا تجربة العميل؟

المشكلة أن هذه المقاييس تُقَيم أساسًا على الكفاءة. فهي تُظهر لك كيف أدّى النظام، لكن ليس بالضرورة كيف عاش العميل التجربة. خذ مثال الاحتواء: قد يبدو معدل عالي ناجحًا داخليًا، لكنه قد يخفي نتائج سلبية إذا تخلى العميل، كرّر نفسه، تلقى إجابات غير مكتملة، أو لم يتمكن من الوصول إلى شخص عند الحاجة. يُظهر الاحتواء أن الذكاء الاصطناعي أبقى العميل داخل النظام، وليس أنه وفر له ما يحتاجه. وينطبق نفس الأمر على توفير التكاليف، الذي قد يأتي على حساب الثقة، الرضا، أو جودة الحل.

تُحسّن أنظمة الذكاء الاصطناعي وفقًا للإشارات التي تزودها إياها، لذا يجب على المؤسسات تصميم مؤشرات القياس داخل النظام منذ البداية — وربط مقاييس الواجهة الأمامية مثل السرعة والاحتواء بالإشارات اللاحقة مثل حل المشكلة وما إذا كان الناتج يخلق مشكلات في أماكن أخرى. في النهاية، يجب قياس الذكاء الاصطناعي الموجه للعملاء بناءً على ما إذا كان يحل المشكلة الأساسية للمستخدم النهائي بدقة، وعدالة، وبالمستوى المناسب من الدعم البشري.

ما هي الإشارات التي يجب أن يستخدمها وكيل الذكاء الاصطناعي للتعرف على عدم اليقين، الإحباط، العجلة، أو حالة تقع خارج سير العمل المحدد له؟ 

لا توجد إشارة سحرية واحدة — ما يهم هو تزويد النظام بسياق ومراقبة كافية لتعرف متى يصبح ثقته أو سلطته أو معلوماته غير كافية. قد يظهر ذلك كإشارات إلى معلومات متضاربة، محاولات فاشلة متكررة، أو وكيل يدور في دوائر. يمكن أيضًا أن يكون ذلك تغيرًا في لغة العميل — إشارة واضحة على الإحباط أو العجلة — أو أن المهمة نفسها تتطلب معلومات أو وصول أو سلطة لا يمتلكها الوكيل.

يحتاج النظام أيضًا إلى معرفة حدوده الخاصة. إذا وقع أمر خارج سير العمل المصمم له، أو يتطلب بيانات غير متاحة، أو يتجاوز عتبة مخاطر محددة، يجب أن يُفعّل مسارًا مختلفًا. الهدف ليس أن يتعامل الوكيل مع كل سيناريو محتمل — بل أن يعرف متى يتوقف، أو يصعد، أو يطلب المساعدة.

كيف يمكن للشركات التمييز بين تفاعل معقد فقط وتفاعل يتطلب حقًا حكمًا بشريًا أو تعاطفًا؟

الخط الفاصل ليس مدى صعوبة المهمة. بل هو مقدار الحكم، العواقب، والسياق البشري الذي تحمله القرار. إعداد عمليات وكيلة حيث تعالج الآلات وتتحقق البشر يتطلب فهمًا للأماكن التي لا يمكن استبدال القيمة البشرية فيها.

يمكن للذكاء الاصطناعي التعامل مع مهام معقدة جدًا عندما يكون الهدف واضحًا، والبيانات موثوقة، والعملية محددة، والنتائج قابلة للقياس. لا تستلزم التعقيد بحد ذاته تدخلًا بشريًا إذا كان النظام يفهم الحدود التي يُسمح له بالعمل ضمنها. يجب إدخال الإنسان عندما يكون نية العميل غير واضحة، أو تتطلب الحالة تقديرًا، أو توجد نتائج صالحة متعددة، أو يحمل القرار عواقب مالية، قانونية، طبية، أو سمعة كبيرة. بعض التفاعلات تتطلب أيضًا طمأنة، شرح، تفاوض، أو تعاطف — ليس مجرد إجابة. المشاركة البشرية هناك مهمة بقدر الدقة التقنية. يجب أن تعكس البنية هذا التمييز. ينبغي تصميم نقاط التدخل هذه داخل سير العمل مسبقًا، لا أن تُقرر بعد حدوث مشكلة.

كيف يجب أن يبدو عملية التصعيد الفعّالة بحيث لا يضطر العملاء إلى تكرار ما قالوه أو بدء التفاعل من جديد عندما يتولى وكيل بشري المسؤولية؟

التصعيد الجيد لا يقتصر على نقل العميل فقط — بل نقل السياق، بحيث يتمكن الشخص التالي من الانتقال مباشرة نحو الحل. عندما يتولى إنسان المسؤولية، يجب أن يكون لديه بالفعل سجل المحادثة، هوية العميل وملفه، وما جربه الذكاء الاصطناعي — ما يكفي لتجنب طلب بدء العميل من جديد.

هذه مسألة بنية أساسية إلى حد كبير: إذا كان الذكاء الاصطناعي موجودًا فقط في تجربة الدردشة الواجهة الأمامية، منفصلًا عن نظام إدارة علاقات العملاء (CRM)، نظام تخطيط موارد المؤسسة (ERP)، مصادر المعرفة، سير العمل، وطبقة التنسيق، يصبح التحويل السلس مستحيلًا.

هل يجب أن تتغير عتبات التصعيد بناءً على عوامل مثل المخاطر المالية، ضعف العميل، المتطلبات التنظيمية، أو العواقب المحتملة لقرار غير صحيح؟

يجب أن تعتمد قواعد التصعيد على مستوى المخاطرة. كلما زادت عواقب الخطأ، كلما كان من الضروري إشراك إنسان في وقت أقرب.

يمكن تنفيذ إعادة تعيين كلمة المرور بشكل آلي تمامًا، لكن المعاملة المالية المتنازع عليها يجب أن تخضع لضوابط أكثر صرامة. في المطالبات أو التحصيل، قد يعني ذلك استقلالية كاملة لتحديثات الحالة الروتينية، ولكن فحصًا بشريًا إلزاميًا عندما يتجاوز الحالة عتبة مالية أو تظهر علامة صعوبة. كلما كان القرار أكثر تنظيمًا أو عواقبه أكبر، كلما كان الإشراف أقوى. قد يتطلب العميل الضعيف تدخلًا بشريًا مبكرًا، والقرارات ذات العواقب غير القابلة للعكس يجب أن تكون لديها عتبات استقلالية أقل.

لا ينبغي ترك هذه العتبات لتفسير الوكلاء الفرديين في الوقت الفعلي. يجب دمجها في بنية النظام وطبقة التنسيق، مع قواعد واضحة تحدد ما يُسمح للوكيل بالقيام به، وما يتطلب تحققًا إضافيًا، وما يجب تصعيده.

الفرصة هي السماح للستقلالية بالتوسع وفقًا للمخاطر — سرعة كاملة في الأعمال ذات المخاطر المنخفضة، وضبط أكثر صرامة حيث يهم الأمر. في Genpact، قمنا بدمج هذا التصنيف مباشرةً في طريقة تصميمنا لسير العمل الوكيلية — مما يسمح للحالات الروتينية بالعمل بشكل مستقل بينما يتم توجيه أي شيء يتجاوز عتبة مخاطر أو مالية محددة إلى إنسان، تلقائيًا ودون أن يضطر الوكيل إلى اتخاذ قرار التصعيد. الشركات التي تمنح كل تفاعل نفس مستوى الاستقلالية تتحول بسرعة من الراحة إلى أخطاء مكلفة.

بعيدًا عن إكمال المهمة، ما هي المقاييس التي يجب على المؤسسات استخدامها لتقييم ما إذا كان نظام خدمة العملاء المستقل ينتج نتائج إيجابية للعملاء؟

إكمال المهمة مفيد، لكنه بعيد كل البعد عن الكفاية. لا ينبغي أن يكون السؤال “هل أنهى الوكيل المهمة؟” بل “هل انتهى العميل في وضع أفضل؟”. هذا الفرق بين الوعد بالنتيجة والمسؤولية عنها.

هذا يعني النظر إلى ما بعد زمن المعالجة إلى مقاييس مثل دقة الاستجابة، حل المشكلة من أول اتصال، تكرار الاتصالات، جودة التصعيد، رضا العملاء، والعدالة واتساق النتائج. كما يعني القياس بما يتجاوز التفاعل الفردي. قد يبدو الوكيل ناجحًا في جزء من رحلة العميل بينما يخلق مشكلة لاحقًا. على سبيل المثال، قد تُغلق حالة بسرعة لكنها لا تزال تُثير مكالمة أخرى بعد أسابيع، مما يؤثر على شعور العميل وفي النهاية يتطلب معالجة بشرية، لذا من المفيد تتبع ما إذا كانت لا تزال محلولة بعد 30 يومًا.

من المهم أيضًا معرفة ما إذا كان النظام يحل فعليًا الحاجة الأساسية للعميل، بدلاً من إغلاق التفاعل فقط واعتباره نجاحًا. يتطلب ذلك مراقبة شاملة من البداية إلى النهاية عبر سير العمل، وليس مجرد مقاييس من واجهة الذكاء الاصطناعي. قياس نتائج العملاء والأعمال، بدلاً من النشاط، هو ما يكشف عن العائد الحقيقي على الاستثمار للذكاء الاصطناعي.

كيف يمكن للشركات منع وكلاء الذكاء الاصطناعي من تحسين الأهداف التشغيلية، مثل خفض حجم المكالمات أو زمن المعالجة، على حساب العدالة، الثقة، أو احتياجات العميل الأساسية؟

أنظمة الذكاء الاصطناعي جيدة بشكل ملحوظ في تحقيق أي هدف تُعطى إياه. هذه هي الميزة والعيب: إذا أخبرت نظامًا وكيلًا أن السرعة هي الهدف الوحيد، سيتنازل عن كل شيء آخر لتحقيقه.

تحتاج الشركات إلى إعطاء الذكاء الاصطناعي مجموعة متوازنة من الأهداف حيث تكون الكفاءة مهمة، لكنها تُقابل نتائج العملاء، المخاطر، العدالة، الدقة، والثقة. يتحقق ذلك بوضع حواجز واضحة حول السلوك المقبول، اختبار التحيز والنتائج غير المقصودة، الحفاظ على آليات تجاوز بشرية، مراقبة القرارات باستمرار، وجعل المخرجات قابلة للتتبع والتدقيق. لا يمكن أن تكون الحوكمة شيئًا تُضيفه بعد تشغيل النظام؛ يجب دمجها في البنية من البداية.

قد يكون سياق العميل موزعًا عبر محادثات سابقة، معاملات، قنوات، وأنظمة مؤسسية. كيف يمكن للشركات تزويد وكلاء الذكاء الاصطناعي بسياق كافٍ لاتخاذ قرارات أفضل دون خلق مخاطر جديدة في الخصوصية أو الأمان أو الحوكمة؟

الإجابة على مشكلة السياق المتشتت ليست إعطاء وكيل الذكاء الاصطناعي الوصول إلى كل شيء. بل هي منحه وصولًا محكومًا إلى المعلومات الصحيحة في اللحظة المناسبة. تحتاج المؤسسات إلى طبقة بيانات وتكامل قوية تربط الوكلاء بأنظمة السجلات الموثوقة مع التحكم فيما يمكن لكل وكيل رؤيته وفعل ذلك. يشمل ذلك الوصول بناءً على الدور والغاية، الحد الأدنى من البيانات الضرورية، تتبع الأصل، سجلات التدقيق، وحماية المعلومات الحساسة.

المزيد من السياق يحسن قرارات الذكاء الاصطناعي، لكن فقط إذا كان محكومًا. وإلا، قد يؤدي حل مشكلة واحدة إلى مشكلة أكبر في الخصوصية أو الأمان. إذا تم التعامل مع الأمر بشكل جيد، يتراكم السياق مع تعلم النظام من الاستثناءات السابقة، مما يجعل التفاعلات المستقبلية أذكى دون خلق مخاطر جديدة.

مع تزايد استقلالية الذكاء الاصطناعي الموجه للعملاء، كيف تتوقع تطور العلاقة بين وكلاء الذكاء الاصطناعي والموظفين البشر، وما القدرات التي تحتاج المؤسسات إلى بنائها الآن لجعل هذا التعاون ناجحًا؟

سيتحول دور الإنسان تدريجيًا من تنفيذ كل خطوة في العملية إلى توجيه، إشراف، وتحسين نظام الوكلاء الذين يتولون حجم العمل. سيقضي الأشخاص وقتًا أكبر في تحديد الأهداف، معالجة الاستثناءات، ممارسة الحكم، التحقق من القرارات ذات المخاطر العالية، تحسين سير العمل، مراقبة سلوك الوكيل، وتحسين البنية والحوكمة وراء تلك الأنظمة الوكيلة. هذا يغيّر المهارات التي تحتاجها الشركات أيضًا. ستكون إلمامًا بالذكاء الاصطناعي مهمًا، ولكن التفكير النقدي، الخبرة المتخصصة، تنسيق الوكلاء، القدرة على المراقبة، والقدرة على تحدي نظام الذكاء الاصطناعي عندما يبدو شيء ما غير صحيح ستكون كذلك ذات أهمية.

هذه ليست مجرد تحدي للقوى العاملة. تحتاج المؤسسات إلى بنية تدعم هذا التعاون، تربط الوكلاء بالبيانات والأنظمة الصحيحة، تنسق طريقة عملهم معًا، وتمنح الأشخاص رؤية لما يقومون به. يجب تصميم الحوكمة، وتجاوز البشر، والتصعيد من البداية.

في دوري ككبير مهندسي المؤسسات، أرى أنه من واجبي التأكد من أن جميع أفراد المنظمة يعرفون ليس فقط كيفية استخدام الذكاء الاصطناعي، بل متى يثقون به، يطرحون أسئلة حوله، ويتحكمون فيه. بهذه الطريقة، تصبح البنية بوابة للذكاء الاصطناعي المسؤول الذي يعزز الثقة ويحقق تأثيرًا حقيقيًا.

شكرًا على هذه المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد ينبغي عليهم زيارة Genpact.