علي سرافي، الرئيس التنفيذي ومؤسس Kovant – سلسلة المقابلات

علي سرافي، الرئيس التنفيذي ومؤسس Kovant، هو مدير تنفيذي في مجال التكنولوجيا والذكاء الاصطناعي ومقره في ستوكهولم مع سجل في بناء وتوسيع شركات الذكاء الاصطناعي ذات النمو العالي. منذ تأسيس Kovant في أواخر عام 2024، استفاد من الخبرة العميقة في استراتيجية الذكاء الاصطناعي للشركات، وتنفيذ استراتيجية دخول السوق، وتوسيع نطاق العمليات. في وقت سابق، شغل منصب نائب الرئيس للاستراتيجية في Silo AI بعد استحواذ AMD عليه، حيث كان مسؤولاً عن تشكيل استراتيجية الذكاء الاصطناعي للشركات وتحفيز الاستخدام على نطاق واسع. وفي مرحلة سابقة من مسيرته، شارك في تأسيس Combient Mix وقادها خلال نمو سريع حتى استحواذ Silo AI عليها بنجاح. وشغل منذ ذلك الحين أدوارا استشارية وعضويات مجالس إدارة في شركات ناشئة في التعليم والذكاء الاصطناعي، بما يعكس تركيزه المستمر على تحويل الذكاء الاصطناعي المتقدم إلى أثر تجاري ملموس.

Kovant هي شركة ذكاء اصطناعي للشركات تركز على تمكين المنظمات من الانتقال من استخدام الذكاء الاصطناعي التجريبي إلى عمليات أعمال مستقلة وتعمل فعليا بصورة كاملة. تقوم الشركة بتطوير منصة قائمة على الوكيل مصممة لتنسيق فرق من وكلاء الذكاء الاصطناعي عبر مجالات تشغيلية معقدة مثل المشتريات، وسلاسل التوريد، والامتثال، وعمليات العملاء. من خلال التأكيد على النشر الآمن الملائم لمتطلبات الشركات وسرعة تحقيق القيمة، تضع Kovant نفسها كجسر بين الطموح الاستراتيجي للذكاء الاصطناعي والتنفيذ اليومي، مما يساعد المنظمات الكبيرة على دمج الذكاء الاصطناعي مباشرة في تدفقات العمل الأساسية بدلاً من معاملته كأداة مستقلة أو مشروع تجريبي.

لقد قدت مبادرات كبيرة للذكاء الاصطناعي في Spotify، ووسعت وخرجت من Combient Mix، وشكلت فيما بعد استراتيجية الذكاء الاصطناعي للشركات في Silo AI قبل تأسيس Kovant. ما هي الفجوات أو الإحباطات المحددة التي واجهتها في تلك الأدوار التي أقنعتك بأن الوقت مناسب لبناء منصة شركة ذاتية الحكم، وكيف شكل هذا التاريخ فلسفة التصميم الأساسية لـ Kovant؟

عبر الأدوار السابقة، ظهرت بعض الفجوات الثابتة. أولاً، تكون أدوات الذكاء الاصطناعي “الرأسية” محبوسة في حزمة برمجية واحدة: فهي تفعل شيئًا واحدًا بشكل أفضل قليلاً داخل تلك الحدود، لكنها تواجه صعوبات بمجرد أن يحتاج سير العمل إلى الامتداد عبر أنظمة متعددة. في نفس الوقت، تتوزع بيانات الشركات عبر الكثير من الأدوات، ويتعذر على حلول الأتمتة الوصول إليها. أضف إلى ذلك سنوات من التكاملات النقطية وستحصل على هندسة معكرونة كلاسيكية: يزيد التعقيد، ويبطئ التغيير، وتنتهي الفرق بأتمتة خطوات فردية بدلاً من إعادة تخيل سير العمل من البداية إلى النهاية. النتيجة هي أن عائد الاستثمار يصل في كثير من الأحيان ببطء – وأقل – مما تتوقعه المنظمات.

تم تصميم Kovant كاستجابة لهذه الواقعية. فلسفتنا الأساسية هي أن الوكلاء يجب أن يتصرفوا أكثر مثل الموظفين: يعملون عبر أدوات متعددة، يتم “توظيفهم” للقيام بمهام، وليس لأتمتة تسلسل مخطط واحد. هذا هو السبب في أن التكاملات وتنسيق الوكلاء مدمجان في المنصة، ونتوقع أن تكون بيانات الشركات في كثير من الأحيان غير منظمة – تحتاج إلى نهج أكثر إنسانية لمواجهة الاستثناءات والغموض.

نستخدم وكلاء الأساس لتحقيق السرعة والتوسع، مع الحفاظ على سيادة البيانات في المقدمة: يمكن للشركات الوصول إلى بياناتها الخاصة واستخدامها عبر الأنظمة، من دون أن تغادر البيانات مقار الشركات.

تضع Kovant نفسها كمنصة شركة ذاتية الحكم قادرة على تشغيل عمليات وأقسام بأكملها مع وكلاء الذكاء الاصطناعي. كيف تعرف “الذاتي” في سياق شركة، وكيف يختلف هذا عن الأتمتة والأدوات الوكيلية التي تجربها الشركات بالفعل اليوم؟

في سياق شركة، عندما نقول “ذاتي” لا نعني “غير خاضع للإشراف”. نعني أن وكلاء الذكاء الاصطناعي يمكنهم اتخاذ إجراءات حقيقية من البداية إلى النهاية عبر عملية مع أهداف واضحة وحدود، وسيحيلون الأمر إلى البشر عند الحاجة إلى الإشراف.

ما يجعل Kovant مختلفًا هو وكلاؤنا الأساسيون. بدلاً من أتمتة عملية واحدة محددة أو متابعة تسلسل معين، يمكن لوكلاء Kovant العمل كفريق (أو سرب) على عملية باستخدام فقط الإرشادات والمنظور التشغيلي الذي نسميه خطة. لا يتم تصميمهم لمهمة واحدة ضيقة؛ يعملون معًا لحل سير العمل المعقد، ويتكيفون مع التغييرات، وينقلون إلى البشر عند الحاجة إلى الإشراف.

على سبيل المثال، يمكن لفريق وكلاء إدارة المخزون أداء جميع المهام التالية دون إعادة بنائها من الصفر، بما في ذلك التواصل مع الموردين عبر البريد الإلكتروني، ومراقبة مستويات المخزون وإشارات الخروج من المخزون، وتتبع الشحنات وأوامر الشراء، وتحديث الحالات عبر الأنظمة، وإنشاء تذاكر اختلاف للمخططين لإعتمادها، وإعادة توزيع المخزون بين المستودعات، وتوحيد تقارير المخزون.

لذلك التغيير هو بدلاً من “الدردشة والأدوات” أو الأتمتة الهشة التي تنهار عند التوسع، تتحرك الشركات من بناء الوكلاء إلى تشغيلهم على نطاق واسع.

على الرغم من الاهتمام الكبير بالذكاء الاصطناعي الوكيل، لا تزال العديد من المنظمات عالقة في وضع التجربة. من خلال ما تراه في عمليات النشر الفعلية، ما هي الأسباب الرئيسية التي تجعل الشركات تعاني من الانتقال من التجربة إلى الإنتاج واسع النطاق؟

ما نراه هو أن معظم المنظمات لا تعلق في وضع التجربة لأن الفكرة خاطئة؛ بل تعلق لأن البيئة معادية للتوسيع.

المانع الأول هو منظومة التكنولوجيا المتناثرة للشركات. يمتد سير العمل عبر أنظمة متعددة، تعيش البيانات في أماكن متعددة، وتركيب كل شيء معًا بثبات صعب. كما يتم توزيع الذكاء الاصطناعي الوكيل في كثير من الأحيان كإضافة إلى الأدوات الحالية، بدلاً من كونه طريقة لإعادة التفكير في كيفية تشغيل سير العمل من البداية إلى النهاية.

هناك أيضًا مشكلة حقيقية في الهندسة والمعلومات. يحاول العديد من بائعي البرمجيات كالخدمة (SaaS) لا يزالون حبس البيانات، مما يخلق عدم توافق ويحد من ما يمكن للوكلاء فعله عبر الأنظمة. كما يقلل الكثير من الفرق من حقيقة أن معظم بيانات الشركات غير منظمة (البريد الإلكتروني، المستندات، التذاكر، ملفات PDF، سجلات الدردشة). إذا كان نهجك يفترض بيانات منظمة ونظيفة، يصبح الوقت إلى القيمة طويلًا ومؤلمًا وصعبًا للتكرار ما وراء التجربة.

باختصار: التجزئة، وحبس البيانات، والبيانات غير المنظمة تؤدي إلى التأخير – ولا تتحول التجارب إلى إنتاج حتى يتم التصميم لهذه الحقائق.

الموثوقية غالبًا ما تُذكر بوصفها أكبر عائق لتوزيع وكلاء الذكاء الاصطناعي في العالم الحقيقي. لماذا تفشل أنظمة الوكلاء كثيرا عندما يغادر البيئات الخاضعة للرقابة، وكيف يقلل نهج Kovant من مشاكل مثل الهلوسة والسلوك غير المتوقع؟

بعض أنظمة الوكيل تبدو رائعة في العروض التوضيحية، ثم تفشل في العالم الحقيقي لأن البيئة غير منظمة وغير متوقعة. تكون البيانات غير مكتملة أو غير متسقة، وتظهر حالات الحواف باستمرار (الاستردادات، المنازعات، الموافقات الخاصة). يمتد سير العمل عبر أدوات ومنصات وتكاملات تتغير مع مرور الوقت، وتختلف الأذونات. عندما يُطلب من وكيل الذكاء الاصطناعي التعامل مع مهمة كبيرة ويتلقى سياقًا كبيرًا في وقت واحد، يزيد خطر الهلوسة والسلوك الغريب.

يقلل Kovant من ذلك بالتصميم. تقلل هندستنا الفريدة من مساحة المشكلة، ومساحة القرار، والسياق الذي تعمل به النماذج لتقليص الهلوسة. كما نقسم العمليات إلى مهام محددة ضيقة للوكلاء والخطوات. هذا يجعل السلوك أكثر قابلية للتنبؤ، ويضيف قابليات التتبع والتحكم إلى النظام ويمكن إدارة الهلوسة بشكل أفضل. يمكننا رؤية ما فعل كل وكيل، وأين بدأ الفشل، والتدخل أو التدرج عند الحاجة.

لا تختفي الهلوسة بشكل سحري، ولكن من خلال تقييد ما يتحمله كل وكيل ومحدودية السياق التي يمكن أن يعمل عليه، يمكننا تقليل تكرارها والحد من تأثيرها. هذا النهج “المحدود للمهمة / السياق” قد دعمه أيضًا عمل حديث من فريق البحث في Nvidia (NVDA ) ، الذي وجد فوائد مماثلة لتقيد اتخاذ القرار للوكيل.

المساءلة هي قلق كبير مع بدء وكلاء الذكاء الاصطناعي في اتخاذ إجراءات حقيقية في أنظمة الأعمال. كيف يتغير الحوار حول الثقة والامتثال والمخاطر التشغيلية مع سجلات الإجراءات المفصلة؟

مع سجلات الإجراءات المفصلة، يمكننا رؤية ما حدث، ولماذا حدث، وماذا سيحدث بعد ذلك.

تحوّل سجلات الإجراءات المفصلة وكيل الذكاء الاصطناعي من بوت غامض يعمل في الآلة إلى نظام يمكن فحصه.

في Kovant، مع أي توزيع وكيل الذكاء الاصطناعي، سيكون هناك خريطة مخاطر يمكن للمنظمة التصرف عليها، ولدينا خطوات موافقة بشرية للإجراءات الخطرة التي تعني أن الوكلاء يمكنهم أداء تلك المهام فقط إذا راجعها شخص وأقرها. يتم تسجيل كل ذلك بنفس الطريقة التي يتم تسجيلها كنظام سجلات ويمكن تتبعها.

نعتقد أنه من المهم الجمع بين سجلات الإجراءات والإشراف البشري وقابلية الرصد لتقليل المخاطر. هذا يعني أنك لا تزال تحصل على فوائد السرعة والتوسع من الوكلاء الذين يعملون على العمليات الحقيقية.

هناك مناقشة متزايدة حول ما إذا كان يمكن تأمين وكلاء الذكاء الاصطناعي بسبب اتخاذ القرارات غير الشفافة. كيف يساعد جعل سير العمل الوكيلية قابلة للفحص وإعادة التشغيل في معالجة مشكلة “الصندوق الأسود” وفتح الباب للتأمين؟

مشكلة “الصندوق الأسود” هي ما يجعل التأمين صعبًا. إذا لم تستطع إظهار ما فعل الوكيل، ولماذا فعل ذلك، وما هي الضوابط الموجودة، فمن الصعب على أي شخص، وخاصة شركات التأمين، تحديد سعر المخاطر.

نهجنا هو بمثابة امتداد لترتيب المساءلة في الإجابة السابقة. نقسم نطاق القرار وتأثير الإجراءات إلى قطع صغيرة، بحيث لا يتخذ النموذج قرارًا عملاقًا غير شفاف يمكن أن يؤثر على العملية بأكملها. كل خطوة هي أضيق، وأكثر قابلية للتنبؤ، وأسهل للتقييم.

نضيف سجلات الإجراءات المفصلة، والرصد، والإشراف البشري.بالنسبة إلى القرارات الأكثر أهمية والأكثر تأثيرًا، نستخدم حارسًا بشريًا حتى لا يستطيع الوكيل المضي قدمًا إلا بعد المراجعة والموافقة. هذا يخلق رؤية أكبر بكثير حول كيفية سلوك سير العمل في الممارسة.

جعل سير العمل قابلاً للفحص وإعادة التشغيل هو الجزء النهائي. إذا حدث شيء ما، يمكنك إعادة إنتاج ما حدث، والتحقيق بسرعة، وتصديق الإصلاحات، وإظهار مدى تكرار الحاجة إلى الموافقة البشرية ومواقع الضمانات الوقائية. في المصطلحات التأمينية، هذا يتحول من سلوك الذكاء الاصطناعي الغامض إلى شيء أقرب إلى المخاطر التشغيلية القياسية.

مع مبادرات مثل مؤسسة الذكاء الاصطناعي الوكيل التي تهدف إلى إنشاء معايير مشتركة لأنظمة الوكيل، ما هي الجوانب الأكثر وعدًا لهذه الجهود، وأين لا تزال تقع قصيرة بالنسبة للعمليات الحقيقية للشركات؟

التوحيد عمومًا شيء جيد. يمكن لمؤسسة الذكاء الاصطناعي الوكيل (AAIF) القيام بالعمل غير المثير ولكن الأساسي لجعل أنظمة الوكيل تتحدث نفس اللغة، مما يجب أن يجعل التكامل أسهل ويقلل من حبس البائع مع مرور الوقت.

أنا حذر حيث يتم تشكيل المعايير من وجهة نظر من. إذا قاد معظم العمل من قبل منشئي النماذج والشركات الناشئة للتكنولوجيا، فهناك خطر أن “المعايير” تُصاغ بما يناسب ما هو أسهل في البناء أو العرض، بدلاً من ما تحتاجه المنظمات الكبيرة حقًا لتشغيل الوكلاء بأمان يوميًا.

بالنسبة إلى العمليات الحقيقية للشركات، تتعلق الفجوات بدرجة أقل بالموصلات وبدرجة أكبر بالتحكم: ما يمكن للوكيل الوصول إليه وتغييره، ومسارات الموافقة على الإجراءات ذات التأثير الكبير، وسجلات الإجراءات المفصلة، والرصد حتى يمكن للفرق مراقبة السلوك، والتحقيق في الحوادث، وإثبات الامتثال. تحتاج الشركات أيضًا إلى معايير عملية للعمل في الواقع غير المنظم: اختبار الحالات الحدية، وتغيير الأنظمة، والقدرة على إيقاف الإجراءات مؤقتا أو احتواء نطاقها أو التراجع عنها بأمان عبر الأدوات القديمة وبيئات البيانات الخاضعة للتنظيم.

إنه اتجاه واعد، ولكن التأثير سيكون محدودا إذا لم تؤخذ متطلبات الشركات وضوابط المخاطر التشغيلية في الحسبان منذ البداية.

لقد أنتجت Kovant بالفعل إيرادات كبيرة من الشركات النوردية الكبيرة أثناء العمل في الغالب في وضع السرية. ما هي أنواع الوظائف التجارية أو سير العمل التي تثبت أنها أكثر استعدادًا ل وكلاء الذكاء الاصطناعي المستقل اليوم؟

من خلال ما لاحظناه في عمليات النشر الفعلية، فإن سير العمل التي تثبت أنها “جاهزة” اليوم هي تلك المكونة من العمل المكتبي التفاعلي: مراقبة، ومتابعة الأمور المعلقة، ومراجعة، وتحديث الأنظمة، ومراقبة الاستثناءات، وحركة العمليات عبر أدوات متعددة.

في التصنيع وسلاسل التوريد للشركات الأوسع، تظهر هذه عبر:

• المشتريات / الشراء: توافر المواد الخام، والمصادر المستدامة، وعمليات الامتثال، وإدارة الموردين (بما في ذلك التوريد المزدوج / المتعدد)، وإدارة العقود، واختيار الموردين، وإدارة المخاطر، والمناقصات.
• الإنتاج: تخطيط السعة، وجدولة الإنتاج، وإدارة الصيانة، وإدارة الجودة، وادارة العوائق، ومنع الخسائر.
• المستودعات: استلام وتفتيش المخزون، وإدارة المخزون، وتدوير المخزون (FIFO / FEFO)، ومراجعة الدورة / التدقيق.
• النقل / اللوجستيات: اختيار النقل والشحن، ووثائق الجمارك، ومراقبة وتتبع الشحنات، ومراقبة الانبعاثات، وامتثال التجارة.
• المبيعات والخدمة: توافر المنتجات، ومنع نفاد المخزون، وادارة المبيعات والمرتجعات، وتحليل سلوك المستهلك، بالإضافة إلى مجالات ما بعد البيع مثل الإصلاحات، ومراقبة نهاية العمر، وعمليات الورش، والعقود الخدمية.

عندما تنشر الشركات وكلاء الذكاء الاصطناعي عبر عمليات حرجة، كيف توصي بتوازن الاستقلال مع الإشراف البشري لضمان السيطرة دون إبطاء كل شيء؟

التوازن هو الاستقلالية الخاضعة للحوكمة. يجب أن تسمح للوكلاء بالتحرك بسرعة في العمل منخفض المخاطر داخل حدود واضحة، وترفع إلى البشر عند عبور الإجراء عتبة المخاطر المحددة.

الكثير من الفشل يأتي من منح النموذج نطاقًا كبيرًا وسياقًا كبيرًا في وقت واحد. أوصي بتقسيم العمليات إلى قرارات ضيقة ومحددة، حيث تكون لكل خطوة صلاحيات واضحة ونطاق تأثير محدود. هذا يقلل السلوك غير المتوقع، ويجعل الأداء أسهل في المراقبة والتحسين.

ثم تجمع ثلاثة أشياء: الرصد، وسجلات الإجراءات، والإشراف البشري. يجب أن يكون كل ما يفعله الوكيل قابلاً للفحص، حتى نتمكن من التحقيق بسرعة.بالنسبة إلى الإجراءات عالية التأثير أو الخطرة، نضع خطوة موافقة بشرية في سير العمل، بحيث يمكن للوكيل اقتراح وتهيئة، ولكن فقط ينفذ بعد توقيع شخص.

هذا يحافظ على الأمور سريعة الحركة. إذا كان هناك أي شيء يبطئ قليلاً في خطوة الإشراف البشري، فهذا جزء مهم من العملية. البشر ليسوا عالقين في الإشراف على كل نقرة، ولكنهم لا يزالون يتحكمون في اللحظات المهمة. والنتيجة هي السرعة حيث تكون آمنة، والإشراف حيث يكون ضروريا.

نظرًا إلى المستقبل، كيف تتوقع أن يتطور دور وكلاء الذكاء الاصطناعي المستقل داخل المنظمات الكبيرة خلال السنوات القليلة القادمة، وما هي العوامل التي ستفصل الشركات التي تنجح مع الذكاء الاصطناعي الوكيل عن تلك التي تعاني؟

خلال السنوات القليلة القادمة، سيتحرك وكلاء الذكاء الاصطناعي المستقل من التجارب المثيرة للاهتمام إلى أن يصبحوا طبقة تشغيلية حقيقية داخل المنظمات الكبيرة. سيتم استخدامهم للعمليات، وخدمة العملاء، والمالية، و الموارد البشرية. مع تحسن الموثوقية والحوكمة والإشراف، سنرى الشركات تنتقل من مشاريع تجريبية معزولة إلى تشغيل فرق وكلاء عبر سير العمل من البداية إلى النهاية.

أعظم تغيير هو أن السرعة والمرونة والحجم والكفاءة والتكاليف ستصبح عوامل تنافسية أكثر مباشرة. أعتقد أن “حركة Uber” قادمة للشركات. تلك التي تتقن حقًا الذكاء الاصطناعي الوكيل ستتمكن من العمل بسرعة أساسية أعلى من المتأخرين، وستستحوذ على الأسواق بسرعة أكبر، وستستجيب للتغيير دون التأخير التشغيلي المعتاد.

ما يفصل الفائزين ليس فقط توزيع الوكلاء، بل توزيعهم جيدًا. الاستقلالية الخاضعة للحوكمة، وقابلية الرصد القوية، وسجلات الإجراءات، والهندسة التي تضيق نطاق القرار ستكون مفتاح ذلك. الشركات التي تعامل مع الذكاء الاصطناعي الوكيل كقدرة تشغيلية أساسية، مع الضوابط والدمج والملكية الصحيحة، سوف تستخدمه لتفعل المزيد، لا الأقل. هذا سوف يحرر الفرق للتركيز على النمو والابتكار بدلاً من قضاء أيامهم مدفونة في الإدارة. باختصار، السرعة والكفاءة الشديدة تصبح ميزة تنافسية حقيقية على مستوى الشركات.

شكرًا على المقابلة العظيمة، يمكن للقراء الراغبين في معرفة المزيد زيارة Kovant.