علي سرافي، الرئيس التنفيذي ومؤسس Kovant – سلسلة المقابلات

علي سرافي، الرئيس التنفيذي ومؤسس Kovant، هو مسؤول تنفيذي في مجال التكنولوجيا والذكاء الاصطناعي المخضرم ومقره ستوكهولم مع سجل حافل في بناء وتوسيع شركات الذكاء الاصطناعي ذات النمو العالي. منذ تأسيس Kovant في أواخر عام 2024، استفاد من الخبرة العميقة في استراتيجية الذكاء الاصطناعي للشركات وتحقيق خطة التسويق والتنفيذ التشغيلي للتوسيع. في وقت سابق، شغل منصب نائب الرئيس لل استراتيجية في Silo AI بعد استحواذ AMD عليه، حيث كان مسؤولاً عن تشكيل استراتيجية الذكاء الاصطناعي للشركات وتحفيز الاستخدام على نطاق واسع. في وقت مبكر من مسيرته المهنية، شارك في تأسيس Combient Mix، وقاد الشركة من خلال نمو سريع واكتساب ناجح من قبل Silo AI، ومنذ ذلك الحين شغل مناصب استشارية ومراقبة عبر مؤسسات التعليم والشركات الناشئة في مجال الذكاء الاصطناعي، مما يعكس التركيز المستمر على ترجمة الذكاء الاصطناعي المتقدم إلى تأثير تجاري حقيقي.

Kovant هي شركة ذكاء اصطناعي للشركات تركز على تمكين المنظمات من الانتقال من استخدام الذكاء الاصطناعي التجريبي إلى عمليات أعمال ذاتية التشغيل بالكامل. تقوم الشركة بتطوير منصة قائمة على الوكيل المصمم لتنسيق فرق من وكلاء الذكاء الاصطناعي عبر مجالات تشغيلية معقدة مثل المشتريات وسلاسل التوريد والامتثال وعمليات العملاء. من خلال التأكيد على التطبيق الآمن من الدرجة المؤسسية ووقت القيمة السريع، تضع Kovant نفسها كجسر بين الطموح الاستراتيجي للذكاء الاصطناعي وتنفيذ اليوم لليوم، مما يساعد المنظمات الكبيرة على دمج الذكاء الاصطناعي مباشرة في تدفقات العمل الأساسية بدلاً من معاملته كأداة منفصلة أو مشروع تجريبي.

لقد قادت مبادرات كبيرة في مجال الذكاء الاصطناعي في Spotify، ووسعت وخرجت من Combient Mix، وأشرفت لاحقاً على استراتيجية الذكاء الاصطناعي للشركات في Silo AI قبل تأسيس Kovant. ما هي الفجوات أو الإحباطات المحددة التي واجهتها في تلك الأدوار التي أقنعتك بأن الوقت قد حان لبناء منصة مؤسسية ذاتية التشغيل، وكيف ساهمت تلك التاريخ في تشكيل فلسفة التصميم الأساسية لشركة Kovant؟

على مدار الأدوار السابقة، ظهرت بعض الفجوات المتسقة. أولاً، معظم أدوات الذكاء الاصطناعي “الرأسية” محاصرة في حزمة برمجية واحدة: تفعل شيئاً واحدًا بشكل أفضل داخل تلك الحدود، لكنها تعاني في اللحظة التي يحتاج فيها تدفق العمل إلى跨 نظام متعددة. وفي الوقت نفسه، تنتشر بيانات الشركات عبر العديد من الأدوات، وغالبًا ما لا تستطيع حلول التأتمتة الوصول إليها. أضف إلى ذلك سنوات من التكاملات النقطية وتحصل على هيكل معماري من نوع “اسبياغيتي”: يزداد التعقيد، ويبطئ التغيير، وتنتهي الفرق بهم بتأتمتة خطوات فردية بدلاً من إعادة تصور التدفق العمل من النهاية إلى النهاية. النتيجة هي أن عائد الاستثمار يصل في كثير من الأحيان ببطء – وأصغر – مما تتوقعه المنظمات.

تم تصميم Kovant كاستجابة لهذه الواقعية. فلسفتنا الأساسية هي أن الوكلاء يجب أن يتصرفوا أكثر مثل الموظفين: يعملون عبر أدوات متعددة، يتم “توظيفهم” للقيام بالمهام، وليس فقط لتأتمتة تسلسل مخطط واحد. هذا هو السبب في أن التكاملات وتنسيق الوكلاء يتم بناؤهم، ونفترض أن بيانات الشركات غالبًا ما تكون غير منظمة وغامضة – تحتاج إلى نهج أكثر إنسانية لمعالجة الاستثناءات والغموض.

نستخدم وكلاء الأساس لتحقيق السرعة والتنسيق، مع الحفاظ على سيادة البيانات في المقدمة: يمكن للشركات الوصول إلى استخدام بياناتها الخاصة أفقيًا دون مغادرة مقرها.

تضع Kovant نفسها كمنصة مؤسسية ذاتية التشغيل قادرة على تشغيل عمليات و إدارات كاملة مع وكلاء الذكاء الاصطناعي. كيف تعرف “الذاتي” في سياق المؤسسة، وكيف يختلف هذا عن أدوات التأتمتة والوكيل التي تجربها الشركات بالفعل اليوم؟

في سياق المؤسسة، عندما نقول “ذاتي” لا نعني “غير خاضع للإشراف”. نعني أن وكلاء الذكاء الاصطناعي يمكنهم اتخاذ إجراءات حقيقية من النهاية إلى النهاية عبر عملية مع أهداف واضحة وحدود آمنة، وسيتم تسليمها إلى البشر عند الحاجة إلى الإشراف.

ما يجعل Kovant مختلفًا هو وكلاؤنا الأساسيون. بدلاً من تأتمتة عملية واحدة محددة أو اتباع تسلسل معين، يمكن لوكلاء Kovant العمل كفريق (أو سرب) على عملية باستخدام التعليمات والمنظور التشغيلي الذي نسميه مخططًا. لا يتم تصميمهم لمهمة واحدة ضيقة؛ يعملون معًا لحل تدفقات العمل المعقدة، ويتكيفون مع التغييرات، وينقلون إلى الأشخاص عند الحاجة إلى الإشراف.

على سبيل المثال، يمكن لفريق وكلاء إدارة المخزون أداء جميع المهام التالية دون إعادة بنائها من الصفر، بما في ذلك: التواصل مع الموردين عبر البريد الإلكتروني، ومراقبة مستويات المخزون وإشارات النفاد، وتتبع الشحنات وأوامر الشراء، وتنقيح الحالات عبر الأنظمة، وإنشاء تذاكر عدم مطابقة للمخططين لتمكين المخزون، وإعادة توزيع المخزون بين المستودعات، ودمج تقارير المخزون.

لذلك، التغيير هو بدلاً من “المحادثة والأدوات” أو التأتمتات الهشة التي تنكسر عند التوسع، تتحرك المنظمات من بناء الوكلاء إلى تشغيلهم بمقياس.

على الرغم من الاهتمام الكبير بالذكاء الاصطناعي الوكيل، لا تزال العديد من المنظمات عالقة في وضع التجربة. من ما تراه في التوزيعات الفعلية، ما هي الأسباب الرئيسية التي تعاني منها الشركات في الانتقال من التجربة إلى الإنتاج الممتد؟

ما نراه هو أن معظم المنظمات لا تعلق في وضع التجربة لأن الفكرة خاطئة؛ تعلق لأن البيئة معادية للتوسيع.

العامل الحاسم الأول هو المنظر التكنولوجي المتناثر للمؤسسة. يمتد التدفقات عبر العديد من الأنظمة، وتعيش البيانات في أماكن متعددة، وغالبًا ما يكون تثبيت كل شيء معًا بشكل موثوق به صعبًا. والذكاء الاصطناعي الوكيل غالبًا ما يتم توزيعه كإضافة إلى الأدوات الحالية، بدلاً من كونه وسيلة لإعادة التفكير في كيفية تشغيل التدفق العمل من النهاية إلى النهاية.

هناك أيضًا مشكلة حقيقية في الهيكل المعماري والبيانات. لا يزال العديد من مزودي البرامج كخدمة يحاولون قفل البيانات، مما يخلق عدم توافق وحدود ما يمكن للوكلاء فعله عبر الأنظمة. وتقلل العديد من الفرق من حقيقة أن معظم بيانات المؤسسة غير منظمة (البريد الإلكتروني، المستندات، التذاكر، ملفات PDF، سجلات الدردشة). إذا افترض نهجك بيانات نظيفة ومنظمة، يصبح وقت القيمة طويلًا وألميًا وصعبًا للتكرار ما وراء التجربة.

باختصار: التجزئة، وقفل البيانات، وخلق سحب – ولا تتحول التجارب إلى إنتاج حتى يتم تصميم هذه الحقائق.

يتم الاستشهاد بالموثوقية غالبًا كأعظم عائق لتحميل وكلاء الذكاء الاصطناعي في العالم الحقيقي. لماذا يفشل نظام الوكيل इतनًا عند مغادرة البيئات الخاضعة للرقابة، وكيف يقلل نهج Kovant من مشاكل مثل الهلوسة والسلوك غير المتوقع؟

بعض أنظمة الوكيل تبدو رائعة في العروض التوضيحية، ثم تفشل في العالم الحقيقي لأن البيئة غير متوقعة. البيانات غير مكتملة أو غير متسقة، وتظهر حالات الحواف بشكل دائم (الاسترداد، النزاع، الموافقة الخاصة). يمتد التدفقات عبر أدوات و منصات وتكاملات تتغير مع مرور الوقت، وتختلف الأذونات. عندما يُطلب من وكيل الذكاء الاصطناعي التعامل مع مهمة كبيرة ويتحصل على سياق كبير في وقت واحد، يزيد خطر الهلوسة والسلوك الغريب.

يقلل Kovant من ذلك بتصميمه. ي缩ص هيكلنا الفريد مساحة المشكلة، ومساحة القرار، والسياق الذي يعمل به النماذج لخفض الهلوسة. كما نقسم العمليات إلى مهام محددة ضيقة لفرد الوكلاء والخطوات. هذا يجعل السلوك أكثر قابلية للتنبؤ، ويضيف قابليات التتبع والتحكم في النظام ويمكن إدارة الهلوسة بشكل أفضل. يمكننا رؤية ما فعل كل وكيل، وأين بدأت الفشل، والتدخل أو التدرج عند الحاجة.

الهلوسة لا تختفي سحريًا، ولكن من خلال تقييد ما هو مسؤول كل وكيل عنه، وتنقيح السياق الذي يمكنه العمل عليه، يمكننا تقليل تواترها وحدود تأثيرها. هذا النهج “المهمة الضيقة / السياق” قد دعمه أيضًا العمل الأخير من فريق البحث في Nvidia، الذي وجد فوائد مماثلة من تقييد اتخاذ القرار للوكيل.

المساءلة هي قلق كبير عند开始 وكلاء الذكاء الاصطناعي في اتخاذ إجراءات حقيقية في أنظمة الأعمال. كيف تغير سجلات الإجراءات المحددة حول الثقة والامتثال والمخاطر التشغيلية؟

سجلات الإجراءات المحددة تتيح لنا رؤية ما حدث، ولماذا حدث، وما سيحدث بعد ذلك.

تسجيلات الإجراءات المحددة تحول الوكيل من بوت غامض يعمل في الآلة إلى نظام يمكن فحصه.

في Kovant، مع أي توزيع لوكيل الذكاء الاصطناعي، سيكون هناك خريطة مخاطر يمكن للمنظمة أن تعمل عليها، ولدينا حارس البوابة البشري للactions الخطرة التي تعني أن الوكلاء يمكنهم أداء تلك المهام فقط إذا راجعها شخص ما ووافق على القرار. كل هذه يتم تسجيلها بنفس الطريقة التي يتم تسجيل نظام السجلات بها، ويمكن تتبعها.

نعتقد أنه من المهم الجمع بين سجلات الإجراءات والرقابة البشرية والمراقبة لتقليل المخاطر. هذا يعني أنك لا تزال تحصل على فوائد السرعة والتنسيق لوكلاء يعملون في عمليات حقيقية.

هناك مناقشة متزايدة حول ما إذا كان يمكن تأمين وكلاء الذكاء الاصطناعي بسبب اتخاذ القرارات غير الشفافة. كيف يساعد جعل تدفقات العمل الوكيل قابلة للفحص ويمكن إعادة تشغيلها في معالجة مشكلة “الصندوق الأسود” وفتح الباب لضمان التأمين؟

مشكلة “الصندوق الأسود” هي ما يجعل التأمين صعبًا. إذا لم تكن قادرًا على إظهار ما فعل الوكيل، ولماذا فعل ذلك، وما هي التحكمات الموجودة، فمن الصعب على أي شخص، وخاصة المؤمنين، تحديد سعر المخاطر.

نهجنا هو بمثابة امتداد لإعداد المساءلة في الإجابة السابقة. نقسم نطاق القرار وتأثير الإجراءات إلى قطع أصغر، بحيث لا يتخذ النموذج قرارًا واحدًا كبيرًا وغامضًا يمكن أن يؤثر على toàn العملية. كل خطوة أضيق، وأكثر قابلية للتقييم.

ثم نضيف سجلات محددة، ومراقبة، ومراقبة بشرية. لأهم القرارات وأكثرها تأثيرًا، نستخدم حارسًا بشريًا حتى لا يستطيع الوكيل المضي قدمًا إلا بعد المراجعة والموافقة. هذا يخلق رؤية أكبر في كيفية سلوك التدفق العمل في الممارسة.

جعل تدفقات العمل قابلة للفحص ويمكن إعادة تشغيلها هو الجزء النهائي. إذا حدث خطأ، يمكنك إعادة إنتاج ما حدث، والتحقيق بسرعة، واعتماد الإصلاحات، وتبين مدى تكرار الموافقة البشرية، وأين تقع الحماية. في المصطلحات التأمينية، هذا يتحول من سلوك الذكاء الاصطناعي الغامض إلى شيء أقرب إلى المخاطر التشغيلية العادية.

مع مبادرات مثل مؤسسة الذكاء الاصطناعي الوكيل التي تهدف إلى إنشاء معايير مشتركة لأنظمة الوكيل، ما هي الجوانب الأكثر وعدًا من هذه الجهود، وأين لا تزال تقصر عن عمليات المؤسسة الفعلية؟

التوحيد هو بشكل عام شيء جيد. يمكن لمؤسسة الذكاء الاصطناعي الوكيل القيام بالعمل غير المثير الذي ي consist في جعل أنظمة الوكيل تتحدث نفس اللغة، مما يجب أن يجعل التكامل أسهل ويقلل من قفل البائع مع مرور الوقت.

أنا حذر حيث يأتي المنظور الذي يؤثر على المعايير. إذا قاد معظم العمل بواسطة مبتكري النماذج والشركات الناشئة التكنولوجية، فهناك خطر أن “المعايير” تختار ما هو أسهل في البناء أو العرض، بدلاً من ما تحتاجه المنظمات الكبيرة حقًا لتشغيل الوكلاء بأمان يوميًا.

للمؤسسات الفعلية، تتمثل الفجوات في الغالب في التحكم، وليس في الموصلات: ما يمكن للوكيل الوصول إليه وتغييره، وعمليات الموافقة للإجراءات ذات التأثير الكبير، وسجلات الإجراءات، ومراقبة الفرق لمراقبة السلوك، والتحقيق في الحوادث، وبرهنة الامتثال. تحتاج المؤسسات أيضًا إلى معايير عملية للعمل في الواقع الغير منظم: اختبار الحالات الحدية، وتغيير الأنظمة، وتمكين إيقاف أو عكس الإجراءات بأمان عبر أدوات موروثة وبيئات بيانات خاضعة للتنظيم.

لذلك، هذا اتجاه واعد، لكن التأثير سيكون محدودًا ما لم يتم التعامل مع متطلبات المؤسسة وضوابط المخاطر التشغيلية كأمر ثانوي.

لقد أنتجت Kovant بالفعل إيرادات كبيرة من الشركات الكبيرة في الشمال بينما تعمل في الغالب في وضع السرية. ما هي أنواع الوظائف التجارية أو التدفقات التي تثبت أنها أكثر استعدادًا لوكلاء الذكاء الاصطناعي المستقل اليوم؟

من ما لاحظناه في التوزيعات الفعلية، التدفقات التي تثبت أنها “جاهزة” اليوم هي تلك المكونة من العمل البيئي التفاعلي: مراقبة، ومطاردة، ومراجعة، وتنقيح الأنظمة، ومراقبة الاستثناءات، وضمان استمرار العمليات عبر أدوات متعددة.

في التصنيع وسلاسل التوريد الموسعة للمؤسسة، يظهر ذلك عبر:

• المشتريات / التوريد: توافر المواد الخام، والمصادر المستدامة، وعمليات الامتثال، واختيار الموردين (بما في ذلك التوريد المزدوج / المتعدد)، وإدارة العقود، وإدارة المخاطر للموردين، والمناقصات / إدارة العطاءات.
• التصنيع: تخطيط السعة، وتحديد جدول الإنتاج، وإدارة الصيانة، وإدارة الجودة، وإدارة العوائق، ومنع الخسارة.
• التخزين: استلام وتفتيش المخزون، وإدارة المخزون، وتدوير المخزون (FIFO / FEFO)، ومراجعة المخزون / التدقيق.
• النقل / اللوجستيات: اختيار الوضع واختيار الناقل، وإجراءات الجمارك / الوثائق، وتتبع ومراقبة الرؤية، ومراقبة الانبعاثات، وامتثال التجارة.
• المبيعات والخدمة: توافر المنتج، ومنع نفاد المخزون، وإدارة المبيعات / الإرجاع، وتحليل سلوك المستهلك، بالإضافة إلى مناطق ما بعد البيع مثل الإصلاح، وتتبع نهاية العمر، وعمليات ورشة العمل، وعقود الخدمة.

عندما تعمل المنظمات لوكلاء الذكاء الاصطناعي عبر العمليات الحيوية، كيف تُنصح بتوازن الاستقلالية مع الإشراف البشري لضمان التحكم دون إبطاء كل شيء؟

التوازن يتمحور حول الحكم الذاتي. يجب أن تتيح لوكلاء العمل بسرعة على العمل منخفض الخطورة في حدود واضحة، وتسليمها إلى البشر عند عبور الإجراء عتبة خطورة محددة.

الكثير من الفشل يأتي من منح النموذج نطاقًا كبيرًا جدًا وسياقًا في وقت واحد. أوصي بتقسيم العمليات إلى قرارات ضيقة، حيث لكل خطوة أذونات واضحة ونطاق تأثير محدود. هذا يقلل من السلوك غير المتوقع، ويجعل الأداء أسهل في المراقبة والتحسين.

ثم تجمع ثلاثة أشياء: المراقبة، وسجلات الإجراءات، والمراقبة البشرية. يجب أن يكون كل ما يفعله الوكيل قابلاً للتتبع، بحيث يمكن فحص ما حدث والتحقيق بسرعة. للإجراءات ذات التأثير الكبير أو الخطورة، تضع خطوة موافقة بشرية في التدفق العمل، بحيث يمكن للوكيل اقتراح التحضير، ولكن التنفيذ فقط بعد توقيع شخص ما.

هذا يحافظ على الأمور المتحركة بسرعة. إذا كان هناك أي شيء، فإنه يبطئ قليلاً فقط في خطوة المراقبة البشرية، ولكن هذا جزء مهم من العملية. لا يزال البشر عالقين في الإشراف على كل نقرة، ولكنهم لا يزالون في سيطرة اللحظات التي تهم.

نظرًا إلى الأمام، كيف تتوقع أن تتطور دور وكلاء الذكاء الاصطناعي المستقل داخل المنظمات الكبيرة على مدار السنوات القليلة القادمة، وماذا سيفصل الشركات التي تنجح مع الذكاء الاصطناعي الوكيل عن تلك التي تعاني؟

على مدار السنوات القليلة القادمة، سيتحرك وكلاء الذكاء الاصطناعي المستقل من التجارب المثيرة للاهتمام إلى أن يصبحوا طبقة تشغيلية حقيقية داخل المنظمات الكبيرة. سيتم استخدامهم للعمليات، وخدمة العملاء، والمالية، و الموارد البشرية. مع تحسين الموثوقية والحوكمة والإشراف، سنرى المنظمات تتحرك من تجارب معزولة إلى تشغيل فرق وكلاء عبر تدفقات العمل من النهاية إلى النهاية.

التغيير الأكبر هو أن السرعة، والمرونة، والتنسيق، والكفاءة، والتكلفة سيصبحون مسندًا تنافسيًا مباشرًا. أعتقد أن “حركة Uber” قادمة للمنظمات. تلك التي تتقن حقًا الذكاء الاصطناعي الوكيل ستكون قادرة على العمل بسرعة أساسية أكبر من المتخلفين، وستستحوذ على الأسواق بشكل أسرع، وستستجيب للتغيير دون العائق التشغيلي المعتاد.

ما يفصل الفائزين ليس فقط نشر الوكلاء، بل نشرهم جيدًا. الحكم الذاتي الخاضع للرقابة، والمراقبة القوية، وسجلات الإجراءات، والهياكل التي تضيق نطاق القرار ستكون حاسمة في ذلك. الشركات التي تعامل مع الذكاء الاصطناعي الوكيل كقدرة تشغيلية أساسية، مع التحكم الصحيح، والتكامل، والملكية، ستستخدمه لفعل المزيد، وليس الأقل. هذا سيفري الفرق للتركيز على النمو والابتكار بدلاً من قضاء أيامهم مدفونة في الإدارة. باختصار، السرعة والكفاءة الشديدة تصبح ميزة تنافسية حقيقية على مستوى المؤسسة.