علي سرافي، الرئيس التنفيذي ومؤسس Kovant – سلسلة المقابلات

علي سرافي، الرئيس التنفيذي ومؤسس Kovant، هو مدير تنفيذي في مجال التكنولوجيا والذكاء الاصطناعي ومقره في ستوكهولم مع سجل في بناء وتوسيع شركات الذكاء الاصطناعي ذات النمو العالي. منذ تأسيس Kovant في أواخر عام 2024، استفاد من الخبرة العميقة في استراتيجية الذكاء الاصطناعي للشركات، وتحقيق الخروج إلى السوق، والتمكين التشغيلي. في وقت سابق، شغل منصب نائب الرئيس لل استراتيجية في Silo AI بعد استحواذ AMD عليه، حيث كان مسؤولاً عن تشكيل استراتيجية الذكاء الاصطناعي للشركات وتحفيز الاستخدام على نطاق واسع.

Kovant هي شركة ذكاء اصطناعي للشركات تركز على تمكين المنظمات من الانتقال من استخدام الذكاء الاصطناعي التجريبي إلى عمليات أعمال ذاتية الحكم بالكامل. تقوم الشركة بتطوير منصة قائمة على الوكيل مصممة لتنسيق فرق من وكلاء الذكاء الاصطناعي عبر مجالات تشغيلية معقدة مثل المشتريات، وسلاسل التوريد، والامتثال، وعمليات العملاء. من خلال التأكيد على التوزيع الآمن-drع على مستوى الشركات والقيمة الزمنية السريعة، تضع Kovant نفسها كجسر بين الطموح الاستراتيجي للذكاء الاصطناعي والتنفيذ اليومي، مما يساعد المنظمات الكبيرة على دمج الذكاء الاصطناعي مباشرة في تدفقات العمل الأساسية بدلاً من معاملته كأداة مستقلة أو مشروع تجريبي.

لقد قادت مبادرات كبيرة للذكاء الاصطناعي في Spotify، ووسعت وخرجت من Combient Mix، وشكلت فيما بعد استراتيجية الذكاء الاصطناعي للشركات في Silo AI قبل تأسيس Kovant. ما هي الفجوات أو الإحباطات المحددة التي واجهتها في تلك الأدوار التي أقنعتك بأن الوقت مناسب للبناء منصة شركة ذاتية الحكم، وكيف شكلت تلك التاريخ فلسفة التصميم الأساسية لـ Kovant؟

عبر الأدوار السابقة، ظهرت بعض الفجوات الثابتة. أولاً، تكون أدوات الذكاء الاصطناعي “الرأسية” محبوسة في حزمة برمجية واحدة: فهي تفعل شيئًا واحدًا بشكل أفضل قليلاً داخل تلك الحدود، ولكنها ت투ق في اللحظة التي تحتاج فيها سير العمل إلى跨 نظام متعددة. في نفس الوقت، يتم ت散ع بيانات الشركات عبر الكثير من الأدوات، ويتعذر على حلول التutomatization الوصول إليها. أضف إلى ذلك سنوات من التكاملات النقطية وستحصل على هندسة معكرونة كلاسيكية: يزيد التعقيد، ويبطئ التغيير، وتنتهي الفرق بautomatization خطوات فردية بدلاً من إعادة تخيل سير العمل من النهاية إلى النهاية. النتيجة هي أن عائد الاستثمار يصل في كثير من الأحيان ببطء – وأقل – مما تتوقعه المنظمات.

تم تصميم Kovant كاستجابة لهذه الواقعية. فلسفتنا الأساسية هي أن الوكلاء يجب أن يتصرفوا أكثر مثل الموظفين: يعملون عبر أدوات متعددة، يتم “توظيفهم” للقيام بمهام، وليس لautomatization تسلسل مخطط واحد. هذا هو السبب في أن التكاملات وتنسيق الوكلاء يتم بناؤها، ونتوقع أن تكون بيانات الشركات في كثير من الأحيان غير منظمة – تحتاج إلى نهج أكثر إنسانية لمواجهة الاستثناءات والغموض.

نستخدم وكلاء الأساس لتحقيق السرعة والتمكين، مع الحفاظ على سيادة البيانات في المقدمة: يمكن للشركات الوصول إلى استخدام بياناتها الخاصة أفقيًا دون مغادرة منشآتها.

تضع Kovant نفسها كمنصة شركة ذاتية الحكم قادرة على تشغيل عمليات وdepartments بأكملها مع وكلاء الذكاء الاصطناعي. كيف تعرف “الذاتي” في سياق شركة، وكيف يختلف هذا عن التautomatization والأدوات الوكيلية التي تجربها الشركات بالفعل اليوم؟

في سياق شركة، عندما نقول “ذاتي” لا نعني “غير خاضع للإشراف”. نعني أن وكلاء الذكاء الاصطناعي يمكنهم اتخاذ إجراءات حقيقية من النهاية إلى النهاية عبر عملية مع أهداف واضحة وحدود، وسيستعرضون البشر عند الحاجة إلى الإشراف.

ما يجعل Kovant مختلفًا هو وكلاؤنا الأساسيون. بدلاً من automatization عملية واحدة محددة أو متابعة تسلسل معين، يمكن لوكلاء Kovant العمل كفريق (أو سرب) على عملية باستخدام فقط الإرشادات والمنظور التشغيلي الذي نسميه خطة. لا يتم تصميمهم لمهمة واحدة ضيقة؛ يعملون معًا لحل سير العمل المعقد، ويتكيفون مع التغييرات، وينقلون إلى البشر عند الحاجة إلى الإشراف.

على سبيل المثال، يمكن لفريق وكلاء إدارة المخزون أداء جميع المهام التالية دون إعادة بنائها من الصفر، بما في ذلك التواصل مع الموردين عبر البريد الإلكتروني، ومراقبة مستويات المخزون وإشارات الخروج من المخزون، وتتبع الشحنات وأوامر الشراء، وتحديث الحالات عبر الأنظمة، وإنشاء تذاكر اختلاف للمخططين لإعتمادها، وإعادة توزيع المخزون بين المستودعات، وتوحيد تقارير المخزون.

لذلك التغيير هو بدلاً من “الدردشة والأدوات” أو التautomatization الهشة التي تنهار عند التمكين، تتحرك الشركات من بناء الوكلاء إلى تشغيلهم على نطاق واسع.

على الرغم من الاهتمام الكبير بالذكاء الاصطناعي الوكيل، لا تزال العديد من المنظمات عالقة في وضع التجربة. من خلال ما تراه في التوزيعات الفعلية، ما هي الأسباب الرئيسية التي تجعل الشركات تعاني من الانتقال من التجربة إلى الإنتاج المتمكّن؟

ما نراه هو أن معظم المنظمات لا تعلق في وضع التجربة لأن الفكرة خاطئة؛ بل تعلق لأن البيئة معادية للتوسيع.

المانع الأول هو منظومة التكنولوجيا المتناثرة للشركات. ت跨 سير العمل أنظمة متعددة، تعيش البيانات في أماكن متعددة، وتركيب كل شيء معًا بثبات صعب. كما يتم توزيع الذكاء الاصطناعي الوكيل في كثير من الأحيان كإضافة إلى الأدوات الحالية، بدلاً من كونه طريقة لإعادة التفكير في كيفية تشغيل سير العمل من النهاية إلى النهاية.

هناك أيضًا مشكلة حقيقية في الهندسة والمعلومات. يحاول العديد من بائعي البرمجيات كالخدمة (SaaS) لا يزالون حبس البيانات، مما يخلق عدم توافق ويلimit ما يمكن للوكلاء فعله عبر الأنظمة. كما يقلل الكثير من الفرق من حقيقة أن معظم بيانات الشركات غير منظمة (البريد الإلكتروني، المستندات، التذاكر، المستندات، سجلات الدردشة). إذا كان نهجك يفترض بيانات منظمة ونظيفة، يصبح الوقت إلى القيمة طويلًا ومؤلمًا وصعبًا للتكرار ما وراء التجربة.

باختصار: التجزئة، وحبس البيانات، والبيانات غير المنظمة تؤدي إلى التأخير – ولا تتحول التجارب إلى إنتاج حتى يتم التصميم لهذه الحقائق.

الاستقرار غالبًا ما يُذكر كأعلى مانع لتوزيع وكلاء الذكاء الاصطناعي في العالم الحقيقي. لماذا يفشل نظام الوكيل इतनًا عندما يغادر البيئات الخاضعة للرقابة، وكيف يقلل نهج Kovant من مشاكل مثل الهلوسة والسلوك غير المتوقع؟

بعض أنظمة الوكيل تبدو رائعة في العروض التوضيحية، ثم تفشل في العالم الحقيقي لأن البيئة غير منظمة وغير متوقعة. تكون البيانات غير مكتملة أو غير متسقة، وتظهر حالات الحواف باستمرار (الاستردادات، المنازعات، الموافقات الخاصة). ت跨 سير العمل أدوات وplatforms وتكاملات تتغير مع مرور الوقت، وتختلف الأذونات. عندما يُطلب من وكيل الذكاء الاصطناعي التعامل مع مهمة كبيرة ويتلقى سياقًا كبيرًا في وقت واحد، يزيد خطر الهلوسة والسلوك الغريب.

يقلل Kovant من ذلك بالتصميم. تقلل هندستنا الفريدة من مساحة المشكلة، ومساحة القرار، والسياق الذي تعمل به النماذج لتقليص الهلوسة. كما نقسم العمليات إلى مهام محددة ضيقة للوكلاء والخطوات. هذا يجعل السلوك أكثر قابلية للتنبؤ، ويضيف قابليات التتبع والتحكم إلى النظام ويمكن إدارة الهلوسة بشكل أفضل. يمكننا رؤية ما فعل كل وكيل، ومن哪里 بدأت الفشل، والتدخل أو التدرج عند الحاجة.

لا تختفي الهلوسة بشكل سحري، ولكن من خلال تقييد ما يتحمله كل وكيل ومحدودية السياق التي يمكن أن يعمل عليه، يمكننا تقليل تكرارها وlimit تأثيرها. هذا النهج “المحدود للمهمة / السياق” قد دعمه أيضًا عمل حديث من فريق البحث في Nvidia، الذي وجد فوائد مماثلة لتقيد اتخاذ القرار للوكيل.

المساءلة هي قلق كبير مع بدء وكلاء الذكاء الاصطناعي في اتخاذ إجراءات حقيقية في أنظمة الأعمال. كيف يتغير الحوار حول الثقة والامتثال والمخاطر التشغيلية مع سجلات الإجراءات المحددة؟

مع سجلات الإجراءات المحددة، يمكننا رؤية ما حدث، ولماذا حدث، وماذا سيحدث بعد ذلك.

تتحول سجلات الإجراءات المحددة وكيل الذكاء الاصطناعي من بوت غامض يعمل في الآلة إلى نظام يمكن فحصه.

في Kovant، مع أي توزيع وكيل الذكاء الاصطناعي، سيكون هناك خريطة مخاطر يمكن للمنظمة التصرف عليها، ولدينا بوابات حارس إنسانية للactions الخطرة التي تعني أن الوكلاء يمكنهم أداء تلك المهام فقط إذا راجعها شخص وأقرها. يتم تسجيل كل ذلك بنفس الطريقة التي يتم تسجيلها كنظام سجلات ويمكن تتبعها.

نعتقد أنه من المهم الجمع بين سجلات الإجراءات والإشراف البشري والرصد لتحديد المخاطر. هذا يعني أنك لا تزال تحصل على فوائد السرعة والتمكين من الوكلاء الذين يعملون على العمليات الحقيقية.

هناك مناقشة متزايدة حول ما إذا كان يمكن تأمين وكلاء الذكاء الاصطناعي بسبب اتخاذ القرارات غير الشفافة. كيف يساعد جعل سير العمل الوكيلية قابلة للفحص وإعادة التشغيل في معالجة مشكلة “ال砂وق الأسود” وفتح الباب للتأمين؟

مشكلة “ال砂وق الأسود” هي ما يجعل التأمين صعبًا. إذا لم تكن能够 إظهار ما فعل الوكيل، ولماذا فعل ذلك، وما هي الضوابط الموجودة، فمن الصعب على أي شخص، وخاصة المؤمنين، تحديد المخاطر.

نهجنا هو بمثابة امتداد لترتيب المساءلة في الإجابة السابقة. نقسم نطاق القرار وتأثير الإجراءات إلى قطع صغيرة، بحيث لا يتخذ النموذج قرارًا عملاقًا غير شفاف يمكن أن يؤثر على العملية بأكملها. كل خطوة هي أضيق، وأكثر قابلية للتنبؤ، وأسهل للتقييم.

نضيف سجلات الإجراءات المحددة، والرصد، والإشراف البشري.对于 القرارات الأكثر أهمية والأكثر تأثيرًا، نستخدم حارسًا بشريًا حتى لا يستطيع الوكيل المضي قدمًا إلا بعد المراجعة والموافقة. هذا يخلق رؤية أكبر بكثير حول كيفية سلوك سير العمل في الممارسة.

جعل سير العمل قابلاً للفحص وإعادة التشغيل هو الجزء النهائي. إذا حدث شيء ما، يمكنك إعادة إنتاج ما حدث، والتحقيق بسرعة، وتصديق الإصلاحات، وإظهار كيف يتم تطلب الموافقة البشرية، وأين تقع الحوافز. في المصطلحات التأمينية، هذا يتحول من سلوك الذكاء الاصطناعي الغامض إلى شيء أقرب إلى المخاطر التشغيلية القياسية.

مع مبادرات مثل مؤسسة الذكاء الاصطناعي الوكيل التي تهدف إلى إنشاء معايير مشتركة لأنظمة الوكيل، ما هي الجوانب الأكثر وعدًا لهذه الجهود، وأين لا تزال تقع قصيرة بالنسبة للعمليات الحقيقية للشركات؟

التوحيد عمومًا شيء جيد. يمكن لمؤسسة الذكاء الاصطناعي الوكيل (AAIF) القيام بالعمل غير المثير ولكن الأساسي لجعل أنظمة الوكيل تتحدث نفس اللغة، مما يجب أن يجعل التكامل أسهل ويقلل من حبس البائع مع مرور الوقت.

أنا حذر حيث يتم تشكيل المعايير من وجهة نظر من. إذا قاد معظم العمل من قبل منشئي النماذج والشركات الناشئة للتكنولوجيا، فهناك خطر أن “المعايير” ت tốiميز لما هو أسهل في البناء أو العرض، بدلاً من ما تحتاجه المنظمات الكبيرة حقًا لتشغيل الوكلاء بأمان يوميًا.

对于 العمليات الحقيقية للشركات، تتمثل الفجوات في الغالب في السيطرة: ما يمكن للوكيل الوصول إليه وتغييره، وworkflows الموافقة للactions عالية التأثير، وسجلات الإجراءات المحددة، والرصد حتى يمكن للفرق مراقبة السلوك، والتحقيق في الحوادث، وثبت الامتثال. تحتاج الشركات أيضًا إلى معايير عملية للعمل في الواقع غير المنظم: اختبار الحالات الحدية، وتغيير الأنظمة، وability لإيقاف أو احتواء أو إعادة تشغيل الإجراءات بأمان عبر أدوات وأدوات معقدة وبيئات بيانات منظمة.

إنه اتجاه واعد، ولكن التأثير سيكون محدودًا إذا لم تُعتبر متطلبات الشركات وضوابط المخاطر التشغيلية كأمر ثانوي.

لقد أنتجت Kovant بالفعل إيرادات كبيرة من الشركات النوردية الكبيرة أثناء العمل في الغالب في وضع السرية. ما هي أنواع الوظائف التجارية أو سير العمل التي تثبت أنها أكثر استعدادًا ل وكلاء الذكاء الاصطناعي المستقل اليوم؟

من خلال ما لاحظناه في التوزيعات الفعلية، فإن سير العمل التي تثبت أنها “جاهزة” اليوم هي تلك المكونة من العمل البيئي المتفاعل: مراقبة، ومطاردة، ومراجعة، وتحديث الأنظمة، ومراقبة الاستثناءات، وحركة العمليات عبر أدوات متعددة.

في التصنيع وسلاسل التوريد للشركات الأوسع، تظهر هذه عبر:

• المشتريات / الشراء: توافر المواد الخام، والمصادر المستدامة، وعمليات الامتثال، وإدارة الموردين (بما في ذلك التوريد المزدوج / المتعدد)، وإدارة العقود، واختيار الموردين، وإدارة المخاطر، والمناقصات.
• الإنتاج: تخطيط السعة، وجدولة الإنتاج، وإدارة الصيانة، وإدارة الجودة، وادارة العوائق، وتحديد الخسائر.
• المستودعات: استلام وتفتيش المخزون، وإدارة المخزون، وتدوير المخزون (FIFO / FEFO)، ومراجعة الدورة / التدقيق.
• النقل / اللوجستيات: اختيار النقل والشحن، ووثائق الجمارك، ومراقبة وتتبع الشحنات، ومراقبة الانبعاثات، وامتثال التجارة.
• المبيعات والخدمة: توافر المنتجات، ومنع انخفاض المخزون، وادارة المبيعات والمرتجعات، وتحليل سلوك المستهلك، بالإضافة إلى مجالات ما بعد البيع مثل الإصلاحات، ومراقبة نهاية العمر، وعمليات الورش، والعقود الخدمية.

عندما تعمل الشركات وكلاء الذكاء الاصطناعي عبر عمليات حرجة، كيف توصي بتوازن الاستقلال مع الإشراف البشري لضمان السيطرة دون إبطاء كل شيء؟

التوازن يتمحور حول الحكم الذاتي. يجب أن تسمح للوكلاء بالتحرك بسرعة في العمل منخفض المخاطر داخل حدود واضحة، وترفع إلى البشر عند عبور الإجراء عتبة المخاطر المحددة.

الكثير من الفشل يأتي من منح النموذج نطاقًا كبيرًا وسياقًا كبيرًا في وقت واحد. أوصي بتقسيم العمليات إلى قرارات ضيقة ومحددة، حيث يكون لكل خطوة أهداف واضحة وnarrow impact radius. هذا يقلل السلوك غير المتوقع، ويجعل الأداء أسهل في المراقبة والتحسين.

ثم تجمع ثلاثة أشياء: الرصد، وسجلات الإجراءات، والإشراف البشري. يجب أن يكون كل ما يفعله الوكيل قابلاً للفحص، حتى نتمكن من التحقيق بسرعة.对于 الإجراءات عالية التأثير أو الخطرة، نضع خطوة موافقة بشرية في سير العمل، بحيث يمكن للوكيل اقتراح وتهيئة، ولكن فقط ينفذ بعد توقيع شخص.

هذا يحافظ على الأمور سريعة الحركة. إذا كان هناك أي شيء يبطئ قليلاً في خطوة الإشراف البشري، فهذا جزء مهم من العملية. البشر ليسوا عالقين في الإشراف على كل نقرة، ولكنهم لا يزالون في سيطرة اللحظات التي تهم.

نظرًا إلى المستقبل، كيف تتوقع أن يتطور دور وكلاء الذكاء الاصطناعي المستقل داخل المنظمات الكبيرة خلال السنوات القليلة القادمة، وما هي العوامل التي ستفصل الشركات التي تنجح مع الذكاء الاصطناعي الوكيل عن تلك التي تعاني؟

خلال السنوات القليلة القادمة، سيتحرك وكلاء الذكاء الاصطناعي المستقل من التجارب المثيرة للاهتمام إلى أن يصبحوا طبقة تشغيلية حقيقية داخل المنظمات الكبيرة. سيتم استخدامهم للعمليات، وخدمة العملاء، والمالية، و الموارد البشرية. مع تحسين الاستقرار والحوكمة والإشراف، سنرى الشركات تنتقل من مشاريع تجريبية معزولة إلى تشغيل فرق وكلاء عبر سير العمل من النهاية إلى النهاية.

أعظم تغيير هو أن السرعة، والمرنة، والتمكين، والتكلفة ست trởن مسندًا تنافسيًا مباشرًا. أعتقد أن “حركة Uber” قادمة للشركات. تلك التي تتقن حقًا الذكاء الاصطناعي الوكيل ستتمكن من العمل بسرعة أساسية أعلى من المتأخرين، وستستحوذ على الأسواق بسرعة أكبر، وستستجيب للتغيير دون التأخير التشغيلي المعتاد.

ما يفصل الفائزين ليس فقط توزيع الوكلاء، بل توزيعهم جيدًا. الحكم الذاتي، والرصد القوي، وسجلات الإجراءات، والهندسة التي تضيق نطاق القرار ستكون مفتاح ذلك. الشركات التي تعامل مع الذكاء الاصطناعي الوكيل كقدرة تشغيلية أساسية، مع الضوابط والدمج والملكية الصحيحة، سوف تستخدمه لتفعل المزيد، لا الأقل. هذا سوف يحرر الفرق للتركيز على النمو والابتكار بدلاً من قضاء أيامهم مدفونة في الإدارة. باختصار، السرعة والكفاءة الشديدة تصبح ميزة تنافسية حقيقية على مستوى الشركات.

شكرًا على المقابلة العظيمة، يرغب القراء في معرفة المزيد فيزيروا Kovant.