آرون فولكرسون، الرئيس التنفيذي لشركة OPAQUE – سلسلة المقابلات

آرون فولكرسون، الرئيس التنفيذي لشركة OPAQUE، هو رائد أعمال برمجيات مؤسسية وطوّار مفتوح المصدر طوّار برمجيات مؤسسية وطوّار مفتوح المصدر، ومدى مسيرته المهنية يمتد لأكثر من عقدين من بناء وتوسيع منصات تكنولوجية تركز على الثقة والبيانات والتحول الرقمي. قبل انضمامه إلى OPAQUE في عام 2023، أسس MindTouch، وساعد في نموها إلى منصة معرفة مؤسسية شائعة قبل استحواذ NICE Systems عليها، وقاد後に إطلاق ServiceNow (NOW ) Impact، واحدة من الوحدات التجارية الأسرع نمواً في تاريخ ServiceNow. على مدى مسيرته المهنية، عمل فولكرسون في تقاطع التكنولوجيات الناشئة والبرمجيات المؤسسية والمنصات المفتوحة، كما قدم استشارات لمнож من الشركات الناشئة والمنظمات التكنولوجية. في الآونة الأخيرة، أصبح مدافعًا بارزًا عن الذكاء الاصطناعي المتفاني، بحجة أن الخصوصية والحوكمة والثقة القابلة للتحقق ستكون متطلبات أساسية عند دمج أنظمة الذكاء الاصطناعي في عمليات المؤسسات الحيوية.

OPAQUE هي شركة ذكاء اصطناعي متفاني ظهرت من مختبر RISELab التابع لجامعة كاليفورنيا في بيركلي، وهو نفس النظام البيئي البحثي الذي ساعد في إنشاء تكنولوجيات مثل Apache Spark وDatabricks. وقد طوّرت الشركة منصة تمكن المؤسسات من تشغيل نماذج الذكاء الاصطناعي ووكلاءه وعملياته على بيانات حساسة للغاية مع الحفاظ على ضمانات الخصوصية والامتثال القابلة للتحقق. بدلاً من إجبار المنظمات على الاختيار بين الابتكار في الذكاء الاصطناعي وأمان البيانات، تستخدم OPAQUE الحوسبة المتفانية والبيئات التنفيذية المشفرة والتنفيذ المصدق على الأجهزة لضمان حماية المعلومات الحساسة قبل وأثناء وبعد معالجة الذكاء الاصطناعي. تم تصميم تكنولوجيا الشركة لقطاعات منظمة بشكل كبير، بما في ذلك المالية والتأمين والرعاية الصحية والتكنولوجيا، مع عملاء وشركاء يضمون ServiceNow وAnthropic وAccenture ومنظمات مؤسسية أخرى تسعى إلى نقل مشاريع الذكاء الاصطناعي من برامج تجريبية إلى الإنتاج دون كشف البيانات المملوكة أو المنظمة.

لقد بنيت وقمت بتوسيع منصات برمجيات مؤسسية متعددة على مدى مسيرتك المهنية، فما الذي دفعك إلى تولي دور الرئيس التنفيذي في OPAQUE والتركيز على الثقة والخصوصية وحوكمة الذكاء الاصطناعي في الفصل التالي من مسيرتك؟

لقد قضيت ما يقرب من عقدين من بناء منصات برمجيات مؤسسية، أولاً في MindTouch، التي لا تزال تستخدمها مليار مستخدم سنويًا، ثم في ServiceNow، حيث أنشأت سريعًا منتجًا. علمتني كلاهما الدرس نفسه: أن أكثر التكنولوجيا قوة تفوز فقط عندما يثق الناس فيها.

عندما التقيت بمؤسسي OPAQUE، رالوكا آدا بوبا وآيون ستويكا وريشاب بودار، رأيت مزيجًا نادرًا من الموهبة والرؤية. رالوكا هي واحدة من أبرز الباحثين في الخصوصية والأمان في العالم. آيون هو أحد مؤسسي Databricks. بنى ريشاب النظم التشفيرية التي أصبحت أساس OPAQUE.

في مختبر RISELab التابع لجامعة كاليفورنيا في بيركلي، أنشأوا شيئًا تعرفت عليه على الفور على أنه حدث جيل. دليل تشفيري على أن البيانات تظل خاصة خلال كل تدفق عمل للذكاء الاصطناعي. ليس الوعد. ليس السياسات. الدليل.

نظرت إلى حيث كان الذكاء الاصطناعي يتجه، وكلاء يعملون بشكل مستقل عبر أنظمة المؤسسة بسرعة الآلة، ورأيت نفس الفجوة التي حذر منها فنت سيرف لمدة ثلاثين عامًا: لا توجد طبقة ثقة. نجت الإنترنت بدونها لأن البشر كانوا الحارس. لن يكون للويب الوكيل حارسًا.

مع ظهور MCP (بروتوكول سياق النموذج، وهو معيار يسمح للوكلاء الذكاء الاصطناعي بالوصول بأمان إلى الأدوات والتطبيقات والبيانات) كأساس مشترك، كيف ترى هذا التغيير في طريقة نشر المؤسسات وتوسيع الذكاء الاصطناعي الوكيل؟

MCP هو خطوة مهمة في كيفية نشر المؤسسات وتوسيع الذكاء الاصطناعي الوكيل. افكر فيه على أنه موصل عالمي لتدفقات العمل للذكاء الاصطناعي. يُحدد كيف يرتبط الوكلاء بال أدوات والتطبيقات والبيانات، ويقلل من الاحتكاك الحقيقي ويزيد من سرعة التجربة.

لكن معايير الوصول وحدها لا تجعل الذكاء الاصطناعي الوكيل آمنًا أو قابلًا للتوسيع. مع انتشار هذه الاتصالات، مع المزيد من الوكلاء والمزيد من الأدوات والمزيد من مصادر البيانات، تزيد مساحة سطح تسرب البيانات مع كل تكامل جديد. كل نقطة اتصال تفتقر إلى فرض التنفيذ في وقت التشغيل هي متجه تسرب محتمل. عندما يتفاعل وكلاء الذكاء الاصطناعي مع أنظمة حساسة ومنطق مملوك، فإن التشفير في حالة الراحة ومراقبة الشبكة لا يكفيان. لقد انتقلت الحدود الأمنية إلى وقت التشغيل، وأصبح هذا التحول أكثر إلحاحًا مع توسيع النظام البيئي.

ستكون قابلية التحقق في هذه النقاط الأساسية حاسمة للمؤسسة. يمكن للمؤسسات توسيع الذكاء الاصطناعي الوكيل عندما يتم الجمع بين وصول MCP مع دليل تشفيري لما يحدث بعد منح الوصول. الوصول مع قابلية التحقق. هذا هو المزيج الذي يفتح الإنتاج.

كما يصبح MCP معيارًا للوصول إلى الوكيل، أين ترى أكبر الفجوات الحالية عندما يتعلق الأمر بالأمان وفرض السياسات والثقة في الأنظمة التي يديرها الوكيل؟

أكملنا بحثنا حول سطح تسرب الذكاء الاصطناعي لعام 2026 ونشرنا ملخصًا لنتائجنا، “طريقة doz للكشف عن تسرب البيانات في نظام الذكاء الاصطناعي“، الذي ي触ّش هذا الموضوع. لقد حددنا 46 متجهًا للتسرب عبر 8 فئات تشمل جميع حدود الثقة للذكاء الاصطناعي: الحوسبة والتحكم والتطبيق والتنقل بينها. هذا دون مراعاة الجهات الفاعلة الخبيثة. هذه هي السيناريوهات التي لا يوجد فيها شيء مكسور، والسجلات تبدو نظيفة، ونظامك لا يزال يفقد البيانات.

أكبر الفجوات ليست في الاتصال؛ MCP يحلها. الفجوات في ما يحدث بعد اتصال الوكيل. لا تستطيع معظم المنظمات الإجابة على ثلاث أسئلة أساسية: كيف يتصرف الذكاء الاصطناعي لدينا حقًا؟ من يسيطر عليه؟ وكيف نثبت أن السياسات تمت إجراؤها؟

أظهر بحثنا أن الحدود يتم تكوينها ولكن لا يتم فرضها أبدًا. توجد سياسة في وثيقة أو ملف تكوين أو إعداد في وقت النشر، ولكن النظام الذي يتم تشغيله لا يتم تقييده بها. مساعد تنفيذي للذكاء الاصطناعي يضع معلومات غير عامة مادية على دعوة تقويم. يخدم رفيق RAG مالية مجلس الإدارة لتحليل أولي. SDK تاجر يخرج 10 ملايين استعلام خلال 12 شهرًا بشكل خفي. في كل حالة، كانت ضوابط الوصول موجودة. تسربت البيانات على أي حال.

حتى تغلق المؤسسات الفجوة بين السياسة المحددة والسياسة المفروضة، MCP يُحدد الباب الأمامي. لكن المنزل لا يزال غير محمي.

عندما يُمنح وكلاء الذكاء الاصطناعي الوصول إلى أنظمة حساسة وبيانات مملوكة، ما هي المخاطر الجديدة المتعلقة بالخصوصية والامتثال التي غالبًا ما تكون غير مستعدة لها المؤسسات؟

تعتقد معظم المؤسسات في الخصوصية من حيث البيانات في حالة الراحة أو أثناء النقل. هذا النموذج ينهار في تدفقات العمل للذكاء الاصطناعي الوكيل لأن أكبر خطر هو كشف البيانات أثناء استخدامها.

هذا ما أعنيه. شركة تصنيع سيارات أداء تعمل الذكاء الاصطناعي عبر خط تجميعها. يبدو البيانات الخام أبرز: قراءات الحساسات، تسلسلات الزمن، فحوصات الجودة. لكن نموذج اللغة الكبيرة يمكنه الآن إعادة بناء عمليات تصنيع مملوكة من بيانات الفاقد.

يُوثق بحثنا حول سطح تسرب الذكاء الاصطناعي هذا النمط عبر عشرات السيناريوهات. أدوات التелеметrie التشغيلية تقوم بتقاط حمولات كاملة للذكاء الاصطناعي افتراضيًا، وواحدة من البنوك الأوروبية لديها 2.1 مليون محفز تحتوي على معلومات تعريف شخصية تتدفق إلى مثيل السحابة في الولايات المتحدة لأن لا أحد غير معايير APM. يتسرب ذاكرة الوكيل السياق بين الجلسات. تُكشف سجلات السلسلة الفكرية عن سجلات استكشافية كاملة إلى منصات المراقبة التي يمكن الوصول إليها من قبل المقاولين. الإطارات التقليدية للامتثال لم تُصمّم لاكتشاف هذا النوع من التسرب. افترضوا أن البشر كانوا ينتقلون البيانات بسرعة البشر.

لماذا يصبح الذكاء الاصطناعي المتفاني ضروريًا مقابل MCP، وكيف يعالج التحديات التي لا يمكن معايير الوصول وحدها حلها؟

MCP يحل من يمكنه الوصول إلى ماذا وكيف، بينما يحل الذكاء الاصطناعي المتفاني ما يحدث بعد منح الوصول. هم طبقات متممة.

معايير الوصول وحدها لا يمكنها منع اختراق وقت التشغيل أو انحراف السياسة أو استخدام البيانات غير المصرح به. افكر في الأمر بهذه الطريقة: MCP يمنحك طريقة معيارية للوصول إلى أنظمة الوكيل، بينما يمنحك الذكاء الاصطناعي المتفاني ضمانات تشفيرية أن الوكلاء، بمجرد الاتصال، يمكنهم فقط القيام بما هم مخولون به، ويمكنك إثبات ذلك.

يُقدم الذكاء الاصطناعي المتفاني هذه الضمانات في وقت التشغيل عبر البيانات والهوية والتشفير والاتصالات. يوفر دليلًا قابلًا للتحقق من التنفيذ ويعمل على ضمان أن الخصوصية وفرض السياسة لا تتوقف عند حدود الوصول ولكن تستمر أثناء تشغيل الذكاء الاصطناعي وتوليد الأفكار والعمل. بدونها، MCP هو أساس صلب. لكن الأسس وحدها لا تجعل البناء آمنًا.

بماذا يبدو الثقة القابلة للتحقق لمؤسسة تقوم بتشغيل وكلاء ذكاء اصطناعي مستقلين عبر تدفقات عمل حيوية؟

الثقة القابلة للتحقق تعني أنني أستطيع إثبات ما يُشغل، وأين يُشغل، تحت أي سياسات، ما البيانات التي تم الوصول إليها، وكيف سلوك النظام بمرور الوقت.

في الممارسة، خذ شركة تأمين تستخدم وكلاء الذكاء الاصطناعي لمعالجة خطابات الطلب. قبل التنفيذ، يُثبت التأكيد على الأجهزة هوية الوكيل وسلامة البيئة. أثناء التنفيذ، يضمن ربط السياسة التشفيرية داخل بيئة تنفيذ موثوقة بالأجهزة أن البيانات تظل محمية وأن السياسات تُفرض. بعد التنفيذ، تسجل سجلات مراجعة خاضعة للتحقق بالضبط ما حدث.

المخاطر في تدفقات العمل للذكاء الاصطناعي الوكيل ليست أن يصبح الوكيل خائنًا. المخاطر الحقيقية هي أنك لا تستطيع إثبات ما إذا كانت السياسة مفروضة أو ما إذا كانت البيانات الحساسة محمية أثناء تشغيل الوكلاء – قبل وأثناء وبعد التنفيذ. هذا ما يبدو عليه الثقة القابلة للتحقق.

كما تعمل أنظمة الوكيل بسرعة الآلة، لماذا ينهار الإشراف البشري التقليدية، وكيف يجب على المنظمات إعادة التفكير في الحوكمة في هذا البيئة الجديد؟

لمدة عقود، كان للإنترنت حاجز خفي: نحن. يقرأ البشر المحتوى، وينقر بشكل مقصود، ولا يعمل بشكل خفي عبر مائة نظام في نفس الوقت.

يُمحو الذكاء الاصطناعي الوكيل هذه الافتراضات في ليلة وضحاها. يعمل الوكلاء بشكل مستمر، ويتخذون قرارات بسرعة الآلة، ويمكن أن يُخدعوا من قبل بيئات مصممة للبشر ولكنها قابلة للاستغلال من قبل الآلات. لا يحتاج صفحة ويب خبيثة إلى خداع الذكاء الاصطناعي بالطريقة التي يخدع بها إنسانًا؛ يمكنه ببسطة إرشاده.

بمعدل خطر 1٪ لكل وكيل، يواجه شبكة من 100 وكيل احتمالية 63٪ لحدوث انتهاك. عند توسيع الشبكة إلى ألف وكيل، تكون عند 99.99٪. لا يستطيع الإشراف البشري في الحلقة إبقاء أسرع من هذه الأرقام. يجب أن ينتقل الإشراف من المراجعة التفاعلية إلى ضمانات وقت التشغيل. هذا يعني تدفقات عمل بالثقة الصفرية، وفرض السياسات افتراضيًا، وتنفيذ قابل للتحقق لا يعتمد على اكتشاف الإنسان للفشل بعد الحادث.

ما هي أكثر الفشل الأمني شيوعًا التي تراها عند تجربة المؤسسات للذكاء الاصطناعي الوكيل بدون طبقة ثقة مدمجة؟

النمط الذي أراه أكثر هو أن المؤسسات تسمح للوكلاء بالعمل والتنسيق بدون أي ضمانات تشفيرية حول سلوكهم. هم يعالجون بيانات مملوكة على أمل.

ما يلي هو متوقع، وقد وثقناه في بحثنا حول سطح تسرب الذكاء الاصطناعي. اختراقات وقت التشغيل تتجاوز الدفاعات المحيطية التقليدية لأن الوكيل已经 داخل الشبكة. سلسلة الوكلاء المستقلين تُحدث فشلًا متسلسلًا. الوكيل المخترق يُسبب تأثيرًا متسلسلًا عبر الأنظمة المتصلة. تسرب المنطق المملوك من خلال بيانات الفاقد التي لا أحد يفكر في مراقبتها. يفقد الوكلاء القدرة على التمييز بين نية المؤسسة والمدخلات الخبيثة لأن هناك لا توجد هوية قابلة للتحقق أو ربط سياسة في وقت التشغيل.

هذه ليست افتراضية. قمنا بتحديد 46 متجهًا للتسرب حيث تفقد البيانات السيطرة، حتى عندما لا يبدو شيء مكسورًا. يُولّد وكلاء الذكاء الاصطناعي البيانات بسرعة الآلة. بدون ضمانات وقت التشغيل القابلة للتحقق المدمجة في التدفقات العمل، تنتشر الفشلات بشكل أسرع من أي فريق أمني يمكنه اكتشافها أو الاستجابة لها.

كيف تقوم المنظمات الرائدة بموازنة الحاجة إلى فتح قدرات الذكاء الاصطناعي المتقدمة مع الحفاظ على أصول البيانات الحساسة؟

المنظمات التي تحقق ذلك بشكل صحيح تعامل الخصوصية والحوكمة كمحفزات، وليس كفرامل. هذا هو الفهم الرئيسي.

ما أراه في الميدان هو أن المؤسسات الرائدة تُقدم قدرات الذكاء الاصطناعي المتقدمة مع منصات ذكاء اصطناعي متفاني توفر ضمانات قابلة للتحقق، وليس فقط قوائم الامتثال. هم يُحولون البيانات الحساسة إلى ذكاء اصطناعي مبتكر بينما يضمنون حماية المعلومات المملوكة، حتى عند تشغيل التدفقات العمل بشكل مستقل.

التنسيق القديم كان القدرة مقابل الأمان. المنظمات التي تتحرك بأسرع tốc拒ضن هذا التبادل بالكامل. هم يُدمجون الثقة القابلة للتحقق في أساس استراتيجيتهم للذكاء الاصطناعي، مما يُمكنهم من وضع قيمتهم البيانات الأكثر قيمة للعمل. في نفس الوقت، لا يزال منافسوهم عالقين في وضع تجريبي، ويعملون الذكاء الاصطناعي على مجموعات بيانات منقحة لا تُغير العلامة.

بناءً على ما تراه اليوم، كيف تتوقع أن تتطور نماذج حوكمة الذكاء الاصطناعي للمؤسسات على مدى السنوات القليلة القادمة مع انتقال أنظمة الوكيل من التجارب إلى الإنتاج الكامل؟

ستتطور الحوكمة من الوثائق إلى الدليل. هذا هو أبسط طريقة يمكنني وصفها بها. كانت نماذج الحوكمة المبكرة مبنية للبرمجيات التي تعمل بسرعة البشر: السياسات على الورق، والموافقات قبل النشر، والمراجعات بعد حدوث شيء خاطئ. أنظمة الوكيل تُحطم كل هذه الافتراضات. تعمل بشكل مستمر، وتتخذ قرارات بسرعة الآلة، وتُحدث آثار متسلسلة بسرعة الآلة.

ما نراه هو الحوكمة تتحرك نحو قابلية التحقق في وقت التشغيل كحد أمني جديد، مدعومًا بضمانات تشفيرية تُثبت السلوك عبر كل مرحلة من مراحل دورة حياة الوكيل، قبل وأثناء وبعد التنفيذ. نفس النمط الذي رأيناه مع HTTPS يصبح افتراضيًا للاتصالات على الويب. لا يُجادل أحد الآن حول تشفير الاتصالات على الويب. خلال بضع سنوات، لن يُجادل أحد حول إثبات تنفيذ الذكاء الاصطناعي في وقت التشغيل. سيكون هذا هو المألوف.

شكرًا على المقابلة الرائعة، يُرجى من القراء الذين يرغبون في معرفة المزيد زيارة OPAQUE.