آرون فولكرسون، الرئيس التنفيذي لشركة OPAQUE – سلسلة المقابلات

آرون فولكرسون، الرئيس التنفيذي لشركة OPAQUE، هو رائد أعمال مخضرم في برمجيات المؤسسات وأحد رواد المصادر المفتوحة. أمضى أكثر من عقدين في بناء منصات تقنية وتوسيعها، مع التركيز على الثقة والبيانات والتحول الرقمي. قبل انضمامه إلى OPAQUE عام 2023، أسس MindTouch وساعد في تحويلها إلى منصة معرفية واسعة الاستخدام في المؤسسات، ثم استحوذت عليها NICE Systems. وقاد لاحقًا إطلاق ServiceNow Impact، التي أصبحت إحدى أسرع وحدات الأعمال نموًا في تاريخ ServiceNow. عمل فولكرسون طوال مسيرته عند تقاطع التقنيات الناشئة وبرمجيات المؤسسات والمنظومات المفتوحة، وقدم المشورة لعدة شركات تقنية ناشئة ومؤسسات. وفي الآونة الأخيرة، أصبح من أبرز الداعين إلى الذكاء الاصطناعي الحافظ لسرية البيانات (Confidential AI)، مؤكدًا أن الخصوصية والحوكمة والثقة القابلة للتحقق ستغدو متطلبات أساسية مع دمج أنظمة الذكاء الاصطناعي في مسارات العمل الحيوية للمؤسسات.

OPAQUE شركة متخصصة في الذكاء الاصطناعي الحافظ للسرية، نشأت من مختبر RISELab الشهير بجامعة كاليفورنيا في بيركلي، ضمن البيئة البحثية نفسها التي ساعدت في ظهور تقنيات مثل Apache Spark وDatabricks. طورت الشركة منصة تتيح للمؤسسات تشغيل النماذج والوكلاء ومسارات عمل الذكاء الاصطناعي على بيانات شديدة الحساسية، مع ضمانات للخصوصية والامتثال يمكن التحقق منها تشفيريًا. وبدلًا من فرض الاختيار بين الابتكار وأمن البيانات، تستخدم OPAQUE الحوسبة السرية وبيئات تشغيل مشفرة وإثبات التنفيذ بواسطة العتاد، لحماية المعلومات الحساسة قبل معالجتها بالذكاء الاصطناعي وأثناءها وبعدها. صُممت التقنية لقطاعات تخضع لتنظيم صارم، منها التمويل والتأمين والرعاية الصحية والتقنيات المتقدمة. ومن عملائها وشركائها ServiceNow (NOW ) وAnthropic وAccenture، ومؤسسات تسعى لنقل مشاريع الذكاء الاصطناعي من التجارب إلى التشغيل الفعلي دون كشف بياناتها الخاصة أو الخاضعة للتنظيم.

بنيت ووسعت عدة منصات للمؤسسات خلال مسيرتك. ما الذي دفعك إلى تولي رئاسة OPAQUE التنفيذية وتخصيص المرحلة التالية للثقة والخصوصية وحوكمة الذكاء الاصطناعي؟

أمضيت نحو عقدين في بناء منصات للمؤسسات، بدءًا من MindTouch، التي لا يزال يستخدمها مليار مستخدم سنويًا، ثم ServiceNow، حيث أنشأت أسرع منتجاتها نموًا. تعلمت الدرس نفسه من التجربتين: حتى أقوى التقنيات لا تنجح إلا عندما يثق بها الناس.

عندما التقيت مؤسسي OPAQUE المشاركين رالوكا آدا بوبا وآيون ستويكا وريشاب بودار، رأيت مزيجًا نادرًا من الموهبة والرؤية. رالوكا من أبرز باحثي الخصوصية والأمن في العالم. وآيون أحد مؤسسي Databricks. أما ريشاب فبنى الأنظمة التشفيرية الأساسية التي قامت عليها OPAQUE.

في مختبر RISELab ببيركلي، ابتكروا شيئًا أدركت فورًا أنه إنجاز يميز جيلًا: إثباتًا تشفيريًا لبقاء البيانات سرية في جميع مراحل كل مسار عمل للذكاء الاصطناعي. لا وعود ولا سياسات، بل إثبات.

تأملت وجهة الذكاء الاصطناعي: وكلاء يعملون باستقلالية عبر أنظمة المؤسسات وبسرعة الآلات. ورأيت الفجوة نفسها التي حذر منها فينت سيرف طوال ثلاثين عامًا، وهي غياب طبقة للثقة. استطاع الإنترنت الاستمرار من دونها لأن البشر كانوا صمام الأمان. أما الويب الذي يديره الوكلاء فلن تتاح له هذه الرفاهية. وهذا ما جذبني إلى المهمة.

مع تحول MCP، أي بروتوكول سياق النموذج الذي يتيح لوكلاء الذكاء الاصطناعي الوصول الآمن إلى الأدوات والتطبيقات والبيانات، إلى أساس مشترك، كيف سيغير طريقة نشر المؤسسات للذكاء الاصطناعي القائم على الوكلاء وتوسيع نطاقه؟

يمثل MCP خطوة مهمة في نشر الذكاء الاصطناعي القائم على الوكلاء وتوسيع نطاقه. يمكن اعتباره موصلًا موحدًا لمسارات العمل: فهو يوحد كيفية اتصال الوكلاء بالأدوات والتطبيقات والبيانات، ويقلل العقبات العملية ويسرع التجريب.

لكن توحيد الوصول وحده لا يجعل الذكاء الاصطناعي القائم على الوكلاء آمنًا أو قابلًا للتوسع. كلما زاد عدد الوكلاء والأدوات ومصادر البيانات واتصالاتها، اتسعت مسارات تسرب البيانات مع كل تكامل جديد. وكل نقطة اتصال لا تُفرض فيها الضوابط أثناء التشغيل قد تصبح منفذًا لكشف البيانات. حين يتعامل الوكلاء مع أنظمة حساسة ومنطق خاص بالمؤسسة، لا يكفي تشفير البيانات المخزنة وضوابط الشبكة. انتقل الحد الأمني إلى وقت التشغيل، وتزداد ضرورة هذا التحول مع توسع المنظومة.

ستكون قابلية التحقق عند نقاط الاتصال الأساسية هذه حاسمة للمؤسسات. يمكن توسيع نطاق الذكاء الاصطناعي القائم على الوكلاء عندما يقترن الوصول على غرار MCP بإثبات تشفيري للشيفرة التي نُفذت، ومكان تنفيذها، والسياسات التي حكمتها، قبل التنفيذ وأثناءه وبعده. الوصول مع قابلية التحقق هو المزيج الذي يتيح التشغيل الفعلي.

مع توحيد MCP لوصول الوكلاء، أين ترى اليوم أكبر الفجوات في الأمن وإنفاذ السياسات والثقة في الأنظمة التي يديرها الوكلاء؟

أكملنا بحث AI Leak Surface لعام 2026، ونشرنا ملخصًا لنتائجه بعنوان «اثنتا عشرة طريقة تتسرب بها البيانات من منظومة الذكاء الاصطناعي»، يتناول هذا الموضوع. حددنا 46 مسارًا لكشف البيانات ضمن ثماني فئات تغطي حدود الثقة في الذكاء الاصطناعي كاملة: الحوسبة والتحكم والتطبيق وعمليات التبادل بينها. وذلك قبل احتساب الجهات الخبيثة أصلًا. إنها حالات لا يتعطل فيها شيء، وتبدو السجلات سليمة، ومع ذلك يستمر النظام في تسريب البيانات.

أكبر الفجوات ليست في الاتصال؛ فهذه يعالجها MCP. إنها فيما يحدث بعد اتصال الوكيل. لا تستطيع معظم المؤسسات الإجابة عن ثلاثة أسئلة أساسية: كيف يتصرف ذكاؤنا الاصطناعي فعلًا؟ من يتحكم فيه؟ وكيف نثبت أن السياسات طُبقت؟

أظهر بحثنا أن الحدود تُضبط في الإعدادات، لكنها لا تُفرض فعليًا. توجد السياسة في وثيقة أو ملف إعداد أو خيار يُحدد عند النشر، لكن النظام أثناء تشغيله لا يتقيد بها. يدرج مساعد ذكاء اصطناعي لأحد المسؤولين التنفيذيين معلومات جوهرية غير معلنة في دعوة تقويم. ويقدم مساعد RAG بيانات مالية مخصصة لمجلس الإدارة إلى محلل مبتدئ. وتنقل حزمة SDK من أحد الموردين خلسة عشرة ملايين استعلام إلى الخارج خلال اثني عشر شهرًا. كانت ضوابط الوصول موجودة في جميع هذه الحالات، ومع ذلك تسربت البيانات.

ما لم تسد المؤسسات الفجوة بين السياسة المحددة والسياسة المطبقة، فإن MCP يوحد الباب الأمامي فقط، بينما يظل المنزل بلا حراسة.

عندما يحصل وكلاء الذكاء الاصطناعي على الوصول إلى أنظمة حساسة وبيانات خاصة بالمؤسسة، ما المخاطر الجديدة للخصوصية والامتثال التي تظهر ولا تكون المؤسسات مستعدة لها؟

تفكر معظم المؤسسات في الخصوصية من زاوية البيانات المخزنة أو أثناء نقلها. لكن هذا النموذج لا يصمد في مسارات عمل الوكلاء، لأن الخطر الأكبر هو انكشاف البيانات أثناء استخدامها.

لنتصور شركة تصنع سيارات عالية الأداء وتستخدم الذكاء الاصطناعي على خط التجميع. تبدو البيانات الخام غير مؤذية: قراءات المستشعرات وتسلسلات التوقيت وفحوص الجودة. لكن نموذجًا لغويًا كبيرًا يستطيع الآن إعادة بناء عمليات التصنيع الخاصة بالشركة من البيانات المتولدة عرضيًا. ما كان مجرد ضجيج قبل خمس سنوات أصبح اليوم مخططًا يستفيد منه المنافس.

يوثق بحث AI Leak Surface هذا النمط في عشرات السيناريوهات. تجمع أدوات القياس التشغيلي افتراضيًا كامل محتوى البيانات التي يعالجها الذكاء الاصطناعي. وفي بنك أوروبي، تدفق 2.1 مليون موجّه يتضمن معلومات تعريف شخصية إلى بيئة خدمة برمجية (SaaS) في الولايات المتحدة، لأن أحدًا لم يغير إعدادات APM الافتراضية. وتسرب ذاكرة الوكيل السياق بين الجلسات. وتكشف سجلات تسلسل التفكير ملفات التحقيق كاملة لمنصات رصد يستطيع المتعاقدون الوصول إليها. لم تُصمم أطر الامتثال التقليدية لاكتشاف هذا التسرب؛ فقد افترضت أن البشر ينقلون البيانات بسرعة البشر.

لماذا أصبح الذكاء الاصطناعي الحافظ للسرية مكملًا ضروريًا لـMCP، وكيف يعالج ما لا تستطيع معايير الوصول وحدها حله؟

يعالج MCP من يستطيع الوصول إلى ماذا وكيف. أما الذكاء الاصطناعي الحافظ للسرية فيعالج ما يحدث بعد منح الوصول. إنهما طبقتان متكاملتان.

لا تمنع معايير الوصول وحدها الاختراق أثناء التشغيل أو انحراف السياسات أو الاستخدام غير المصرح به للبيانات. يوفر MCP طريقة موحدة لربط الوكلاء بأنظمتك. ويقدم الذكاء الاصطناعي الحافظ للسرية ضمانات تشفيرية بأن الوكلاء، بعد اتصالهم، لا يستطيعون إلا ما صُرح لهم به، مع إمكانية إثبات ذلك.

يقدم الذكاء الاصطناعي الحافظ للسرية هذه الضمانات أثناء التشغيل للبيانات والهوية والشيفرة والاتصالات. ويوفر إثباتًا قابلًا للتحقق لما نُفذ، ويضمن استمرار حماية الخصوصية وإنفاذ السياسات بعد حدود الوصول، بينما يستدل الذكاء الاصطناعي ويولد المحتوى ويتصرف. من دونه يظل MCP أساسًا متينًا، لكن الأساس وحده لا يجعل المبنى آمنًا.

كيف تبدو الثقة القابلة للتحقق عمليًا لدى مؤسسة تشغل وكلاء ذكاء اصطناعي مستقلين في مسارات عمل حيوية؟

تعني أنني أستطيع إثبات الشيفرة التي نُفذت، ومكان تنفيذها، والسياسات التي حكمتها، والبيانات التي استُخدمت، وكيف تصرف النظام بمرور الوقت.

لنتصور شركة تأمين تستخدم الوكلاء لمعالجة خطابات المطالبة بالتعويض. قبل التنفيذ، يتحقق الإثبات المستند إلى العتاد من هوية الوكيل وسلامة البيئة. وأثناء التنفيذ، يضمن ربط السياسات تشفيريًا داخل بيئة تنفيذ موثوقة مدعومة بالعتاد (Trusted Execution Environment، TEE) بقاء البيانات محمية وتطبيق السياسات. وبعد التنفيذ، يسجل مسار تدقيق محمي من العبث ما حدث بدقة.

ليس الخطر في مسارات عمل الوكلاء أن يتمرد الوكيل. الخطر الحقيقي هو العجز عن إثبات تطبيق السياسة أو حماية البيانات الحساسة عند عمل الوكلاء، قبل التنفيذ وأثناءه وبعده. هذه هي الثقة القابلة للتحقق.

لماذا لا يصمد الإشراف البشري التقليدي مع عمل أنظمة الوكلاء بسرعة الآلات، وكيف ينبغي للمؤسسات إعادة التفكير في الحوكمة؟

طوال عقود، كان للإنترنت حاجز أمان غير مرئي: نحن البشر. نقرأ المحتوى وننقر عن قصد، ولا نعمل خفية في مئة نظام في الوقت نفسه.

يلغي الذكاء الاصطناعي القائم على الوكلاء هذه الافتراضات بين ليلة وضحاها. يعمل الوكلاء باستمرار ويتخذون القرارات بسرعة الآلات، ويمكن التلاعب بهم في بيئات صُممت للبشر لكن الآلات تستطيع استغلالها. لا تحتاج صفحة خبيثة إلى خداع الذكاء الاصطناعي كما تخدع الإنسان؛ يكفي أن توجه إليه تعليمات.

عندما يبلغ الخطر لكل وكيل 1٪ فقط، تواجه شبكة من مئة وكيل احتمال اختراق قدره 63٪. وإذا ارتفع العدد إلى ألف وكيل، يصبح الاحتمال 99.99٪. لا تستطيع الحوكمة التي تتطلب تدخل الإنسان مجاراة هذه الأرقام. يجب الانتقال من المراجعة اللاحقة إلى ضمانات أثناء التشغيل: مسارات عمل وفق انعدام الثقة، وإنفاذ السياسات افتراضيًا، وتنفيذ قابل للتحقق لا يعتمد على اكتشاف الإنسان للفشل بعد وقوعه.

ما أكثر الإخفاقات الأمنية شيوعًا حين تجرب المؤسسات الذكاء الاصطناعي القائم على الوكلاء من دون طبقة ثقة مدمجة؟

أكثر ما أراه هو سماح المؤسسات للوكلاء بالعمل والتنسيق دون ضمانات تشفيرية لسلوكها. إنها تعالج ملكية فكرية حساسة اعتمادًا على الأمل وحده.

النتائج متوقعة، وقد وثقنا الأنماط المحددة في بحث AI Leak Surface. تتجاوز اختراقات التشغيل دفاعات الحدود التقليدية، لأن الوكيل موجود بالفعل داخل الشبكة. وتؤدي سلاسل الوكلاء المستقلين إلى إخفاقات متتابعة؛ فاستغلال وكيل واحد يطلق تأثير الدومينو عبر الأنظمة المتصلة. ويتسرب المنطق الخاص بالمؤسسة عبر بيانات متولدة عرضيًا لم يفكر أحد في مراقبتها. ويفقد الوكلاء القدرة على التمييز بين مقصد المؤسسة والمدخلات الخبيثة، لغياب هوية قابلة للتحقق وربط بالسياسات أثناء التشغيل.

ليست هذه احتمالات نظرية. رسمنا 46 مسارًا تفلت عبرها البيانات من الضوابط المخصصة لها، حتى حين لا يبدو أن شيئًا معطلًا. يولد وكلاء الذكاء الاصطناعي البيانات ويتشاركونها بسرعة الآلات. ومن دون وسائل حماية تشغيلية قابلة للتحقق ومضمنة في مسار العمل، تنتشر الإخفاقات أسرع من قدرة أي فريق أمني على اكتشافها أو التصدي لها.

كيف توازن المؤسسات الرائدة بين الاستفادة من قدرات الذكاء الاصطناعي المتقدمة وحماية أشد بياناتها حساسية؟

تتعامل المؤسسات الناجحة مع الخصوصية والحوكمة بوصفهما عاملين لتسريع التقدم، لا كوابح له. هذه هي الفكرة الأساسية.

أرى المؤسسات الرائدة تجمع بين قدرات الذكاء الاصطناعي المتقدمة ومنصات تحافظ على سرية البيانات، وتقدم ضمانات قابلة للتحقق لا مجرد قوائم امتثال. إنها تتيح استخدام البيانات الحساسة في الابتكار، مع ضمان حماية معلوماتها الخاصة، حتى حين تعمل المسارات باستقلالية.

كان التصور القديم يضع القدرة في مقابل الأمان. لكن أسرع المؤسسات تقدمًا رفضت هذه المفاضلة تمامًا. تبني الثقة القابلة للتحقق في أساس استراتيجيتها للذكاء الاصطناعي، فتستفيد من أثمن بياناتها. وفي الوقت نفسه، يظل المنافسون عالقين في التجارب، يشغلون الذكاء الاصطناعي على مجموعات بيانات أزيلت منها المعلومات الحساسة ولا تحقق أثرًا يُذكر.

كيف تتوقع تطور حوكمة الذكاء الاصطناعي في المؤسسات خلال السنوات المقبلة، مع انتقال أنظمة الوكلاء من التجارب إلى التشغيل الفعلي الكامل؟

ستنتقل الحوكمة من الأوراق إلى الإثبات. هذا أبسط وصف. بُنيت النماذج الأولى لبرمجيات تعمل بوتيرة البشر: سياسات على الورق، وموافقات قبل النشر، ومراجعات بعد الخطأ. تلغي أنظمة الوكلاء هذه الافتراضات كلها، إذ تعمل باستمرار واستقلالية وتولد آثارًا متسلسلة بسرعة الآلات.

نرى الحوكمة تتجه إلى قابلية التحقق أثناء التشغيل باعتبارها الحد الأمني الجديد، مدعومة بضمانات تشفيرية تثبت السلوك في كل مرحلة من دورة حياة الوكيل، قبل التنفيذ وأثناءه وبعده. والنمط نفسه الذي رأيناه مع HTTPS يتحول إلى الوضع الافتراضي لحركة الويب. لم يعد أحد يناقش ضرورة تشفير اتصالات الويب. وخلال بضع سنوات، لن يناقش أحد ضرورة التحقق من تنفيذ الذكاء الاصطناعي أثناء التشغيل؛ سيصبح متطلبًا أساسيًا.

شكرًا على المقابلة الرائعة. يمكن للقراء الراغبين في معرفة المزيد زيارة OPAQUE.