جوناثان مورتنسن، المؤسس والرئيس التنفيذي لشركة Confident Security – سلسلة المقابلات

جوناثان مورتنسن، المؤسس والرئيس التنفيذي لشركة Confident Security، يقود حاليًا تطوير أنظمة الذكاء الاصطناعي الخاصة والمضمونة للصناعات التي تتمتع بمتطلبات أمنية وامتثال صارمة. كما أنه يخدم كزميل مؤسس في South Park Commons، حيث يبحث في مستقبل حوسبة الذكاء الاصطناعي، والذاكرة، والخصوصية، والملكية. قبل إطلاق Confident Security، كان مهندس برمجيات في Databricks، حيث قام بدمج تقنية bit.io في منصة البيانات مع التركيز على الأمان متعدد المستأجرين، والتحكم في الوصول، وعزل VPC، والتشفير، وملكية البيانات. في وقت سابق، أسس وخدم كالمدير التنفيذي لشركة bit.io، حيث بنى خدمة PostgreSQL بدون خادم متعددة السحب والمناطق التي تدعم مئات الآلاف من قواعد البيانات الآمنة والتي تم الاستحواذ عليها لاحقًا من قبل Databricks.

Confident Security تبني البنية التحتية التي تمكن الشركات من تشغيل تدفقات العمل للذكاء الاصطناعي دون كشف المعلومات الحساسة. منصة الشركة مصممة بحيث تظل الإشارات، والبيانات، ومخرجات النموذج الخاصة تمامًا، ولا يتم تسجيلها أبدًا، ولا يتم إعادة استخدامها، مما يوفر للشركات طريقة آمنة لتبني الذكاء الاصطناعي مع الامتثال للمعايير التنظيمية والامتثال الصارمة.

لقد أسست Confident Security في عام 2024 بعد بناء bit.io والعمل في Databricks. ما الذي أثار الوعي بأنه يتعين على الذكاء الاصطناعي أن يتبنى نهجًا مختلفًا بشكل جذري لضمان الخصوصية؟

خبرتي في بناء البنية التحتية لبيانات تعلمتني هذا: إذا كان الناس يضعون معلومات حساسة في نظام ما، فإن الثقة لا تكفي. يحتاجون إلى دليل. لقد بنينا بنية تحتية يملك العملاء فيها بياناتهم، وقمنا بتقديم طرق لهم لتحقق ذلك.

عندما نظرت إلى كيفية استخدام الشركات للنماذج اللغة الكبيرة، لم يكن هناك دليل على ذلك. كان الموظفون يلصقون شفرة المصدر، والوثائق القانونية، وسجلات المرضى في نماذج تديرها أطراف ثالثة لا يمكن التحقق منها. لقد رأينا بالفعل محادثات خاصة تم فهرستها عن طريق الخطأ على الإنترنت، وتغييرات سياسات جعلت المحادثات بيانات تدريب افتراضيًا. أظهر ذلك مدى هشاشة نموذج الخصوصية الحالي.

إذا كان الذكاء الاصطناعي سيستخدم المعلومات الأكثر حساسية في العالم، فإننا بحاجة إلى ضمانات لا تعتمد على الثقة في وعود البائع الداخلية. هذا ما دفعني إلى إنشاء Confident Security.

يُوصف OpenPCC بأنه “Signal للذكاء الاصطناعي”. لماذا كان من المهم أن يكون طبقة الخصوصية هذه مفتوحة ويمكن التحقق منها ومتوافقة من اليوم الأول؟

لم تنتشر التشفير من طرف إلى طرف حتى أصبحت معيارًا يمكن الجميع اعتماده. نريد الشيء نفسه لخصوصية الذكاء الاصطناعي. إذا كان فقط بعض الشركات يمكنها تقديم ضمانات حقيقية، فإن الخصوصية لن تنتشر.

OpenPCC هو مفتوح المصدر تحت رخصة Apache 2.0، لذلك يمكن لأي شخص بناء عليه أو فحصه. لا توجد متطلبات ثقة سرية. توفر التأكيد من الأجهزة دليلًا تشفيريًا حول ما يتم تشغيله وأين. وكنا متأكدين من أنه يعمل في أي مكان: أي سحابة، أو مزود نموذج، أو مكدس مطور.

هناك قيمة كبيرة في قاعدة خصوصية متسقة ومتوافقة. إذا كنت تستخدم OpenPCC، فستعرف أن بياناتك لا تظهر لمزودي النماذج، أو المنظمين، أو حتى لنا. المعيار يعمل فقط إذا كان يمكن للنظام بأكمله المشاركة، لذلك قمنا بتصميمه ليكون شاملًا قدر الإمكان من اليوم الأول.

قبل Confident Security، قمت ببناء أنظمة كبيرة النطاق للمتعدديين، والتشفير، وملكية البيانات. كيف أثرت تلك الخبرات على تصميم OpenPCC؟

أثبتت تلك الأنظمة حقيقتين: إذا كان النظام يمكنه الاحتفاظ بالبيانات، ففي النهاية سيفعل ذلك، سواء كان ذلك من خلال السجلات، أو سوء التهيئة، أو الطلبات القانونية. والثقة ليست نموذجًا للخصوصية. يحتاج المستخدمون إلى الرؤية والسيطرة.

يعمل OpenPCC في وضع غير متصل، لذلك تختفي الإشارات بعد المعالجة. يسمح التأكيد للمستخدمين بالتحقق من مكان ذهاب بياناتهم وما هو الكود الذي يتم تشغيله. ومن خلال عزل التحكم عن البيانات، يمنع OpenPCC معالجة الإدخالات الخاصة على أنها تعليمات قابلة للتنفيذ.

تلك هي القيود التي كانت الشركات تنتظرها: ضمانات أن البيانات لن تظهر مرة أخرى في مكان غير متوقع.

لقد جادلت بأن معظم حلول “الذكاء الاصطناعي الخاص” تعتمد على الثقة في الأنظمة غير الشفافة. لماذا التأكيد المستقل ضروري للخصوصية الحقيقية؟

اللغة الخاصة بالخصوصية اليوم هي في الأساس “ثق بنا”. هذا ليس كافياً عندما تكون الرهانات تشمل الأمن القومي وبيانات الرعاية الصحية المنظمة. إذا لم يتمكن المستخدم من التحقق من المطالبة، فإنه لا يعتبر ضمانًا – إنه تسويق.

الخصوصية القابلة للتحقق مختلفة. لا تثق في نوايا المشغل. تقوم بالتحقق من الأجهزة، وصور البرامج، وضمانات معالجة البيانات. يفرض التشفير الحدود. لا توجد سجلات لكي يخاطر شخص ما بفقدانها أو استدعائها.

عندما تكون الخصوصية قابلة للتدقيق من قبل المستخدم، فإنك تخلق نظامًا أسأمر. إنه مساءلة متجذرة في الرياضيات.

جاء إعلان “الذكاء الاصطناعي الخاص” من Google (GOOGL ) بعد فترة وجيزة من OpenPCC. لقد تحديتهم علنًا لتقديم TPU للاختبار المستقل. ما الذي دفع ذلك التحدي، وماذا تتوقع أن تجده؟

لا بد من السماح للمجتمع بالتحقق من الضمانات التي تُعد لضمان الخصوصية. يسمح NVIDIA (NVDA ) بالتحقق الخارجي على وحدات معالجة الرسومات H100، وقمنا حتى بنشر نسخة من مكتبة التأكيد الخاصة بهم بلغة Go لتشجيع اعتمادها.

إذا أرادت Google أن تقدم وعودًا مماثلة على وحدات معالجة الرسومات TPU، فيجب أن نتمكن من قياسها والتحقق منها، وليس فقط قراءتها في منشور على المدونة. سنبحث عن نفس التحكم الذي نتوقعه من أي نظام خصوصية: حدود احتفاظ البيانات الصارمة، والتأكيد القابل للتدقيق، ولا توجد مسارات سرية حيث تخرج السجلات أو البيانات.

لمقارئ غير مألوفين بالآليات، ما الذي يجعل قنوات OpenPCC المشفرة بالكامل مختلفة عن التشفير التقليدي على جانب العميل أو الحوسبة السرية؟

يحمي التشفير على جانب العميل البيانات أثناء نقلها، وتحمي الحوسبة السرية البيانات أثناء معالجتها، ولكن لا يزال هناك فجوات قبل وبعد ذلك حيث يمكن للمشغلين أو المهاجمين الوصول إلى المعلومات الحساسة.

يغلق OpenPCC تلك الفجوات. يخلق مسارًا مغلقًا من طرف إلى طرف بين العميل والنموذج يحمي الإشارة، والاستجابة، وهوية المستخدم، وحتى الإشارات الزمنية أو الإشارات التي يمكن أن تكشف عن النية بquietly. لا يمكن للمشغلين فك تشفير أي شيء. لا يتم تسجيل أي شيء أو الاحتفاظ به، حتى في ظروف انتهاك.

لا ينبغي أن تعتمد الخصوصية على الأمل في أن يقوم المزود بالشئ الصحيح خلف الكواليس. يجب أن يتم فرضها تشفيريًا.

كيف يغير التأكيد القابل للتحقق المعادلة للصناعات الخاضعة للتنظيم مثل المالية، والرعاية الصحية، والدفاع؟

الصناعات الخاضعة للتنظيم لديها المزيد لتحقيقه من الذكاء الاصطناعي، ولكنها أيضًا لديها المزيد لخسارته إذا تسرب شيء ما. اليوم، 78% من الموظفين يلصقون بيانات داخلية في أدوات الذكاء الاصطناعي، وواحد من كل خمسة حالات يتضمن معلومات منظمة مثل PHI أو PCI. التعرض يحدث بالفعل.

يحذف التأكيد القابل للتحقق أكبر عائق. لا توجد إشارات حساسة في النص العادي داخل بيئة مزود النموذج. لا يمكن استخدام أي شيء للتدريب. حتى الطلبات القانونية لا يمكنها الوصول إلى ما لا يمكن للنظام نفسه رؤيته.

أخيرًا، لدى فرق المخاطر والامتثال مسارًا حيث يصبح “نعم” هو الافتراضي بدلاً من “لا”.

ما كانت أكبر التحديات الهندسية في تصميم طبقة خصوصية محايدة للغيوم تعمل عبر أي حزمة مؤسسية؟

الحوسبة السرية والتأكيد عن بعد لا تزال في مرحلة الطفولة، في رأيي. كل مزود سحابي ومزود معدات يفعل شيئًا قليلاً مختلفًا. بعض المزودين، مثل AWS، لا يمتلكون حتى الأجهزة اللازمة للقيام بذلك. لذلك، كل ميزة نضيفها تشبه 1000 ضربة ومشي على حبل مشدود. لكن النقطة هي أن نصبح معيارًا مفتوحًا، لذلك نحتاج إلى القيام بذلك حتى يعمل لأي سحابة. إنه مفتوح المصدر، لذا أنصح المطورين بإضافة المزيد من المنصات المدعومة والتهيئة!

ماذا يبدو العالم مع تشفير قابل للتحقق افتراضيًا، وكيف قد يغير ذلك توازن القوى بين الشركات، ومزودي السحابة، ومزودي النماذج؟

تظل الشركات تحتفظ بالسيطرة على أصولها الأكثر قيمة: بياناتها. يتنافس مزودو النماذج على الأداء والتكلفة بدلاً من من يمكنه تجميع أكبر قدر من المعلومات المملوكة. السحابات تمكن الخصوصية بدلاً من كونها مراقبين صامتين لها.

هو توازن صحي أكثر. ويفوز النظام بأكمله عندما يتم بناء الأمان في الأساس بدلاً من تثبيته في الأعلى.

في भवار حيث يصبح الذكاء الاصطناعي شائعًا ومراقبًا بشكل كبير، كيف ترى التأكيد القابل للتحقق يغير المناظر التنافسية للشركات، ومزودي السحابة، ومطوري النماذج؟

المنظمون يطرحون بالفعل أسئلة حول كيفية تخزين البيانات واستخدامها. لن ت满ي خصوصية الثقة لهم لفترة طويلة. سيتوقع المستخدمون ضمانات الخصوصية بنفس الطريقة التي يتوقعون فيها التشفير في تطبيقات المراسلة اليوم.

المنتصرون سيكونون الشركات التي لا تطلب من المستخدمين التنازل. إذا كنت تستطيع إثبات الخصوصية، فستكسب ثقة المنظمات التي تمتلك أكثر البيانات قيمة في العالم. تصبح البيانات قابلة للاستخدام في الأماكن التي كانت محظورة.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Confident Security.