آدم ماركويتز، الرئيس التنفيذي والشريك المؤسس لشركة Drata – سلسلة مقابلات

Adam Markowitz هو الرئيس التنفيذي والشريك المؤسس لشركة Drata، حيث يعمل على توسيع نطاق جهود الشركة في الامتثال المستمر وبناء الثقة ليشمل حوكمة وكلاء الذكاء الاصطناعي. وقبل أن يشارك في تأسيس Drata عام 2020، أسّس Portfolium بالشراكة مع Troy Markowitz وDaniel Marashlian. وأسهمت خبرته في التعامل مع استبيانات الأمن والتدقيق ومراجعات الامتثال في تشكيل نهج Drata لأتمتة طريقة إثبات المؤسسات جدارتها بالثقة.

توفر Drata منصة للحوكمة والمخاطر والامتثال، تجمع بين جمع الأدلة آليًا، والمراقبة المستمرة للضوابط، وإدارة مخاطر الجهات الخارجية، وسير العمل الخاص باستبيانات الأمن. وتركز إمكاناتها في حوكمة وكلاء الذكاء الاصطناعي على اكتشاف الوكلاء، وإنفاذ السياسات قبل تنفيذ الإجراءات، وتسجيل القرارات لضمان قابليتها للتدقيق. في هذه المقابلة، يناقش Markowitz تهديدات الوكلاء من الداخل، وهوية الآلات، والحدود الأمنية لاستدعاء الأدوات، والضوابط التي تحتاج إليها المؤسسات لنشر وكلاء مستقلين على نطاق واسع.

سبق أن أسست Portfolium قبل مشاركتك في تأسيس Drata عام 2020، بعدما اختبرت بنفسك مدى تعقيد الامتثال الأمني مع توسع الشركة. ما الذي دفعك إلى الاعتقاد بأن هذه المشكلة تستحق تأسيس شركة جديدة بالكامل لمعالجتها؟ وكيف تطورت رسالة Drata مع تأثير الذكاء الاصطناعي في مشهد الأمن؟

خلال قيادتي Portfolium مع شريكيّ في التأسيس Troy Markowitz وDaniel Marashlian، تعلمنا درسًا قيّمًا: كسب الثقة في عالم الأعمال عملية مستمرة، لا مجرد عرض مقنع. ونظرًا إلى الحجم الكبير للمعلومات الطلابية وحساسيتها، لم تكن الجامعات والمؤسسات مستعدة للشراكة معنا قبل أن نثبت أننا نتخذ الإجراءات اللازمة لحماية بياناتها. وأدركنا أن المعاناة من المهمة البطيئة والمرهقة المتمثلة في استكمال كل استبيان أمني وكل عملية تدقيق ومراجعة امتثال يدويًا كانت تجربة مشتركة. وبعد الاستحواذ على Portfolium، اجتمعنا أنا وTroy وDaniel مجددًا، وأمضينا ستة أشهر في بناء الإصدار الأول من Drata، وتحدثنا إلى عشرات الشركات والمدققين للتحقق من وجود المشكلة قبل أن نبدأ حتى بكتابة الشيفرة. وعندما أطلقنا المنتج، وصلنا إلى 100 عميل خلال الأسابيع الستة الأولى، وإلى 1,000 عميل في غضون عام؛ وهذا أوضح لنا أننا انتقلنا من بيع شيء يُعدّ «ميزة إضافية» إلى تقديم شيء لا يستطيع الناس مواصلة العمل من دونه.

لم تتغير رسالة Drata المتمثلة في ترسيخ الثقة المستمرة مع ظهور الذكاء الاصطناعي، لكن نطاق هذه الثقة اتسع. بدأنا بأتمتة أعباء الامتثال، ثم انتقلنا إلى تدفقات عمل قائمة على الوكلاء، قادرة على إجراء تقييمات مخاطر الجهات الخارجية واستكمال استبيانات الأمن من البداية إلى النهاية. لكن التحول الحقيقي حدث عندما أصبح الوكلاء أنفسهم بحاجة إلى الحوكمة. وقد وسّعنا المنصة الآن لتشمل حوكمة وكلاء الذكاء الاصطناعي: اكتشاف الوكلاء، وضبط ما يُسمح لهم بفعله، وتوفير أدلة تصمد أمام التدقيق عند طلبها.

طرحت مصطلح «تهديد الوكيل الداخلي» لوصف المخاطر التي تنشأ لا عن مهاجم خارجي، بل عن وكلاء الذكاء الاصطناعي التابعين للمؤسسة نفسها. ما الذي يميز تهديد الوكيل الداخلي عن التهديد الداخلي التقليدي الذي أمضت فرق الأمن عقودًا في الاستعداد له؟

تتمثل التهديدات الداخلية التقليدية في إساءة شخص ما استخدام صلاحيات وصول مُنحت له بالفعل، كأن يكون موظفًا ساخطًا أو مهمِلًا، أو شخصًا ينقر ببساطة على الخيار الخطأ. وقد أمضت فرق الأمن عقودًا في بناء برامج للتصدي لهذه المخاطر، مع التركيز على التحقق من الخلفيات، والحد الأدنى من الامتيازات، وقوائم التحقق عند إنهاء الخدمة، وما إلى ذلك.

يختلف تهديد الوكيل الداخلي لأن الوكيل لم يُمنح صلاحية الوصول أصلًا. فالمخاطر تنتقل من إساءة الاستخدام إلى الحصول على الصلاحية. إذا كُلّف الوكيل بهدف، ثم اعترض طريقه المسار الواضح لإنجازه، فلن يكتفي بفتح تذكرة وانتظار الحل كما يفعل الإنسان. بل سيحاول إيجاد طريق آخر، كحساب خدمة ذي كلمة مرور ضعيفة أو نقطة نهاية نسي أحدهم إغلاقها. وسيفتح لنفسه الطريق من دون قصد خبيث أو مخالفة للسياسات يدركها. إنه ينفذ ما طلبته منه بالضبط، وهذا ما يجعل اكتشافه بالغ الصعوبة. تبدو كل خطوة معقولة عند النظر إليها منفردة، ويعلن الوكيل نجاحه في النهاية.

نعرف بالفعل كيف نحكم إدارة الموظفين والجهات الخارجية ممن لديهم صلاحية الوصول إلى الأنظمة الحساسة، لكن الوكلاء يمثلون فئة ثالثة، والأدوات المصممة للفئتين الأوليين لا تشملهم.

يمكن لوكلاء الذكاء الاصطناعي السعي إلى تحقيق أهدافهم بإصرار، والعمل بسرعة الآلات، والتفاعل مع أنظمة متعددة من دون التقدير الذي قد يتحلى به الموظف البشري. إلى أي مدى يغيّر ذلك نموذج التهديدات المؤسسية تغييرًا جوهريًا؟

أكثر ما يتغير هو الإطار الزمني. فالإنسان الذي يبحث عن سبيل لاختراق نظام ما يشعر بالملل في نهاية المطاف، أو يُكتشف، أو يستسلم. أما الوكيل فلا يفعل ذلك. والآن، يعثر الوكيل على باب مفتوح لم يُكتشف من قبل، لأنه لا يتعب ولا يتوقف عن البحث.

ولا يقتصر الأمر على باب واحد. فالوكيل المصمم لأداء مهمة واحدة سيتعامل بسهولة مع عشرات الأنظمة في طريقه إلى إنجازها؛ فيستخرج سجل الحساب من نظام، ويتحقق من قاعدة بيانات في نظام آخر، مع أن معظم ذلك لا علاقة له بما طُلب منه فعليًا. وأثناء إعداد عرض تقديمي واحد، قد يمر عبر بيانات عميل آخر، أو سجلات مالية، أو معلومات موظفين، أو أي شيء يعترض طريقه. ولا يظهر أي من ذلك بوصفه حادثة أمنية.

وهكذا تغيّر نموذج التهديدات. والسؤال الذي ينبغي لفريق الأمن أن يطرحه اليوم هو: إلى أي مدى ستذهب وكلاؤه للإنجاز مهمة ما إذا لم يحدد لهم أحد أين يجب أن يتوقفوا؟

لدى كثير من المؤسسات بالفعل أنظمة لإدارة الهوية والوصول، وإدارة الوصول المميّز، وهياكل أمن انعدام الثقة. فلماذا لا تكفي هذه الضوابط وحدها لحوكمة وكلاء الذكاء الاصطناعي المستقلين؟

صُممت هذه الأطر للبشر وللمورّدين؛ فكلاهما يملك القدرة على التقدير، وكلاهما يتوقف عندما يصطدم بعائق. وتتطلب هوية الوكيل القدر نفسه من الصرامة المعتمدة للبشر ولمخاطر الأطراف الثالثة: الاكتشاف، وتحديد المسؤولية، وتوفير أدلة يمكن للمدقق الاعتماد عليها. وتكمن الفجوة في غياب معيار مشترك حتى الآن لما تعنيه «الحوكمة» فعليًا عندما يكون الوكيل هو من يحمل بيانات الاعتماد.

فمثلًا، قد يتصرف وكيل أنشأه أحد مهندسيكم باستخدام صلاحيات ذلك المهندس، حتى على أنظمة لا يتعامل معها المهندس بنفسه مطلقًا. تفترض أنظمة إدارة الهوية والوصول وإدارة الوصول المميّز أن الجهة الحاملة لبيانات الاعتماد تعرف متى ينبغي لها التوقف، لكن هذا الافتراض ليس متأصلًا في الوكلاء.

هل ينبغي للمؤسسات أن تبدأ بالتعامل مع كل وكيل ذكاء اصطناعي باعتباره هوية آلية مستقلة، لها مسؤول محدد بوضوح، وصلاحيات، ونطاق، ودورة حياة؟ وكيف سيبدو إطار هوية ناضج للوكلاء؟

نعم، لكن معظم المؤسسات لم تصل إلى هذه المرحلة بعد. أكثر مما قد تتوقعون من المؤسسات لا يستطيع حتى إخباركم بعدد الوكلاء العاملين داخلها، فضلًا عن تحديد المسؤول عن كل واحد منها. يبدأ الإطار الناضج بالاكتشاف، أي بإعداد سجل فعلي ومستمر لكل وكيل. بعد ذلك، يحتاج كل وكيل إلى مسؤول، ونطاق محدد لما يُسمح له بالوصول إليه، وسياسة تُطبَّق فعليًا ضمن ذلك النطاق. ومن أبحاثنا الخاصة، نرى نمط الإخفاق نفسه لدى المورّدين: لا تعيد ثلاث مؤسسات من كل أربع تقييم الأطراف الثالثة التي تتعامل معها إلا مرة واحدة سنويًا أو أقل، ما يعني أنها تستند في حوكمتها إلى بيانات تصبح قديمة قبل حدوث أي تغيير. ولا يصلح التقييم في نقطة زمنية واحدة للوكلاء، سواء أكانوا داخليين أم خارجيين.

نريد معيارًا واحدًا يُطبَّق على كل وكيل بالطريقة نفسها، بدلًا من أن تضطر فرق الأمن إلى تعقّب ما بناه كل مطوّر على حدة. وهذا يعني وضع سياسات بلغة واضحة، واختبارها على حركة مرور فعلية من الماضي قبل تفعيلها، ثم تطبيقها مباشرةً، بحيث يعمل الإطار ضمن مسار كل إجراء يتخذه الوكيل، بدلًا من أن يظل حبيس الوثائق.

من السيناريوهات الصعبة على نحو خاص أن يخالف وكيلٌ سياسة الأمن من دون أن يتصرف بسوء نية. فإذا اكتشف الوكيل مسارًا غير مقصود للوصول إلى بيانات حساسة لمجرد محاولته إنجاز المهمة الموكلة إليه، فكيف يمكن لفرق الأمن التمييز بين الأتمتة الناجحة والحادث الأمني؟

في الوقت الراهن، الإجابة الصادقة هي: لا يمكنكم ذلك. تخيلوا وكيل دعم مُصممًا لإعداد مسودات المراجعات الفصلية للأعمال، ومُكلَّفًا بجلب سجل الحساب وإعداد العرض التقديمي. لكن المسار المباشر، أي الملف المُصدَّر الذي يُفترض أن يستند إليه، يعود فارغًا. كان الإنسان سيتوقف عندئذ، لكن الوكيل يعثر على مسار آخر، ومن وجهة نظره، تكون النتيجة ناجحة.

ومع أن المهمة أُنجزت بالفعل، فقد أُنجزت عبر الالتفاف على بروتوكولات الأمن لديكم والوصول إلى أنظمة لم يكن من المفترض أن يفتحها. والسؤال الفاصل هو ما إذا كان الوكيل قد التزم بالنطاق الذي حددناه له. لم يكن إنجاز المهمة هو موضع التساؤل قط؛ فالمسألة تتعلق بالسياسة. وهذا يعني تحديد النطاق بدقة كافية كيلا يبدو «نجاح الأتمتة» و«الحادث الأمني» متطابقين بعد وقوع الأمر.

غالبًا ما ترصد المراقبة الأمنية التقليدية الأنشطة المشبوهة بعد وقوعها، لكن الوكيل المستقل قد يُتم مئات الإجراءات قبل أن يتمكن أحد البشر من الاستجابة. فهل يتطلب الذكاء الاصطناعي القائم على الوكلاء ضوابط أمنية تعمل مباشرةً ضمن مسار التنفيذ، بدلًا من الاعتماد أساسًا على التنبيهات والمراقبة اللاحقة؟

نعم، بلا شك. إذا لم تكتشفوا الأمر إلا أثناء التنفيذ، فقد فات الأوان بالفعل. فعندما تُنبّه أداة المراقبة إلى الإجراء، يكون قد نُفّذ. وسيكون لديكم سجل كامل يوضح بدقة كيف انكشفتم، لكن لن يكون بإمكانكم التراجع لإيقافه.

النوع الوحيد من الحوكمة القادر على التعامل مع شيء يتحرك بسرعة الآلات هو الذي يقيّم الإجراء قبل تنفيذه ويوقف المخالفة مباشرةً. لن نسلّم بياناتنا الأكثر حساسية إلى موظف جديد ونكتفي بالأمل في أن ترصد المراقبة أي خطأ. وينبغي أن يخضع الوكلاء للانضباط نفسه، في اللحظة التي يوشك فيها الإجراء على الحدوث، لا بعد وقوعه.

يتيح بروتوكول سياق النموذج (MCP) وغيره من واجهات الربط بين الوكلاء والأدوات لأنظمة الذكاء الاصطناعي الوصول إلى إمكانات خارجية تزداد قوة. فما الحدود الأمنية الجديدة التي ينبغي وضعها حول استدعاءات الأدوات وواجهات برمجة التطبيقات وبيانات الاعتماد وحسابات الخدمة، مع توسيع المؤسسات نطاق ما يُسمح لوكلائها بفعله؟

أصبح استدعاء الأدوات هو المحيط الأمني الجديد. ففي كل مرة يسعى فيها وكيل إلى استخدام بيانات اعتماد، أو يستدعي واجهة برمجة تطبيقات، أو يشغّل أداة، تكون تلك لحظة لاتخاذ قرار؛ ومع ذلك، لا تملك معظم المؤسسات اليوم أي حدّ أمني عند تلك النقطة بالذات لتقييم ما إذا كان ينبغي تنفيذ الإجراء. وهذا هو الجانب الذي ظل مفقودًا. ونرى النقطة العمياء نفسها من الخارج إلى الداخل: إذ لا يثق سوى 37% من قادة الأمن بقدرتهم حتى على تحديد مواضع تشغيل الذكاء الاصطناعي لدى الموردين الذين يتعاملون معهم بالفعل. فإذا لم تستطع رؤية ذلك في منتج أحد الموردين، فلن تتمكن من رؤية الخطوة التالية التي سيتخذها وكيلك أنت أيضًا. كما ينبغي إخضاع بيانات الاعتماد وحسابات الخدمة التي تستند إليها كل هذه الأنظمة للصرامة نفسها التي نطبقها على صلاحيات الوصول البشرية: تحديد المالك، وتحديد النطاق، والمراجعة المنتظمة. وينبغي ألا يتمكن وكيل من استخدام بيانات اعتماد لم يُمنح صلاحية الوصول إليها، لمجرد أن بيانات الاعتماد موجودة في مكان ما ضمن مساره.

عندما يسأل مدقق أو جهة تنظيمية أو عميل عمّا وصل إليه وكيل ذكاء اصطناعي، والقرارات التي اتخذها، والجهة التي نُقلت إليها البيانات الناتجة، ما مستوى إمكانية التتبع الذي ينبغي للمؤسسات أن تكون قادرة على توفيره بصورة واقعية؟ وهل يمكن أن تصبح سجلات تدقيق الوكلاء يومًا ما أساسية بقدر سجلات الوصول التقليدية؟

ينبغي أن تتمكن المؤسسات، عند الطلب، من الإجابة عن أسئلة تتعلق بما وصل إليه الوكيل، والقرارات التي اتخذها، والجهة التي نُقلت إليها البيانات الناتجة. ولا يكفي للإجابة عن هذه الأسئلة تجميع المعلومات من السجلات بعد وقوع الأمر. فالمعيار المطلوب هو سجل متواصل يكشف أي عبث به، ويكون موجودًا بالفعل عند طرح السؤال. أما الآن، فمعظم الشركات لا تملك إجابة عن هذه الأسئلة. وهذه ليست ثغرة يمكن تبريرها للعميل، وبحسب ما تسرّب، فهي أيضًا ثغرة لن تقبل بها الجهات التنظيمية.

ونعم، أعتقد أن سجلات تدقيق الوكلاء ستصبح أساسية بقدر سجلات الوصول، وقريبًا. فمنذ سنوات، نعدّ سؤال «من وصل إلى ماذا ومتى؟» شرطًا لا يمكن التهاون فيه في الأنظمة البشرية. ولا يوجد ما يبرر إخضاع الوكلاء لمعيار أقل صرامة لمجرد أن الشخص لم يكن هو من نقر. وتدفع أطر مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي وAIUC-11 وISO 42001 بالفعل في هذا الاتجاه. وينبغي أن تستند إمكانية تتبع الوكلاء إلى الضوابط ومنهجية الأدلة نفسيهما اللتين تقوم عليهما برامج الامتثال الحالية. والتعامل مع ذلك بوصفه أمرًا ثانويًا هو ما يؤدي إلى تهميشه.

بالنظر إلى المستقبل، هل تتوقع أن تصبح حوكمة وكلاء الذكاء الاصطناعي فئة أمنية مستقلة، أم أنها ستندمج في نهاية المطاف ضمن منصات الحوكمة والمخاطر والامتثال وإدارة الهوية والأمن السيبراني القائمة؟ وما الذي تعتقد أن على المؤسسات توفيره قبل أن تتمكن من نشر وكلاء مستقلين حقًا بأمان وعلى نطاق واسع؟

تُنتج كل موجة تكنولوجية كبرى موجة أمنية خاصة بها؛ فقد أوجدت الحوسبة السحابية Wiz، وأوجدت حماية الأجهزة الطرفية CrowdStrike، والآن تُنتج وكلاء الذكاء الاصطناعي موجة جديدة. ويعمل مزوّدو النماذج على إنشاء وحدات تحكم وسياسات لمنصاتهم الخاصة، وهذا مفيد، لكن لا توجد مؤسسة تعتمد على مزوّد نموذج واحد، ومساعد برمجة واحد، ومجموعة واحدة من الوكلاء المطوّرين داخليًا. فلا بد أن يتولى طرف ما حوكمة كل ذلك وفق مجموعة واحدة من السياسات وبالاستناد إلى مصدر واحد للأدلة، وهي مشكلة لم تُصمَّم أي منصة ذكاء اصطناعي منفردة لحلها. فهذا ليس سبب وجودها. لقد أصبحت حوكمة وكلاء الذكاء الاصطناعي فئة مستقلة بالفعل، حتى مع تكاملها مع أنظمة الحوكمة والمخاطر والامتثال (GRC) والهوية والامتثال التي تستخدمها الشركات حاليًا.

قبل أن تتمكن المؤسسات من نشر وكلاء مستقلين حقًا وعلى نطاق واسع، هناك أربعة أمور ينبغي أن تكون متاحة لديها، ومعظمها لا يملك أيًا منها حتى الآن. أولها الاكتشاف الآني: معرفة كل وكيل قيد التشغيل، والجهة المسؤولة عنه، والهوية التي يعمل بها، فور إنشائه.

يأتي بعد ذلك تطبيق السياسات ضمن مسار التنفيذ، بحيث يجري تقييمها قبل تنفيذ أي إجراء. وثالثًا، تحتاج المؤسسات إلى مراقبة مستمرة لرصد الانحراف، لأن الوكلاء يواصلون العمل بعد انتهاء الجلسة التي أنشأتهم، وقد يتسع نطاق صلاحياتهم بهدوء. وأخيرًا، لا بد من سجل يكشف أي عبث به، يوثّق كل قرار يتخذه الوكيل ويربطه بالأطر التي تعترف بها الجهات الرقابية والمدققون فعلًا. هذه هي الطبقة التي نعمل على بنائها في Drata. ومن دونها، لن يكون أمام أي مؤسسة تنشر وكلاء مستقلين على نطاق واسع سوى التعويل على الأمل.

شكرًا على هذه المقابلة الرائعة. ويمكن للقراء الراغبين في التعرّف على حوكمة وكلاء الذكاء الاصطناعي والامتثال المستمر والضوابط المتعلقة بتهديدات الوكلاء من الداخل زيارة Drata.