مايانك كومار، مهندس الذكاء الاصطناعي المؤسس في DeepTempo – سلسلة المقابلات

مايانك كومار هو مهندس الذكاء الاصطناعي المؤسس في DeepTempo، حيث يقود تصميم وتطوير نموذج اللغة اللوجية (LogLM) الخاص بالشركة. مع خلفية أكاديمية وبحثية قوية في الذكاء الاصطناعي التوليدي والمتعدد الوسائط، يأتي مع خبرة متخصصة في بناء نماذج محددة بالdomain لتعزيز الكشف عن التهديدات والاستجابة لها في بيئات الأمن السيبراني.

DeepTempo هي شركة أمن سيبراني مبنية حول LogLM، وهو نموذج أساسي ذكاء اصطناعي مدرب على بيانات أمنية كبيرة النطاق. يمتاز المنصة بتحديد التهديدات المتقدمة التي لم تُرى من قبل مع تقليل الإيجابيات الكاذبة. مصممة للدمج السلس في سير العمل الأمنية الحالية، تدعم DeepTempo التوزيعات عبر datalakes وKubernetes وSnowflake، مما يتيح التحليلات الأسرع وتكلفة استهلاك البيانات المنخفضة والدفاع الآلي القابل للتطوير للمؤسسات الحديثة.

ما الذي أدى بك إلى التأسيس المشترك لشركة DeepTempo، وكيف ساهمت خلفيتك في البحث الأكاديمي والذكاء الاصطناعي المفتوح في اتجاه الشركة؟

كنت نشأ في مجتمع متكامل حيث يتم بناء العلاقات وجهاً لوجه، وليس من خلال الشاشات. أ教ني أبي، وهو معلم، على أهمية العودة بالخير. بينما كنا لا نملك ثروة مادية، كنا غنيين بالارتباط والغرض. في ذلك النوع من البيئة، تتعلم بسرعة أن حل المشكلات لا يتعلق فقط بالمهارة الفردية – إنما بالقوة الجماعية. ذلك الذهن بقي معي وأدى في النهاية إلى اهتمامي بالريادة الاجتماعية أثناء دراستي الهندسة في IIT Ropar.

كانت النقطة الحاسمة عندما تعرض متصفح أبي للهجوم بالفدية. لم يكن مجرد خلل فني، أدخل الخوف والارتباك والضعف إلى منزنا. فتح ذلك عيني على مدى هشاشة العالم الرقمي، ليس فقط للأفراد، ولكن للمنظمات التي تتعرض باستمرار للتهديد. في ذلك الوقت، التقيت بإيفان، الذي كان رؤيته لبناء الدفاع الجماعي على نطاق الإنترنت تتوافق глубوكاً معي. تلك المهمة المشتركة – ودوافي لاستخدام التكنولوجيا في خدمة الناس – هو ما جذبني إلى DeepTempo.

في جامعة واشنطن، ركز بحثي على两个 مجالات رئيسيتين: تمثيل التعلم المتعدد الوسائط وذكاء البيانات. أثبت كلاهما أهميتهما الحاسمة أثناء بناء نموذجنا الأساسي الرأسي، LogLM. على عكس اللغة الطبيعية، تكون سجلات الأمن متشعبة وموظفة ومتجزئة. تحدينا الأول كان بناء لغة جديدة لتفسير هذه البيانات، مما يسمح لLogLM بتعلم تمثيلات ذات معنى من هذه التسلسلات. كما استثمرنا بشكل كبير في كيفية تقييم الأداء لأن في الأمن، الدقة ليست اختيارية، والهلوسة ليست مقبولة.

لكن وراء التكنولوجيا، كان هدفنا دائمًا الدفاع الجماعي. لهذا السبب، سيكون التعاون المفتوح مصدرًا أساسيًا لجعل هذه المهمة ناجحة على نطاق واسع.

ما يعني “الدفاع الجماعي” في الممارسة، وكيف يختلف عن النهج التقليدية للأمن السيبراني؟

في الممارسة، يعني الدفاع الجماعي أن عندما يتمكن أحد عملاء LogLM من تحديد سلوك هجومي جديد، مثل حملة مركزية وتصريف البيانات التي تشمل سلوك التوجيه متبوعًا بنقل البيانات الخارجية غير العادي، يمكن أن يتم استخلاص رؤية سلوكية عامة وتبادلها عبر النظام البيئي. هذا لا يتضمن إرسال سجلات أو بيانات عملاء خام. بدلاً من ذلك، نستخلص أنماط سلوكية عالية الثقة وموحدة وندمجها في أوزان النموذج من خلال تقنيات التعلم الفيدرالي.

هذا يختلف بشكل صارخ عن الأنظمة التقليدية التي تعتمد على قواعد عامة أو تدفقات ذكاء التهديدات الثابتة. تلك الأنظمة لا تتطور حتى يتأثر العديد من الضحايا. مع الدفاع الجماعي، يتطور نظام الكشف مع كل إشارة عالية الجودة، حتى لو كان التهديد محددًا جدًا لبيئة واحدة. هذا يسمح لنا بضبط التهديدات المتعددة الشكل والتدفقات الهجومية التي تعززها LogLM قبل أن تصبح واسعة الانتشار.

ما هي الفجوات المحددة في أمن المؤسسات التي دفعت إلى تطوير LogLM، وكيف يختلف بشكل أساسي عن أنظمة الكشف القديمة؟

تواجه فرق أمن المؤسسات ثلاث مشاكل رئيسية: نسبة عالية من الضوضاء إلى الإشارة، وكشف دقيق لا ينتقل بين البيئات، وتكيف بطيء مع التهديدات الناشئة. تم إنشاء LogLM لمعالجة كل هذه.

تعتمد معظم الأنظمة الحالية على نهج قائم على القواعد أو التعلم الآلي الضيق الذي يتطلب أسابيع أو أشهر من الضبط لفهم بيئة جديدة. تلك النهج تفشل عندما يتغير المهاجمون تكتيكاتهم قليلاً، كما رأينا مع مجموعات مثل Scattered Spider أو Volt Typhoon. LogLM مدرب على كميات كبيرة من بيانات الأمان، معاملتها كنوع من اللغة المنظمة. هذا يسمح لها بالتعرف على تسلسلات معقدة، مثل زيادة في طلبات DNS الخارجية متبوعة بنشاط Okta غير عادي، ليس كأحداث منفصلة بل كجزء من قصة التهديد.

على عكس أدوات التقليدية التي تنتج تنبيهات غير متصلة، ينتج LogLM كشفًا يمكن تفسيره على مستوى التكتيك. وبما أنه مبني من الصفر، بدلاً من إعادة توجيه أو تعديل، فقد تم تصميمه للأمان من البداية، مما يسمح بالتكيف السريع بعدة أيام فقط من سجلات غير مخطوطة. هذا يجعل عملية التهيئة سريعة والكشف أكثر متانة.

ما هي وكلاء الظل، وكيف تشكل خطرًا للمنظمات التي تعمل بدون إشراف مركزي؟

وكلاء الظل هم أدوات ذكاء اصطناعي ذاتية الحكم، غالبًا مبنية على LogLM، تعمل داخل مؤسسة دون موافقة أو رؤية صريحة من فريق الأمن. مثال حديث هو MITRE’s CVE-2025-32711 (“EchoLeak”)، وهو ثغرة أمنية من النوع zero-click في Microsoft 365 Copilot يتم تفعيله ببساطة عن طريق طلبه لتلخيص البريد الإلكتروني. يسمح العيب للمهاجمين بنقل بيانات داخلية عبر سياق RAG للوكيل، دون أي تفاعل من المستخدم. بينما يمكن أن تعزز هذه الوكلاء الإنتاجية، غالبًا ما يتجاوزون مراجعة الأمن وتعرضون البيانات الحساسة لطبقات الاستدلال غير الخاضعة للرقابة.

لقد رأينا حالات حيث كان وكيل الظل مبنيًا باستخدام LogLM العام ومواجهة سجلات النظام وبدء تسريب مسارات المكدس تحتوي على بيانات اعتماد مخطوطة. عادةً ما لا يتم تثبيت هذه الوكلاء مع ضوابط DLP، ولا يتبعون سياسات الوصول، ولا يتم فحصهم. أسوأ من ذلك، لأنهم يمكن أن يتخذوا قرارات، مثل chuyển الإخراج إلى أنظمة خارجية، يصبحون سطحًا للمهاجمة بأنفسهم. في سياق الحقن الدفعة أو السلاسل العدائية، يمكن لوكيل واحد أن يُجبر على تشغيل إجراءات لاحقة ذات تأثير حقيقي.

لماذا تصبح حقن الدفعة و操уляة النموذج تهديدات خطيرة، ولماذا لا تكتشف معظم الأنظمة الحالية هذه التهديدات؟

حقن الدفعة خطير لأنها تستغل وظيفة النموذج الأساسية: تفسير اللغة الطبيعية. معظم أنظمة المؤسسات تعامل مخرجات النموذج على أنها موثوقة، ولكن إذا تلقى النموذج تعليمات مخفية، مدسوسة في تعليق مستخدم أو مكالمة API أو حتى اسم ملف، يمكن خداعه لتنفيذ إجراءات غير مقصودة. لقد رأينا المهاجمين يستخدمون هذا لاستخراج بيانات اعتماد من تاريخ المحادثات، أو التمثيل كأفراد، أو تجاوز التحقق من المدخلات.

القضية الأعمق هي أن LogLM يتم تحسينه من أجل الاتساق، وليس الأمان. كما بحثنا في استجابتنا الأخيرة لدراسة الجمعية الملكية، النماذج تميل إلى تقديم السلاسة والعمومية على الحذر والدقة. حتى توجيههم ليكونوا “أكثر دقة” يمكن أن يؤدي إلى نتائج عكسية، مما يؤدي إلى استجابات أكثر ثقة ولكن خاطئة. ومن المخاوف على المدى الطويل هي التلاعب بالنموذج. يمكن للمهاجمين تسميم مجموعات البيانات أو تشكيل الإخراج بطرق متكررة من الاستعلامات الهيكلية مع مرور الوقت، مما يؤدي إلى دفع النموذج تدريجياً إلى مساحة سلوكية أكثر تساهلاً. يتطلب الكشف هنا تسجيلًا كاملًا للřet، وتقييمًا مستمرًا، وsandboxing على مستوى النموذج، تقنيات لم يتبنها معظم أنظمة المؤسسات بعد.

كيف يستخدم Tempo خرائط MITRE ATT&CK لتزويد استخبارات قابلة للتنفيذ بدلاً من مجرد تنبيهات خام؟

Tempo يربط كشوفه بتقنيات وخطط MITRE ATT&CK باستخدام مصنفات خاضعة للرقابة وربط السلوك غير الخاضع للرقابة. عندما يرى النظام تسلسلًا مثل تنفيذ PowerShell المشبوه، وتعديل مفتاح التسجيل، وحركة خارجية غير عادية، لا يُحذر فقط على كل خطوة، بل يُ etiquette التسلسل على أنه Execution > Defense Evasion > Exfiltration، مطابقًا لمعرفات ATT&CK المعروفة.

هذا يسمح للمدافعين بفهم على الفور هدف المهاجم وأين هم في سلسلة القتل. كما نقدم إثراءً: الكيانات المتأثرة، السجلات المرتبطة، ودرجات الثقة. هذا النهج المنظم يقلل من عبء الإدراك لمحللين SOC ويعجل من سير العمل الاستجابي، حيث يعرف الفريق التكتيك المستخدم، ما أدى إليه، وما هو الخطوة التالية المحتملة. هذا قفزة كبيرة من أنظمة التعبئة التي تُحذر على كل شذوذ دون سياق سرد.

لماذا تعمل DeepTempo في مجرى أعلى من SIEM (نظام إدارة المعلومات والأحداث الأمنية)، وكيف يعزز هذا التموضع الكشف عن التهديدات ويسهم في تسهيل العمليات لأفراد الأمن؟

تعتاد SIEMs إلى تطبيع وتصفية السجلات لتقليل تكاليف الاستهلاك. لكن في القيام بذلك، غالبًا ما تفقد السياق القيم، مثل التوقيتات الدقيقة، أو انخفاضات الاتصال، أو سلوكيات الجلسة المؤقتة. تعمل DeepTempo في مجرى أعلى، حيث تستهلك البيانات الأمنية الخام قبل هذه التحويل. هذا يسمح لنا بتمثيل أنماط سلوكية أكثر غنى، مثل إعادة استخدام رمز الخدمة مع تغييرات زمنية صغيرة أو تسلسلات呼叫 API النادرة التي لن تظهر أبدًا عبر عتبات SIEM.

العمل في مجرى أعلى يعني أيضًا أننا يمكن أن نقوم بتقليل الضوضاء قبل أن تصل إلى SIEM. بدلاً من دفع بيتابايت من سطور السجلات يوميًا، نمرر 50-100 حدث ذو سياق عالٍ مع جميع تحسينات ATT&CK ودرجات التقييم القائمة على النموذج. يقضي الفريق وقتًا أقل في التriage وأكثر في التحقيق في التهديدات التي تهم.

ما الذي يمكّن Tempo من ضبط النماذج بسرعة إلى بيئات جديدة، وكيف يختلف هذا عن سير العمل التقليدية للتعلم الآلي؟

النظم التقليدية للتعلم الآلي غالبًا ما تتطلب أسابيع من البيانات المُ etiquette والتدريب لإ适اء بيئة جديدة. Tempo يتبنى نهجًا مختلفًا جذريًا. بدلاً من البدء من الصفر، يستفيد من نموذج مسبق التدريب مبني على بيانات أمان كبيرة الحجم، مثل NetFlow وVPC flow data. هذا يعطيها فهمًا قويًا لكيفية تدفق حركة المرور والسلوكيات بشكل عام عبر بيئات متنوعة.

عندما يتم نشر Tempo في بيئة جديدة، لا يحتاج إلى بيانات مخطوطة أو دورات تعلم طويلة. يستخدم بضعة أيام فقط من النشاط الشبكي المحلي لتأسيس قاعدة وضبط نفسه لاكتشاف أنماط محددة لتلك البيئة، مثل الوصول غير العادي في ساعات غير العمل، أو تشوهات في التواصل بين الخدمات، أو حركة البيانات غير المتوقعة. هذا يحدث في ساعات، وليس أسابيع.

نظرًا لأن العملية ذاتية الإشراف، لا يوجد حاجة لفريق الأمن لتحديد أو تعليم الأحداث يدوياً. وللبقاء على اطلاع مع تطور البيئات، قمنا ببناء آليات لالتقاط الصور التي تسمح للنموذج “نسيان” السلوكيات القديمة عند تغيير البنية التحتية أو السياسات. العمل على مستوى الشبكة يسمح لنا بالكشف عن التهديدات في وقت مبكر وأوسع، وهو ما يفرق Tempo عن أدوات الأمن التقليدية التي تركز على النقاط النهائية أو السجلات.

كيف يحافظ DeepTempo على دقة عالية مع تقليل الإيجابيات الكاذبة، خاصة في بيئات السحابة الديناميكية؟

نجمع بين نمذجة الوقت مع تحليل السلوك الشبكي الذي يعتمد على السياق. نهجنا في توليد التسلسلات النبيلة، مع التدريب المسبق على نطاق واسع للخوارزميات العميقة القائمة على Transformer، يساعد في فهم كيفية تطور أحداث الشبكة بمرور الوقت. لا نحذر ببساطة من محاولة تسجيل دخول فاشلة واحدة، بل نحذر من محاولة تسجيل دخول فاشلة متبوعة بتسجيل دخول ناجح من جهاز جديد، وتحرك جانبي، ووصول بيانات غير عادي. هذا السياق الزمني المتطبق يفلتر الضوضاء ويبرز التهديدات الحقيقية والجديدة.

ثانياً، نقوم بتحليل سلوكيات المستخدم والخدمة في السياق. إعادة تشغيل عقدة Kubernetes 12 مرة هو أمر طبيعي أثناء التحديثات، ولكنه مشبوه في الساعة 2 صباحًا إذا تبعه نشر حاوية جديد من سجل غير معروف. يعترف Tempo بذلك لأنه ينظر إلى التسلسل والزمن والسياق في نفس الوقت. كما أن خطنا النشط لتعلم النماذج يراقب ويجمع المعلومات حول أنماط الكشف المحددة. إذا اكتشف خطنا انحرافًا في الأداء أو البيانات، فإنه سوف يستخدم اللقطات وملاحظات المحللين لضبط عدد صغير من معلمات النموذج.

نبنى كشفنا على بيانات ميتادات الشبكة الخام والعالية الدقة، ونجومع بين الذكاء الزمني والتمثيل السلوكي لتقديم تنبيهات عالية الثقة – حتى في بيئات السحابة التي تتغير في لمح البصر.

ما هو دور القابلية للشرح في نظامك، وكيف تضمن أن التنبيهات تأتي مع سياق يمكن تفسيره ويمكن استخدامه؟

كل كشف في Tempo يأتي مع ملخص، والبرهان السجلي الأساسي، والخدعة المستنبطة (مثل وصول بيانات الاعتماد عن طريق القوة). كما نقدم رسماً لكيانات ذات صلة، مستخدمين، نقاط نهاية، موارد سحابية، بحيث يمكن لفريق SOC رؤية الحادث. الهدف هو القضاء على تأثير “الصندوق الأسود” الذي يعاني منه العديد من أنظمة الذكاء الاصطناعي.

لقد استفدنا من أدوات قابلية الشرح الأكاديمية مثل LIME وSHAP في النماذج الأولية المبكرة، ولكن وجدنا أنها ليست直forwardة للanalysts. لذلك، نقوم بإنشاء سرد لغة عادية: ما حدث، متى، لماذا هو مشبوه، وكيف نحن واثقون. هذا ليس فقط من أجل الوضوح، بل من أجل تمكين محللي Tier-One من التصرف دون رفع كل تنبيه.

ما هي المخاطر طويلة الأمد للمهاجمين الذين يستخدمون الذكاء الاصطناعي والنماذج الأساسية أنفسهم، وكيف تخطط DeepTempo للبقاء في المقدمة؟

منظر التهديد يدخل مرحلة حيث يمكن للمهاجمين نشر وكلاء ذكاء اصطناعي يتعلمون بأنفسهم، ويتحولون حمولتهم في الوقت الفعلي، ويمثلون سلوك المستخدم الشرعي. يمكن لهؤلاء الوكلاء تشغيل 24/7، اختبار النقاط الضعيفة، وتكيف مع كل محاولة فاشلة. هذا تحول جذري، حيث لم يعد الأمر يتعلق بالتهديدات الصفرية، بل بالسرعة والتحول والتنكّر.

نحن نستعد من خلال الاستثمار في التدريب العدائي، والكشف المبكر، ونمذجة السلوك التي لا تعتمد على مؤشرات معروفة. هدفنا هو تحديد هيكل السلوك الخبيث قبل أن يتصاعد. نحن أيضًا نستكشف طرقًا لتعريف حركة مرور المهاجمين التي تم توليدها بواسطة الذكاء الاصطناعي، تمامًا كما فعلنا مع بوتنتس، بحيث يمكن للمدافعين تحديد النشاط حتى عندما تتغير الحمولات باستمرار.

 شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة DeepTempo.