تأتي الهysteria حول الذكاء الاصطناعي لتغيب عن القرارات البشرية التي تؤدي إلى الاختراقات

لقد غير الذكاء الاصطناعي الطريقة التي تفكر بها المنظمات حول التهديدات، مع التركيز على العمليات الكبيرة، والاستطلاع الآلي، والتصوير المتزايد. هذه التطورات تستحق الانتباه، ولكنها أيضًا تشوهت فهم الصناعة لمكان بداية التعرض الأكثر شيوعًا.

حتى عندما تركز المنظمات على تهديدات أكثر تقدمًا، مدفوعة بالذكاء الاصطناعي، فإن المهاجمين لا يزالون يدخلون الباب عن طريق التلاعب بالانطباع البشري. هجمات ClickFix، وهي شكل متقدم من الهندسة الاجتماعية، شكلت 47% من حوادث الوصول الأولية التي لوحظت في العام الماضي. هذا يظهر مدى تكرار بداية الاختراق مع شخص يأخذ قرارًا سريعًا تحت الضغط، وليس بسبب فجوة في التكنولوجيا.

فجوة الاستجابة البشرية

هجمات ClickFix

فعالة لأنها تقلد الإشارات التي يتم تدريب الفرق الفنية على معالجتها. لا تعتمد على ثغرات البرامج أو إهمال التكوين. بدلاً من ذلك، تستغل توقعًا بسيطًا: عندما يبدو شيء غير صحيح، سيتعامل شخص ما معه على الفور.

تتضاعف هذه العادة داخل البيئات الفنية حيث يتم التأكيد على وقت التشغيل، والاستجابة السريعة، والعمل السريع. يتم تدريب المسؤولين والفنيين على الاستجابة بسرعة لتحذيرات النظام، أو مطالبات الوصول. يفهم المهاجمون هذا الضغط ويعملون على تصميم حملات تشبه الإشارات التي يتم تدريب المحترفين على معالجتها.

لقد جعل الذكاء الاصطناعي هذا الحساب أكثر خطورة. أدوات التوليد تسمح للمهاجمين بصنع فخاخ مع قواعد نحوية قريبة من الكمال، ومصطلحات تقنية صحيحة سياقيًا، وواجهات مزيفة تشبه واجهات البرامج الحقيقية للشركات. حيث كان من السابق أن يكشف عن محاولة هندسة اجتماعية بسبب قواعد نحوية غير لائقة، يمكن أن تكون الهجمات اليوم غير قابلة للتمييز عن تحذيرات النظام الحقيقية، مما يزيد من الفجوة بين ما يتم تدريب المستخدمين على تحديده و ما يتعاملون معه في الواقع.

اللحظة التي تذهب فيها الأمور بشكل خاطئ

تحدي رئيسي مع حوادث ClickFix هو أن اللحظة الحاسمة تبدو عادية. يُموِّل المستخدم تحذيرًا، أو يُعادة تعيين الوصول، أو يُصادق على تغيير. يمتزج الإجراء نفسه في النشاط اليومي، مما يخلق تحديًا للأدوات الأمنية التقليدية. هذه الأنظمة يمكنها اكتشاف الشذوذ الفني، لكنها لا تستطيع تفسير السياق خلف قرار متسرع.

قد يبدو التسلسل النموذجي كما يلي: يتعامل المستخدم مع تحذير المتصفح أن جلسته انتهت أو أن هناك حاجة إلى تحديث إضافة مطلوبة. يُضغط على تحذير يُشغل أمر PowerShell في الخلفية – أمر لا يراه أبدًا – بينما يُخبره الواجهة المرئية ببساطة أن القضية قد حُلت. يستغرق كل التفاعل أقل من 30 ثانية. لا شيء في سجل النظام يُحذر من أنه حدث شيء غير عادي لأن، من الناحية الفنية، لم يحدث شيء غير عادي. قام مستخدم hợp lệ بتشغيل أمر على آلة hợp lệ.

هذا يؤدي إلى عدة نتائج. اليوم، 74% من الاختراقات涉حت عنصرًا بشريًا، بما في ذلك هجمات الهندسة الاجتماعية، والأخطاء، والاستخدام الخاطئ. يندر ظهور مخاطر السلوك البشري داخل لوحات التحكم. لا تُشكل التحكمات مشكلة. الطبقة الناقصة هي رؤية القرارات التي من المرجح أن تُتخذ بسرعة وكيفية خلق هذه القرارات لفرص للمهاجمين.

إعادة التفكير في الأخطاء البشرية

لا ينبغي معاملة السلوك البشري على أنه قلق تدريبي معزول؛ بل ينبغي اعتباره مكونًا أساسيًا من هندسة الأمن.

بدلاً من معاملته على أنه نتيجة غير متوقعة، ينبغي للمنظمات معاملته على أنه عامل خطر قابل للقياس. يمكن لقادة الأمن تحقيق ذلك عن طريق دمج رؤى بشرية محورية في موقفهم الدفاعي. ينبغي تصميم الأنظمة مع توقع واقعي لطريقة سلوك الناس، وليس مع افتراض أنهم سيتصرفون دائمًا في ظروف مثالية.

التقدير هنا هو ملموس، وليس مجردًا. يمكن للمنظمات تتبع سرعة القرار، وكيف يُصادق المستخدمون بسرعة على التحذيرات ذات التأثير الكبير خلال ساعات العمل القصوى، ويمكنهم استخدام مراقبة نمط الموافقة لتحديد الشذوذ مثل الموافقات بعد ساعات العمل أو الإلغاء المتكرر للتحذيرات القياسية. توفير أساس سلوكي، عند تطبيقه على المستوى الفردي أو الدور، يعطي فرق الأمن نقطة مرجعية لما يبدو “عاديًا” بحيث تسجل الانحرافات كإشارة بدلاً من الضوضاء.

معالجة السبب الجذري

يبدأ تحسين الدفاعات ضد هجمات ClickFix بناءً على فهم الظروف التي تؤدي إلى قرارات متسرعة. يمكن للقادة دراسة أنماط مثل الموافقات السريعة، أو الحوادث المتكررة، أو الاستجابات غير المتسقة لتحذيرات النظام. تكشف هذه الملاحظات عن حيث قد يغلب الانطباع على الحذر.

يجب أيضًا تقييم سير العمل لتحديد نقاط الضغط التي تدعو إلى الأخطاء. تستفيد الإجراءات ذات التأثير الكبير من خطوات التحقق الصغيرة التي تسمح للمستخدمين بالتوقف وتقييم ما يُصادقون عليه. في الوقت نفسه، يجب تبسيط المهام الروتينية لتقليل الإرهاق الذي يشجع الناس على النقر عبر التحذيرات دون التفكير العميق.

يمكن للمنظمات كذلك الحصول على رؤى أعمق باستخدام محاكاة ت phảnعكس الظروف الواقعية. اختبارات الفيشينغ التقليدية مفيدة للتوعية، لكنها لا تُقيم كيف يستجيب شخص ما عند التعامل مع مهام متعددة أو إدارة قلق تشغيلي عاجل. السيناريوهات المبنية حول ضغط الوقت أو انقطاع النظام تكشف عن أنماط سلوكية يصعب اكتشافها.

تُضيف المحاكاة الفعالة متغيرات تُ忽ى الاختبارات التقليدية، مثل حملة المهام المتزامنة، ونوافذ الإرهاق في نهاية اليوم، والانقطاعات في منتصف سير العمل التي تفرض تغيير السياق قبل ظهور تحذير ذو مخاطر عالية. قد يكتشف شخص ما بريدًا إلكترونيًا للفيشينغ في العزلة، لكنه قد يُصادق على تحذير خبيث دون تردد عندما يتعامل مع حادثة نشطة في الساعة 4:45 مساءً. بناء اختبارات تكرر هذه الظروف يولد بيانات سلوكية يمكن للمنظمات استخدامها، بدلاً من معايير الوعي التي لا تُترجم إلى استجابة محسنة تحت الضغط.

كما أنه يساعد في التخطيط للاختراقات التي تبدأ بالactions hợp lệ. يركز العديد من الفرق على اكتشاف السلوك غير المصرح به. في الممارسة، قد يكون العلامة الأولى المهمة للهجوم موافقة على تحذير لا ينبغي أبدًا أن يُصادق عليه. يجعل بناء هذا التوقع في تخطيط الاستجابة للحوادث أكثر سهولة لتحديد المؤشرات الأولى التي قد تُغفل بخلاف ذلك.

تعزيز نقطة الفشل

ستستمر التهديدات مدفوعة بالذكاء الاصطناعي في التطور، لكن العديد من الاختراقات لا تزال تعود إلى قرار بشري اتُخذ في اللحظة. معالجة هذه الواقعية لا تتطلب تباطؤ العمليات أو التخلي عن التأتمت. تتطلب تصميم أنظمة وسير عمل تعكس كيفية عمل الناس بشكل طبيعي وبناء حواجز حول النقاط التي يغلب فيها الانطباع على الحذر.

تكتسب المنظمات التي تدمج اتخاذ القرار البشري في فهمها لسطح الهجوم رؤية أكثر دقة لمخاطر التشغيل. يؤدي هذا إلى دفاعات أقوى مدعومة بالتحكم الفني وفهماً أكثر واقعية لكيفية تفاعل المستخدمين مع الأنظمة خلال العمل اليومي.